Fitting a Straight-Line to Data Points with Correlated Noise Between Coordinate Components under Constraints
-
摘要:
直线拟合在曲线拟合研究及工程实践中受到广泛关注,常用的普通最小二乘和正交最小二乘忽略了坐标分量误差相关性的存在. 基于此,首先论证了在铁路线路整正中全站仪测量坐标点的纵横坐标间存在误差相关性,同时线路中直线的拟合受到相邻线元的约束;然后,基于极大似然估计及拉格朗日条件极值原理,推导出了顾及约束和坐标分量误差相关性的直线拟合通用模型,并给出了高斯-牛顿迭代算法搜索最优解;最后,采用了实测的数据进行了验证及测试. 试验结果表明:该方法能在任何误差分布情况下考虑约束估计直线参数及其精度;考虑坐标相关误差时,参数估计精度在约束及无约束下分别提高了9.2%和2.7%;高斯-牛顿算法在约束及无约束情况下分别仅6次及3次迭代就搜索出最优直线.
Abstract:Straight-line fitting has received extensive attention both in curve fitting research and engineering practice. The methods of ordinary least squares and orthogonal least squares fitting ignore the existence of the observation error correlation. The coordinate pairs of surveying points, obtained by a total station in railway realignment, not only have different levels of precision but also have correlated noise. Meanwhile, straight-line fitting is usually under constraints in the realignment. Thus, a straight-line fitting model was derived based on the maximum likelihood estimation and Lagrange conditional extremum theory, considering constraints and correlated noise between coordinate components, and a Gauss-Newton algorithm was presented to search for the optimum. The method was tested with the field surveying data. Experimental results show that the proposed fitting method is capable of estimating straight-line parameters and their precisions in all circumstances by specifying stochastic models. When considering correlated noise, the precision of estimated parameters improve 9.2% with a constraint and improve 2.7% without constraints, respectively. The Gauss-Newton algorithm takes only 6 and 3 iteration times with a constraint and without constraints respectively, for locating the optimum straight-line.
-
Key words:
- straight-line /
- curve fitting /
- parameter estimation /
- correlated noise /
- conditional extremum /
- algorithm
-
五螺箍是一种新型组合式螺旋箍筋,其构造方式为中间一个大螺箍,四角为四个小螺箍. 相比传统的单螺箍圆形柱,四个小螺箍可以约束四个角落的混凝土,使得螺旋箍筋可以适用于矩形截面. 五螺箍为机械自动化生产,相对于传统箍筋有更高的效率[1]. 目前,五螺箍的应用与研究主要在中国台湾,且设计与研究参照了文献[2].
国内外学者对单螺箍约束混凝土开展了大量的理论与试验研究,而多螺箍约束混凝土的研究较少. Mohamed等[3]通过试验对复合箍筋柱进行了参数分析,主要研究了配箍形式和体积配箍率对试件力学性能的影响. Mander等[4]通过对大量约束混凝土柱试件进行轴心受压试验,得到一套约束混凝土的本构模型. Assa等[5-6]对一系列螺旋箍筋柱试件进行实验,得到螺旋箍筋约束混凝土的本构关系. 过镇海等[7-8]进行方形箍约束混凝土在反复荷载下的应力-应变全曲线试验研究,试验得出试件强度和延性与体积配箍率呈正相关关系. 唐琼等[9]基于多螺箍筋试验数据建立有限元模型,分析受力机理提出轴压承载力计算公式. 史庆轩等[10]通过多根不同配箍形式的方形截面柱进行轴压试验,并对其延性与强度进行影响因素分析. 翁正强等[11]对多个五螺箍短柱进行了轴压试验,研究了三个不同系列小螺箍直径对柱整体力学性能的影响. 郑亮[12]通过试验研究了方钢管混凝土和配螺旋箍筋方钢管混凝土短柱的力学性能,并且对短柱承载力计算方法进行理论研究. 傅明月[13]对五螺箍混凝土柱进行了轴心受压与偏心受压试验,发现螺旋箍筋能明显地提高柱的承载能力和延性性能. Liang等[14]进行9根足尺多螺旋箍筋约束方形短柱的试验,发现减小螺旋间距可以明显提高柱的轴压承载力和延性.
由于目前对五螺箍柱轴压承载力计算式的研究鲜有报道,因此,有必要对其力学性能进行进一步研究,以提出适用于五螺箍柱的轴压承载力计算式. 本文利用ABAQUS软件,首先,基于试验模型建立有限元模型,并将有限元分析结果与已有的试验结果进行对比分析,以验证有限元模型分析结果的准确性. 接着,基于材料用量相等的原则,创建4种不同配箍形式的矩形截面柱,并进行力学性能对比分析. 最后,对五螺箍柱轴压承载力进行影响因素分析,提出基于体积配箍率的轴压承载力计算式.
1. 有限元分析模型
1.1 混凝土的本构关系
混凝土本构模型采用有限元软件ABAQUS中内置的塑性损伤模型,损伤因子按文献[15]公式计算. 因Mander模型[14]对不同箍筋的作用形式有不同的计算式,故本构关系采用Mander模型[14],模型的具体表达如下:
fcc=fcc1xrr−1+xr, (1) x=εcεcc, (2) εcc=εc0[1+5(fcc1fc0−1)], (3) r=EcEc−Esec, (4) Ec=5000√fcc, (5) Esec=fcc1εcc, (6) fcc1=fc0(−1.254+2.254√1+7.94f11fc0−2f11fc0), (7) f11=12Keρsfyh, (8) Ke=1−s2ds1−ρcc, (9) 式(1) ~ (9)中:
fcc 为混凝土应力;εc 为混凝土应变;fcc1 为约束混凝土的峰值应力;εcc 为约束混凝土的峰值应变;fyh 为箍筋屈服强度;s 为箍筋间净间距;ds 为约束箍筋的直径;fc0 为混凝土轴心抗压强度标准值;εc0 为非约束混凝土的峰值应变,通常取0.002;Ec 为非约束混凝土弹性模型;Esec 为约束混凝土割线模量;f11 为侧向约束力,对于未约束混凝土f11 = 0;Ke 为有效约束系数;ρs 为体积配箍率;ρcc 为纵筋配筋率.1.2 采用的钢筋本构
钢筋采用理想弹塑性模型,具体表达形式为
{σs=Esεs,εs⩽εy,σs=Fy,εs>εy, (10) 式中:
Es 、Fy 分别为钢筋的弹性模量和屈服强度;εs 为钢筋应变;εy 为钢筋屈服应变;σs 为钢筋应力.1.3 有限元模型验证
采用位移协调分离式来分析模型. 混凝土采用C3D8R单元,钢筋采用T3D2单元. 对钢筋和混凝土之间的连接,采用Embedded region进行两者的自由度耦合,不考虑钢筋和混凝土之间的连接滑移. 为了使柱体的边界约束条件接近实际受力情况,在柱体上、下两端采用铰接连接方式,并在柱顶进行位移加载. 本文选取文献[16]中的试件C2-1、C2-3、C2-4和C2-5,用有限元软件ABAQUS建模进行分析. 4根短柱的试验设计参数以及试验和有限元分析结果如表1所示. 图1为各试件试验和有限元分析的应力-应变曲线图.
表 1 试验和有限元计算结果对比Table 1. Comparison of experiment and finite element calculation results试件编号 材料强度/MPa 钢筋配置/mm 轴压承载力/kN 混凝土 纵筋 大螺箍 小螺箍 纵筋 大螺箍 小螺箍 试验值 模拟值 误差/% C2-1 39.4 420 280 280 D25 D13@50 D13@50 21670 22378 3.26 C2-3 40.3 D16@70 D13@70 20411 22109 8.32 C2-4 40.3 D13@60 D13@60 19336 21749 12.47 C2-5 39.4 D10@50 D10@50 18181 20128 10.70 从表1可以看出:轴压承载力的模拟结果稍微高于试验结果,轴压承载力最大误差为12.47%,最小误差为3.26%,平均误差仅为8.68%,可以说明有限元模拟得到的轴压承载力与试验结果比较接近. 从图1可以看出:有限元模拟结果和试验结果吻合较好.
2. 配箍形式对峰值荷载和延性的影响分析
基于材料用量相等的原则,考虑混凝土强度等级和配箍形式对钢筋混凝土柱受压性能的影响,设计了混凝土强度等级从C25 ~ C50的6组钢筋混凝土柱分析模型,每组都包括五螺箍、五环箍、矩形箍、矩形螺旋箍4种配箍形式,各配箍形式模型的几何参数和材料构成如图2所示. 为尽可能符合实际情况,柱高取1.5 m,即反弯点处截取一半楼层高度. 五螺箍、五环箍、矩形箍、矩形螺旋箍配箍形式的钢筋混凝土柱模型用钢量分别为1.10 × 107 、1.09 × 107 、 1.10 × 107、1.10 × 107 mm3,最大相差为0.5%,可视为材料用量相等. 4种配箍形式模型的纵筋配筋率为1.82%,满足轴心受压构件纵筋最小配筋率0.5%、最大配筋率5.0%的要求,箍筋强度均为280 MPa,纵筋强度均为400 MPa.
有限元分析结果如图3、4所示. 从图3中可以看出:五螺箍柱的峰值承载力较其他3种柱都高. 为反映短柱的延性性能,采用已有的对延性定义的指标延性系数DI[17]来表示,如式(11)所示.
DI=u85/u11, (11) 式中:
u11 为峰值荷载时的位移;u85 为峰值荷载下降到85%时的位移.从图4可以看出:五螺箍的延性优于其他3种柱,五螺箍较五环箍、矩形箍和矩形螺旋箍柱构件峰值承载力均值分别提高0.78%、6.70%和13.73%,延性系数均值分别提高2.00%、10.32%和10.41%,表明五螺箍柱具有较优的承载力及延性,这与文献[11]中的试验结论相符.
由于五螺箍柱的各性能指标均较优,有必要对五螺箍轴压承载力及延性进行影响因素分析,为提出五螺箍轴压承载力的计算式奠定基础. 本文按照《混凝土结构设计规范》(GB 50010—2010)[18] (以下均简称《混规》)的要求,设计了9个螺旋箍筋间距为40 ~ 80 mm (或
dcor/5 ,其中,dcor 为核心区混凝土的直径,可按螺旋箍筋内表面直径取值)的模型,其中,体积配箍率的计算式[11]为ρv=πDAsp1+4πdAsp2s5 Ach, (12) 式中:
D、d 分别为大螺箍和小螺箍的直径;Asp1、Asp2 分别为大螺箍和小螺箍单根钢筋的截面面积;Ach 为五螺箍所约束的混凝土面积;s5 为五螺箍的间距.有限元分析结果如图5和表2所示. 图5(a)中模型M-1、M-2、M-3分别对应的箍筋间距为45、50、55 mm,可以看出:随着箍筋间距的减小,五螺箍柱的峰值荷载和延性系数都有提高,曲线下降段也更为平缓,延性更好. 图5(b)中模型M-4、M-2、M-5分别对应的混凝土强度为23.4、26.8、29.6 MPa,可以看出:随着混凝土强度的提高,五螺箍柱的峰值荷载有明显的提高,但延性系数减小,延性不能得到改善. 图5(c)中模型M-2、M-6、M-7对应的箍筋强度分别为335、400、500 MPa,可以看出:提高螺旋箍筋的强度,五螺箍柱的峰值承载力和延性系数有所提高,主要表现为箍筋的约束应力提高,约束效果更好,下降段曲线也更为平缓,延性得到了较大改善. 图5(d)中模型M-2、M-8、M-9对应的大(小)螺箍直径分别为10(6)、10(8)、12(8) mm,可以看出:随螺旋箍筋截面直径的增大,峰值荷载和延性系数随之提升,曲线下降段也更为平缓,五螺箍柱的轴压承载力和延性都有很大改善. 对比图5(a)和图5(d),箍筋间距的减小和箍筋直径的增大都是提高体积配箍率的方式,对五螺箍柱的影响结果相似,均能提高构件的峰值承载力和延性,有利于提高构件在考虑近场地震[19]等不利作用下结构构件极限变形能力. 故下文将基于体积配箍率研究五螺箍柱的轴压承载力计算式.
表 2 有限元模型主要参数Table 2. Main parameters of finite element models编号 螺旋箍筋
间距/mm螺旋箍筋
强度/MPa混凝土
强度/MPa大(小)螺箍
直径/mm体积配箍率/% 峰值荷载/kN DI M-1 45 335 26.8 10(6) 2.15 11020.60 1.84 M-2 50 335 26.8 10(6) 1.93 10779.40 1.78 M-3 55 335 26.8 10(6) 1.76 10613.50 1.76 M-4 50 335 23.4 10(6) 1.93 9979.90 1.97 M-5 50 335 29.6 10(6) 1.93 11472.50 1.75 M-6 50 400 26.8 10(6) 1.93 11163.90 1.94 M-7 50 500 26.8 10(6) 1.93 11744.80 2.16 M-8 50 335 26.8 10(8) 2.45 11078.90 2.13 M-9 50 335 26.8 12(8) 3.01 11756.80 2.27 3. 轴压承载力计算
五螺箍柱的轴压承载力主要由以下4部分组成:混凝土抗压承载力、纵筋抗压承载力、大螺箍和小螺箍分别对核心区混凝土的约束效应而产生的承载力. 本文主要研究大、小螺箍通过对混凝土约束产生的承载力. 不同的配箍形式产生的约束效果不同,相对于矩形箍,圆形箍具有整体变形小,应力分布均匀及有效约束面积大等优点. 五螺箍柱中,大螺旋箍筋主要约束了柱中部的混凝土,小螺旋箍筋主要约束了柱四个角落的混凝土,二者相互弥补各自的弱约束区,较好地约束了整个截面. 螺旋箍筋有效约束区如图6所示,其中阴影部分表示有效约束区.
由于大、小螺箍的约束部位不同,故计算时应分别计算两者提供的约束作用力. 螺旋箍筋的有效约束面积[4]为
Ac=πd2cor4(1−s2dcor)2, (13) 式中:
s 为螺旋箍筋的间距.《混规》[18]关于约束混凝土的轴心抗压强度为
fc*=fc+βσr, (14) 式中:
σr 为核心混凝土受到的径向压应力值,如式(15);fc 为混凝土抗压强度设计值;对于约束混凝土,取β = 4 .σr=2fyAsssdcor, (15) 式中:
fy 为螺旋箍筋的抗拉屈服强度;Ass 为单根螺旋箍筋的截面面积.在Hobbs[20]的研究中有
f∗c=fc+3.7(σrfc)0.86fc. (16) 根据叠加理论,基于《混规》[18]的五螺箍轴压承载力为
Nu1=0.9[fcAcor+8Ass1s1dcor1fy1Ac1+4×8Ass2S2dcor2fy2Ac2+fy3As1], (17) 式中:
Ass1 和Ass2 分别为单根大、小螺旋箍筋的截面面积;fy1 和fy2 分别为大、小螺旋箍筋的屈服强度;s1 与s2 分别为大、小螺旋箍筋的间距;dcor1 和dcor2 分别为大、小螺旋箍筋包围的核心区混凝土直径;Acor 为混凝土核心区面积;fy3 为纵筋抗压强度;As1 为纵筋面积;Ac1、Ac2 分别为大、小螺旋箍筋的有效约束面积.根据叠加理论,基于Hobbs[20]修正后的五螺箍轴压承载力为
Nu2=0.9[fcAcor+3.7fcAc1(2fy1Ass1s1dcor1fc)0.86+3.7fcAc2(2fy2Ass2s2dcor2fc)0.86×4+fy3As1]. (18) 文献[11]提出的五螺箍轴压承载力为
Nu3=0.85fc0Acc+fy3As1, (19) 式中:
Acc 为五螺箍所约束的混凝土面积.美国ACI规范[2]规定的短柱受压承载力为
Nu4=0.85[0.85fc0(Ac−As1)+fy3As1], (20) 式中:
Ac 为混凝土柱全断面积;方括号外的“0.85”表示结构抗力折减系数,方括号内的“0.85”表示尺寸效应对受压承载力的影响系数.由上文轴压承载力影响因素分析可知,材料的强度、箍筋的间距、箍筋的面积等都对五螺箍柱的承载力有影响,为简便起见,本文将这些因素统一考虑为体积配箍率
ρv ,这样就可以很大程度上减小承载力计算的复杂程度. 由于混凝土及纵筋所提供的竖向承载力计算较为明确,无需修正,本文重点修正螺旋箍筋对混凝土的约束作用. 将每个构件的轴压承载力减去混凝土和纵筋提供的竖向承载力,得到螺旋箍筋提供的竖向承载力N1 ,由此可以推出约束作用系数为ξ=N1/[fcfy(Ac1+4Ac2)]. (21) ξ 随ρv 的变化关系如图7所示,对两者进行线性关系拟合,结果可以看出两者大致成线性分布. 根据ξ 与ρv 的关系,参考《混规》[18]和Hobbs[20]修正按叠加理论计算的公式,本文提出五螺箍柱的轴压承载力为Nu5=0.9[fcAcor+fy3As1+fcfy(Ac1+4Ac2)(0.0019+0.076ρv)]. (22) 采用上述5个承载力计算式(即式(17)~(20)和式(22)),不考虑安全储备及折减系数,混凝土强度统一采用轴心抗压强度标准值,得到上述9个模型和4个试验[16]构件的轴压承载力,分别如表3和表4所示. 表中:
δ1 、δ2 、δ3 、δ4 和δ5 为5个承载力对应的相对误差.表 3 9个模型的轴压承载力计算Table 3. Axial compression bearing capacity calculation of nine models编号 模拟值 Nue/kN 计算值/kN 相对误差/% Nu1 Nu2 Nu3 Nu4 Nu5 δ1 δ2 δ3 δ4 δ5 M-1 11020.60 10024.25 10459.24 6543.56 7871.88 11039.23 −9.04 −5.09 −40.62 −28.57 0.17 M-2 10779.40 9601.01 10019.12 6543.56 7871.88 10675.10 −10.93 −7.05 −39.30 −26.97 −0.97 M-3 10613.50 9258.53 9656.58 6543.56 7871.88 10373.72 −12.77 −9.02 −38.35 −25.83 −2.26 M-4 9979.90 9001.25 9362.72 6002.76 7162.57 9610.15 −9.81 −6.18 −39.85 −28.23 −3.70 M-5 11472.50 10094.93 10555.22 6988.93 8456.03 11552.11 −12.01 −8.00 −39.08 −26.29 0.69 M-6 11163.90 10104.07 10515.16 6543.56 7871.88 11386.56 −9.49 −5.81 −41.39 −29.49 1.99 M-7 11744.80 10878.01 11257.04 6543.56 7871.88 12481.12 −7.38 −4.15 −44.29 −32.98 6.27 M-8 11078.90 10056.88 10453.68 6543.56 7871.88 11110.52 −9.22 −5.64 −40.94 −28.95 0.29 M-9 11756.80 10962.58 11334.17 6543.56 7871.88 11579.44 −6.76 −3.59 −44.34 −33.04 −1.51 绝对值均值 9.71 6.06 40.91 28.93 1.98 标准差 0.0197 0.0175 0.0215 0.0261 0.0195 由表3数据可知:计算值
Nu3 远远小于模拟值和试验值,原因是该式中混凝土的计算面积是五螺箍约束混凝土的面积,且混凝土抗压强度取的是轴心抗压强度标准值,而不是约束后的混凝土抗压强度值;计算值Nu4 相比模拟值和试验值误差较大,原因是计算式仅考虑了纵筋和混凝土提供的竖向抗压承载力,而忽略了螺旋箍筋对混凝土的约束作用;计算值Nu1 和Nu2 比较接近模拟值和试验值,两个计算式既考虑了混凝土和纵筋所提供的竖向抗压承载力,又考虑了箍筋对混凝土的约束效应;在分析范围内,本文提出的修正式的计算值Nu5 更加接近模拟值和试验值,与模拟值的误差均值为1.98%,与试验值的误差均值为2.83%,且标准差分别为0.0195和0.0216,总体上偏于安全. 用体积配箍率考虑箍筋的间距、箍筋的面积、螺箍直径等多因素使得承载力计算更加简便与精确,且具有很好的实用性.表 4 4个试验构件的轴压承载力Table 4. Axial compression bearing capacity calculation of four test members编号 试验值[16]/kN 计算值/kN 相对误差/% Nu1 Nu2 Nu3 Nu4 Nu5 δ1 δ2 δ3 δ4 δ5 C2-1 21672.00 20569.22 21094.45 12090.38 11518.40 22156.09 −5.09 −2.66 −44.21 −46.85 2.23 C2-2 20412.00 19005.14 19508.17 12291.21 11706.16 20390.35 −6.89 −4.43 −39.78 −42.65 −0.11 C2-4 19332.00 19334.76 19871.39 12291.21 11706.16 20319.01 0.01 2.79 −36.42 −39.45 5.11 C2-5 18181.00 17305.58 17781.27 12090.38 11518.40 18883.65 −4.82 −2.20 −33.50 −36.65 3.86 绝对值均值 4.20 3.02 38.48 41.40 2.83 标准差 0.029 4 0.009 7 0.046 0 0.043 9 0.021 6 4. 结 论
1) 建立与参考文献中试验模型一致的五螺箍短柱有限元模型进行对比分析,分析结果显示有限元模拟结果与试验结果误差较小,在可接受范围内,从而验证了该有限元模型的正确性.
2) 基于材料用量相等原则,对4种不同配箍形式的短柱进行对比分析,表明五螺箍柱承载力和延性均较优.
3) 对五螺箍柱进行影响因素分析,改变材料强度、螺箍间距、箍筋面积等均能改变五螺箍柱性能,提高配箍率可以明显改善五螺箍柱的延性及峰值承载力.
4) 在多个参数分析的基础上,提出了基于体积配箍率的五螺箍短柱轴压承载力计算方法,与各国规范式对比,该式更为简便且较为精确.
-
表 1 实地观测点坐标及采用的3种随机模型
Table 1. Coordinate pairs of field surveying data and three stochastic models for fitting
点号 x/m y/m C 中非零元素 P1 中非零元素 P2 中非零元素 P3 中非零元素 σ2x/mm2 σ2y/mm2 σxy/mm2 px py pxy px/py px/py 1 688.639 1398.869 7.3371 9.7881 −0.8902 0.1378 0.1033 0.0125 1 10000 2 701.467 1383.525 7.3289 9.3014 −0.9080 0.1381 0.1088 0.0135 1 10000 3 714.294 1368.180 7.3340 8.8888 −0.9115 0.1381 0.1140 0.0142 1 10000 4 727.121 1352.835 7.3547 8.5485 −0.9080 0.1378 0.1185 0.0146 1 10000 5 739.953 1337.495 7.3948 8.2767 −0.9044 0.1371 0.1225 0.0150 1 10000 6 752.783 1322.152 7.4602 8.0684 −0.9071 0.1359 0.1257 0.0153 1 10000 7 765.609 1306.806 7.5584 7.9166 −0.9210 0.1342 0.1281 0.0156 1 10000 8 778.434 1291.460 7.6977 7.8126 −0.9487 0.1319 0.1299 0.0160 1 10000 9 791.262 1276.115 7.8867 7.7477 −0.9909 0.1289 0.1312 0.0165 1 10000 10 804.088 1260.770 8.1340 7.7132 −1.0462 0.1251 0.1320 0.0170 1 10000 11 816.915 1245.425 8.4471 7.7012 −1.1111 0.1207 0.1324 0.0174 1 10000 12 829.740 1230.078 8.8323 7.7054 −1.1805 0.1156 0.1325 0.0177 1 10000 13 842.564 1214.731 9.2939 7.7206 −1.2485 0.1100 0.1324 0.0178 1 10000 14 855.389 1199.384 9.8346 7.7437 −1.3087 0.1040 0.1321 0.0176 1 10000 15 868.213 1184.036 10.4556 7.7729 −1.3546 0.0979 0.1316 0.0171 1 10000 16 881.043 1168.694 11.1562 7.8077 −1.3803 0.0916 0.1309 0.0162 1 10000 17 893.875 1153.353 11.9355 7.8489 −1.3806 0.0855 0.1301 0.0150 1 10000 18 906.703 1138.009 12.7917 7.8981 −1.3511 0.0796 0.1289 0.0136 1 10000 19 919.537 1122.670 13.7218 7.9569 −1.2880 0.0740 0.1276 0.0120 1 10000 20 932.371 1107.331 14.7236 8.0277 −1.1886 0.0687 0.1261 0.0102 1 10000 表 2 顾及约束和相关误差的直线拟合过程
Table 2. Process of straight-line fitting with both a constraint and correlated noise
迭代数/次 ˆa ˆb/m ˆσ0/mm σa σb/mm w/mm 0 −0.681654264 2210.153480 59093.318880 6.14777 × 10−2 93044.287650 −479524.603400 1 −0.935165106 2013.498778 5844.096808 6.07990 × 10−3 9201.714082 −59428.755230 2 −1.146887043 2183.687057 448.743795 9.66425 × 10−4 1148.244207 −9789.990571 3 −1.195130784 2221.779805 10.362946 3.19907 × 10−5 35.137584 −394.045005 4 −1.197201392 2223.403509 16.492003 5.52543 × 10−5 59.714483 −0.691388 5 −1.197204886 2223.406205 16.525002 5.55595 × 10−5 60.003229 −0.000002 6 −1.197204886 2223.406205 16.525002 5.55598 × 10−5 60.003515 0 表 3 约束下3种随机模型拟合直线的参数估值及其精度
Table 3. Parameter estimation of fitting line and their precisions of three stochastic models with constraints
随机模型 ˆa ˆb/m ˆσ0/mm σa σb/mm xZ/m yZ/m 迭代数/次 耗时/s P1 −1.19720489 2223.4062 16.525 5.55598 × 10−5 60.0 1079.9809 930.4478 6 0.494 P2 −1.19722236 2223.4251 49.031 6.12012 × 10−5 66.1 1079.9772 930.4522 6 0.503 P3 −1.19722233 2223.4250 76.478 6.12012 × 10−5 66.1 1079.9772 930.4522 6 0.496 表 4 无约束下3种随机模型拟合直线的参数估值及其精度
Table 4. Parameter estimation of line fitting and their precisions of three stochastic models without constraint
随机模型 ˆa ˆb/m ˆσ0/mm σa σb/mm 迭代数/次 耗时/s P1 −1.196269322 2222.672000 2.293655 3.10233 × 10−5 25.008852 3 0.461 P2 −1.196259074 2222.663879 6.710739 3.16316 × 10−5 25.743943 3 0.414 P3 −1.196259065 2222.663872 0.462488 3.16316 × 10−5 25.743942 3 0.438 -
[1] KRYSTEK M, ANTON M. A least-squares algorithm for fitting data points with mutually correlated coordinates to a straight line[J]. Measurement Science and Technology, 2011, 22(3): 035101.1-035101.9. [2] PETROLINI A. Linear least squares fit when both variables are affected by equal uncorrelated errors[J]. American Journal of Physics, 2014, 82(12): 1178-1185. [3] 丁克良,沈云中,欧吉坤. 整体最小二乘法直线拟合[J]. 辽宁工程技术大学学报(自然科学版),2010,29(1): 44-47.DING Keliang, SHEN Yunzhong, OU Jikun. Methods of line-fitting based on total least-squares[J]. Journal of Liaoning Technical University (Natural Science), 2010, 29(1): 44-47. [4] 宋占峰,彭欣,吴清华. 基于中线坐标的地铁调线优化算法[J]. 西南交通大学学报,2014,49(4): 656-661. doi: 10.3969/j.issn.0258-2724.2014.04.015SONG Zhanfeng, PENG Xin, WU Qinghua. Optimization algorithm for horizontal realignment based on coordinate of metro centerline[J]. Journal of Southwest Jiaotong University, 2014, 49(4): 656-661. doi: 10.3969/j.issn.0258-2724.2014.04.015 [5] 宋占峰,王健,李军. 缓和曲线正交拟合的Levenberg-Marquardt算法[J]. 西南交通大学学报,2020,55(1): 144-149. doi: 10.3969/j.issn.0258-2724.20190130SONG Zhanfeng, WANG Jian, LI Jun. Levenberg-Marquardt algorithm for orthogonal fitting of transition curves[J]. Journal of Southwest Jiaotong University, 2020, 55(1): 144-149. doi: 10.3969/j.issn.0258-2724.20190130 [6] KARL P. On lines and planes of closest fit to systems of points in space[J]. Philosophical Magazine, 1901, 2(11): 559-572. [7] 刘经南,曾文宪,徐培亮. 整体最小二乘估计的研究进展[J]. 武汉大学学报(信息科学版),2013,38(5): 505-512.LIU Jingnan, ZENG Wenxian, XU Peiliang. Overview of total least squares methods[J]. Geomatics and Information Science of Wuhan University, 2013, 38(5): 505-512. [8] KRYSTEK M, ANTON M. A weighted total least-squares algorithm for fitting a straight line[J]. Measurement Science and Technology, 2007, 18(11): 3438-3442. doi: 10.1088/0957-0233/18/11/025 [9] SONG Z F, DING H, LI J, et al. Circular curve-fitting method for field surveying data with correlated noise[J]. Journal of Surveying Engineering, 2018, 144(4): 04018010.1-04018010.9. [10] AMIRI-SIMKOOEI A R, ZANGENEH-NEJAD F, ASGARI J, et al. Estimation of straight line parameters with fully correlated coordinates[J]. Measurement, 2014, 48: 378-386. doi: 10.1016/j.measurement.2013.11.005 [11] SHEN Y F, LI B F, CHEN Y. An iterative solution of weighted total least-squares adjustment[J]. Journal of Geodesy, 2011, 85(4): 229-238. doi: 10.1007/s00190-010-0431-1 [12] 鲁铁定,陶本藻,周世健. 基于整体最小二乘法的线性回归建模和解法[J]. 武汉大学学报(信息科学版),2008,33(5): 504-507.LU Tieding, TAO Benzao, ZHOU Shijian. Modeling and algorithm of linear regression based on total least squares[J]. Geomatics and Information Science of Wuhan University, 2008, 33(5): 504-507. -