非參數回歸模型中誤差方差的樣條估計

武新乾, 張 剛

(河南科技大學 數學與統計學院 河南 洛陽 471023)

?

非參數回歸模型中誤差方差的樣條估計

武新乾, 張 剛

(河南科技大學 數學與統計學院 河南 洛陽 471023)

針對具有固定設計和混合相依誤差的非參數回歸模型，構造了誤差方差的多項式樣條估計，證明了估計量的相合性，并且通過模擬算例說明了估計方法的可行性．

非參數回歸； 誤差方差； 樣條估計； 混合； 相合性

0 引言

非參數方法在回歸建模中具有靈活性，受到了許多學者的關注[1-5]．考慮非參數回歸模型

Yi=m(xi)+εi,i=1,…,n，

(1)

其中，xi=i/n為固定設計點，Yi為響應變量，m(x)為未知回歸函數，{εi}是均值為0、方差為σ2的平穩序列．

樣條方法是一種常見的非參數估計方法．文[6]在φ-混合和α-混合誤差下討論了m(x)的B-樣條估計的全局收斂性和一致收斂性，類似文獻可參見文[7-10]．作者主要構造模型(1)中誤差方差的多項式樣條估計，在文[6]中的混合誤差條件下證明誤差方差估計量的相合性,模擬結果表明了方法的可行性．

1 樣條估計

首先給出文[6]中回歸函數m(x)的樣條估計．記Sk,v表示在區間[0,1]上具有k+1個等距結點(包括兩個區間端點)的v次樣條函數空間，其B-樣條基函數記為Bkt(x) (t=1,…,k+v)．又記K=k+v，(·)′表示向量的轉置．令

Bk(x)=(Bk1(x),Bk2(x),…,BkK(x))′，

回歸函數m(x)的樣條估計為

(2)

(3)

2 主要結果

研究估計量的性質需要文[6]中的如下條件：

(ⅱ)k=O(N1/(2p+1))，0

(4)

I1=oP(N-2(r-δ))．

(5)

又

和

這里φn(j)=φ(jN/n)，αn(j)=α(jN/n)．于是有

所以，

I3-σ2=OP(N-1/2)，

(6)

這也說明I3=OP(1)．由于

因此，

I2=oP(N-(r-δ))OP(1)=oP(N-(r-δ))．

(7)

綜合(4)～(7)式可得

即

(8)

3 模擬算例

對于非參數回歸模型(1)，選用文[11]中的回歸函數m(x)=50x3(1-x)3，x∈[0,1].考慮兩種隨機誤差序列{εi}：(I)εi獨立同分布并且εi～N(0,0.64);(II)εi=0.5εi-1+ei，{ei}為獨立同分布序列，且ei～N(0,0.48)．這兩種隨機誤差序列均滿足定理1的條件，并且它們的方差相同，σ2=Var(εi)=0.64．

選取ε0=0，采用三次B-樣條基函數構造估計量，并且基于AIC和BIC準則從1～10之間自動選擇k值，其中，

AIC=ln(RSS/n)+2K/n; BIC=ln(RSS/n)+ln(n)·K/n，

(9)

表1 情形(I)下誤差方差σ2的典型估計及其絕對誤差Tab.1 Typical estimates of error variance σ2 and their absolute errors under (I)

注：括號內數據為絕對誤差值.

表2 情形(II)下誤差方差σ2的典型估計及其絕對誤差Tab.2 Typical estimates of error variance σ2 and their absolute errors under (II)

注：括號內數據為絕對誤差值.

圖1 BIC準則下誤差方差σ2的樣條估計的盒形圖Fig.1 Box plots of spline estimates of error variance σ2 under BIC

[1] Robinson P M．Large-sample inference for nonparametric regression with dependent errors [J]．The Annals of Statistics，1997，25 (5)：2054-2083．

[2] Park C G，Kim I，Lee Y S．Error variance estimation via least squares for small sample nonparametric regression [J]．Journal of Statistical Planning and Inference，2012，142 (8)：2369-2385．

[3] Qiu D，Shao Q，Yang L．Efficient inference for autoregressive coefficients in the presence of trends [J]．Journal of Multivariate Analysis，2013，114(2)：40-53．

[4] 孫耀東，徐寶，趙志文．固定設計下時間序列非參數回歸模型的方差變點檢驗[J]．鄭州大學學報：理學版，2014，46(1)：1-4．

[5] 李佳，李永明．PA誤差下的半參數回歸模型估計的矩相合性[J]．信陽師范學院學報：自然科學版，2013，26(1)：23-26．

[6] Burman P．Regression function estimation from dependent observations [J]．Journal of Multivariate Analysis，1991，36 (2)：263-279．

[7] Wahba G．Bayesian “confidence intervals” for the cross-validated smoothing spline [J]．Journal of the Royal Statistical Society: Series B，1983，45(1)：133-150．

[8] Zhou S，Shen X，Wolfe D A．Local asymptotics for regression splines and confidence regions [J]．The Annals of Statistics，1998，26 (5)：1760-1782．

[9] Mao W，Zhao L H．Free-knot polynomial splines with confidence intervals [J]．Journal of the Royal Statistical Society: Series B，2003，65(4)：901-919．

[10]武新乾．線性過程誤差下回歸函數的樣條估計[J]．河南科技大學學報：自然科學版，2010，31(5)：94-97．

[11]Tran L，Roussas G，Yakowitz S，et al．Fixed-design regression for linear time series[J]．The Annals of Statistics，1996，24 (3)：975-991．

(責任編輯：孔 薇)

Spline Estimate of Error Variance in Nonparametric Regression Models

WU Xin-qian， ZHANG Gang

(SchoolofMathematicsandStatistics,HenanUniversityofScienceandTechnology,Luoyang471023,China)

Nonparametric regression models with fixed design and mixing dependent errors were considered. A polynomial spline estimate of error variance was constructed, and weak consistency of the estimator was proved. Meanwhile, the feasibility of the estimation was illustrated by a simulated example.

nonparametric regression； error variance； spline estimate； mixing； consistency

2015-04-11

國家自然科學基金資助項目，編號11326181；河南省國際科技合作計劃項目，編號134300510034；河南科技大學博士科研啟動基金資助項目，編號4010-13480008．

武新乾(1969-)，男，河南中牟人，副教授，博士，主要從事非線性時間序列分析及應用研究，E-mail:wuxinqian1001@163.com．

武新乾,張剛.非參數回歸模型中誤差方差的樣條估計[J].鄭州大學學報：理學版，2015,47(3)：17-20.

O212.7

A

1671-6841(2015)03-0017-04

10.3969/j.issn.1671-6841.2015.03.003