淡江大學覺生紀念圖書館 (TKU Library)
進階搜尋


下載電子全文限經由淡江IP使用) 
系統識別號 U0002-2306200614250800
中文論文名稱 無母數迴歸在稀疏及共線資料下的改進方法之研究
英文論文名稱 A study of the remedies for nonparametric regression in the presence of sparse and multicollinear design.
校院名稱 淡江大學
系所名稱(中) 統計學系碩士班
系所名稱(英) Department of Statistics
學年度 94
學期 2
出版年 95
研究生中文姓名 蔡宗洪
研究生英文姓名 Tsung-Hung Tsai
學號 693460312
學位類別 碩士
語文別 中文
口試日期 2006-06-01
論文頁數 43頁
口試委員 指導教授-鄧文舜
委員-陳俞成
委員-陳怡如
中文關鍵字 無母數迴歸  區域線性估計量  區域線性脊迴歸估計量  縮小估計量  插補值的區域線性估計量  交叉比對法  期望積分方差 
英文關鍵字 Nonparametric regression  Local linear estimator  Local linear ridge regression estimator  Shrinkage estimator  Fully imputed local linear estimator  Cross validation  Mean integrated square error 
學科別分類 學科別自然科學統計
中文摘要 在隨機取樣(random design)的無母數迴歸(nonparametric regression)分析中,區域線性估計量(local linear estimator)有許多較好的漸近性質,因此較為多數人所稱道;然而在有限樣本場合,若資料稀疏(sparse)或自變數之間有共線性(multicollinearity)的情形之下,區域線性估計量其條件變異數(conditional variance) 沒有上界(unbounded)。為了避免這些情形,因此有許多的改進方法被提出,如Seifert and Gasser(1996)提出的區域線性脊迴歸(local linear ridge regression)方法、Hall and Marron(1997)的縮小(shrinkage)方法以及Chu and Deng(2003)插補值(interpolation method)的區域線性方法。

本文在討論這些區域線性估計量改進法的比較,並在合理的樣本之下,以交叉比對法(cross validation)來選取各平滑參數(smoothing parameter),來判斷出在實務上,插補值的區域線性的改進法較能得到較低的樣本期望積分方差(sample mean integrated square error),並且在實務上所得出的曲線或曲面也較平滑。
英文摘要 In the case of the random design nonparametric regression, local linear estimator are an attractive choice due to many asymptotic properties. For the local linear estimator, however, if the data is in the presence of sparse and multicollinear design, it has the problem of unbounded finite sample variance. To overcome the problem, there are many remedies for proposing, such as that the method of the local linear ridge regression by Seifert and Gasser(1996), of shrinking by Hall and Marron(1997), and the interpolation method of local linear estimator by Chu and Deng(2003).

In this paper, we will compare the above estimator. We also use cross validation idea to select their smoothing parameters to determine that the interpolation method of local linear estimator will get the lower sample mean integrated square error on the practice under the reasonable sample size, and it can get the smoother estimated curve and surface.
論文目次 目錄

第1章 導論 1

1.1. 無母數迴歸分析簡介 1

1.2. 區域線性估計量 2

1.3. 有限樣本下的區域線性估計量 7

1.4. 共線性樣本下的區域線性估計量 7


第2章 區域線性估計量一維空間改進方法及其模擬研究 11

2.1. 區域線性脊迴歸估計量 11

2.2. 縮小估計量 12

2.3. 插補值的區域線性估計量 13

2.4. 實務上參數的選取方法 14

2.5. 一維自變數資料有稀疏情形的模擬研究 15


第3章 區域線性估計量二維空間改進方法及其模擬研究 30

3.1. 區域線性脊迴歸估計量 30

3.2. 插補值的區域線性估計量 31

3.3. 二維自變數資料有共線情形的模擬研究 32


第4章 結論 39

4.1. 第二章模擬研究結果 39

4.2. 第三章模擬研究結果 40


參考文獻 41


圖目錄

圖1. 迴歸函數m1(x)以最小化積分方差值得到之mˆLLRRE(x)、mˆS(x)和mˆFILLE(x) 18
圖2. 迴歸函數m2(x)以最小化積分方差值得到之m^LLRRE(x)、m^S(x)
和m^FILLE(x) 19
圖3. 迴歸函數m3(x)以最小化積分方差值得到之m^LLRRE(x)、m^S(x)
和m^FILLE(x) 20
圖4. 迴歸函數m1(x)以最小化交叉比對值得到之m^LLRRE(x)、m^S(x)
和m^FILLE(x) 21
圖5. 迴歸函數m2(x)以最小化交叉比對值得到之m^LLRRE(x)、m^S(x)
和m^FILLE(x) 22
圖6. 迴歸函數m3(x)以最小化交叉比對值得到之m^LLRRE(x)、m^S(x)
和m^FILLE(x) 23
圖7. 迴歸函數m1(x)以最小化交叉比對值所得的之m^LLRRE(x)、m^S(x)
和m^FILLE(x)在101個點上的估計值的平均數與標準差。 25
圖8. 迴歸函數m2(x)以最小化交叉比對值所得的之m^LLRRE(x)、m^S(x)
和m^FILLE(x)在101個點上的估計值的平均數與標準差。 26
圖9. 迴歸函數m3(x)以最小化交叉比對值所得的之m^LLRRE(x)、m^S(x)
和m^FILLE(x)在101個點上的估計值的平均數與標準差。        27
圖10. 迴歸函數m(x1,x2)和以最小化積分方差值得到之m^LLE(x1,x2)
、m^LLRRE(x1,x2)和m^FILLE(x1,x2)         34
圖11. 迴歸函數m(x1,x2)和以最小化交叉比對值得到之m^LLE(x1,x2)
、m^LLRRE(x1,x2)和m^FILLE(x1,x2)        36

表目錄

表1. m^NW(x)、n^GM(x)和m^LLE(x)的漸近變異數和漸近偏誤。   6
表2. m^LLRRE(x)、m^S(x)和m^FILLE(x)以最小化期望積分方差所得之計算結果。 28
表3. m^LLRRE(x)、m^S(x)和m^FILLE(x)以最小化交叉比對值所得之計算結果。 29
表4. m^LLE(x1,x2)、m^LLRRE(x1,x2)和m^FILLE(x1,x2)以最小化期望積分方差所得之計算結果。 38
參考文獻 Chu, C.K. and Deng W.S., 2003. An interpolation method for adapting to sparse design in multivariate nonparametric regression, Journal of Statistical Planning and Inference 116, 91-111.
Chu, C.K. and Marron, J.S., 1991. Choosing a kernel regression estimator (with discussion), Statistical Science, 6, 404-436.
Collomb, G., 1981. Estimation non-parametrique de la regression: revue bilbliographique. International Statistical Review, 49, 75-93.
Deng W.S., 2005. The interpolation method revisited for multivariate nonparametric regression in the presence of multicollinear data. International Conference on Intelligent Technologies and Applied Statistics, 台北:輔仁大學
Epanechnikov, V.A., 1969. Nonparametric estimation of a multidimendional probability density. Theory Probab. Appl. 14, 153-158.
Eubank, R.L., 1988. Spline Smoothing and Nonparametric Regression. Marcel Dekker, New York.
Fan, J., 1992. Design-adaptive nonparametric regression. Journal of the American Statistical Association, 87, 998-1004.
Fan, J., 1993. Local linear regression smoothers and their minimax efficiencies. Annals of Statistics, 21, 196-216.
Fan, J., Gasser, T., Gijbels, I., Brookmann, M., and Engel, J., 1993. Local polynomial fitting: A standard for nonparametric regression. Discussion paper 9315. Institut de Statistique, Universite Catholique de Louvain, Belgium.
Fan, J., Gijbels, I., 1995. Data-driven bandwidth selection in local polynomial fitting: variable bandwidth and spatial adaptation J. Roy. Statist. Coc. Ser. B 57, 371-394.
Fan, J., Gijbels, I., 1996. Local Polynomial Modeling and Its Application – Theory and Methodologies. Chapman & Hall, New York.
Gasser, T., Muller, H.G., 1979. Kernel estimation of regression functions. In: Gasser, T., Rosenblatt, M. (Eds.), Smoothing Techniques for Curve Estimation. Springer, Heidelberg, pp. 23-68.
Gasser, T., Muller, H.G., 1984. Estimating regression functions and their derivatives by the kernel method. Scandinavian Journal of Statistics, 11, 171-185.
Gentle, 2003. Random Number Generation and Monte Carlo Methods. Springer, New York.
Hall, P., Marron, J.S., 1997. On the role of the shrinkage parameter in local linear smoothing. Probab. Theory Related Fields 108, 495-516.
Hardle, W., 1990. Applied Nonparametric Regression. Cambridge University Press, New York.
Hardle, W., 1991. Smoothing Techniques: with Implementation in S, Springer Series in Statistics. Springer, Berlin.
Marron, J.S., 1988. Automatic smoothing parameter selection: A survey. Empirical Economics, 13, 187-208.
Muller, H.G., 1988. Nonparametric Regression Analysis of Longitudinal Data. Lecture Notes in Statistics, Vol. 46. Springer, Berlin.
Nadaraya, E.A., 1964. On estimating regression. Theory of Probability and Its Applications, 10, 186-190.
Prakasa Rao, B.L.S., 1983. Nonparametric Functional Estimation. Academic Press, New York.
Rice, J., 1984. Bandwidth choice for nonparametric regression. Ann. Statist. 12, 1215-1230.
Rosenblatt, M., 1969. Conditional probability density and regression estimates. In: multivariate Analysis II (Krishnaiah, ed.), 25-31. Academic Press, New York.
Seifert, B. and Gasser, T., 1996. Finite-sample variance of local polynomials: Analysis and solutions. Journal of the American Statistical Association, 91, 267-275.
Simonoff, J.S., 1996. Smoothing Methods in Statistics. Springer, New York.
Stone, C.J., 1980. Optimal rates of convergence for nonparametric estimators. Annals of Statistics, 8, 1348-1360.
Watson, G.S., 1964. Smoothing regression analysis. Sankhya, Ser. A 26, 359-372.
Wand, M.P., Jones, M.C., 1995. Kernel Smoothing. Chapman & Hall, New York.
論文使用權限
  • 同意紙本無償授權給館內讀者為學術之目的重製使用,於2006-08-01公開。
  • 同意授權瀏覽/列印電子全文服務,於2006-08-01起公開。


  • 若您有任何疑問,請與我們聯絡!
    圖書館: 請來電 (02)2621-5656 轉 2281 或 來信