Asymptotic Normality of Nadaraya-Watson Estimator

Answered using GPT-4o Mini by GPT4oMini.app

Question:

Assume the univariate random design model and some regularity conditions, discussing the asymptotic normality of the Nadaraya-Watson estimator ˆmh(x)用中文回答我

Answer:

在单变量随机设计模型下,Nadaraya-Watson估计器是一种常用的非参数回归方法。为了讨论Nadaraya-Watson估计器(\hat{m}_h(x))的渐近正态性,我们需要考虑一些基本的假设和正则性条件。

首先,Nadaraya-Watson估计器的定义为:

[ \hat{m}h(x) = \frac{\sum{i=1}^{n} K_h(x - X_i) Y_i}{\sum_{i=1}^{n} K_h(x - X_i)} ]

其中,(K_h)是核函数,(h)是带宽参数,(X_i)是自变量,(Y_i)是因变量。

渐近正态性的条件

  1. 核函数的选择:核函数(K)通常需要满足一些条件,例如是对称的、非负的,并且在某个区间内积分为1。此外,核函数的光滑性也会影响估计器的性质。

  2. 带宽的选择:带宽(h)的选择对估计器的表现至关重要。通常要求(h)随着样本量(n)的增大而趋近于0,但要保证(nh)趋近于无穷大,以确保估计的稳定性。

  3. 样本独立同分布:假设样本((X_i, Y_i))是独立同分布的,这样可以确保估计器的无偏性和一致性。

  4. 光滑性条件:假设真实的回归函数(m(x))在某个邻域内是光滑的,这样可以保证估计器在该点附近的收敛性。

渐近正态性结果

在满足上述条件的情况下,可以证明Nadaraya-Watson估计器(\hat{m}_h(x))在样本量趋近于无穷大时,具有渐近正态性。具体来说,存在常数(C)和一个适当的标准差(\sigma_h(x)),使得:

[ \sqrt{n}(\hat{m}_h(x) - m(x)) \xrightarrow{d} N(0, \sigma_h^2(x)) ]

这里,(\xrightarrow{d})表示分布收敛,(N(0, \sigma_h^2(x)))表示均值为0、方差为(\sigma_h^2(x))的正态分布。

结论

综上所述,在适当的正则性条件下,Nadaraya-Watson估计器在样本量趋近于无穷大时,能够收敛到一个正态分布。这一结果为非参数回归分析提供了理论基础,使得我们可以在实际应用中对估计结果进行推断和置信区间的构建。