机器算法验证 - 存在确定性趋势时 OLS 的一致性 - 吾爱随笔录

机器算法验证时间序列最小二乘趋势一致性

2022-03-22 21:53:38

为了线性模型的 OLS 估计器的一致性

y_{i} = β^{T} x_{i} + ϵ_{i}, i = 1, \dots, n,

$y_i = \beta^T x_i + \epsilon_i, \; i = 1,\cdots, n,$

模型假设通常是（我熟悉的）

LLN 然后给出一致性。现在，如果其中一个回归量，比如说，是 ---如果并且我们有一个时间序列，那么一致性仍然可能吗？我想一个技巧是对第一个差异进行回归 $(x_i)_1$ $i$ $i = t$

$y_i - y_{i-1} = \beta^T (x_i - x_{i-1}) + (\epsilon_i - \epsilon_{i-1}), \; i = 1,\cdots, n,$

并假设附加正交条件。是否有标准/更复杂的方法来处理这个问题？更一般的时间趋势如何——循环、指数等？ $\mathbb{E}[\epsilon_i x_{i \pm 1}] = 0$

1个回答

OLS 估计量不仅在存在确定性趋势的情况下是一致的，而且正如他们所说，它是超更快地收敛到线性趋势上的系数的真实值率 - 在。常数项的估计量以通常的速率收敛，这使得具有渐近分布的向量函数的推导变得更加复杂。 $O(T^{-1/2})$ $O(T^{-3/2})$

考虑

$y_t = \beta t + u_t$

OLS 估计量为

\hat{β} = \frac{\sum_{t = 1}^{T} t y_{t}}{\sum_{t = 1}^{T} t^{2}} = β + \frac{\sum_{t = 1}^{T} t u_{t}}{\sum_{t = 1}^{T} t^{2}}

$\hat \beta = \frac {\sum_{t=1}^Tty_t}{\sum_{t=1}^Tt^2}= \beta +\frac {\sum_{t=1}^Ttu_t}{\sum_{t=1}^Tt^2}$

查看收敛的一种方法是考虑

Var (\hat{β}) = σ_{u}^{2} \frac{\sum_{t = 1}^{T} t^{2}}{{(\sum_{t = 1}^{T} t^{2})}^{2}} = σ_{u}^{2} \frac{1}{\sum_{t = 1}^{T} t^{2}}

$\operatorname {Var}(\hat \beta) = \sigma^2_u\frac {\sum_{t=1}^Tt^2}{\left(\sum_{t=1}^Tt^2\right)^2} = \sigma^2_u\frac {1}{\sum_{t=1}^Tt^2}$

\Rightarrow Var (\hat{β}) = \frac{σ_{u}^{2}}{T (T + 1) (2 T + 1) / 6}

$\Rightarrow \operatorname {Var}(\hat \beta) = \frac {\sigma^2_u}{T(T+1)(2T+1)/6}$

这显然归零 - 并且很快。所以估计量的方差变为零（而且它也是无偏的），这是一致性的充分条件。

如果我们在规范中添加回归量，结果不会改变——同样，我们将有不同的平稳回归系数估计量的收敛速度。它当然需要更复杂的治疗。

汉密尔顿的“时间序列分析”，ch。图 16 包含更详细的讨论，还检查了估计量的渐近分布。

简而言之，从您在问题中陈述的两个假设来看，假设 1) 是“方便的矫枉过正”，就存在确定性趋势的一致性而言，它主要用于随机回归器。请注意，对于这些结果来说，我们谈论的是确定性趋势是至关重要的。

其它你可能感兴趣的问题