词条 | 赤池信息量准则 |
释义 | 基本概念赤池信息量准则,即Akaike information criterion、简称AIC,是衡量统计模型拟合优良性的一种标准,是由日本统计学家赤池弘次创立和发展的。赤池信息量准则建立在熵的概念基础上,可以权衡所估计模型的复杂度和此模型拟合数据的优良性。 AIC在一般的情况下,AIC可以表示为: AIC=2k-2ln(L) 其中:k是参数的数量,L是似然函数。 假设条件是模型的误差服从独立正态分布。 让n为观察数,RSS为剩余平方和,那么AIC变为: AIC=2k+nln(RSS/n) 增加自由参数的数目提高了拟合的优良性,AIC鼓励数据拟合的优良性但是尽量避免出现过度拟合(Overfitting)的情况。所以优先考虑的模型应是AIC值最小的那一个。赤池信息准则的方法是寻找可以最好地解释数据但包含最少自由参数的模型。 AICc和AICu在样本小的情况下,AIC转变为AICc: AICc=AIC+[2k(k+1)/(n-k-1) 当n增加时,AICc收敛成AIC。所以AICc可以应用在任何样本大小的情况下(Burnham and Anderson, 2004)。 McQuarrie 和 Tsai(1998: 22)把AICc定义为: AICc=ln(RSS/n)+(n+k)/(n-k-2), 他们提出的另一个紧密相关指标为AICu: AICu=ln[RSS/(n-k)]+(n+k)/(n-k-2). QAICQAIC(Quasi-AIC)可以定义为: QAIC=2k-1/c*2lnL 其中:c是方差膨胀因素。因此QAIC可以调整过度离散(或者缺乏拟合)。 在小样本情况下, QAIC表示为: QAICc=QAIC+2k(2k+1)/(n-k-1). |
随便看 |
百科全书收录4421916条中文百科知识,基本涵盖了大多数领域的百科知识,是一部内容开放、自由的电子版百科全书。