第一章引言样条估计 样条是回归样条的一种 它主要是用样条函数

作者:银河娱乐1331登录   来源:http://www.mr-han.com    栏目: 1331银河网站登录    日期:2019-10-10

  第一章引言样条估计 样条是回归样条的一种 它主要是用样条函数基的线性组合来进行函数逼近 在非参数回归中有非常广泛的应用。这里 首先简要介绍一下 样条函数及其主要性质 详细内容可参阅文献【 为区间陋】上的七个不同的节点 次的样条函数空间为 次多项式其中 】为区间【口】上具有 阶有界连续可导的函数集。次

  第一章引言样条估计 样条是回归样条的一种 它主要是用样条函数基的线性组合来进行函数逼近 在非参数回归中有非常广泛的应用。这里 首先简要介绍一下 样条函数及其主要性质 详细内容可参阅文献【 为区间陋】上的七个不同的节点 次的样条函数空间为 次多项式其中 】为区间【口】上具有 阶有界连续可导的函数集。次样条函数由节点名惟一确定 所有节点为 次样条函数的集合构成一个线性空间 七为节点的个数。一个比较常用而性质优良的基为样条函数基。设 为区间【】上的七个不同的节点 的均差名看作变量 线性无关为样条函数空间 的一组基 称为 次规范化的 样条函数基。对于任意的 存在使得 样条函数。仇次规范化的样条函数具有如下性质 的一组基。对于任意的 个节点将区间】分成 个小区间 。所以在每个小区间上只有仇 样条基不等于其余均为 的所有元素在每个区间上都不为。因此可以看出 样条函数基具有局部性质 而一般的多项式则具有整体性质。 样条的这种局部性质使得它在非参数回归中得以广泛应用。 样条函数由其节点唯一确定节点的个数在未知函数估计的光滑程度和拟合数据之间起到一个平衡作用。随着节点数目的增加 样条估计的方差会越来越大 偏差越来越小 此时估计充分的拟合数据 而随着节点的减少 样条估计的方差会越来越小 偏差越来越大 此时估计的函数比较光滑 因此节点可以控制函数估计的光滑程度。最常见的节点为均匀节点 个节点将区间等分。更一般的 。存在一个常数尬使得丽 成立则称满足该条件的节点为拟均匀节点 式可知所以 一口 一口由样条函数的定义可知 区间陋 阶有界连续导函数。反过来任意一个 阶的光滑函数均可以由 样条来逼近 其逼近误差由下述引理给出 引理 满足条件 存在常数对于任意的 成立节点满 有关的常数尬使得 由该引理看以看出若回归函数 为一个光滑函数 则在一定的正则条件下 存在 样条函数胪 使得 等提出并将其应用于环境数据分析 利用局部线性估计和回拟技术对未知参数和未知函数进行估计 未并且给出了估计的渐近性质。 】利用惩罚样条的方法对变系数单指标模型进行了估计文章中利用非线性最小二乘估计同时估计未知参数和函数 并给出了参数估计的渐近性质。另外 】研究了该模型指标项参数的统计推断问题最近 】又讨论了变系数单指标比例风险模型。上述变系数单指标模型的研究文献中主要利用局部线性估计来估计未知参数和函数这是一种局部估计的方法。正如前文所说 局部线性估计对窗宽的敏感性很强 同时又由于变系数单指标模型含有两个拥有不同自变量的未知函数 因此局部线性估计时对窗宽的选择比较困难 利用惩罚样条进行估计时同时估计了未知参数和函数 但此时对参数的初值的选取有较高的要求 而且惩罚样条比 样条要求更多的节点 因此利用惩罚样条估计时 估计的参数较多 有时较难收敛。本文将利用 样条来估计变系数单指标模型 这是一种全局的估计方法 而且 样条比惩罚样条要求更少的节点 估计的参数也相对较少 这在非线性最 乘时是比较重要的。利用 样条进行估计时 主要有如下三个优点 一是 样条基函数的支撑是局部的 即任意一个区间上只有 样条函数基不等于其余均为 因此 样条可以很好的反映近似函数的局部行为 二是 样条方法仅需要较少的节点数目即可获得较好的近似效果 三是 样条在计算时效率较高而且比较稳定。本文主要应用 样条估计研究变系数单指标模型的参数估计及未知函数的估计问题 并且分两种估计方法分别探讨了估计的渐近性质及证明。其中第二章介绍了 研究现状及本文研究内容条的基本概念与性质说明了 样条逼近光滑函数时的逼近误差。并且给出了利用 样条估计变系数单指标模型的两种方法 第一种方法是直接同时估计单指标参数伽与 样条函数基前的系数 第二种方法是将单指标参数与未知函数分开估计 通过循环迭代获得参数与未知函数的估计。最后本章介绍了 样条估计时节点的选择问题。第三章分别针对上述两种估计方法分别给出参数估计的渐近性质 并在一定的假设条件下 对两种方法的渐近性质进行了证明。第四章通过模拟的方法说明了 样条估计未知函数的效果 以及单指标参数估计的渐近正态性。最后一章对整篇文章进行了总结。一 第二章变系数单指标模型的估计第二章变系数单指标模型的估计变系数单指标模型 】等提出它推广了部分线性单指标模型、变系数模型等。同时该模型是非常灵活的 它涵盖了很多种其它的模型。例如 该模型变为非参数单指标模型当口 模型变为拥有变化截距项的不同平滑变量的变系数函数系数 模型 当没有协变量 模型变为拥有单平滑变量的变系数模型。本章将主要研究变系数单指标模型的样条估计 并且给出了两种估计方法 最后本章介绍了 样条估计时节点的选择方法。 估计方法变系数单指标模型 为未知函数误差项 和伽第一个非零元素大于。主要是为了使指标项参数具有可识别性因为如果印 为真实的单指标部分则当未知函数 具有等价关系此时 嘞为函数瞄 下的单指标参数。由上节 样条的性质可知 未知函数知 可以由 样条函数基的线性组合来逼近 假设知 由节点数为 其中南均为 维向量。同理可以用节点个数为‰的 样条函数基来近似未知函数。为了表述方便 现给出一些符号定义 如五口为了获得参数呦和未知函数知的估计 下面给出两种估计方法。 同时估计参数和未知函数方法一 直接利用非线性最小二乘估计同时估计参数 和未知函数 样条逼近后的样条函数基前的系数即直接估计参数口。 估计方法首先给出参数口的初值 然后极小化下式获得口的估计值每 口。方法实现方法一的实现主要涉及参数 的初值选择和 样条节点选择 关于节点的选择我们将在本章最后详细介绍。参数口 的初值较难选择这里我们首先利用如下的半变系数模型获得口的初值 即通过极小化下式获得的初值 获得 的初值后 再通过极小化下式获得 的初值 至此我们即获得了口 的初值然后利用 算法即可获得参数的非线性最小二乘估计。通过半变系数模型获得口的初值是当前比较常用的方法 该模型假设单指标项外面不含有未知函数。 分别估计参数和未知函数方法二 分别估计参数 和未知函数 。为了便于表述 首先给出一些符号标记 步骤一给出参数伽的初值 此时相当于伽己知 可以通过极小化下式获得 的估计值占 上式可以写为由此可以推出 步骤二利用步骤一中求得的未知函数值句 如此可以获得的估计值 。步骤三 利用步骤二所得的 作为初值 重复步骤一、二 直到 收敛。此时所得的 为伽的估计值 未知函数的估计为 。方法实现方法二主要需要给出参数 的初值 在此同样可以由公式 获得。两种方法看似没有太大区别 第一种方法直接用非线性最小二乘估计所有参数 第二种方法将参数蜘和 分开估计并进行迭代。但是从接下来的证明和模拟中 我们会看到 这两种方法所要求的假设条件、初值选取及计算效率等都有所不同。第一种方法直接对所有的参数进行估计 对初值选取的要求很高 如果不能选择合适的初值则很较难获得较优的估计结果。同时由于同时估计的参数较多 非线性最小二乘时收敛速度可能较慢。方法二需要多次迭代单独估计参数 每次迭代都需要利用非线性最小二乘估计参数劬但如果选择合适的初值 则会较快的获得 的较好估计 反而可能减小迭代过程中的计算量。总的来说 当待估参数较多时 应该利用第二种方法进行估计 否则可以利用第一种方法同时估计指标项参数与未知函数。 节点选择前两节中 我们介绍了 样条估计变系数单指标模型的两种估计方法 并给出了估计方法的实现过程。但是 样条函数基来逼近未知函数时 首要的是选择节点 因此本节我们将详细介绍 样条估计时如何进行节点选择。用 样条函数基来逼近未知函数时 首要的是选择节点 节点选择包括两个方面 一是节点的位置 二是节点的个数。关于节点的位置 常见的有两种方法 均匀节点和非均匀节点。比如设回归变量 若选择个均匀节点 个内节点的分别是选择非均匀节点时 常用的方法是选择回归变量等间隔的样本分位点 比如选择 个非均匀节点 则此时节点为回归变量的第 第二章变系数单指标模型的估计匀节点的好处是可以保证节点之间的样本个数近似相等。对于函数系数来说 当样本量较大时 均匀节点与非均匀节点相差不大 但是对于单指标部分知 来说由于变量 的分布可能并不均匀此时均匀节点与非均匀节点可能有较大差异。另外 节点个数的选择也非常重要 节点个数在拟合数据和估计函数的光滑程度之间起平衡作用。节点数目较大时 样条估计的方差较大 偏差较小 节点个数较少时 样条估计的方差较少 偏差较大。选择节点数目的常用标准主要有 交叉验证 、广义交叉验证 准则、准则。交叉验证就是选择节点的个数 使得 州肛氍最小。广义交叉验证就是选择节点的个数使得 焉蔷最小 其中 个对角线上的元冬素为矩阵日的迹。 】发现对于样条函数 节点的选择信息准则比 准则稍微好些。其中灿准则是指 选择节点的个数使得下式尽可能的小 为回归模型中参数的个数为损失函数 最常用的是平方损失函数和线性损失函数 本文只考虑平方损失函数。 准则一方面要求估计的残差尽可能小 另一方面回归函数尽可能的简单 即模型参数的个数尽可能小 上式的第二项可以看作是对于复杂模型的一种惩罚。 准则经常导致过分地拟合数据 提出了信息准则 即选择节点使下式尽可能的小 警因此本文将利用准则选择节点个数 其中损失函数为平方损失函数 并且为了方便计算 节点位置将选择均匀节点。因为如果选择等样本分位点的非均匀节点 样条函数随着参数的变化而不断变化 即迭代估计口时 样条的节点不断变化。变系数单指标模型包括两个拥有不同自变量的未知函数 即该模型涉及到两个 样条函数基的节点选择问题。两个 样条函数可以选择不同的节点个数 并计算 信息 最后选择使 值最小的节点个数组合。

  变系数单指标模型B样条估计估计,样条,系数,B样条估计,系数指标,样条估计,变系数模型,B样条,B 样条,指标模型

上一篇:闭区域上连续函数的性质在有界闭区域D上的多元连续函数 在D上       下一篇:章基于非线性系统模型的轨迹跟踪控制器设计进而得到旷显然 是一