最小二乘法及其在经济学中的应用开题报告

1. 研究目的与意义

最小二乘法创立与十九世纪初，是当时最重要的统计方法，在长期的发展中，人们一直处于不断的研究中，在传统最小二乘法的基础上，出现了许多更为科学先进的方法，如移动最小二乘法、加权最小二乘法、偏最小二乘法、模糊最小二乘法和全最小二乘法等，使得最小二乘法在参数估计、系统辨识以及预测、预报等纵多领域都有着广泛的应用。相关回归分析、方差分析和线性模型理论等数理统计学的几大分支都以最小二乘法为理论基础，所以最小二乘法被称之为数理统计学的灵魂。正如美国统计学家斯蒂格勒(s.m. stigler)所说，“最小二乘法之于数理统计学犹如微积分之于数学”，因此对最小二乘法的研究就显得意义重大。

最小二乘法是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法能将从实验中得出的一大堆看上去杂乱无章的数据中找出一定规律，拟合成一条曲线来反映所给数据点总趋势，以消除其局部波动。它为科研工作者提供了一种非常方便实效的数据处理方法。其他一些优化问题也可通过最小化能量或最大化熵用最小二乘法来表达。随着科技的发展，不仅在数学内涵的本身它被赋予了新的内容，而且被应用到很多研究领域。如神经网络、化学、物理、金融、经济、机械系统、通讯、电子电气工程、医疗成像等等中，研究者使用最小二乘问题来描述模型函数与实际观测值之间的误差，以找到一组使误差最小的参数。

2. 研究内容和预期目标

理解并掌握最小二乘法的基本原理，实现最小二乘法的各类算法，根据最小二乘法的自身特点，探讨最小二乘法在经济学问题中的具体应用。

介绍最小二乘法的基本原理及其思想方法，以及基于最小二乘法的一元线性回归、多元线性回归、多项式回归、能转化为线性拟合的非线性拟合等推导过程，带约束的最小二乘问题及其解法，对国内外研究现状进行整理分析，分析最小二乘法存在的问题，并利用Python/Matlab对最小二乘的几个算法进行实现，对于最小二乘的不适定性，提出克服不适定性的正则化算法，最后在经济学中运用最小二乘法做回归分析。

3. 国内外研究现状

国内外的学者们一直在对传统最小二乘法做进一步 的研究.勒让德(a.m.legender)于1805年发表了论著《计算彗星轨道的新方法》，在书中勒让德描述了最小二乘法的思想、具体做法及其优点，他认为:赋予误差的平方和为极小，则意味着在这些误差间建立了-种均衡性，它阻止了极端情形所施加的过分影响.1809年高斯(c.f gauss)在著作《天体沿圆锥截面围绕太阳运动的理论》中发表有关最小二乘法的理论，随后在1826年的著作中阐述了最小二乘法的全部内容.统计学者对最小二乘法做了进一步的研究探讨，1970年，由霍尔(a.e.horel)和肯纳德(r.w.kennard)提出的岭估计(ridge estimate)，有效的降低了原方法的病态性。

在国内，学者们也对传统最小二乘法做了非常多的改进:孙彦清在《最小二乘法线性拟合应注意的两个问题》一文中对最小二乘法线性拟合应注意的两个问题中从理论上分析了最小二乘法原理及其在实际曲线拟合问题中的应用，指出了最小乘法处理线性拟合应注意的两个问题:拟合应用条件和误差比较.在文《最小二乘法处理自变量误差实验数据的方法》中，学者代锦辉对最小二乘法在实验数据处理和在数学研究上面的应用做了相应的介绍和研究，使人们认识到:在科学实验中处理数据时，在自变量有误差的情况下，用最小二乘法的几种方法处理实验数据，这样可以降低在实际测量中由于测量数据无法避免的误差，从而提高科学实验的准确性，更加突出实验的科学性.这也使得最小二乘法在数学研究及科学实验中有着更为广泛的运用，程玉民等人 在《移动最小二乘法研究进展与评述》一文中对移动最小二乘法做了进一步的研究探讨，对移动最小二乘法做了改进，同时还评述了各种移动最小二乘法的优缺点，并概述各种移动最小二乘法形成的无网格方法的研究进展.运用各种移动最小二乘法求解静态和动态断裂力学，求解弹塑性等问题，在《改进的最小二乘法在水文分析计算中的应用》一文中，王淑英、高永胜为了达到所有实测点与拟合曲线间的相对误差尽量不超过某一百分比的原则要求，提出了非线性的加权最小二乘法及线性相关方程的最小距离平方和法，探讨改进了传统的最小二乘法达到优化的效果。

王丽(2000)讨论了用tor方法求解最小二乘问题的收敛域，首先导出了块jacobi迭代矩阵的特征值集合与tor迭代矩阵的特征值集合之间的关系。接着用比较直接的方法得到用 tor方法求解最小二乘问题收敛域和发散域，结果有所改善，最后给出了算例．比较了对于ω、γ的不同选取，tor方法的收敛速度，选取适当的参数值时，可使tor迭代法的收敛速度加快，且在同一谱半径下，当ωlt;γ时的收敛速度比ωgt;γ时的收敛速度快。

4. 计划与进度安排

首先，通过文献资料等形式了解最小二乘法的基本理论，以及存在的问题。然后，联系指导老师对研究内容给予指导，确定具体论文结构。随后搜集整理已有的相关研究、文献资料，完成外文翻译，进一步分析问题，实现相关算法，将最小二乘法与经济学相结合。

基于python/matlab与机器学习算法，参考github等开源社区，利用python丰富的数据科学库numpy，pandas，scipy，matplotlib等以及matlab中已有的最小二乘算法及工具库，对数据进行处理和可视化，以实现最小二乘算法以及在经济学中的应用。

2022年12月11日前 根据选题，广泛查阅资料，完成开题报告，明确任务要求，形成研究方向。2022年12月11日-2022年12月15日 完成文献综述和外文翻译，进一步整理论文大纲。2022年12月16日-2022年12月25日 根据论文大纲翻阅相关详细资料，理收集的相关材料，开始写论文。2022年12月25日-2022年1月18日 撰写论文初稿，上交论文、译文、开题报告、指导记录、中期检查表。2022年1月19日-2022年3月25日 修改论文，上交所有相关材料。2022年3月26日-2022年4月28日 补充必要的内容，论文打印、定稿。2022年4月29日-2022年5月27日 准备毕业论文答辩。

5. 参考文献

[1] a. ackleh, e. j. allen, r. b. kearfott, and p. seshaiyer [2009] classical and modernnumerical analysis: theory, methods, and practice. chapman and hall, new york.

[2] o. axelsson [1994] iterative solution methods. cambridge university press, new york.

[3] 王惠文, 偏最小二乘回归方法及其应用. 1999: 国防工业出版社.

[4] kincaid, d., 数值分析.第 3 版. 2005: 机械工业出版社. 216-221，245-253.