Оценивание параметров модели методом наименьших квадратов

Обратимся к примеру простой эконометрической модели, где нужно количественно оценить связь между расходами на потребление и доходами семьи (см. підрозд. 2.3). Чтобы оценить параметры модели (2.16), необходимо сформировать исходную совокупность наблюдений, каждая единица которой будет характеризоваться расходами на потребление и доходами семей. Предположим, что эконометрическая модель потребления строится для той группы людей, в которой с ростом доходов растут расходы на потребление, то есть модель имеет вид (2.16).Рис. 2.2. Корреляционное поле точек
Изобразим каждую пару наблюдений в системе координат, где величина расходов на потребление откладывается на оси y, а доходов - на оси абцис. В результате получим корреляционное поле точек (рис. 2.2).
На основании гипотезы о линейность связи между расходами на потребление и доходом семей (см. рис.2.2), через корреляционное поле точек можно провести множество прямых линий, которые различаются между собой параметрами и . Так, если расходы на потребление будут описываться прямой I, то их отклонения фактических значений от расчетных будут преимущественно знак "минус". Если они будут описываться прямой III, то эти отклонения будут преимущественно положительными, а если прямой II, то количество отрицательных и положительных отклонений будет примерно одинаковой. Наличие среди отклонений преимущественно отрицательных или положительных значений подтверждает, что они имеют неслучайный характер. А это означает: определенная прямая линия не адекватно описывает фактическую зависимость между расходами на потребление и доходом семей. Отсюда возникает задача - применить метод наименьших квадратов для оценивания параметров модели, чтобы отклонение фактических затрат от расчетных на основе прямого имели примерно одинаковую сумму отрицательных и положительных значений, а также были бы минимальными. Последнее будет свидетельствовать о том, что расчетные значения расходов на потребление максимально приближены к фактическим, а это является гарантом достоверности модели.

Не целесообразно находить параметры эконометрической модели, минимизируя сумму линейных отклонений фактических расходов на потребление от расчетных, потому что она может равняться нулю, если сумма отрицательных и положительных отклонений будет одинаковой. Поэтому минимизации подлежит сумма квадратов отклонений, и ее величина будет зависеть непосредственно от рассеивание точек вокруг линии регрессии, а именно:

Принцип наименьших квадратов отклонений заключается в нахождении таких , для которых наименьшая. Необходимое условие для этого - преобразования на ноль производных этой функции по каждому из параметров . Метод, который реализует принцип наименьших квадратов, называется методом наименьших квадратов (1МНК). Поскольку

Выполнив элементарные преобразования, получим систему нормальных уравнений

Подставим в систему (2.19) значение , , , , которые можно получить на основании совокупности наблюдений, и решим ее относительно неизвестных параметров и :

Поскольку оценки наименьших квадратов такие, что линия регрессии обязательно проходит через точку средних значений (), то оценки параметров модели можно найти несколько иначе.

Поделив первое уравнение системы (2.19) на n, получим:

. (2.20)

Вычтем (2.20) от (2.16):

Да , и тогда ,

а отклонения фактических значений от расчетных будут такие:

Сумма квадратов остатков при этом

.

Минимизация этой суммы по неизвестным параметром дает соотношение


Кроме того, можно заметить, что есть вторая производная по параметру от суммы квадратов отклонений положительная. Итак, найденное значение соответствует минимуму суммы квадратов отклонений.

Параметр можно вычислить, используя соотношение (2.20):


Соотношение (2.21) можно было бы достать также, записав второе уравнение системы (2.19) через отклонение каждой переменной от ее среднего арифметического значения, вспомнив при этом, что сумма таких отклонений всегда равна нулю.

Другие статьи по теме:

- Оценивание параметров модели методом максимального правдоподобия
- Францишак Скорина и его последователи
- Промышленность строительных материалов
- Понятие однородности наблюдений
- Сельское и городское население в Киевской Руси
 
Американский миллиардер и инвестор Уоррен Баффет, который хочет инвестировать в такие страны, как Китай, Бразилия и Индия, уверен, что мировая экономика в ближайший год «значительно» вырастет, сообщают «Вести».
Место доллара в мировой экономике в будущем должна сменить не одна, а целая корзина национальных валют, считает глава отдела мировой экономики Китайского института международных проблем Цзян Чуньюэ.
В Брюсселе завершается двухдневный саммит Европейского Союза. Дискуссия по повестке дня состоялась накануне. А 25 марта главы государств и правительств стран ЕС должны доработать и принять соответствующие постановления.