Метод наименьших квадратов

Лекция. Модульная единица 8. Метод наименьших квадратов Пусть при изучении функциональной зависимости получен ряд значений величин х и y: х х0 x1 … xn y y0 y1 … yn Если аналитическое выражение функции неизвестно или весьма сложно, то находят эмпирическую формулу (1) где неизвестные параметры согласно методу наименьших квадратов выбираются таким образом, чтобы сумма квадратов отклонений значений от , вычисленных по формуле (1), была наименьшей, то есть . (2) Система уравнений для нахождения неизвестных параметров формулы (1) имеет вид: . (3) Решив систему (3) (в случае ее разрешимости), найдем так называемые наилучшие, или оптимальные, параметры Тогда искомая эмпирическая формула примет вид: В случае, когда функция (1) имеет вид многочлена степени m  n, то система (3) имеет единственное решение и, значит, составление эмпирической формулы (4) возможно. Погрешность эмпирической формулы (4) оценивается с помощью среднеквадратической ошибки: . Многочлен (4) называется наилучшим среднеквадратическим приближением функции в классе многочленов степени m. Виды функциональной зависимости 1. Линейная зависимость. Эмпирическая формула для этой зависимости имеет вид , а система (3) нахождения наилучших ее параметров принимает вид: (5) где . 2. Квадратичная зависимость. Эмпирическая формула в этом случае имеет вид , а система (3) переходит в систему 3. Степенная зависимость. Эмпирическая формула имеет вид . Логарифмируя эту формулу и вводя новые переменные видим, что исходная степенная зависимость сводится к линейной зависимости между Y и X: где Наилучшие параметры для этой линейной зависимости найдем из системы (5) с коэффициентами Тогда параметры и будут наилучшими в эмпирической формуле для степенной зависимости: . Контрольные вопросы 1. Как ставится задача точечной аппроксимации функции? 2. Как определяется многочлен наилучшего среднеквадратического приближения функции? Как связана его степень с количеством заданных узловых точек? Когда он совпадает с интерполяционным многочленом? 3. Как обосновывается существование и единственность многочлена наилучшего приближения? 4. Какая задача требует составления эмпирической формулы? 5. Как определяются наилучшие параметры выбранной эмпирической формулы? Как называется этот метод? 6. Как оценивается погрешность составленной эмпирической формулы?