07 июня 2020г.
В ходе изучения физических процессов возникает задача аппроксимации функции, заданной таблично, либо значения её были получены опытным путём. Но может быть и так: функция приобрела своё аналитическое выражение, но использование её в полученном виде в дальнейших исследованиях вызывает затруднение. Приходится пренебрегать некоторыми параметрами, чтобы упростить её выражение. Самым простым методом отыскания аппроксимирующей функции является метод наименьших квадратов (МНК), который минимизирует сумму квадратов ошибок[1].
Метод, который применяют
для
решения
задачи оптимизации параметров модели нелинейной регрессии, разработали Левенберг [4] и независимо Марквардт [5].
Метод Левенберга-Марквардта нашёл применение при расчёте системы
электроснабжения электрифицированных железных дорог [6], [7]. Здесь возникают задачи определения таких параметров, как мощность тяговых подстанций, оптимальное расстояние между ними, экономическое сечение контактной подвески. Методы расчёта сетей со стационарными нагрузками не могут быть применены для расчёта тяговых сетей, так как здесь происходит непрерывное изменение во времени расположения нагрузок, величины и числа их на зоне питания, проявляется неустойчивый характер графиков нагрузки отдельных элементов системы. Исходными данными расчёта
сетей являются график движения поездов, заданный в явном или неявном виде, результаты тяговых расчётов, представленные зависимостями тока поезда и времени его хода в функции пути, а также данные, которые могут быть получены в результате исследования системы на имитационной модели. Метод нашёл применение и в обучении нейронных сетей как метод доверительных интервалов, где в качестве критерия оптимизации используется среднеквадратичная ошибка модели на обучающей выборке[8].
Список литературы
1.
Демидович Б.П., Марон И.А. Основы вычислительной математики. М. : Наука. 1966 г., с. 644.
2.
Поляк Б.Т. Метод Ньютона и его роль в оптимизации и вычислительной математике. Труды ИСА РАН, т. 28, с. 48-66.
3.
Пархоменко С.С., Леденёва Т.М. Обучение нейронных сетей методом
Левенберга-Марквардта в условиях большого количества данных. Вестник ВГУ, Серия: Системный анализ и информационные технологии. 2014, №2, с. 98-106.
4.
Levenberg K. A method for the solution of certain
nonlinear problems in least
squares // Quarterly of Applied Mathematics. 1944, #2, p. 164-168.
5.
Marquardt D. An algorithm for least squares estimation of nonlinear parameters // SIAM Journal of Applied Mathematics. 1963, 11,p. 431–441.
6.
Марквардт К.Г. Электроснабжение электрифицированных железных дорог. М: Транспорт, 1982. – 528 с. (1965. – 464 с.)
7.
Марквардт К.Г.
О
совершенствовании расчётов системы электроснабжения электрических железных дорог // Труды ин-та / Моск. Ин-т инж. Тр-та. – 1970. – Вып. 340. – 4 – 8.
8.
https://habr.com/ru/post/428183/Andrey Gaskov. Реализация алгоритма Левенберга-Марквардта для оптимизации нейронных сетей на Tensor Flow.
