В работе рассматривается нелинейная неавтономная система обыкновенных дифференциальных уравнений (ОДУ) и соответствующее ей уравнение Лиувилля. Начальные данные системы ОДУ случайны и лежат в заданной области с известным начальным законом распределения. Для нелинейной неавтономной системы ОДУ вводится понятие ε-статистической устойчивости решения, которое позволяет исследовать поведение решения системы ОДУ с недетерменированными начальными данными. Такое исследование проводится с использованием функции плотности вероятности распределения ансамбля изображающих точек системы ОДУ. Понятие ε-статистической устойчивости решения позволяет оперировать сразу с множеством траекторий движения системы ОДУ, начальные значения которой лежат в заданной области, а также для проверки критерия ε-статистической устойчивости достаточно одной функции плотности вероятности распределения ансамбля изображающих точек Гиббса системы ОДУ, которая хоть и удовлетворяет уравнению в частных производных, но это уравнение линейное, а кроме того ищется не общее решение, а решение задачи Коши. Для введения понятия ε-статистической устойчивости решения необходимо, чтобы нелинейная система ОДУ имела решение в целом, т. е. чтобы траектории системы не уходили в бесконечность за конечное время. В общем случае ε-статистическая устойчивость не эквивалентна асимптотической устойчивости решения по Ляпунову. Однако между этими понятиями имеется тесная связь, позволяющая сформулировать необходимое и достаточное условие ε-статистической устойчивости решения для линейной автономной системы ОДУ и достаточное условие для линейной неавтономной системы ОДУ (для однородного и неоднородного случаев). В процессе исследования дисперсии нелинейной неавтономной системы ОДУ было получено необходимое и достаточное условие ε-статистической устойчивости решения системы ОДУ. Все полученные результаты проиллюстрированы на содержательных примерах.

1. Гиббс Дж. В. Основные принципы статистической механики / Дж. В. Гиббс. – М. : Л. : Гос. изд-во техн.-теор. лит., 1946. – 203 с.

2. Демидович Б. П. Лекции по математической теории устойчивости / Б. П. Демидович. – 2-е изд. – М. : Изд-во Моск. ун-та, 1998. – 480 с.

3. Красносельский М. А. Оператор сдвига по траекториям дифференциальных уравнений / М. А. Красносельский. – М. : Наука, 1966. – 331 c.

4. Леонов Г. А. Странные аттракторы и классическая теория устойчивости движения / Г. А. Леонов. – СПб. : Изд-во С.-Петербур. ун-та, 2004. – 144 с.

5. Рудых Г. А. Свойства интегральной кривой и решения неавтономной системы обыкновенных дифференциальных уравнений / Г. А. Рудых, Д. Я. Киселевич // Вестн. Самар. гос. техн. ун-та, 2012. – № 2. – C. 7–17. – (Физико-математическиенауки).

6. Steeb W.H Generalized Liouville equation, entropy, and dynamic systems containing limit cycles / W. H. Steeb // Physica. – 1979. – Vol. 95. – P. 181–190.