В настоящее время достаточно полно изучены неконсервативные возмущения двумерных нелинейных гамильтоновых систем. Цель исследования — обобщение этой теории на трёхмерный случай, когда невозмущенная система является нелинейной, интегрируемой и имеет область, заполненную замкнутыми фазовыми траекториями. В данной работе рассматриваются автономные возмущения и основное внимание уделяется задаче о предельных циклах.

Методы. Исследование основано на построении специальных координат, в которых переменные разделены на две медленные и одну быструю, и в первом приближении по малому параметру уравнения для медленных переменных отделяются. Результаты. Показано, что гиперболические состояния равновесия укороченной системы определяют замкнутые фазовые траектории, в окрестности которых под действием возмущения появляются циклы.

Заключение. Таким образом, задача сводится к исследованию «порождающей» системы двух алгебраических или трансцендентных уравнений аналогично порождающему уравнению Пуанкаре–Понтрягина для двумерных систем. В качестве примеров рассматриваются трёхмерная система типа ван дер Поля и система Лоренца в случае больших чисел Рэлея.