В небесной механике обычно рассматривается движение гравитирующих тел, расположенных друг по отношению друг к другу внешним образом. Гораздо менее распространено изучение так называемой задачи Роба [1], в рамках которой предполагается, что тело или материальная точка движется внутри гравитирующей среды. Такая постановка задачи оказывается применимой при изучении динамики звезд в галактической среде [2].
Пусть — твердое тело, получающееся из однородного шара с центром радиуса изъятием содержимого сферической полости с центром радиуса : . Предполагается, что тело совершает вращение c постоянной угловой скоростью вокруг оси, перпендикулярной оси и проходящей через точку — центр масс тела. Пусть материальная точка движется по внутренней или внешней поверхности тела под действием притяжения со стороны тела и, быть может, силы сухого трения. В дальнейшем считается, что частичка пренебрежимо мала по сравнению с телом и не оказывает влияния на его движение. Предполагается, что полость не выходит за пределы внешней поверхности тела.
Предполагается, что точка движется внутри полости или по поверхности этой полости. Движение осуществляется под действием силы притяжения с его стороны, центробежной и кориолисовой сил, а также нормальной и касательной составляющих реакции в случае соприкосновения точки с поверхностью . При наличии такого соприкосновения под касательной составляющей реакции понимается сила сухого трения.
Для исследования задачи о движении точки введена равномерно вращающаяся вместе с телом система отсчёта , ось которой направлена вдоль оси симметрии тела, ось направлена вдоль оси вращения, а ось дополняет их до правой тройки.
Замечание. Главные центральные моменты инерции тела , , удовлетворяют неравенству
т. е. предполагается, что динамически симметричное тело вращается вокруг оси инерции, отвечающей наименьшему моменту инерции.
Как известно (см., например, [3], задача О-130), напряженность поля притяжения со стороны тела внутри полости имеет вид
где — постоянная тяготения, — плотность тела . Иными словами, внутри полости поле сил притяжения постоянно и однородно.
В случае отсутствия трения с помощью метода Рауса [4–6] обнаружены четыре класса точек либрации.
Точкам либрации I и II отвечают ближняя и дальняя точки диаметра полости, расположенного на оси симметрии тела. Каждая из этих точек либрации имеет физический смысл в некотором диапазоне угловых скоростей, при которых нормальная реакция, задаваемая величиной , положительна. Неизолированные точки либрации III, существующие при единственном значении угловой скорости, заполняют окружность, расположенную в сечении полости координатной плоскостью . Точки либрации III физичны: на них реакция связи положительна. Точки либрации IV находятся внутри полости, на них реакция связи обращается в нуль. Эти точки, существующие в определенном диапазоне угловых скоростей, также неизолированы: при каждом значении угловой скорости они заполняют некоторую хорду, параллельную оси вращения и пересекающую ось симметрии тела. Установлены диапазоны угловых скоростей, в которых устойчивы по Ляпунову точки либрации из множеств I и II. Показано, что точки либрации из множеств III и IV всегда неустойчивы. Изучено ветвление упомянутых множеств точек либрации, построены бифуркационные диаграммы, с помощью которых исследованы области возможного движения. Указаны значения параметров, когда область возможного движения пуста, когда она диффеоморфна диску или полноторию, а также когда она совпадает со всей полостью.
Также рассмотрен случай, когда поверхность полости шероховатая, с коэффициентом трения , где — угол трения.
Если , , то можно ввести обозначения
Пусть . Для случая имеет место неравенство
При имеем
Для случая имеет место неравенство
Для значений угловой скорости, принадлежащих различным промежуткам, определяемым неравенствами (1) и (2), установлены области, заполненные неизолированными точками либраций. Установлено, что эти области могут быть топологически эквивалентны совокупности дисков и колец.
Замечание. В случае, когда тело равномерно вращается около оси симметрии, исследование задачи о движении материальной точки по его поверхности выполнено в [7].