Группа неподвижных точек автоморфизма свободной группы

Алгебра и логика, 42, N 4 (2003), 422—472

УДК 512.54+512.544

ГРУППА НЕПОДВИЖНЫХ ТОЧЕК АВТОМОРФИЗМА СВОБОДНОЙ ГРУППЫ∗) О. С. МАСЛАКОВА Введение Пусть Fn — свободная группа конечного ранга n, α — ее автоморфизм. Группа Fix(α) = {x ∈ Fn : α(x) = x} называется группой неподвижных точек автоморфизма α. Бествина и Хендел [1] ввели понятие относительного трейн-трека, с помощью которого доказали гипотезу Скотта о том, что ранг группы Fix(α) не превосходит n. Коэн и Люстиг [2] построили алгоритм вычисления базиса группы Fix(α) для положительных автоморфизмов α. Автоморфизм α называется приводимым, если в Fn имеется неединичный свободный множитель вида G1 ∗ . . . ∗ Gk такой, что α транзитивно переставляет классы сопряженности подгрупп G1 , . . . , Gk . В противном случае он называется неприводимым. Тернер [3] указал алгоритм, позволяющий вычислять базис Fix(α) для неприводимого автоморфизма α, топологически представимого трейн-треком. Основным результатом данной работы является следующая ТЕОРЕМА. Базис группы неподвижных точек произвольного автоморфизма свободной группы конечного ранга алгоритмически вычислим. Люстиг анонсировал аналогичный результат в [4]. ∗)

Работа выполнена при финансовой поддержке Совета по грантам Президента РФ

и государственной поддержке ведущих научных школ, проект НШ-2069.2003.1, а также СО РАН, грант Лаврентьевского конкурса молодых ученых. c Сибиpский фонд алгебpы и логики, 2003

Группа неподвижных точек автоморфизма

423

§ 1. Относительный трейн-трек 1.1. Относительный трейн-трек для внешнего автоморфизма группы Fn . Введем основные определения и напомним некоторые факты из [1]. Пусть Γ — конечный связный ориентированный граф, Γ0 — множество вершин, Γ1 — множество ребер графа Γ. Через E обозначается ребро, противоположное ребру E. Иногда будем рассматривать геометрическую реализацию графа Γ и обозначать ее той же буквой. Путь в графе Γ — это непрерывное отображение τ (t) : [0, 1] → Γ, локально инъективное в точках t ∈ [0, 1] таких, что f (t) ∈ / Γ0 . Часто путь будет отождествляться со своей геометрической реализацией в Γ. Начальную и конечную точки пути τ обозначим через α(τ ) и ω(τ ). В основном рассматриваем только те пути в Γ, начальная и конечная точки которых являются вершинами, иначе это оговаривается отдельно. Подпути вида x¯ x назовем сокращениями в пути τ . Скажем, что путь приведен, если он не содержит сокращений. Через [τ ] обозначается приведенный путь, гомотопный τ относительно концов. Выражение τ = µ используется в случае, если пути µ, τ гомотопны, а τ · µ — в случае, если нет нетривиального общего ачального подпути τ¯ и µ. Пусть f : Γ → Γ — гомотопическая эквивалентность, удовлетворяющая условиям: f (Γ0 ) ⊆ Γ0 , отображение f |Γ\Γ0 локально инъективно, для любого ребра E путь f (E) приведен и α(f (E)), ω(f (E)) ∈ Γ0 . Пусть v — произвольная вершина графа Γ. Отождествим фундаментальную группу π1 (Γ, v) со свободной группой Fn . Пусть τ — произвольный путь в Γ, соединяющий вершины v и f (v). Зададим автоморфизм α группы Fn по правилу p 7→ τ f (p)¯ τ . Для различных путей τ соответствующие им автоморфизмы отличаются на внутренний автоморфизм группы Fn . Обозначим через O(α) внешний автоморфизм группы Fn с представителем α. Таким образом, f индуцирует внешний автоморфизм O(α) свободной группы Fn и называется топологическим представителем автоморфизма O(α). Этот автоморфизм не зависит от того, какую вершину v графа Γ рассматривать как базисную. Если f (v) = v, то f индуцирует автоморфизм α свободной

424

О. С. Маслакова

группы Fn , заданный по правилу p 7→ f (p). В этом случае f называется топологическим представителем автоморфизма α. Разворотом в графе Γ называется неупорядоченная пара его ребер с общей начальной вершиной. Разворот вырожден, если эти ребра совпадают, и невырожден в противном случае. Отображение Df : Γ1 → → Γ1 каждому ребру E ставит в соответствие первое ребро пути f (E). Отображение T f действует на разворотах по правилу T f ((E1 , E2 )) = = (Df (E1 ), Df (E2 )). Разворот (E1 , E2 ) называется разрешенным, если развороты (T f )n ((E1 , E2 )) невырождены для всех натуральных n, и запрещенным в противном случае. Путь с начальной и конечной точками в вершинах называется разрешенным, если он не содержит запрещенных разворотов. Из каждой пары противоположных ребер графа Γ выберем по одному, и занумеруем выбранные ребра натуральными числами от 1 до k. Матрица M = (mi,j ) отображения f : Γ → Γ определяется следующим образом: mi,j равно числу вхождений ребра с номером i и обратного к нему в f -образ ребра с номером j. Фильтрация для f : Γ → Γ — это возрастающая последовательность f -инвариантных подграфов ∅ = G0 ⊂ · · · ⊂ GN = Γ. Подграф Hi = cl(Gi \Gi−1 ) называют i-ым слоем. Разворот с одним ребром из Hi и другим из Gi−1 называется смешанным в (Gi , Gi−1 ). Можно предполагать, что ребра в Γ упорядочены так, что ребра в Hi предшествуют ребрам в Hi+1 . Ребра из Hi определяют квадратную подматрицу Mi матрицы M . Фильтрация называется максимальной, если каждая матрица Mi является неприводимой или нулевой. В дальнейшем будут встречаться только максимальные фильтрации. Число Перрона–Фробениуса неприводимой матрицы Mi обозначают λi . Известно, что λi > 1. Слой Hi называется экспоненциально растущим, если λi > 1, и 1-слоем или единичным слоем, если λi = 1. В последнем случае известно, что Mi — матрица перестановки. Слой Hi называется 0-слоем, если Mi — нулевая матрица. Путь, не содержащий запрещенных разворотов в Hr , называется r-разрешенным. Последовательность максимальных сегментов пути τ из Hr назовем r-частью пути τ .

Группа неподвижных точек автоморфизма

425

Пусть Hr — экспоненциально растущий слой, ~v — фиксированный собственный вектор-столбец матрицы Mr , отвечающий числу Перрона– Фробениуса λr . Заметим, что координаты вектора ~v — полиномы от λr с рациональными коэффициентами. Для ребер из Hr положим r-длину ребра равной соответствующей координате вектора ~v , для единичного слоя Hr — равной 1, для невходящих в Hr — равной 0. Через Lr обозначается r-длина. Для пути p обозначим через l(p) длину его геометрической реализации (каждое ребро отождествляется с отрезком [0, 1]). Для сегмента x ребра E ∈ Hr положим Lr (x) = l(x)Lr (E). Определим r-длину пути p как сумму r-длин сегментов, из которых он состоит. Пусть λ — число Перрона–Фробениуса некоторой матрицы M . Так как λ алгебраично, можно алгоритмически выяснить, равны ли выражения вида p(λ)/q(λ), где p(t) и q(t) — некоторые полиномы с рациональными коэффициентами. Поскольку λ оценивается с любой, наперед заданной, точностью, выражения такого вида можно алгоритмически сравнить. В дальнейшем это будет использоваться без дополнительных объяснений. Гомотопическая эквивалентность f : Γ → Γ называется относительным трейн-треком, если можно указать максимальную фильтрацию для графа Γ такую, что для любого экспоненциально растущего слоя Hr выполняются следующие условия: (RTT-i) Df отображает ребра из Hr в ребра из Hr , в частности, все смешанные развороты в (Gr , Gr−1 ) разрешены; (RTT-ii) если ρ — нетривиальный путь, содержащийся в Gr−1 , с концами в Hr ∩ Gr−1 , то [f (ρ)] — нетривиальный путь с концами в Hr ∩ Gr−1 ; (RTT-iii) для любого r-разрешенного пути ρ ⊂ Gr путь f (ρ) не содержит запрещенных разворотов из Hr . Заметим: из данного определения следует, что для любых экспоненциально растущего слоя Hr и r-разрешенного пути µ ⊂ Gr с начальной и конечной точками в вершинах имеем Lr (f (µ)) = λr Lr (µ). ТЕОРЕМА 1.1 [1]. Для любого внешнего автоморфизма O(α) свободной группы Fn можно эффективно построить его топологический представитель f : Γ → Γ, являющийся относительным трейн-треком.

426

О. С. Маслакова 1.2. Относительный трейн-трек для автоморфизма группы

Fn . Для гомотопической эквивалентности f : Γ → Γ с неподвижной вершиной v определим Fix(f ) как группу гомотопических классов петель p с базисной вершиной v таких, что f (p) гомотопен p. Пусть α — автоморфизм свободной группы Fn . Покажем, как перейти от вычисления базиса группы Fix(α) к вычислению базиса группы Fix(f1 ) для некоторого относительного трейн-трека f1 : Γ1 → Γ1 с неподвижной базисной вершиной v1 . Пусть c ∈ Fn . Обозначим через ic внутренний автоморфизм свободной группы Fn , действующий по правилу ic (w) = cwc−1 , где w ∈ Fn . ПРЕДЛОЖЕНИЕ 1.2. Пусть α ∈ Aut(Fn ). Тогда можно эффективно найти натуральное r, автоморфизм β ∈ Aut(Fn ∗ Fr ) и топологический представитель f0 : Γ0 → Γ0 для O(β) такие, что β является продолжением α, Fix(β) = Fix(α), топологический представитель f0 является относительным трейн-треком и имеет неподвижную вершину. ДОКАЗАТЕЛЬСТВО. По теореме 1.1 построим топологический представитель f : Γ → Γ для O(α) ∈ Out(Fn ), являющийся относительным трейн-треком. Пусть v — вершина в графе Γ такая, что f r+1 (v) = v для некоторого r > 0. Отождествим π1 (Γ, v) с Fn . Можно выбрать путь σ с начальной вершиной v и конечной f (v) такой, что α совпадает с автоморфизмом группы π1 (Γ, v), заданным по правилу p 7→ σf (p)¯ σ. Чтобы получить граф Γ0 , добавим к Γ одну новую вершину v0 и r + 1 новое ребро e0 , e1 , . . . , er с общим началом в v0 и концами в v, f (v), . . . . . . , f r (v) соответственно. Определим f0 — продолжение f на Γ0 — следующим образом: f0 (v0 ) = v0 и f0 (e0 ) = e1 , . . . , f0 (er−1 ) = er , f0 (er ) = e0 . Отождествим π1 (Γ, v) с подгруппой π1 (Γ0 , v0 ) по правилу p 7→ e0 p¯ e0 . Положим ai = ei−1 f i−1 (σ)¯ ei для i = 1, . . . , r. Отождествим ha1 , . . . , ar i с Fr и π1 (Γ0 , v0 ) с Fn ∗ Fr . Пусть β — автоморфизм группы π1 (Γ0 , v0 ), действующий по правилу q 7→ a1 f0 (q)¯ a1 . Тогда β продолжает α и β(a1 ) = a1 a2 a ¯1 , β(a2 ) = a1 a3 a ¯1 , . . . , β(ar−1 ) = a1 ar a ¯1 , β(ar ) = a1 a ¯r . . . a ¯1 y¯ a1 , где y = e0 σf (σ) . . . f r (σ)¯ e0 ∈ Fn .

Группа неподвижных точек автоморфизма

427

УТВЕРЖДЕНИЕ 1.3. Имеет место равенство Fix(α) = Fix(β). ДОКАЗАТЕЛЬСТВО. (A) Рассмотрим новый базис группы Fr , а именно, x1 = a1 , x2 = a1 a2 , . . . , xr = a1 . . . ar . Тогда β(x1 ) = x2 x ¯1 , β(x2 ) = x3 x ¯1 , . . . , β(xr−1 ) = xr x ¯1 , β(xr ) = y¯ x1 . (B) Рассмотрим отдельно случай, когда y = 1. Пусть θ — автоморфизм группы Fr , равный β|Fr . Достаточно показать, что Fix(θ) = 1. Пусть M — матрица абелинизации θ. Так как θ — автоморфизм порядка r + 1 и в силу [5], Fix(θ) является свободным множителем группы Fr . Если Fix(θ) 6= 1, то Fix(θ) содержит примитивный элемент группы Fr . Этот элемент лежит вне коммутанта группы Fr , поэтому матрица M должна иметь собственное значение 1, что неверно. Итак, пусть далее y 6= 1. (C) Несложно заметить, что для любого слова v ∈ Fr выполняются (C1) слова v и β(v) не начинаются с одной и той же буквы; (C2) слово β(v) не начинается с x1 xi , x ¯i для любого i = 1, . . . , r; (C3) слово β(v) не заканчивается на x ¯i x ¯1 , xi для любого i = 1, . . . , r; (C4) β(v) 6= x1 . (D) Пусть u1 ∈ Fn \ {1} и v1 , v2 ∈ Fr \ {1}. Если в слове β(v1 u1 v2 ) подслово β(u1 ) целиком сокращается, то возможны следующие случаи: (D1) слово v1 заканчивается на x ¯r (т. е. v1 = v1′ x ¯r ), v2 не начинается с xr . При этом β(v1 u1 v2 ) = β(v1′ )x1 β(v2 ), а между β(v1′ )x1 и β(v2 ) нет сокращений в силу (C2); (D2) слово v1 не заканчивается на x ¯r , v2 начинается с xr (т. е. v2 = = xr v2′ ), при этом β(v1 u1 v2 ) = β(v1 )¯ x1 β(v2′ ), а между β(v1 ) и x ¯1 β(v2′ ) нет сокращений в силу (C3). (E) Предположим, что существует w ∈ Fix(β) \ Fix(α). Запишем w в виде произведения чередующихся неединичных множителей из Fn и Fr . При этом можно считать, что первый множитель не лежит в Fix(α). (E1) Пусть w = u1 v1 . . . uk vk , где u1 , . . . , uk ∈ Fn \ {1}, v1 , . . . , vk ∈ Fr , v1 , . . . , vk−1 6= 1 и u1 ∈ / Fix(α). Тогда v1 начинается с xr (т. е. v1 = xr v1′ ), v1′ не начинается с x ¯r .

428

О. С. Маслакова Пусть v1′ 6= 1. Так как w = β(w) = β(u1 )y¯ x1 β(v1′ ) . . . , то β(v1′ ) начи-

нается с x1 xr или равно x1 , получаем противоречие с (C2) и (C4). Пусть v1′ = 1, т. е. v1 = xr . В силу (D), v2 начинается с xr и β(u2 )y = 1. Если v2 = xr , то продолжаем до тех пор, пока не получим v1 = . . . = vi−1 = = xr , vi = xr vi′ , vi′ 6= 1 и β(w) = (¯ x1 )i β(vi′ ) . . . для некоторого i. Отсюда слово (¯ x1 )i β(vi′ ) должно начинаться с xr , получаем противоречие с (C2). (E2) Пусть w = v1 u2 . . . uk vk , где u2 , . . . , uk ∈ Fn \ {1}, v1 , . . . , vk ∈ Fr , v1 , . . . , vk−1 6= 1. Тогда β(v1 ) и v1 должны начинаться с одной и той же буквы, получаем противоречие с (C1) 2. Завершим доказательство предложения. По построению, f0 является топологическим представителем для O(β) ∈ Out(Fn+r ). Максимальная фильтрация для Γ0 получается из максимальной фильтрации для Γ добавлением нового 1-слоя сверху, состоящего из ребер e0 , . . . , er . Несложно проверить, что отображение f0 : Γ0 → Γ0 удовлетворяет свойствам (RTTi)–(RTT-iii), а значит является относительным трейн-треком. 2 ПРЕДЛОЖЕНИЕ 1.4. Пусть β ∈ Aut(Fm ), f0 : Γ0 → Γ0 — топологический представитель для O(β), являющийся относительным трейн-треком и имеющий неподвижную вершину. Тогда можно алгоритмически построить топологический представитель f1 : Γ1 → Γ1 для β, являющийся относительным трейн-треком и имеющий неподвижную вершину. ДОКАЗАТЕЛЬСТВО. Пусть v0 — неподвижная вершина в графе Γ0 . Отождествим π1 (Γ, v0 ) со свободной группой Fm . Тогда f0 индуцирует автоморфизм группы Fm , отличающийся от β на некоторый внутренний автоморфизм ic . Элемент c алгебраически вычислим и геометрически представим своей петлей p в графе Γ0 с началом в v0 . Граф Γ1 получается из Γ0 присоединением новых вершины v1 и ребра e с началом в v1 и концом в v0 . Отображение f1 продолжает f0 и определено на ребре e как f1 (e) = ep. Максимальная фильтрация для Γ1 получается из максимальной фильтрации для Γ0 добавлением нового 1-слоя сверху, состоящего из ребра e. Легко проверить, что f1 — относительный трейн-трек. Если отождествить π1 (Γ1 , v1 ) со свободной группой Fm , то f1 будет индуцировать

Группа неподвижных точек автоморфизма

429

автоморфизм группы Fm , равный β. Следовательно, f1 — топологический представитель для β. 2 Следствием предложений 1.2 и 1.4 является ТЕОРЕМА 1.5. Пусть α ∈ Aut(Fn ). Тогда можно эффективно найти натуральное r, автоморфизм β ∈ Aut(Fn ∗ Fr ) и топологический представитель f1 : Γ1 → Γ1 для β такие, что β продолжает α, Fix(β) = = Fix(α), и f1 является относительным трейн-треком.

§ 2. Конструкция графа Cf для гомотопической эквивалентности f : Γ → Γ В этом параграфе мы будем следовать [2, 3]. Пусть f : Γ → Γ — гомотопическая эквивалентность, v∗ — неподвижная относительно f базисная вершина в графе Γ. В [2] предложена процедура вычисления базиса Fix(f ). Дадим ее краткое описание. Путь µ с начальной и конечой точками в вершинах называется f -путем, если f переводит начало пути µ в его конец. Определим граф Df следующим образом: вершины графа Df — приведенные f -пути µ ⊆ Γ; две вершины τ1 и τ2 соединяются в Df ребром с меткой E, если τ2 = [Eτ1 f (E)], E ∈ Γ1 . Заметим, что тождественный путь в вершине v, обозначаемый далее 1v , является f -путем тогда и только тогда, когда v фиксируется отображением f . Фундаментальную группу компоненты графа Df , содержащую вершину 1v∗ , можно отождествить с Fix(f ). Пусть µ = E · τ — вершина графа Df . Предпочтительное направление в вершине с меткой µ — это направление ребра с меткой E, соединяющего вершины µ и µ′ = [Eµf (E)]; в этом случае ставим на ребре с меткой E вблизи вершины µ треугольник вида . После указанного выше отождествления специальными называются ребра с меткой Q ∈ Γ1 вида ⊳r u

Q

-

r⊲

v

Их вершины также называются специальными.

430

О. С. Маслакова ПРЕДЛОЖЕНИЕ 2.1 [2]. Специальные ребра находятся во вза-

имно-однозначном соответствии с вхождениями ребер E графа Γ в f (E). Другими словами, существует биекция вида f (E) = u ¯Ev ⇔

⊳r u

E

-

r⊲

v

В частности, задача нахождения специальных ребер алгоритмически разрешима. Пусть µ — метка вершины в Df , и путь µ имеет вид E1 E2 . . . Em для некоторых ребер E1 , E2 , . . . , Em в графе Γ. Движением в Df назовем переход от вершины с меткой µ к вершине с меткой µ′ = [E2 . . . Em f (E1 )], которую назовем fb-образом µ и обозначим fb(µ). Очевидно, что движение в

Df в точности совпадает с движением по предпочтительным направлени-

ям. Заметим, что нет предпочтительного направления только в вершинах с метками вида 1v , где v ∈ Γ0 — неподвижная относительно f вершина. Такие вершины назовем стоками. Пусть Cf — конечный подграф графа Df такой, что для компоненты связности K графа Df , содержащей вершину 1v∗ , ее фундаментальная группа совпадает с фундаментальной группой K ∩ Cf . Заметим, что Cf определяется неоднозначно. Если удастся эффективно построить Cf , то задача о нахождении Fix(f ) также будет эффективно разрешима. Назовем лучом в Df бесконечный в одну сторону путь по предпочтительным направлениям без повторений ребер. Процедура построения графа Cf 1) Найти специальные ребра и вершины. Найти неподвижные относительно f вершины v графа Γ, им соответствуют стоки 1v . 2) Двигаться из всех специальных вершин по предпочтительным направлениям до a) следующей специальной вершины или стока, b) зацикливания,

Группа неподвижных точек автоморфизма

431

Рис. 1 c) вершины встречи двух различных лучей (на одном луче может быть несколько различных вершин встреч с другими лучами; следует двигаться до самой далекой). Граф Cf будет состоять из полученных так вершин и ребер (рис. 1). Далее сделаем эту процедуру эффективной. Поскольку специальные ребра и движение определяются алгоритмически, то остается алгоритмически определить, где останавливаться при построении Cf . Для каждой специальной вершины µ необходимо исследовать три задачи. (a) Существует ли натуральное k такое, что fbk (µ) — специальная

вершина или сток? Найти его, если оно существует.

(b) Существуют ли различные натуральные k, l такие, что fbk (µ) =

= fbl (µ) (зацикливание)? Найти их, если они существуют.

(c) Существуют ли натуральные k, l и специальная вершина ν, отличная от µ, такие, что fbk (µ) = fbl (ν) (два луча пересекаются)? Найти их,

если они существуют.

Далее понадобится следующее обобщение задачи (a). (d) Пусть µ, ν — f -пути. Существует ли натуральное k такое, что fbk (µ) = ν? Найти его, если оно существует.

В [3] показано, как алгоритмически задать направление на графе Γ,

противоположное исходному вне некоторого конечного подграфа. Назовем это направление обратным к исходному. Оно задает свои специальные ребра и вершины, которые тоже алгоритмически вычислимы. Заметим, что на любом луче существует вершина, в которой обратное направление не совпадает с исходным.

432

О. С. Маслакова ПРЕДЛОЖЕНИЕ 2.2 [2, 3]. Предположим, что R1 , R2 — два лу-

ча в Df , удовлетворяющие условиям: обратное направление в начале лучей R1 , R2 не совпадает с направлением первых ребер лучей R1 , R2 соответственно; лучи R1 , R2 не содержат специальных вершин относительно обратного направления в Df . Тогда либо R1 и R2 не пересекаются, либо один из этих лучей содержится в другом. Если задача (d) разрешима, то для любого луча R можно найти подлуч R′ ⊆ R, удовлетворяющий условиям этого предложения. Поэтому задача пересечения двух лучей сводится к выяснению принадлежности начала одного луча другому; т. е. для двух лучей R1 , R2 с началами в вершинах µ1 , µ2 необходимо выяснить, верно ли, что ∃m fbm (µ1 ) = µ2 или ∃n fbn (µ2 ) = µ1 .

Задача (d) являeтся частным случаем задач следования (Ir ), точная формулировка которых дана в следующей главе. Задача (b) является частным случаем задач зацикливания (IIr ), точная формулировка которых также дана в следующей главе.

§ 3. Формулировки задач (Ir )–(VIr ) В п. 1.2 показано, что для построения базы группы Fix(α) достаточно указать алгоритм вычисления базы группы Fix(f ) для построенного там относительного трейн-трека f : Γ → Γ с неподвижной вершиной v∗ . В § 2 приведена процедура вычисления Fix(f ), на ней и будет основан алгоритм. Для того, чтобы сделать эту процедуру эффективной, построим алгоритмы для решения следующих задач. Пусть µ, ν ⊂ Gr — приведенные f -пути. (Ir ) Задача следования для пары путей (µ, ν). Существует ли натуральное k такое, что [fbk (µ)] = ν? Найти его, если оно существует.

Группа неподвижных точек автоморфизма

433

(IIr ) Задача зацикливания для пути µ. Существуют ли различные натуральные k, l такие, что [fbk (µ)] = [fbl (µ)]? Найти их, если они су-

ществуют.

Пусть µ, ν ⊂ Gr — приведенные пути. (IIIr ) Задача следования для пары путей (µ, ν). Существует ли натуральное k такое, что [f k (µ)] = ν? Найти его, если оно существует. (IVr ) Задача зацикливания для пути µ. Существуют ли различные натуральные k, l такие, что [f k (µ)] = [f l (µ)]? Найти их, если они существуют. Пусть ρ, τ, µ, ν — приведенные пути в подграфе Gr графа Γ; пути ρ и τ таковы, что ω(ρ) = α(f (ρ)) и ω(f (τ )) = α(τ ), а путь µ таk (µ) = ρf (ρ) . . . ков, что для любого натурального k определен путь Pρ,τ

. . . f k−1 (ρ)f k (µ)f k−1 (τ ) . . . f (τ )τ . Необходимо указать алгоритмы для решения следующих задач. (Vr ) Задача следования для четверки путей (ρ, τ, µ, ν). Сущеk (µ)] = ν? Найти его, если оно ствует ли натуральное k такое, что [Pρ,τ

существует. (VIr ) Задача зацикливания для тройки путей (ρ, τ, µ). Сущеk (µ)] = [P l (µ)]? ствуют ли различные натуральные k, l такие, что [Pρ,τ ρ,τ

Найти их, если они существуют. Серия задач (Ir ), (IIr ) является основной для алгоритмизации процедуры; серия (IIIr )–(VIr ) — вспомогательная для решения (Ir ), (IIr ). На рис. 2 показана зависимость между ними. Далее покажем, как осуществить переход от r к r − 1. (IIr )

(IVr )

(VIr )

(Ir )

(IIIr )

(Vr )

   H @ HH @  @      @ H @  H@  @ HH  @ @      @ @ H  @ R @ R @ R @  )    j H ? ? ? ?

(IVr−1 ) (VIr−1 ) (IIIr−1 )

Рис. 2

(Vr−1 )

434

О. С. Маслакова § 4. Запрещенные развороты в экспоненциально растущем слое В этом параграфе, когда говорится о вершинах и ребрах некоторых

путей, подразумеваются их определенные вхождения, которые будут ясны из контекста. Пусть f : Γ → Γ — относительный трейн-трек, τ — приведенный путь в графе Γ, конечными точками которого являются вершины. Пусть r — минимальное число такое, что τ ⊂ Gr . Предполагается, что слой Hr экспоненциально растущий. Исследуем, как происходят сокращения подпутей из Hr в путях f k (τ ) при увеличении k. Нам понадобится следующая ЛЕММА 4.1 [6; 7, лемма II.2.4]. Пусть τ1 , τ2 — приведенные пути в графе Γ такие, что ω(τ1 ) = α(τ2 ). Тогда l([f (τ1 τ2 )]) > l([f (τ1 )])+l([f (τ2 )])− −c, где c — алгоритмически вычислимая константа Купера, зависящая только от f . Из свойств (RTT-i)–(RTT-iii) следует, что сокращения в r-части пути f (τ ) имеются тогда и только тогда, когда τ содержит запрещенные развороты из Hr ; при этом их число в пути [f (τ )] не больше, чем в пути τ . Покажем, как определить, когда число запрещенных разворотов из Hr в последовательности путей [τ ], [f (τ )], [f 2 (τ )], . . . постоянно. Введем некоторые обозначения. Пусть p, q — приведенные пути в графе Γ с общей начальной вершиной. Через I(p, q) обозначается наибольший общий начальный сегмент путей p, q. Тогда p = I(p, q) · p1 , q = I(p, q) · q1 для некоторых приведенных путей p1 , q1 . Обозначим через Λ(p, q) упорядоченную пару путей (p1 , q1 ). ¯ B) — некоторый запрещенный разворот из Hr в пути τ , Пусть (A, y — его вершина, k > 1 — произвольное натуральное число. Обозначим через τ1 начальный сегмент пути τ с конечной вершиной y, через τ2 — конечный сегмент пути τ с начальной вершиной y. Положим (pk , qk ) =

= Λ [f k (¯ τ1 )], [f k (τ2 )] и αk = I [f (pk−1 )], [f (qk−1 )] (рис. 3). Иногда, чтобы

подчеркнуть зависимость αk от y, будем использовать выражение αk (y).

Обозначим через xk начальную, а через zk — конечную вершины пути αk .

Группа неподвижных точек автоморфизма

435

f k (y)

q k−1 (α )] ? q[f 1

..

f k−1 (y) y q

A@ RB @

q

pk−1 f k−1 −−−→ q

q ? q q @ @ k−1 q

[f k−1 (τ )]

τ

f

− →

q

q. ? [f (αk−1 )] xk q αk zk ? @ @ q

[f k (τ )]

Рис. 3 ПРЕДЛОЖЕНИЕ 4.2. Пусть в каждом из путей τ , [f (τ )], [f 2 (τ )],

. . . есть единственный запрещенный разворот из Hr . Тогда су-

ществуют алгоритмически вычислимые константы T, p > 1 такие, что для всех j > 0 выполняется αT +j = αT +j+p . ДОКАЗАТЕЛЬСТВО. Если некоторый путь σ разрешен в Hr , то в пути f (σ) нет сокращений ребер из Hr , однако могут быть сокращения ребер из Gr−1 . Для упрощения обозначений будем считать, что все сокращения в f (σ) ребер из Gr−1 произведены. (A) Пусть (A¯k , Bk ) — разворот в пути [f k (τ )] с вершиной в zk . По условию предложения это единственный запрещенный разворот из Hr в пути [f k (τ )]. В частности, пути τ1 , τ2 разрешены в Hr . По определению запрещенного разворота найдется i > 1, для которого путь αk+i невырожден. По (RTT-i), все невырожденные пути αk начинаются с ребра из Hr . (B) По лемме 4.1 для любого k число ребер из Hr в пути αk ограничено некоторой алгоритмически вычислимой константой c. Тогда Lr (αk ) 6 C, где C = c · max Lr (E). Фиксируем натуральное t0 такое, что E∈Hr

C/λt0 + C/λt0 +1 + . . . < min Lr (E). E∈Hr

(C) Для любых t > 1, s > 0 рассмотрим подпуть βt,s = f s (αt ) · ·f s−1 (αt+1 ) . . . f (αt+s−1 )αt+s путей f t+s (τ2 ), f t+s (¯ τ1 ) (рис. 4). Началом пути βt,s является вершина f s (xt ). (D) Пусть i > 0, s > 0 — произвольные натуральные числа. В силу (B) для любого t имеем Lr (βt,s ) 6 Cλs + . . . + Cλ + C < λt0 +s min Lr (E). E∈Hr

Рассмотрим некоторое ребро E ∈ Hr в f i (τ2 ) или f i (¯ τ1 ). Тогда, по (RTT-i),

436

О. С. Маслакова r

β1,0 r

r  rxt ?αt r @ @

βt,1

f

− → r

r

f t (τ )

r r  f (xt )  ?f (αt ) r  α ? t+1 r @ @

βt,s f

f

− → ··· − → r

 rf s (xt )   ?f s (αt )   r .  r ..     ?αt+s r @ @

r

r

f t+s (τ )

f t+1 (τ ) Рис. 4

путь f t0 +s (E) является r-разрешенным подпутем в f i+t0 +s (τ2 ) или f i (¯ τ1 ); Lr (f t0 +s (E)) = λt0 +s Lr (E). Поэтому f t0 +s (E) не может содержаться в βt0 +i,s . (E) Пусть N — вершина в f i (τ2 ) такая, что подпуть в f i+t0 +s (τ2 ) с начальной и конечной вершинами f i+t0 +s (y) и f t0 +s (M ) — минимальный,
содержащий I f t0 +i+s (¯ τ1 ), f t0 +i+s (τ2 ) (на рис. 5 обозначен через I). Пусть

M — вершина в пути f i (τ2 ) такая, что подпуть в f i+t0 +s (τ2 ) с начальной и конечной вершинами f t0 +s (M ) и f t0 +s (N ) — минимальный, содержащий βt0 +i,s . Обозначим через ρi,s подпуть в f i (τ2 ) с начальной и конечной вершинами M и N соответственно (рис. 5). Аналогично в пути f i (¯ τ1 ) определим подпуть ρ′i,s . Для данных i, s пути ρi,s и ρ′i,s находятся алгоритмически. Очевидно, что ρi,s ⊆ ρi,s+1 ⊆ . . . и пути ρi,s , ρi,s+1 , . . . имеют общую начальную вершину. То же справедливо для путей ρ′i,s ⊆ ρ′i,s+1 ⊆ . . . и ρ′i,s , ρ′i,s+1 , . . . .

f i (y) qq

I

t +s

f 0 ?? ρi,s −−−→ z}|{ q s s q M N f i (¯ τ1 ) f i (τ2 )

Рис. 5

q

f i+t0 +s (y) q     sf t0 +s (M )  qo    ? βt +i,s 0 q

s q

f t0 +s (N )

Группа неподвижных точек автоморфизма

437

r r

r rE1 rE2rE3r

r

M

r

N

βi,s f t0

−−→

r

r

f t0 +i (τ )

r

E r 1rσ1 r E2rσ2r M

r

f t0 (N )

f i (τ )

r

 f t0 (M )  r  r f t0 (E2 )

N

r

βi,s f t0

−−→

r

r r  f t0 (M ) r r  r f t0 (E2 ) r r

f t0 (N )

f t0 +i (τ )

f i (τ ) Рис. 6

(F) В силу (A) для любого k > 1 путь αk либо вырожден, либо его первое ребро лежит в Hr . Учитывая (RTT-i) и определение, путь ρi,s либо вырожден, либо начинается с ребра из Hr для любых i, s (иначе ρi,s можно уменьшить). В силу (D) имеются такие возможности для ρi,s (рис. 6): a) вырожден, b) равен Ei,s,1 σi,s Ei,s,2 , где Ei,s,1 , Ei,s,2 — ребра из Hr , σi,s ⊂ Gr−1 — подпуть в пути [f i (τ2 ]), c) равен Ei,s,1 σi,s , где Ei,s,1 — ребро из Hr , σi,s ⊂ Gr−1 — подпуть в пути [f i (τ2 )], d) равен Ei,s,1 , где Ei,s,1 — ребро из Hr . (G) Каждый путь αk либо вырожден, либо начинается с ребра из Hr , и, учитывая (A) и (RTT-i), подпути f s (αt0 +i ), f s−1 (αt0 +i+1 ), . . . , αt0 +i+s в βt0 +i,s тоже либо вырождены, либо начинаются с ребра из Hr . Поэтому любой подпуть пути βt0 +i,s , лежащий в Gr−1 , попадает в один из f s−j (αt0 +i+j ). В частности, f t0 +s (σi ) попадает в некоторый f s−j (αt0 +i+j ). (H) Напомним, в (E) установлено, что ρi,s ⊆ ρi,s+1 ⊆ . . . . Если при некотором s для ρi,s имеет место ”a“, то в силу (A) найдется j > 1, для которого ρi,s+j имеет вид, такой как в ”b“–”d“. Если справедливо ”b“, то в силу (F) выполняется ρi,s = ρi,s+1 = ρi,s+2 = . . . . Если имеет место ”c“, то в силу (A) существует j > 1 такое, что ρi,s+j имеет вид ”b“. Если выпол-

438

О. С. Маслакова

няется ”d“, то ρs+1 может иметь вид ”b“, ”c“ или ”d“. Таким образом, для каждого i > 0 найдется число s0 > 0 такое, что ρi,s0 = ρi,s0 +1 = ρi,s0 +2 = = . . . . Из предыдущих рассуждений видно, что путь ρi,s0 имеет вид ”b“ или ”d“. Обозначим путь ρi,s0 через ρi . Аналогично возникает путь ρ′i . Заметим, что для данного i задача вычисления путей ρi и ρ′i непроста. Ее решение в условиях предложения приводится в (P). (I) Для заданного i обозначим через Ei,1 первое ребро пути ρi и через Ei,2 следующее за ним ребро из Hr в пути f i (τ2 ), если оно есть. Аналогично ′ и E′ . для пути ρ′i получим ребра Ei,1 i,2

(J) Заметим, что начальная вершина xt0 +i пути αt0 +i обладает следующими свойствами: для любого s > 0 вершина f s (xt0 +i ) — начальная в ′ ). Первое выполняется по опредеβt0 +i,s и xt0 +i лежит в f t0 (Ei,1 ), f t0 (Ei,1

лению βt0 +i,s в (C). Предположим, что второе утверждение неверно. Тогда получим противоречие с определением путей ρi,s (рис. 7). Таким образом, ′ ). Обозначим определены вхождения вершины xt0 +i в f t0 (Ei,1 ) и f t0 (Ei,1

эти вхождения через x˙ t0 +i и x˙ ′t0 +i соответственно. (K) Каждому i > 0 сопоставим шестерку Mi = (x˙ t0 +i , x˙ ′t0 +i , Ei,1 , ′ , E ′ ), где вхождения x ˙ t0 +i , x˙ ′t0 +i определены в (J), а ребра Ei,2 , Ei,1 i,2 ′ , E ′ определены в (I) (если E ′ Ei,1 , Ei,2 , Ei,1 i,2 или Ei,2 не определено, то i,2

вместо него пишем ∅).

r

r r t f 0 (Ei,1 ) r rxt0 +i

fs

−→ r

? r

βt0 +i,s (a)

r

rxt0 ,i r rf t0 (Ei,1 ) ? r

f t0 (τ

? r

0

f t0 +s (τi )

f t0 (τi ) r



r r t0 +s f (Ei,1 ) r rf s (xt +i )

r

fs

−→

βt0 +i,s r

s  rr f (xt0 +i )

rf t0 +s (Ei,1 ) ? r

f t0 +s (τi )

i)

(b) Рис. 7

Группа неподвижных точек автоморфизма

439

Покажем, что Mi алгоритмически вычислима для заданного i. Во′ определялись в (I) как первые ребра путей ρ и ρ′ . первых, ребра Ei,1 , Ei,1 i i

В силу (H) найдется s такое, что ρi,s невырожден. Тогда, по (E), ребро Ei,1 является первым ребром в ρi,s . Поскольку ρi,s алгоритмически вычислим для заданных i, s, то и Ei,1 алгоритмически вычислимо. Аналогич′ . Тогда, по (I), алгоритмически вычислимы ребра ное справедливо для Ei,1 ′ . Вершина x Ei,2 , Ei,2 t0 +i является начальной вершиной пути αt0 +i и поэто-

му алгоримтически вычислима. Следовательно, ее вхождения x˙ t0 +i , x˙ ′t0 +i в f t0 (Ei,1 ), f t0 (Ei,2 ) тоже алгоритмически вычислимы. (L) Из шестерок Mi , определенных в (K), составим множество M. Так как граф Γ конечен, то M конечно. Значит, найдутся i1 < i2 такие, что Mi1 = Mi2 . Заметим, что пути ρi1 и ρi2 не обязательно совпадают, поскольку в них могут быть различные σi1 и σi2 . (M) Докажем утверждение, с помощью которого будет завершено доказательство предложения. Пусть приведенный путь p имеет вид p1 · ·q1 . . . qn · pn+1 , где p1 , . . . , pn+1 — приведенные пути в Hr , q1 , . . . , qn — невырожденные приведенные пути в Gr−1 . Положим |p| = n и Endk (p) = = pk qk . . . qn pn+1 . УТВЕРЖДЕНИЕ 4.3. Пусть p, q — r-разрешенные приведенные пути с общей начальной вершиной v, I(p, q) = v, p = p1 · σ · p2 , где приведенный путь p1 заканчивается на ребро из Hr , σ — приведенный путь из Gr−1 , приведенный путь p2 начинается на ребро из Hr . Предположим, что f (p1 σ) — начальный сегмент в I(f (p), f (q)), а начальные ребра путей Λ(f (p), f (q)) лежат в Hr . Тогда I(f (p), f (q)) =

= f (p1 σ) · I f (p2 ), Endk+1 (f (q)) и Λ(f (p), f (q)) = Λ f (p2 ), Endk+1 (f (q)) , где k = |f (p1 )| + 1.

ДОКАЗАТЕЛЬСТВО. При сокращении начальных сегментов путей f (p) и f (q) максимальные подпути из Gr−1 в f (p) сокращаются только с максимальными подпутями из Gr−1 в f (q) (рис. 8). Поэтому и по условию предложения, в f (q) должно сократиться по крайней мере k максимальных подпутей из Gr−1 . Теперь требуемое вытекает из очевидного равенства f (p2 ) = Endk+1 (f (p)). 2

440

О. С. Маслакова

q

p1 σ

f (q)

f (p1 ) f (σ)

f (p1 ) f (σ)

p2

f (p2 )

f (p2 )

Рис. 8

СЛЕДСТВИЕ 4.4. Пусть пути p, q удовлетворяют условиям утверждения 4.3. Тогда пути Λ(f (p), f (q)) не зависят от пути σ. (N) Сначала покажем, что для любого k > 0 пути αt0 +i+k однозначно определяются по ρi , ρ′i и Mi . Пусть pi (p′i ) — конечный сегмент пути f t0 (ρi ) (f t0 (ρ′i )), начинающийся с вхождения x˙ t0 +i (x˙ ′t0 +i ). Рассмотрим максимальные общие начальные сегменты в f l (pi ) и f l (p′i ) при l = 0, 1, . . . . Тогда I(pi , p′i ) = αt0 +i , I(f (pi ), f (p′i )) = f (αt0 +i )αt0 +i+1 , I(f 2 (pi ), f 2 (p′i )) = = f 2 (αt0 +i )f (αt0 +i+1 )αt0 +i+2 и т. д. Поэтому αt0 +i+k однозначно определяется по ρi , ρ′i и Mi . Теперь покажем существование константы T0 такой, что при k > T0 пути αt0 +i+k однозначно определяются только по Mi . Рассмотрим наиболее ′ σ ′ E ′ . Доказательство сложный случай, когда ρi = Ei,1 σi Ei,2 и ρ′i = Ei,1 i i,2

иллюстрируется рис. 9. Остальные случаи рассматриваются аналогично. По (G), найдутся натуральные j > 0 и j ′ > 0 такие, что пути αt0 +i+j ′

и αt0 +i+j ′ целиком содержат f t0 +j (σi ) и f t0 +j (σi′ ) соответственно. Без ограничения общности можно считать, что j 6 j ′ . Поэтому для k < j, j ′ путь I(f k (pi ), f k (p′i )) не содержит сегментов f t0 +k (σi ) и f t0 +k (σi′ ) путей f t0 +k (ρi ) и f t0 +k (ρ′i ) соответственно. Значит, при k < j пути I(f k (pi ), f k (p′i )) зависят ′ и не зависят от σ , σ ′ . Следовательно, пути α только от Ei,1 , Ei,1 i i t0 +i+k при

k < j также не зависят от σi , σi′ . Более того, все αt0 +i+k при k 6= j, j ′ также не зависят от σi , σi′ . Например, для αt0 +i+j+1 это вытекает из следствия 4.4, примененного к Λ(f j (pi ), f j (p′i )). Остается только положить T0 = j ′ + 1. (O) В (L) показано, что найдутся i1 < i2 такие, что Mi1 = Mi2 . Значит, по (N) существует константа T0 такая, что для всех k > T0 пути

Группа неподвижных точек автоморфизма

′ ) f t0 (Ei,1

′ ) f t0 +j−1 (Ei,1

f t0 (Ei,1 ) f t0 (σi′ ) f t0 +i (¯ τ1 )

441



f

f t0 +j−1 (Ei,1 )

f

− → ··· − → f t0 +j−1 (σi′ )

f t0 (σi )

f t0 +i (τ2 )

f t0 +i+j−1 (¯ τ1 )

f

− →

f t0 +j−1 (σi )



f t0 +i+j−1 (τ2 )

′

′ ) f t0 +j (Ei,1

′ ) f t0 +j (Ei,1

′

f t0 +j (Ei,1 ) f t0 +j (σi′ )

f

f

− → ··· − →

f t0 +j (σi′ )

′

f t0 +j (Ei,1 ) ′

f t0 +j (σi )

f t0 +j (σi ) 



f t0 +i+j (¯ τ1 ) f t0 +i+j (τ2 )

f t0

+i+j ′

′

(¯ τ1 ) f t0 +i+j (τ2 )

Рис. 9

αt0 +i1 +k и αt0 +i2 +k совпадают. Положим p = i2 − i1 , T = t0 + i1 + T0 . Итак, доказано существование констант, требуемых в предложении. Осталось показать, как их вычислить алгоритмически. В (K), (L) было показано, что множество M строится алгоритмически. Значит, алгоритмически находятся i1 , i2 и p. Остается показать, как алгоритмически найти T . (P) В силу (N) для вычисления константы T необходимо алгоритмически вычислить j и j ′ для i = i1 , i2 . По (H), это эквивалентно алгоритмическому нахождению путей ρi1 и ρi2 . Следующее утверждение завершает доказательство предложения. УТВЕРЖДЕНИЕ 4.5. Для любого i > 0 подпути ρi и ρ′i в f i (τ2 ) и f i (¯ τ1 ) соответственно алгоритмически вычислимы. ДОКАЗАТЕЛЬСТВО. По (H), путь ρi имеет вид Ei,1 или Ei,1 σi Ei,2 . Требуется алгоритмически выяснить, какой именно из двух вариантов реализуется. В (K) показано, как для заданного i найти Ei,1 . Обозначим через E следующее за Ei,1 ребро из Hr в f i (τ2 ), а через σ — путь в Gr−1 , лежащий между этими ребрами (σ может быть вырожденным). Заметим, что если для некоторого j путь f t0 +j (Ei,1 ) попадает в I(f t0 +i+j (τ2 ), f t0 +i+j (¯ τ1 )), то

442

О. С. Маслакова

ρi = Ei,1 σE в силу (H). Пусть K = C/(λ − 1), где C определено в (B). Пусть N — число последовательностей путей из Hr суммарной r-длины не более K. Очевидно, N 6 (A + 1)

2K

min Lr (E)

E∈Hr

, где A — число ребер в Hr .

Если для некоторого j 6 N + 1 путь f t0 +j (Ei,1 ) попадает в I(f t0 +i+j (τ2 ), f t0 +i+j (¯ τ1 )), то ρi = Ei,1 σE. Предположим, что для всех j 6 N + 1 путь f t0 +j (Ei,1 ) не попадает в I(f t0 +i+j (τ2 ), f t0 +i+j (¯ τ1 )). Обозначим через Ij конечный сегмент в f t0 +j (Ei,1 ) с начальной вершиной zt0 +i+j . Так как разворот в вершине zt0 +i+j пути [f t0 +i+j (τ )] является rзапрещенным, то Lr (It0 +j ) > 0. Возможны два случая. С л у ч а й 1. Пусть для некоторого j 6 N +1 выполняется Lr (It0 +j ) > > K. Тогда Lr (It0 +j+1 ) > λK − C > K. Из Lr (It0 +j+1 ) > K следует Lr (It0 +j+2 ) > K и т. д. Для всех k > j имеем Lr (It0 +k ) > K > 0, следовательно, ρi = Ei,1 . С л у ч а й 2. Пусть для всех j 6 N + 1 выполняется 0 < Lr (It0 +j ) 6 6 K. Существуют 0 6 k1 < k2 6 N + 1 такие, что r-части путей It0 +k1 , It0 +k2 совпадают. Тогда r-части путей It0 +k1 +i и It0 +k2 +i совпадают для всех i > 0 по следствию 4.4. Значит, Lr (It0 +j ) > 0 для всех j > k1 . Поэтому ρi = Ei,1 . 2 ¯ B) — запрещенный разворот из Hr в ОПРЕДЕЛЕНИЕ. Пусть (A, приведенном пути τ . Точку y = ω(A) = α(B) назовем точкой сокращения из Hr . Назовем k-потомком точки сокращения y конечную точку zk подпути αk в [f k (τ )]. Скажем, что точка сокращения y неудаляема в пути τ , если для любого натурального k ее k-потомок является точкой сокращения из Hr в [f k (τ )]. Иначе будем говорить, что y — удаляемая точка сокращения из Hr в пути τ . ПРЕДЛОЖЕНИЕ 4.6. Пусть приведенный путь τ содержит единственную точку сокращения из Hr . Тогда существует алгоритмически вычислимая константа S со свойством: если в каждом из конечного числа путей τ, f [(τ )], . . . , [f S (τ )] есть запрещенный разворот из Hr , то и в каждом из бесконечного числа путей τ, [f (τ )], [f 2 (τ )], . . . есть запре-

Группа неподвижных точек автоморфизма

443

щенный разворот из Hr . ДОКАЗАТЕЛЬСТВО. Будем использовать обозначения предложе
ния 4.2. Пусть Ii = I [f i (¯ τ1 )], [f i (τ2 )] . Возьмем достаточно большое натуральное число n (из дальнейшего рассуждения будет ясно, как его вы-

брать), и будем вычислять пути [f t0 +i (τ )] для i ∈ {0, . . . , n}. Если для некоторого такого i путь [f t0 +i (τ )] является r-разрешенным, то положим S = t0 + i. Далее считаем, что для всех i ∈ {0, . . . , n} в пути [f t0 +i (τ )] имеется запрещенный разворот из Hr . По условию он единствен. Обозначим его вершину через zt0 +i . Вычислим шестерки Mi , i ∈ {0, . . . , n}, как это описано в (K). Взяв n > |M|, можно найти 0 6 i1 < i2 6 n такие, что Mi1 = Mi2 . Тогда r-части путей ρi1 и ρi2 , а также путей ρ′i1 и ρ′i2 совпадают. Напомτ1 ). Согласно (H) любой путь ним, что ρi — подпуть в f i (τ2 ), а ρ′i — в f i (¯ ρ ∈ {ρi1 , ρi2 , ρ′i1 , ρ′i2 } имеет один из следующих видов: a) E1 σE2 , где E1 , E2 — ребра из Hr , σ — приведенный путь в Gr−1 ; b) E1 σ, где E1 — ребро из Hr , σ — нетривиальный приведенный путь в Gr−1 ; c) E1 , где E1 — ребро из Hr . Покажем, как выяснить, какой из случаев имеет место для ρ. Сделаем это, например, для ρi1 . Используя доказательство утверждения 4.5, можно найти m0 со свойством: если выполняется ”a“ или ”b“, то f t0 +m0 (E1 ) является подпутем в It0 +i1 +m0 . Без ограничения общности далее считаем, что n = i1 + m0 . Предположим, что f t0 +m0 (E1 ) является подпутем в It0 +i1 +m0 . Так как разворот с вершиной zt0 +i1 +m0 в пути [f t0 +i1 +m0 (τ )] является r-запрещенным, то существует m1 > m0 такое, что It0 +i1 +m1 заканчивается на сегмент f t0 +m1 (E1 )αt0 +i1 +m1 и αt0 +i1 +m1 невырожден. Поэтому ”c“ невозможен и, значит, выполняется ”a“ или ”b“. Таким образом, можно отделить ”c“ от ”a“ и ”b“. Предположим, что выполняется ”a“ или ”b“. Так как разворот в вершине zt0 +i1 +m0 является r-запрещенным, то аналогично f t0 +m0 (E1 σ) — подпуть в It0 +i1 +m0 . Более того, существует m1 > m0 такое, что It0 +i1 +m1

444

О. С. Маслакова

заканчивается на сегмент f t0 +m1 (E1 σ)αt0 +i1 +m1 и αt0 +i1 +m1 невырожден. Поэтому ”b“ невозможен. Итак, для n = i1 + m0 возможны лишь ”a“ или ”c“, причем их можно разделить. В ”a“ при j > t0 + i1 + m1 пути αj зависят только от E2 . Значит, существует константа T0 такая, что при k > T0 пути αt0 +i1 +k и αt0 +i2 +k совпадают. Найдем αt0 +i1 +T0 , αt0 +i1 +T0 +1 , . . . , αt0 +i2 +T0 . Если Lr (αt0 +i1 +T0 ) = Lr (αt0 +i1 +T0 +1 ) = . . . = Lr (αt0 +i2 +T0 ) = 0, то для всех j > T0 имеем Lr (αt0 +i1 +j ) = 0, и точка сокращения y удаляема. В противном случае y — неудаляемая точка сокращения. 2 СЛЕДСТВИЕ 4.7. Пусть y — единственная точка сокращения из Hr в пути τ . Тогда алгоритмически проверяется, удаляема она или нет. Выясним, как устроен путь τ в случае, если точка сокращения y ∞ X неудаляема. Определим величину a = Lr (αi )/λi и назовем ее раi=1

диусом сокращения для точки сокращения y из Hr в τ . По предложе-

нию 4.2 для произвольного j > 0 пути αT +j и αT +j+p равны. Поэтому TX +p−1 T −1 X i T −1 p Lr (αi )/λ + (1/λ (λ − 1)) · a= Lr (αi )/λi (рис. 10), в частности, i=1

i=T

радиус сокращения a алгоритмически вычислим.

Неформально говоря, точка из Hr в пути τ под действием f N для некоторого N попадает в I([f N (¯ τ1 )], [f N (τ2 )]) тогда и только тогда, когда она находится от y на r-расстоянии, меньшем a. ПРЕДЛОЖЕНИЕ 4.8. Пусть в пути τ есть единственная точка сокращения из Hr (точка y0 ), и она неудаляема. Обозначим через yi ее i-потомка в пути [f i (τ )] и через ai радиус сокращения для точки yi при i > 0. Предположим, что Ai и Bi — различные ближайшие к yi вершины в пути [f i (τ )], отстоящие от yi на r-расстояние, не меньше ai ; Ji — сегмент пути [f i (τ )] с начальной вершиной Ai и конечной Bi . Тогда алгоритмически вычислимы константы T, p такие, что для всех i > T пути Ji и Ji+p совпадают. ДОКАЗАТЕЛЬСТВО. Будем использовать обозначения предложения 4.2. Заметим, что по определению путей ρi , ρ′i имеем Ai = α(ρi ), Bi =
= ω(ρi ) и Jt0 +i+k ⊆ Λ [f k (p′i )], [f k (pi )] , где pi , p′i определены в (N). В силу

Группа неподвижных точек автоморфизма xT +i q q

xT +i+p q

? αT +i q q

[f T +i (τ )]

f (xT +i+p ) q

? [f (αT +i )] q ? αT +i+1 q q

? [f (αT +i )] q ? αT +i+p+1 = αT +i+1 q q

q

? [f p−1 (αT +i )] q

f p−1 (xT +i+2p ) q

? [f p−1 (αT +i )] q

..

..

q

q. ? αT +i+p−1 q q

[f T +p+i+1 (τ )]

↓f .. . ↓f

↓f .. . ↓f

f p−1 (xT +i ) q

[f T +p+i (τ )]

↓f

f (xT +i ) q q

? αT +i+p = αT +i q q

q

↓f

[f T +i+1 (τ )]

445

q

[f T +i+p−1 (τ )]

q. ? αT +i+2p−1 = αT +i+p−1 q q

[f T +i+2p−1 (τ )] Рис. 10

(L), алгоритмически вычислимы i1 < i2 такие, что Mi1 = Mi2 . По (N) и (P), алгоритмически вычислимо T такое, что для всех j > T пары путей

Λ [f j (p′i1 )], [f j (pi1 )] и Λ [f j (p′i2 )], [f j (pi2 )] зависят только от Mi1 = Mi2

и, следовательно, совпадают. Поскольку at0 +i1 +j = at0 +i2 +j и по определе-

нию Ji , для всех j > T выполняется Jt0 +i1 +j = Jt0 +i2 +j . 2 Рассмотрим случай, когда в пути τ несколько точек сокращения. ПРЕДЛОЖЕНИЕ 4.9. Пусть y1 , . . . , yk — все точки сокращения из Hr в пути τ ; y0 и yk+1

— начальная и конечная вершины τ ; Ii —

подпуть τ с конечными вершинами yi , yi+1 ; каждая из точек сокращения yi неудаляема в τi , где τi — сегмент пути τ с конечными вершинами yi−1 , yi+1 , и ai — соответствующий ей радиус сокращения в τi . Каждая из точек сокращения y1 , . . . , yk неудаляема в пути τ тогда и только тогда, когда Lr (Ii ) > ai + ai+1 для всех i = 1, . . . , k − 1. ДОКАЗАТЕЛЬСТВО. Предположим, что Lr (Ii ) > ai + ai+1 для всех i = 1, . . . , k. Пути αj (yi ) зависят не только от точки сокращения yi , но и от

446

О. С. Маслакова

f l (yi )

f l (yi+1 )

r

r

[f l−1 (α1 (yi ))] ? .. .

r

?[f r

r

r

[f (αl−1 (yi ))] ?

l−1 (α (y 1 i+1 ))]

.. .

?[f (αl−1 (yi+1 ))] r

r

αl (yi ) ? r

··· yil

Iil

?αl (yi+1 ) r

···

l yi+1

[f l (τ )] Рис. 11

того, каков исходный путь: τ или τi . Мы рассматриваем αj (yi ) в пути τi . Тоl l X X j гда Lr (Ii ) > Lr (αj (yi ))/λ + Lr (αj (yi+1 ))/λj для всех l > 1. Значит, j=1

Lr (f l (Ii )) >

l X

Lr (αj (yi ))λl−j +

j=1

j=1 l X

Lr (αj (yi+1 ))λl−j . Следовательно, пере-

j=1

сечение сегментов αl (yi ) и α ¯ l (yi+1 ) в f l (τ ) пусто (рис. 11). Точки y1 , . . . , yk неудаляемы в пути τ , поскольку они являются такими в τ1 , . . . , τk . Предположим, что существует i, для которого Lr (Ii ) < ai + +ai+1 .

По определению ai , ai+1 найдется l > 1 такое, что l l X X Lr (αj (yi+1 ))/λj . Значит, Lr (f l (Ii )) < Lr (αj (yi ))/λj + Lr (Ii ) < j=1

j=1

<

l X

Lr (αj (yi ))λl−j +

j=1

l X

Lr (αj (yi+1 ))λl−j . Следовательно, внутренность

j=1

пересечения αl (yi ) и α ¯ l (yi+1 ) в f l (τ ) непуста (рис. 12). Поскольку все развороты в сегментах Ii−1 , Ii+1 пути τ являются r-разрешенными, путь [f l (τ )] имеет менее k точек сокращения из Hr . 2 ПРЕДЛОЖЕНИЕ 4.10. Можно алгоритмически вычислить натуральное T такое, что в пути [f T (τ )] все точки сокращения из Hr неудаляемы.

Группа неподвижных точек автоморфизма

f j (yi+1 ) r

f j (yi+1 )

zj (yi ) r

6? r

zj (yi+1 )

447

?

r

6 ? zj (yi ) = zj (yi+1 )

r

?6

f j (yi )

f j (yi ) Рис. 12

ДОКАЗАТЕЛЬСТВО. Пусть y1 , . . . , yk — все последовательные точки сокращения из Hr в τ . Обозначим через y0 и yk+1 начальную и конечную вершины в τ . Для 1 6 i 6 k выделим в τ подпуть τi с конечными точками yi−1 и yi+1 . Тогда приведенный путь τi имеет единственную точку сокращения yi . По предложению 4.6 можно алгоритмически выяснить, является yi удаляемой в τi или нет. Если yi удаляема в τi , то она удаляема и в τ . Предположим, что нашлась точка yi , удаляемая в τi . Значит, существует j такое, что разворот пути [f j (τ )] в вершине zj (yi ) не запрещен в Hr . Тогда [f j (τ )] содержит менее k точек сокращения из Hr . Переходя к [f m (τ )] при достаточно большом m, можно считать, что все yi неудаляемы в τi . Тогда по предложению 4.9 можно найти T такое, что в пути [f T (τ )] все точки сокращения неудаляемы. 2 ПРЕДЛОЖЕНИЕ 4.11. Можно алгоритмически проверить, какие точки сокращения из Hr в τ удаляемы, а какие нет. ДОКАЗАТЕЛЬСТВО. По предложению 4.10 найдем T такое, что в пути [f T (τ )] все точки сокращения из Hr неудаляемы. Они и будут T -образами всех неудаляемых точек сокращения в τ . 2

§ 5. Задачи следования и зацикливания (IIIr ), (IVr ) Пусть µ, ν ⊂ Gr — приведенные пути. Необходимо указать алгоритмы для решения следующих задач.

448

О. С. Маслакова (IIIr ) Задача следования для пары путей (µ, ν). Существует ли

натуральное k такое, что [f k (µ)] = ν? Найти его, если оно существует. (IVr ) Задача зацикливания для пути µ. Существуют ли различные натуральные k, l такие, что [f k (µ)] = [f l (µ)]? Найти их, если они существуют. Метод решения этих задач состоит в изучении поведения длины r-части путей [f k (µ)] в зависимости от k. Для этого необходимо выяснить, какие сокращения ребер из Hr возможны в выражении f k (µ). ЗАМЕЧАНИЕ 5.1. Пусть i — фиксированное натуральное число. Задача зацикливания пути µ эквивалентна задаче зацикливания для [f i (µ)]. Задача следования для пары путей (µ, ν) эквивалентна задаче следования для пары путей ([f i (µ)], ν) с дополнительной проверкой конечного числа равенств [f j (µ)] = ν для j < i. Если Hr — нулевой слой, то [f (µ)] ⊂ Gr−1 . Поэтому и по замечанию 5.1 можно считать, что Hr — экспоненциально растущий или единичный слой. В этом параграфе предполагается, что известны алгоритмы для решения задач (IIIr−1 )–(VIr−1 ). Построим алгоритм для решения задач (IIIr ), (IVr ). 5.1. Hr — экспоненциальный слой. Далее по предложению 4.10 и замечанию 5.1 считаем, что в пути µ все точки сокращения из Hr неудаляемы. Пусть y1 , . . . , yk — все точки сокращения из Hr в пути µ; y0 — начальная, а yk+1 — конечная вершины µ. Пусть τi , 0 < i < k + 1, — сегмент пути µ с начальной вершиной yi−1 и конечной yi+1 . Для l > 0 и 1 6 i 6 k через yil обозначается l-потомок точки сокращения yi в пути [f l (τi )]; полоl жим y0l = α([f l (τ1 )]), yk+1 = ω([f l (τk )]). Для l > 0 и 0 < i < k + 1 через l τil обозначим сегмент пути [f l (µ)] с начальной вершиной yi−1 и конечной l . Пусть I l , 0 6 i 6 k, l > 0, — сегмент пути [f l (µ)] с начальной вершиyi+1 i l ; al — радиус сокращения для y l в пути τ l . Положим ной yil и конечной yi+1 i i i

al0 = alk+1 = 0. Для l > 0 и 1 6 i 6 k, обозначим через Ali и Bil различные ближайшие к yil вершины в пути τil , отстоящие от yil на r-расстояние, не меньшее ali . Пусть Jil — сегмент пути τil с начальной вершиной Ali и конечной Bil . Следующее предложение является основой для построения

Группа неподвижных точек автоморфизма

449

алгоритмов решения задач (IIIr ), (IVr ). ПРЕДЛОЖЕНИЕ 5.2. Имеет место одно из двух следующих утверждений. (1) Если для некоторого 0 6 i 6 k выполняется Lr (Ii ) > ai +ai+1 , то можно алгоритмически вычислить неограниченно возрастающую функцию B(l) : N → R такую, что Lr ([f l (µ)]) > B(l) для всех l > 0. (2) Если для всех 0 6 i 6 k выполняется Lr (Ii ) = ai + ai+1 , то l можно алгоритмически найти T > 0, p > 1 такие, что пути Jil и Ji+p

совпадают для всех l > T , 1 6 i 6 k. Более того, r-части путей [f l (µ)] и [f l+p (µ)] совпадают для всех l > T . ДОКАЗАТЕЛЬСТВО. Так как все точки сокращения y1 , . . . , yk неудаляемы в пути µ и по предложению 4.9, выполняется Lr (Ii ) > ai +ai+1 для всех i = 1, . . . , k. (1) Пусть для i верно Lr (Ii ) > ai +ai+1 . Тогда δ = Lr (Ii )−(ai +ai+1 ) > l l X X l−s l l λl−s Lr (αs (yi+1 )) λ Lr (αs (yi )) − > 0. Имеем Lr (Ii ) = λ Lr (Ii ) − s=1

s=1

(рис. 11). По определению радиуса сокращения, Lr (Iil ) = λl δ+ali +ali+1 . Значит, Lr ([f l (µ)]) > Lr (I0l ) + . . . + Lr (Ikl ) > λl δ. Достаточно положить B(l) = = λl δ. (2) По предложению 4.8 вычисляются требуемые T, p. Так как

Lr (Ii ) = ai + ai+1 для всех 0 6 i 6 k, то Lr (Iil ) = ali + ali+1 для всех 0 6 i 6 k, l > 0. Значит, любое ребро E ∈ Hr в пути [f l (µ)] попадает в один из путей Jil , 1 6 i 6 k, следовательно, выполняется второе утверждение. 2 ПРЕДЛОЖЕНИЕ 5.3. Существует алгоритм решения задач (IIIr ) и (IVr ) для экспоненциального слоя Hr . ДОКАЗАТЕЛЬСТВО. По предложению 5.2 возможны два случая: (1) и (2). Рассмотрим каждый из них. (1) Решим задачу (IVr ). Если [f k (µ)] = [f l (µ)], то [f k (µ)] = = [f k+(l−k) (µ)] = [f k+2(l−k) (µ)] = . . . . Так как [f k+i(l−k) (µ)] > B(k + +i(l − k)) и функция B(j) неограниченно возрастает, задача (IVr ) решений не имеет. Решим задачу (IIIr ). Найдем такое l, что B(l) > Lr (ν). Если

450

О. С. Маслакова

[f j (µ)] = ν, то j < l. Таким образом, задача (IIIr ) сводится к конечному перебору вариантов. (2) По замечанию 5.1 можно считать, что T = 0. Занумеруем числами от 1 до s максимальные сегменты из Gr−1 в пути µ, не попадающие ни в какой путь Ji0 . Обозначим эти сегменты через σi . Тогда для некоторых приведенных путей µ0 , µ1 , . . . , µs+1 выполняется µ = µ0 ·σ1 ·µ1 ·. . .·µs ·σs ·µs+1 , где µ0 , µs+1 могут быть вырожденными. Пути µi являются объединением некоторого числа последовательных путей Jj0 . Из (2) следует, что [f l (µi )] = [f l+p (µi )] для любых l > 0 и 0 6 i 6 s + 1. Построим алгоритм для решения задачи (IVr ). Период в задаче зацикливания можно считать кратным p и выяснять, существуют ли i < j такие, что [f ip (µ)] = [f jp (µ)]. Последнее выполняется тогда и только тогда, когда i, j удовлетворяют системе    [f ip (σ1 )] = [f jp (σ1 )],    ...      [f ip (σ )] = [f jp (σ )]. s s

Поскольку известен алгоритм для решения задачи (IVr−1 ), то решения задачи (IVr ) также находятся алгоритмически. Построим алгоритм для решения задачи (IIIr ). Если оно существует, то r-части путей [f i (µ)] и ν совпадают для некоторого 0 6 i 6 p − 1. По замечанию 5.1 будем считать, что i = 0. Равенство [f kp (µ)] = ν имеет место тогда и только тогда, когда ν = µ0 · η1 · µ1 · . . . · µs · ηs · µs+1 для некоторых приведенных путей η1 , . . . , ηs ⊂ Gr−1 и выполняется система    [f kp (σ1 )] = η1 ,    ...      [f kp (σ )] = η . s s

Поскольку известен алгоритм для решения задачи (IIIr−1 ), то решения задачи (IIIr ) также находятся алгоритмически. 2 В дальнейшем нам понадобится

Группа неподвижных точек автоморфизма

451

ПРЕДЛОЖЕНИЕ 5.4. Пусть α, β — r-разрешенные пути с начальной и конечной точками в вершинах, E — ребро из Hr такое, что βE — r-разрешенный путь, x — начальный сегмент E. Для любого i > 0 определим f i (x) как начальный подпуть пути f i (E) такой, что его rдлина равна λi Lr (x) и следующий за ним подпуть в f (E) начинается с сегмента из Hr . Тогда алгоритмически можно выяснить, существует ли n > 0 такое, что путь [f n (αβx)] вырожден. ДОКАЗАТЕЛЬСТВО. Рассмотрим путь γ = αβE. Без ограничения общности можно считать, что он приведен. Если разворот в конечной вершине пути α не является запрещенным в Hr , то весь путь γ разрешен в Hr и по (RTT-iii) для любого n путь f n (γ) разрешен в Hr . Таким образом,

Lr [f n (αβx)] = λn Lr αβx > 0. Значит, требуемое n не существует.

Если разворот в конечной вершине пути α запрещен в Hr , то выяс-

ним, удаляема эта точка сокращения в пути γ или нет. Если нет, то для
любого n путь I [f n (α)], [f n (γ)] пересекается с Hr , следовательно, путь

[f n (αβx)] не может быть вырожден. Если точка сокращения удаляема, то
найдем i такое, что путь [f i (γ)] разрешен в Hr . Пусть Lr [f i (αβx)] 6= 0

для найденого i. Поскольку путь [f i (γ)] r-разрешен и по (RTT-iii), путь
[f n (αβx)] не может быть вырожден ни для какого n. Если Lr [f i (αβx)] = = 0, то путь [f i (αβx)] содержится в Gr−1 , а его начальная и конечная

точки — вершины по определению f i (x). Значит, необходимо проверить,
существует ли n такое, что путь f n [f i (αβx)] вырожден, последнее явля
ется задачей следования (IIIr−1 ) для пары путей [f i (αβx)], 1 . Отсюда вытекает требуемое утверждение.

5.2. Hr — единичный слой. Пусть E — ребро из 1-слоя Hr . Тогда для любого m > 0 путь [f m (E)] содержит единственное ребро из слоя Hr . Обозначим это ребро через E m и назовем m-потомком ребра E. ПРЕДЛОЖЕНИЕ 5.5. Можно алгоритмически вычислить натуральное T такое, что пути [f T (µ)], [f T +1 (µ)], . . . содержат одинаковое количество ребер из Hr . ДОКАЗАТЕЛЬСТВО. Пусть µ = a0 E1 a1 . . . Ek ak , где E1 , . . . , Ek —

452

О. С. Маслакова

ребра из Hr , a0 , . . . , ak — пути из Gr−1 , возможно, вырожденные. Предположим, что для некоторого 1 6 i < k существует натуральное m такое, что m-потомки ребер Ei и Ei+1 сократятся. Для сокращеm . Так как матрица M , соответния необходимо, чтобы Eim = Ei+1 r

ствующая слою Hr , — неприводимая матрица перестановки, это возможно тогда и только тогда, когда Ei = Ei+1 . Поэтому f m (µ) = = f m (a0 E1 . . . Ei−1 ai−1 )f m (Ei )f m (ai )f m (E i )f m (ai+1 Ei+2 . . . Ek ak ), и сокращение возможно в том и только том случае, если найдется натуральное m, для которого путь [f m (ai )] вырожден; т. е. для пары путей (ai , 1) необходимо решить задачу следования (IIIr−1 ). Поэтому такое m находится алгоритмически, что позволяет алгоритмически найти константу T . 2 Путь τ назовем минимальным в Hr , если число ребер из Hr в τ, [f (τ )], [f 2 (τ )], . . . одинаково. По замечанию 5.1 и предложению 5.5 будем считать, что путь µ минимален в Hr . ПРЕДЛОЖЕНИЕ 5.6. Существует алгоритм решения задач (IIIr ) и (IVr ) для единичного слоя Hr . ДОКАЗАТЕЛЬСТВО. Обозначим через p число ребер в Hr . Так как Mr — неприводимая матрица перестановки размера p, то для любого E ∈ Hr ребра E и E p совпадают. Пусть µ = a0 E1 a1 . . . Ek ak , где E1 , . . . , Ek — ребра из Hr , a0 , . . . , ak — приведенные пути из Gr−1 , возможно, вырожденные. Пусть [f p (Ei )] = τi · Ei · ρi , где τi , ρi — приведенные пути в Gr−1 . Построим алгоритм для решения задачи (IVr ). Можно считать период кратным p и выяснять, существуют ли i < j такие, что [f ip (µ)] = = [f jp (µ)]. Этот поиск эквивалентен нахождению i < j, удовлетворяющих системе

  i (a )] = [P j (a )],  [P1,τ 0  1,τ1 0 1       [Pρi1 ,τ2 (a1 )] = [Pρj1 ,τ2 (a1 )],    ...     j  [P i   ρk−1 ,τk (ak−1 )] = [Pρk−1 ,τk (ak−1 )],      [P i (a )] = [P j (a )], ρk ,1 k ρk ,1 k

Группа неподвижных точек автоморфизма

453

l (a) определяется для отображения f p . Так как есть алгоритм где путь Pρ,τ

для решения задачи (VIr−1 ), то можно выяснить, существуют ли i < j, удовлетворяющие этой системе, и найти их, если они существуют. Построим алгоритм для решения задачи (IIIr ). Если она имеет решение, то число ребер из Hr в путях µ, ν совпадает. Также необходимо, чтобы набор ребер из Hr в одном из путей µ, [f (µ)], . . . , [f p−1 (µ)] совпадал с набором ребер из Hr в пути ν. В силу замечания 5.1 будем считать, что наборы ребер из Hr в путях µ и ν совпадают. Пусть ν = b0 E1 b1 . . . Ek bk , где b0 , . . . , bk — приведенные пути из Gr−1 , возможно, вырожденные. Поэтому [f j (µ)] = ν тогда и только тогда, когда j = ip и i удовлетворяет системе   i (a )] = b ,  [P1,τ 0 0  1       [Pρi1 ,τ2 (a1 )] = b1 ,    ...       [Pρik−1 ,τk (ak−1 )] = bk−1 ,       [P i (a )] = b , k ρk ,1 k

l (a) определяется для отображения f p . Так как есть алгоритм где путь Pρ,τ

для решения задачи (Vr−1 ), можно выяснить, существует ли i, удовлетворяющее этой системе, и найти его, если оно существует. 2

§ 6. Задачи следования и зацикливания (Vr ), (VIr ) Пусть ρ, τ, µ, ν — приведенные пути в подграфе Gr графа Γ, причем ω(ρ) = α(f (ρ)), ω(f (τ )) = α(τ ) и для любого натурального k определен k (µ) = ρf (ρ) . . . f k−1 (ρ)f k (µ)f k−1 (τ ) . . . f (τ )τ . Необходимо указать путь Pρ,τ

алгоритмы для решения следующих задач. (Vr ) Задача следования для четверки путей (ρ, τ, µ, ν). Сущеk (µ)] = ν? Найти его, если оно ствует ли натуральное k такое, что [Pρ,τ

существует. (VIr ) Задача зацикливания для тройки путей (ρ, τ, µ). Сущеk (µ)] = [P l (µ)]? Найти их, если они существуют ли k < l такие, что [Pρ,τ ρ,τ

ствуют.

454

О. С. Маслакова Метод решения этих задач состоит в изучении поведения длины r-

k (µ)] в зависимости от k. Для этого необходимо выяснить, части путей [Pρ,τ k (µ). Будем счикакие сокращения ребер из Hr возможны в выражении Pρ,τ

тать, что алгоритмы для решения задач (IIIr−1 )–(VIr−1 ) уже указаны. ЗАМЕЧАНИЕ

6.1.

число. Для всех j

>

Пусть

i

—

фиксированное

j i выполняется Pρ,τ (µ)

i i−1 (τ ) . . . f (τ )τ . ·Pfj−i i (ρ),f i (τ ) (f (µ))f

Тогда

для

k (µ)] = [P l (µ)] эквивалентно равенству [Pρ,τ ρ,τ
l−i = [P[f i (ρ)],[f i (τ )] [f i (µ)] ]. Таким образом,

=

k, l

натуральное

ρf (ρ) . . . f i−1 (ρ) · >

i

[P[fk−i i (ρ)],[f i (τ )] задача

равенство
[f i (µ)] ] =

зацикливания

для тройки путей (ρ, τ, µ) эквивалентна задаче зацикливания для
[f i (ρ)], [f i (τ )], [f i (µ)] . Обобщенная задача следования для (ρ, τ, µ, ν)

эквивалентна задаче следования для ([f i (ρ)], [f i (τ )], [f i (µ)], [f i−1 (¯ ρ) . . . . . . ρ¯ν τ¯ . . . f i−1 (¯ τ )]) с дополнительной проверкой конечного числа равенств j [Pρ,τ (µ)] = ν для j < i.

Если Hr — нулевой слой, то [f (ρ)], [f (τ )], [f (µ)] ⊂ Gr−1 . Поэтому и по замечанию 6.1 можно считать, что Hr — экспоненциально растущий или единичный слой. 6.1. Hr — экспоненциально растущий слой. По предложению 4.10 найдем натуральное i такое, что пути [f i (ρ)], [f i (τ )], [f i (µ)], [f i (ρ)f i+1 (ρ)], [f i+1 (τ )f i (τ )] содержат только неудаляемые точки сокращения из Hr . В силу замечания 6.1 будем считать, что i = 0. 6.1.1. Сокращения в выражениях ρf (ρ) . . . f k−1 (ρ) и f k−1 (τ ) . . . . . . f (τ )τ . Проанализируем возможные сокращения ребер из Hr в пути ρf (ρ) . . . f k−1 (ρ) и найдем число точек сокращения Nρ (k) из Hr в пути [ρf (ρ) . . . f k−1 (ρ)] в зависимости от k. Для выражения f k−1 (τ ) . . . f (τ )τ рассуждения аналогичны. Поскольку путь [ρf (ρ)] содержит только неудаляемые точки сокращения из Hr , то для любого i путь [f i (ρf (ρ))], равный [f i (ρ)f i+1 (ρ)], содержит только неудаляемые точки сокращения. Однако в пути [ρf (ρ)f 2 (ρ)] уже могут быть удаляемые точки сокращения (рис. 12). Поэтому необходим более тщательный анализ. Обозначим через ρ1 максимальный начальный сегмент пути f (ρ), го-

Группа неподвижных точек автоморфизма

455


мотопный I [¯ ρ], [f (ρ)] . Тогда ρ = σ1 · [¯ ρ1 ], [f (ρ)] = [ρ1 ] · σ2 для некоторых

приведенных путей σ1 , σ2 таких, что [ρf (ρ)] = σ1 ·σ2 . Положим ρ2 = f ([¯ ρ1 ]). Тогда ρ2 — конечный сегмент пути f (ρ). Далее по замечанию 6.2 будем

считать, что все точки сокращения из Hr в пути [ρ1 ] неудаляемы. Следовательно, любая точка сокращения из Hr в пути [f (ρ)], попадающая в [ρ1 ], есть либо неудаляемая в [ρ1 ], либо конечная в [ρ1 ]. Возможны два случая. С л у ч а й 1. Пусть внутренности путей ρ1 и ρ2 не пересекаются, т. е. имеется путь ρ0 (возможно, вырожденный) такой, что f (ρ) = ρ1 · ρ0 · ρ2 . Тогда f (ρ)f 2 (ρ) . . . f k+1 (ρ) = ρ1 ρ0 f (ρ0 )f 2 (ρ0 ) . . . f k (ρ0 )f k (ρ2 ). Путь ρ0 f (ρ0 )f 2 (ρ0 ) . . . f k (ρ0 ) не обязательно является r-приведеннм, например, могут существовать точки сокращения из Hr в пути ρ0 . Заметим: поскольку точки сокращения из Hr в пути [ρ1 ] неудаляемы, все точки сокращения из Hr в пути [ρ0 ] также неудаляемы. (A) Проведем некоторые предварительные рассуждения. Так как сегмент ρ1 максимальный, то [f (ρ)] = [ρ1 ] · [ρ0 ρ2 ], σ2 = [ρ0 ρ2 ] и первое ребро пути [ρ0 ρ2 ] совпадает с первым ребром пути [ρ0 ]. По определению ρ2 и ρ1 имеем f (σ1 ) = ρ1 ρ0 и [f (σ1 )] = [ρ1 ] · [ρ0 ]. (B) Предположим, что разворот пути [ρf (ρ)] в точке ω(σ1 ) = α(σ2 )
не является запрещенным разворотом из Hr . Тогда I [f i (¯ σ1 )], [f i (σ2 )] ⊂

⊂ Gr−1 для любого i > 0. Значит, по (A) для любого натураль
k (µ) = ного i путь I [f i (¯ ρ0 )], [f i+1 (ρ0 )] лежит в Gr−1 . Так как Pρ,τ

= ρρ1 P[ρk−2 ([ρ0 ρ2 f 2 (µ)f (τ )τ ]), то аналогично замечанию 6.1 будем счи0 ],τ

тать путь ρ равным [ρ0 ]. Тогда число точек сокращения из Hr в путях [ρ], [f (ρ)], . . . одинаково, обозначим его через m. Так как теперь для всех
i > 0 путь I [f i (¯ ρ0 )], [f i+1 (ρ0 )] лежит в Gr−1 , то Nρ (k) = km.

(C) Предположим, что разворот пути [ρf (ρ)] в точке ω(σ1 ) = α(σ2 )

запрещен в Hr . Обозначим эту точку через y. Напомним, что y — неудаляемая точка сокращения из Hr в пути [ρf (ρ)]. Пусть yi — вершина в пути [f i (ρf (ρ))], являющаяся i-потомком y. Рассмотрим путь [ρf (ρ)f 2 (ρ)]. Выясним (это возможно по предложению 4.10), удаляемы ли точки сокращения y и y1 . Если нет, то все точки сокращения z, расположенные в пути f (ρ) между ними (если та-

456

О. С. Маслакова y1

f 2 (y) r

f (y) r

r

r r

f (y)

r

r

r· · ·

y

z y 1 z 1 y2 (a)

r

r r

y

y1

f 2 (y) r

r· · ·

r

? ρ ρ1 ? 2

y2

(b)

6 r

y (c)

Рис. 13

кие есть), неудаляемы в пути [ρf (ρ)f 2 (ρ)] (рис. 13(a), (b)). Обозначим через η1 начальный сегмент пути ρ с конечной вершиной y, через η2 — конечный сегмент пути ρ с начальной вершиной y1 , через η0 — сегмент пути ρ с начальной и конечной вершинами y и y1 . Тогда ρf (ρ) . . . f k (ρ) = = η1 η0 f (η0 ) . . . f k (η0 )f k (η2 ) и Nρ (k) = km + k + l, где m — число точек сокращения из Hr в пути η0 , l — суммарное число точек сокращения в путях η1 и η2 . По замечанию 6.1 можно считать, что ρ = η0 и Nρ (k) = km + k. Пусть теперь хотя бы одна из точек сокращения y или y1 удаляема. Точки сокращения из Hr в путях [ρf (ρ)] и [f (ρ)f 2 (ρ)] неудаляемы, тогда обе точки сокращения y и y1 должны быть удаляемы. По замечанию 6.1 можно считать, что сокращения происходят уже в пути [ρf (ρ)f 2 (ρ)] (рис. 13(c)). Следовательно, внутренности путей ρ1 и ρ2 пересекаются и имеет место С л у ч а й 2. Пусть пути ρ1 и ρ2 пересекаются, т. е. найдутся пути α, β и γ такие, что f (ρ) = α · β · γ, ρ1 = α · β, ρ2 = β · γ. (A) По определению ρ1 , ρ2 выполняется f ([αβ]) = γ¯ β¯ или f ([β¯α ¯ ]) = = βγ. Поскольку точки сокращения из Hr в пути [ρ1 ] неудаляемы, все точки сокращения из Hr в путях [α], [β] и [γ] неудаляемы. (B) Пусть ξ1 = I([α], ¯ [β]), ξ2 — максимальный конечный сегмент в ρ1 = αβ такой, что ρ2 заканчивается на ξ¯2 ξ2 (рис. 14). Тогда для некоторых приведенных путей β1 , α1 , γ1 имеем [β] = ξ1 · β1 · ξ¯2 ξ2 , [α] = α1 · ξ¯1 , [γ] = γ1 . Заметим, что f (β¯1 α ¯ 1 ) = ξ1 β1 γ1 . По (A) любая точка сокращения из Hr в пути [f (ρ)], попадающая в ¯ является либо неудаляемой в пути [β], ¯ либо начальной вершиной, путь [β],

Группа неподвижных точек автоморфизма

ξ1 ?

r

|

r r

{z α1

···

ξ2 ? r r

} y1 y2 | | {z } β1

457

r

{z γγ11

}

f (ρ)

Рис. 14

либо конечной пути [β¯1 ]. Пусть y1 , . . . , yk — все последовательные точки сокращения из Hr в пути [f (¯ ρ)], являющиеся точками сокращения в пути ¯ Из соотношения [f (β¯α β. ¯ )] = βγ следует, что 1-образ точки y1 равен yk , 1-образ точки y2 равен yk−1 , и т. д. (C) Предположим, что начальная точка y пути β1 является точкой сокращения из Hr в пути [f (ρ)]. Тогда 1-образом точки y является либо конечная вершина пути β1 , либо первая точка сокращения из Hr в пути γ1 . (C1) Пусть 1-образ точки y равен конечной вершине пути β1 . Из f (β¯1 α ¯ 1 ) = ξ1 β1 γ1 следует, что [f (β¯1 )] = ξ1 β1 ξ¯2 и f (¯ α1 ) = ξ2 γ1 . Тогда [f (ρ)f 2 (ρ)] = α1 ξ¯1 f (γ1 ) и f k (α1 f (γ1 )) = f k−1 (¯ γ1 )f k−1 (ξ¯2 )f k (ξ¯1 )f k+1 (γ1 ). Отсюда f (ρ)f (ρ) . . . f 2k (ρ) = α1 f (δ)f 3 (δ) . . . f 2k−3 (δ)f 2k−1 (γ1 ),

(1)

f (ρ) . . . f 2k+1 (ρ) = f (ρ)f (α1 )f 2 (δ)f 4 (δ) . . . f 2k−2 (δ)f 2k (γ1 ),

(2)

где δ = ξ¯2 f (ξ¯1 ). Путь δ является r-разрешенным, так как [f 2 (β¯1 )] = = δ¯β¯1 ξ¯1 f (ξ2 ) и все точки сокращения из Hr содержатся в пути β¯1 . По¯ δ¯β¯1 ξ¯1 f (δ)f 3 (ξ2 ) и в этой записи нет сокращескольку [f 4 (β1 )] = f 2 (δ) ний ребер из Hr , путь δf 2 (δ) также является r-разрешенным. Значит, f (δ)f 3 (δ) . . . f 2k−3 (δ) и f 2 (δ)f 4 (δ) . . . f 2k−2 (δ) r-разрешены для всех k. (C2) Пусть 1-образом точки y является первая точка сокращения из Hr в пути γ1 . В силу [f (β¯α ¯ )] = βγ имеем [f (β¯1 )] = ξ1 · β1 · δ1 · x, где путь δ1 · x приведен и состоит из начального сегмента δ1 в γ1 до первой точки сокращения и некоторого пути x. При этом [f (¯ α1 )] = x ¯ · δ2 , где δ2 — конечный сегмент в γ1 такой, что γ1 = δ1 · δ2 . Тогда [f (ρ)f 2 (ρ)] =

458

О. С. Маслакова

= α1 ξ¯1 f (δ1 )f (δ2 ) и f k (α1 f (γ1 )) = f k−1 (δ2 )f k−1 (¯ xf (ξ¯1 )f 2 (δ1 ))f k (δ2 ). Отсюда f (ρ)f (ρ) . . . f 2k (ρ) = α1 ξ¯1 f (δ1 )f (δ)f 3 (δ) . . . f 2k−3 (δ)f 2k−1 (δ2 ),

(3)

f (ρ) . . . f 2k+1 (ρ) = f (ρα1 ξ1 )f 2 (δ1 )f 2 (δ)f 4 (δ) . . . f 2k−2 (δ)f 2k (δ2 ),

(4)

где δ = xf (ξ¯1 )f 2 (δ1 ). Аналогично (C1) получим, что пути f (δ)f 3 (δ) . . . . . . f 2k−3 (δ) и f 2 (δ)f 4 (δ) . . . f 2k−2 (δ) r-разрешены для всех k. (D) Предположим, что начальная точка y пути β1 не является точкой сокращения из Hr в пути [f (ρ)]. Тогда ξ1 ⊂ Gr−1 . По (B) имеем Lr ([f (β1 )]) > Lr ([β1 ]). Следовательно, [f (β¯1 )] = ξ1 · β1 · δ1 для некоторого ¯ = ξ1 · β1 δ¯ для некоr-разрешенного начального сегмента пути γ1 или [f (β)] торого конечного сегмента δ ⊂ Gr−1 пути β1 . Таким образом, аналогично (C1), (C2) можно получить соотношения (1), (2) или (3), (4). Итак, в случае 2 имеют место соотношения (1), (2) или (3), (4). Обозначим Qkρ,τ = ρf 2 (ρ) . . . f 2k−1 (ρ)f 2k (µ)f 2k−1 (τ ) . . . f 2 (τ )τ по аналогии k . Несложно проверить, что P 2k+1 (µ) = ραQk−1 с Pρ,τ ([γf 2 (µ) · ρ,τ [f (δ)],[f 2 (τ )f (τ )] ¯ k ·f (τ )τ ])τ и P 2k (µ) = ρf (ρ)f (α)δQ ([γf 2 (µ)f (τ )τ ]) в случае соотноρ,τ

[δ],[f (τ )τ ]

шений (3), (4). Период в задаче зацикливания можно считать четным и k (µ). Таким оботдельно рассматривать четные и нечетные индексы k в Pρ,τ

разом, в задачах следования и зацикливания достаточно подправить пути и заменить отображение f на f 2 . Аналогично можно поступить и в случае соотношений (1), (2). Значит, после некоторых переобозначений в случаях 1 и 2 можно считать, что для всех k > 1 пути [ρf (ρ) . . . f k (ρ)] содержат только неудаляемые точки сокращения из Hr (если они есть). ЗАМЕЧАНИЕ 6.2. Количество точек сокращения Nρ (k) — алгоритмически вычислимая функция от k. Из вида функции Nρ (k) следует, что либо Nρ (k) тождественно равно 0, либо неограниченно возрастает по k. Кроме того, Nρ (k) тождественно равно 0 тогда и только тогда, когда путь ρ является r-разрешенным и I(¯ ρ, [f (ρ)]) ⊂ Gr−1 . В дальнейшем будет удобно считать, что в случае пересечения пути ρ с int(Hr ) последний сегмент пути ρ попадает в Hr . Этого можно достичь, выделяя в ρ максимальный последний сегмент ρ2 из Gr−1 . Пусть приведен-

Группа неподвижных точек автоморфизма

459

k (µ) = ρ P k−1 ный путь ρ1 таков, что ρ = ρ1 ·ρ2 . Тогда Pρ,τ 1 [ρ2 f (ρ1 )],[f (τ )] ([ρ2 f (µ)]).

Следовательно, необходимо решить задачи зацикливания и следования 2 для P[ρk−1 ρ1 ν]. По аналогии будем предполагать, что 2 f (ρ1 )],[f (τ )] ([ρ f (µ)]) и [¯

если путь τ пересекается с int(Hr ), то его первый сегмент попадает в Hr . 6.1.2. Сокращения между [ρf (ρ) . . . f k−1 (ρ)] и [f k (µ)]. Напомним, что путь [ρf (ρ) . . . f k−1 (ρ)] содержит только неудаляемые точки сокращения. Обозначим через pk путь ρf (ρ) . . . f k−1 (ρ)f k (µ). Если Nρ (k) 6= 0, то в ”хвосте“ [ρf (ρ) . . . f k (ρ)] число точек сокращения неограниченно возрастает (см. замечание 6.2) при увеличении k, а в [f k (µ)] число точек сокращения Nµ из Hr постоянно. Следовательно, число точек сокращения из Hr в пути [pk ] ограниченно снизу функцией |Nρ − Nµ |, которая неограниченно возрастает по k. Если Nµ 6= 0 и Nρ (k) = 0, то представим путь µ в виде µ = µ1 ABµ2 , где (A, B) — первый запрещенный разворот. Тогда сокращения могут происходить только между путями [ρf (ρ) . . . f k−1 (ρ)] и [f k (µ1 A)]. Таким образом, осталось выяснить, что происходит, если Nρ (k) = 0 и Nµ = 0, другими словами, если пути [ρf (ρ) . . . f k−1 (ρ)], µ являются r-разрешенными. По замечанию 6.2 путь ρ также r-разрешен. Итак, пусть ρ, µ разрешены. Обозначим через lµ и lρ длины в Hr путей µ и ρ соответственно. Тогда длина ”хвоста“ ρf (ρ) . . . f k−1 (ρ) задается формулой (λk−1 + . . . + 1)lρ = = ((λk − 1)/(λ − 1))lρ и длина Lr (f k (µ)) = λk lµ . Откуда Lr (pk ) > |(λk−1 + + . . . + 1)lρ − λk lµ |. При (λ − 1)lµ < lρ имеем, что (λk−1 + . . . + 1)lρ − λk lµ = = λk (lρ /(λ−1)−lµ )−lρ /(λ−1) неограниченно возрастает по k. Это вызывает неограниченное возрастание по k длин Lr (pk ). При (λ − 1)lµ > lρ имеем, что λk lµ − (λk−1 + . . . + 1)lρ = λk (lµ − lρ /(λ − 1)) + lρ /(λ − 1) неограниченно возрастает по k, это также дает неограниченное возрастание длин Lr (pk ). Hаибольшие проблемы возникают при (λ − 1)lµ = lρ . Напомним, что путь ρ заканчивается ребром из Hr . Если первое ребро пути µ попадает в Gr−1 , то между путями [ρf (ρ) . . . f k−1 (ρ)] и [f k (µ)] по (RTT-ii) нет сокращений для всех натуральных k. Предположим, что первое ребро пути µ входит в Hr . Поскольку Lr (µ) = lρ /(λ − 1) = lρ /λ + lρ /λ2 + . . . , путь µ можно разбить последовательно на подпути r-длины lρ /λi , i = 1, 2, . . . ,

460

О. С. Маслакова

так, что начальный сегмент каждого лежит в Hr . Обозначим i-ый подпуть через µi . Заметим, что конечные точки в µi уже могут не быть вершинами. Определим для произвольного натурального k путь f k (µi ). Для этого разобьем путь f k (µ) на сегменты a, b, c r-длин λk (lρ /λ + . . . . . . + lρ /λi−1 ), lρ /λi−k , λk (lρ /λi+1 + lρ /λi+2 + . . .) соответственно так, что некоторые начальные сегменты b, c лежат в Hr . Положим f k (µi ) равным b. ПРЕДЛОЖЕНИЕ 6.3. Можно алгоритмически проверить, верно ли, что ∀ i > 1 ∃ n [f n+i (µi )] = [f n (¯ ρ)].

(1)

ДОКАЗАТЕЛЬСТВО. Выберем натуральное m такое, что (λ/(λ − 1))(lρ /λm ) < min Lr (E) E∈Hr

(2)

и µm µm+1 . . . — конечный сегмент последнего ребра из Hr в пути µ. Тогда (1) распадается на две задачи: ∀ i > m ∃ n [f n+i (µi )] = [f n (¯ ρ)],

(3.1)

∀ i 6 m ∃ n [f n+i (µi )] = [f n (¯ ρ)].

(3.2)

Докажем, что (3.2) выполняется тогда и только тогда, когда существует натуральное n, при котором [f n+m (µ1 . . . µm )] = [f n (f m−1 (¯ ρ) . . . f (¯ ρ)¯ ρ)].

(4)

Если выполняется (3.2), то для каждого 1 6 i 6 m найдется n(i), для которого [f n(i)+i (µi )] = [f n(i) (¯ ρ)]. Положим n равным max{n(i) : i = 1, . . . , m} и получим условие (4). Когда выполняется (4), то по определению µi получим (3.2), если заменить n на n + m − i. Поскольку начальная вершина пути f (µ) (т. е. начальная и в f (µ1 )) и конечная пути ρ совпадают, то (4) эквивалентно существованию натурального n, для которого путь [f n (ρf (ρ) . . . f m−1 (ρ))f m (µ1 . . . µm ))] вырожден. По предложению 5.4 условие (3.2) проверяется алгоритмически. Таким же образом можно проверить для любого фиксированного M , верно ли, что ∀ i 6 M ∃ n [f n+i (µi )] = [f n (¯ ρ)].

(5)

Группа неподвижных точек автоморфизма

µ

r

E0

r r ··· r 

µ1

f (µ) r

µ2

r 

µm−1

f (µ2 )

r

µm µm+1 . . .

E1

r r ··· r 

f (µ1 )

461

r r 

f (µm−1 )

r

f (µm )f (µm+1 ) . . .

Рис. 15 Для проверки условия (3.1) построим множество K, элементы которого будут отвечать путям xi = f i (µm+i µm+i+1 . . . ), i = 1, 2, 3, . . . . По определению путей µi длина Lr (xi ) одинакова для всех i и равна Lr (xi ) = = (λ/(λ−1))·(lρ /λm ). Тогда Lr (xi ) < min Lr (E) по (2). Пусть E0 — последE∈Hr

нее ребро из Hr в пути µ. Напомним, что по выбору m путь µm µm+1 . . . является конечным сегментом E0 . Тогда x1 = f (µm+1 µm+2 . . . ) — конечный сегмент пути f (E0 ). Длина Lr (x1 ) меньше min Lr (E), поэтому x1 являетE∈Hr

ся конечным сегментом последнего ребра E1 ∈ Hr в пути f (E0 ) (рис. 15). Продолжая, получим для каждого xi = f i (µm+i µm+i+1 . . . ) ребро Ei ∈ Hr , содержащее путь xi в качестве конечного сегмента. Итак, каждому i > 1 сопоставим пару (Ei , xi ), где Ei — ребро в Hr , путь xi является конечным сегментом ребра Ei фиксированной длины (λ/(λ − 1)) · (lρ /λm ). Таким образом, полученные пары (Ei , xi ) образуют конечное алгоритмически вычислимое множество K. Так как K конечно, найдутся i < j такие, что Ei = Ej и xi = xj . Тогда f i (µi µi+1 . . . ) = f j (µj µj+1 . . . ). Отсюда и по определению µk получаем равенство f i (µi+l ) = f j (µj+l ) для любого натурального l. Значит, для проверки (3.1) достаточно ответить на вопрос (5) при K = i, что и было сделано. 2 Напомним, что pk = ρf (ρ) . . . f k−1 (ρ)f k (µ). Если условие (1) не выполняется, то для некоторого l имеем [f n+l (µl )] 6= [f n (¯ ρ)]. Тогда для всех k > l выполняется [pk ] = [ρf (ρ) . . . f k−l−1 (ρ)]·[f k−l (pl )], и Lr ([pk ]) ограниче-

462

О. С. Маслакова

но снизу неограниченно возрастающей функцией Lr (ρ)(1+λ+. . .+λk−l−1 ). Если (1) выполняется, то Lr (pk ) > Lr (f k (µk µk+1 . . . )), однако о неограниченном росте длины говорить нельзя. С другой стороны, в данном случае путь pk имеет весьма специальный вид, что позволит решить задачи следования и зацикливания. 6.1.3. Сокращения между [ρf (ρ) . . . f k−1 (ρ)] и [f k−1 (τ ) . . . f (τ )τ ] в случае, когда путь µ вырожден. Сокращения в Hr имеются только в том случае, если разворот в вершине ω(ρ) = α(τ ) запрещен в Hr . Напомним, что Nρ (k) и Nτ (k) — число точек сокращения из Hr в [ρf (ρ) . . . f k (ρ)] и [f k (τ ) . . . f (τ )τ ]. По замечанию 6.2, если величина Nρ (k) − Nτ (k) постоk (µ)] коянна по k, то Nρ (k) = Nτ (k). Если Nρ (k) 6= Nτ (k), то в пути [Pρ,τ

личество точек сокращения из Hr возрастает линейно и ограничено снизу |Nρ (k) − Nτ (k)|. Пусть Nρ (k) = Nτ (k). По предложению 4.10 и замечанию 6.1 будем считать, что путь [ρτ ] не содержит удаляемых точек сокращения из Hr . Если в [ρτ ] есть такие точки, то (поскольку они неудаляемы) число тоk (µ)] не меньше, чем N (k − 1) + N (k − 1), и чек сокращения в пути [Pρ,τ ρ τ k (µ)] неограниченно возрастает по k. Если [ρτ ] вырожден, то и любой [Pρ,τ

вырожден. Если путь [ρτ ] невырожден и не содержит точек сокращения из Hr , то для приведенных путей ρ1 , τ1 , η выполняются ρ = ρ1 · η, τ = η¯ · τ1 , и пути ρ1 , τ1 разрешены в Hr . Покажем, как проверить, верно ли, что путь [f i (ρ1 τ1 )] вырожден для некоторого i. Если [ρ1 τ1 ] пересекается с int(Hr ), то такого i нет в силу (RTT-iii). Если [ρ1 τ1 ] ⊂ Gr−1 , то для нахождения i
требуется решить задачу следования (IIIr−1 ) для пары путей [ρ1 τ1 ], 1 .

k (µ)] Пусть такого i нет. Тогда число точек сокращения из Hr в пути [Pρ,τ

не меньше, чем Nρ (k − 1) + Nτ (k − 1), и неограниченно возрастает по k. Пусть такое i есть. По замечанию 6.1 будем считать i = 0. Тогда все пути k (µ)] вырождены. [Pρ,τ

Предположим, что Nρ (k) = Nτ (k) = 0. Если r-длины ρ и τ различны, то Lr ([ρf (ρ) . . . f k (ρ)f k (τ ) . . . f (τ )τ ]) > (λk + . . . + λ + 1)|Lr (ρ) − Lr (τ )|, и длина неограниченно возрастает по k. В противном случае проверим, вер-

Группа неподвижных точек автоморфизма

463

но ли, что существет l, для которого [f l (ρ)] = [f l (¯ τ )]. Если это не так,
то по (RTT-i)–(RTT-iii) имеем Lr [ρf (ρ) . . . f k−2 (ρ)f k−1 (τ ) . . . f (τ )τ ] >

> Lr [ρf (ρ) . . . f k−1 (ρ)] + Lr [f k−2 (τ ) . . . f (τ )τ ] , и длина неограниченно

k (µ)] циклически повторяется по возрастает по k. В противном случае [Pρ,τ 1 (µ)] до [P l (µ)]. k от [Pρ,τ ρ,τ

k (µ). Напомним, что в [ρf (ρ) . . . 6.1.4. Сокращения в пути Pρ,τ

. . . f k−1 (ρ)], [f k (µ)], [f k−1 (τ ) . . . f (τ )τ ] отсутствуют неудаляемые точки сокращения. Сначала рассмотрим случаи, когда Nρ (k), Nµ или Nτ (k) отличны от 0. (A) Предположим, что Nρ (k) 6= Nτ (k). Вне зависимости от того, есть k (µ)] возрастает в пути µ точки сокращения из Hr или нет, их число в [Pρ,τ

линейно по k и ограничено снизу величиной |Nρ (k) − Nτ (k)| − Nµ . (B) Предположим, что Nρ (k) = Nτ (k) 6= 0. Найдем i такое, что Nρ (i) > Nµ . По предложению 4.10 и замечанию 6.1 будем считать, что i (µ)] не содержит удаляемых точек сокращения из H . Если в путь [Pρ,τ r i (µ)] есть точки сокращения из H , то (поскольку они неудаляемы) [Pρ,τ r k (µ)] не меньше, чем N (k − i − 1) + N (k − i − 1), и число их в пути [Pρ,τ ρ τ i (µ)] вырожден, то любой неограниченно возрастает по k. Если путь [Pρ,τ k (µ)] циклически повторяется по k от [P 1 (µ)] до [P i (µ)]. путь [Pρ,τ ρ,τ ρ,τ i (µ)] не содержит точек сокращения из H . Это Пусть теперь [Pρ,τ r i (µ)] возможно только тогда, когда путь f i (µ) сократился полностью в [Pρ,τ i (µ)] = ρ · τ для некоторых r-разрешенных начального сегмента ρ и [Pρ,τ 1 1

и конечного сегмента τ . Пусть конечный сегмент ρ2 пути ρ и начальный k (µ) = сегмент τ2 пути τ таковы, что ρ = ρ1 · ρ2 , τ = τ2 · τ1 . Тогда Pρ,τ

= ρ1 P[ρk 1 f (ρ2 )],[f (τ2 )τ1 ] (1)τ1 , и все свелось к п. 6.1.3. (C) Предположим, что Nρ (k) = Nτ (k) = 0 и Nµ 6= 0. Поскольку r-разрешенные пути сокращаются только с r-разрешенными путями, то все сводится к (D). (D) Предположим, что Nρ (k) = Nτ (k) = Nµ = 0. Обозначим через lρ , lτ и lµ длины в Hr путей ρ, τ и µ соответственно. k (µ)]) > Предположим, что (λ − 1)lµ > lρ + lτ . Тогда Lr ([Pρ,τ

> Lr ([f k (µ)]) − Lr ([ρf (ρ) . . . f k−1 (ρ)]) − Lr ([f k−1 (τ ) . . . f (τ )τ ]) > (λk /(λ −

464

О. С. Маслакова


k (µ)]) неограниченно −1)) (λ−1)lµ −lρ −lτ +(lρ +lτ )/(λ−1). Значит, Lr ([Pρ,τ

возрастает по k.

Пусть (λ−1)lµ = lρ +lτ . Разобьем путь µ на три подпути µ = µ1 ·µ2 ·µ3 таких, что Lr (µ1 ) = lρ /(λ − 1), Lr (µ3 ) = lτ /(λ − 1), конечный сегмент µ1 и начальный µ3 попадают в Hr , путь µ2 попадает в Gr−1 и может быть вырожденным. Заметим, что конечная и начальная точки µ1 и µ3 — не обязательно вершины. Остается воспользоваться предложением 6.3. Предположим, что (λ − 1)lµ < lρ + lτ . Могут появиться две точки сокращения из Hr : α(f (µ)) = ω(ρ) и ω(f (µ)) = α(τ ). Необходимо выяснить, удаляемы они или нет. Вычислим радиусы сокращения на примере путей ρf (ρ) . . . f k−1 (ρ) и f k (µ). Если (λ − 1)lµ < lρ , то найдем i такое, что Lr (f i (µ)) < Lr (ρf (ρ) . . . f k−1 (ρ)). Для того, чтобы вычислить радиус сокращения точки α(f (µ)) = ω(ρ) в пути [ρf (ρ) . . . f k−1 (ρ)f k (µ)] для произвольного k, достаточно вычислить его в [ρf (ρ) . . . f i−1 (ρ)f i (µ)] для полученного i. Если (λ − 1)lµ > lρ , то сокращения могут происходить только с начальным сегментом (пути µ), r-длина которого равна lρ /(λ − 1). Для того, чтобы вычислить радиус сокращения, осталось воспользоваться предложением 6.3. 6.2. Hr — единичный слой. По предложению 5.5 можно алгоритмически вычислить натуральное T такое, что пути [f T (ρ)], [f T (τ )], [f T (µ)], [f T (ρf (ρ))], [f T (τ f (τ ))] минимальны. По замечанию 6.1 будем считать T = 0. 6.2.1. Сокращения в выражениях ρf (ρ) . . . f k (ρ) и f k (τ ) . . . . . . f (τ )τ . Обозначим через ρ1 максимальный начальный сегмент пути f (ρ), гомотопный I(¯ ρ, [f (ρ)]). Тогда ρ = σ1 ·[¯ ρ1 ], [f (ρ)] = [ρ1 ]·σ2 и [ρf (ρ)] = σ1 ·σ2 . Определим путь ρ2 как конечный сегмент в f (ρ), равный f ([¯ ρ1 ]). Таким образом, ρ1 , ρ2 — подпути в f (ρ). Возможны два случая. С л у ч а й 1. Внутренности путей ρ1 и ρ2 не пересекаются, т. е. имеется путь ρ0 (возможно, вырожденный) такой, что f (ρ) = ρ1 · ρ0 · ρ2 . Тогда f (ρ)f 2 (ρ) = ρ1 ρ0 f (ρ0 )f (ρ2 ) и f (ρ)f 2 (ρ) . . . f k+1 (ρ) = ρ1 ρ0 · ·f (ρ0 )f 2 (ρ0 ) . . . f k (ρ0 )f k (ρ2 ). Так как ребра из Hr не могут сокращать-

Группа неподвижных точек автоморфизма

465

ся в ρ0 f (ρ0 ), f (ρ0 )f 2 (ρ0 ), то Lr (ρ0 f (ρ0 )f 2 (ρ0 ) . . . f k (ρ0 )) = (k + 1)m, где k+1 (µ) = ρρ P k−1 ρ ρ · m — число ребер из Hr в ρ0 . Поскольку Pρ,τ 0 2 1 ρ0 ,τ
2 ·f (µ)f (τ )τ τ , задача следования для (ρ, τ, µ, ν) эквивалентна задаче сле
дования для ρ0 , τ, [ρ0 ρ2 f ( µ)f (τ )τ ], [¯ ρ1 ρ¯ν τ¯] с дополнительной проверкой

1 (µ)] = ν, [P 2 (µ)] = ν. Задача зацикливания для (ρ, τ, µ) экравенств [Pρ,τ ρ,τ

вивалентна задаче зацикливания для (ρ0 , τ, µ). Итак, можно считать ρ = ρ0 и Lr (ρf (ρ) . . . f k (ρ)) = (k + 1)m, где m — число ребер из Hr в пути ρ. С л у ч а й 2. Пути ρ1 и ρ2 пересекаются, т. е. найдутся α, β, γ такие, что f (ρ) = α · β · γ, ρ1 = α · β, ρ2 = β · γ. Так как Lr ([f (ρ)]) = Lr (ρ), то Lr (β) 6 Lr (ρ). Есть три возможности. (A) Lr (β) = 0. Так как выполняется равенство ¯ (β) ¯ . . . f k−2 (β)f ¯ k−2 (γ), f (ρ) . . . f k (ρ) = αβ βf

(∗)


k+1 (µ) = αβP k−2 βγf ¯ 2 (µ)f (τ )τ τ . Тогда эквивалентны задачи зацикто Pρ,τ ¯ β,τ
¯ τ, [βγf ¯ 2 (µ)f (τ )τ ] , а также задачи следоливания для (ρ, τ, µ) и для β,
¯ τ, [βγf ¯ 2 (µ)f (τ )τ ], [β¯α вания для (ρ, τ, µ, ν) и для β, ¯ ν τ¯] . Поэтому можно считать ρ = β¯ и Lr (ρ) = 0. (B) Lr (β) = Lr (ρ). В силу Lr (ρ) = Lr (f (ρ)) = Lr (α) + Lr (β) + Lr (γ) имеем Lr (α) = Lr (γ) = 0. Кроме того, f (ρ)f 2 (ρ) . . . f 2k (ρ) = (σf (η))(f 2 (σf (η))) . . . (f k (σf (η))), f (ρ)f 2 (ρ) . . . f 2k+1 (ρ) = f (ρ)(f (σf (η)))(f 3 (σf (η))) . . . (f k+1 (σf (η))). Обозначим Qkρ,τ = ρf 2 (ρ) . . . f 2k−1 (ρ)f 2k (µ)f 2k−1 (τ ) . . . f 2 (τ )τ по аналогии k . Тогда P 2k+1 (µ) = ρf (ρ) · Qk−1 2k (µ) = с Pρ,τ (ηf 2 (µ)f (τ )τ )τ и Pρ,τ ρ,τ [f (δ)],[f 2 (τ )f (τ )] ¯ k = ρf (ρ)f (σ)δQ (ηf 2 (µ) · f (τ )τ ), где δ = [σf (η)]. Заметим, что период δ,[f (τ )τ ]

в задаче зацикливания можно считать четным и отдельно рассматривать k (µ). Таким образом, в задачах следовачетные и нечетные индексы k в Pρ,τ

ния и зацикливания достаточно подправить пути и заменить отображение f на f 2 . Можно считать, что Lr (ρ) = 0. (C) 0 < Lr (β) < Lr (ρ). Воспользуемся равенством (∗) и разобьем путь f (¯ ν ) согласно случаю 1 или 2. Выполняя не более Lr (ρ) таких подразбиений, мы получим, что выполняется либо случай 1, либо случаи 2(A), (B).

466

О. С. Маслакова 6.2.2. Сокращения между ρf (ρ) . . . f k−1 (ρ) и τ f (τ ) . . . f k−1 (τ ) в

случае, когда путь µ вырожден. Предположим, что Lr (ρ) 6= Lr (τ ). k (µ)]) > k|L (ρ) − L (τ )|, и длина неограниченно возрастает Тогда Lr ([Pρ,τ r r

по k. Далее считаем, что Lr (ρ) = Lr (τ ). По предложению 5.5 найдем T > 0 такое, что путь [f T (ρτ )] минимален. По замечанию 6.1 будем считать T = = 0. Если в пути [ρτ ] есть ребра из Hr , то по определению минимальноk (µ)]) = (k − 1)(L (ρ) + L (τ )) + L ([ρτ ]) неограниго пути длина Lr ([Pρ,τ r r r

ченно возрастает по k. Если [ρτ ] ⊂ Gr−1 , то ρ = ρ0 · σ, τ = σ ¯ τ0 . Проверим, существует ли l > 0 такое, что путь [f l (ρ0 τ0 )] вырожден (так как известен алгоритм для задачи (IIIr−1 ), то проверка алгоритмична). Если оно найдется, то по замечанию 6.1 можно считать l = 0 и τ = ρ¯. В k (µ)] вырожден для всех k > 0. Если же его нет, то этом случае путь [Pρ,τ k (µ)]) = 2(k − 1)L (ρ) неограниченно возрастает по k. Lr ([Pρ,τ r k (µ). Случаи, когда либо µ вырожден, ли6.2.3. Сокращения в Pρ,τ

бо µ и ρ (или µ и τ ) не содержат ребер из Hr , рассмотрены ранее. Если ρ и τ не содержат ребер из Hr , то достаточно применить предложение 5.5 и замечание 6.1. Если путь ρ (или τ ) не содержит ребер из Hr , то k (µ)]) > k|L (τ ) − L (µ)|, и длина неограниченно возрастает по k. Lr ([Pρ,τ r r

Далее предполагается, что пути ρ, τ содержат ребра из Hr . k (µ)]) > |k|L (ρ) − L (τ )| − L (µ)|, и Если Lr (ρ) 6= Lr (τ ), то Lr ([Pρ,τ r r r

длина неограниченно возрастает по k. Если Lr (ρ) = Lr (τ ), то вычислим l > 0 такое, что l · Lr (ρ) > Lr (τ ). По предложению 5.5 найдем T > 0 таl (µ))] минимален. По замечанию 6.1 будем считать кое, что путь [f T (Pρ,τ l (µ)] = ρ · µ · τ , где ρ , µ , τ — подпути (возможно, выT = 0. Тогда [Pρ,τ 0 0 0 0 0 0

рожденные) в [ρf (ρ) . . . f k−1 (ρ)], [f k (µ)], [f k−1 (τ ) . . . f (τ )τ ] соответственно. k (µ)]) > (k − l)(L (ρ) + L (τ )) + L ([P l (µ)]), Если ρ0 , τ0 * Gr−1 , то Lr ([Pρ,τ r r r ρ,τ

и длина неограниченно возрастает по k. Если один из путей ρ0 , τ0 не пересекается с intHr , то µ0 вырожден. Без ограничения общности можно считать, что τ0 ⊂ Gr−1 . Тогда l (µ)] = ρ[f (ρ) . . . f i−1 (ρ)ρ ] · τ для некоторого i, начального сегмен[Pρ,τ 0 0

та ρ0 пути [f i (ρ)] и конечного сегмента τ0 пути τ . Пусть ρ1 , τ1 таковы,

Группа неподвижных точек автоморфизма

467

что [f i (ρ)] = ρ0 · ρ1 , τ = τ1 τ0 . Тогда для всех k > i + 1 выполняется k (µ) = ρf (ρ) . . . f i−1 (ρ)ρ P k−i Pρ,τ 0 [ρ1 f (ρ0 )],[f (τ0 )τ1 ] (1)τ0 , и данный случай рассмот-

рен в п. 6.2.2. 6.3. Решение задач (Vr ) и (VIr ). Выше было показано, что либо пуk (µ)] повторяются с некоторым вычисленным периодом p > 0, либо ти [Pρ,τ

вычислена ограничивающая функция B(k), равная или r-длине, или количеству точек сокращения. В первом случае задачи (Vr ) и (VIr ) решаются тривиально, а во втором — задача (VIr ) решений не имеет, а для решения задачи (Vr ) достаточно проверить конечное число путей, для которых B(k) не превосходит r-длины или числа точек сокращения в ν.

§ 7. Задачи следования и зацикливания (Ir ), (IIr ) Пусть путь µ имеет вид E1 . . . Ek , где E1 , . . . , Ek — ребра в Gr . Заме¯1 E1 . . . Ek f (E1 ) и не производить сотим, что если определить fb(µ) как E кращения в этом пути, то данное определение не изменяет задач (Ir ), (IIr ).

Поэтому в дальнейшем будем пользоваться именно им. Пусть µ, ν ∈ Gr — приведенные f -пути. Необходимо указать алгоритмы для решения следующих задач. Считаем, что алгоритмы для решения задач (IIIr ), (VIr ) уже указаны. (Ir ) Задача следования для пары путей (µ, ν). Существует ли натуральное k такое, что [fbk (µ)] = ν? Найти его, если оно существует.

(IIr ) Задача зацикливания для пути µ. Существуют ли различные натуральные k, l такие, что [fbk (µ)] = [fbl (µ)]? Найти их, если они су-

ществуют.

ЗАМЕЧАНИЕ 7.1. Пусть k, l — фиксированные натуральные числа. Тогда эквивалентны задачи (IIr ) для путей µ и [fbk (µ)], задачи (Ir ) для пар путей (µ, ν) и ([fbk (µ)], ν) с дополнительной проверкой конечного числа равенств fbi (µ) = ν для i < k. Если [fbi (µ)] = ν для некоторого i, то и

задача (Ir ) для пары (µ, [fbl (ν)]) имеет решение. Пусть [fbi (µ)] = [fbl (ν)] для некоторого i; если существует j, для которого [fbj (µ)] = ν, то j 6 i. Таким

468

О. С. Маслакова

образом, можно говорить об эквивалентности задач (Ir ) для пар путей (µ, ν) и ([fbk (µ)], [fbl (ν)]).

В этом п. предполагается, что найдены алгоритмы для решения за-

дач (IIIr )–(VIr ). Следующее замечание поможет связать задачи (Ir ) и (IIr ) с задачами (IIIr )–(VIr ). ЗАМЕЧАНИЕ 7.2. Для любого k > 0 существует l > 0 такое, что путь fbk (µ) является подпутем в f l (µ)f l+1 (µ). Пусть для фиксированного l > 0 выполняется f l (µ) = µ1 µ2 , тогда существует k > 0, для которого µ2 f (µ1 ) = fbk (µ).

7.1. Hr — экспоненциально растущий слой. По предложе-

нию 4.10 вычислим i > 0 такое, что в [f i (µ)] и [f i (µ), f i+1 (µ)] все точки сокращения из Hr неудаляемы. По замечанию 7.2 найдется j > 0 такое, что fbj (µ) совпадает с f i (µ). По замечанию 7.1 можно считать, что j = 0, а пути µ, [µf (µ)] не содержат удаляемых точек сокращения из Hr . Ана-

логично, используя предложение 4.10, а также замечания 7.1 и 7.2, будем считать, что в ν отсутствуют неудаляемые точки сокращения из Hr . ПРЕДЛОЖЕНИЕ 7.3. Существуют алгоритмы решения задач (Ir ) и (IIr ) для экспоненциального слоя Hr . ДОКАЗАТЕЛЬСТВО. (A) Предположим, что [µf (µ)] является r-разрешенным. Тогда пути fbi (µ) будут r-разрешены для любого i по замечанию 7.2. Значит, Lr (fbk+1 (µ)) > Lr (fbk (µ)) и Lr (fbk (µ)) неограниченно

возрастает по k. Следовательно, задача (IIr ) не имеет решений. Для решения задачи (Ir ) достаточно найти k такое, что Lr (fbk (µ)) > Lr (ν). Если [fbi (µ)] = ν, то i < k и задача сводится к конечному перебору вариантов. Поэтому далее считаем, что путь [µf (µ)] не является r-разрешенным.

(B) Пусть y — некоторая точка сокращения из Hr в µ или [µf (µ)], a — ее радиус сокращения, сегмент J определен, как в предложении 4.8. Тогда для i-потомков y i точки y сегменты J i повторяется с некоторой периодичностью: для всех i > T пути J i и J i+p совпадают. Числа T, p алгоритмически вычислимы и зависят от y. По замечанию 7.1 можно считать, что T = 0 и период p — один и тот же для всех точек сокращения

Группа неподвижных точек автоморфизма

469

y. Согласно замечанию 7.2 в путях fbj (µ) сегменты J также повторяется с

некоторой периодичностью.

(C) Пусть y1 — первая точка сокращения из Hr в пути [µf (µ)], a1 — ее радиус сокращения; A1 и B1 — различные ближайшие к y1 вершины в [µf (µ)], отстоящие от y1 на r-расстояние, не меньше a1 . Обозначим через µ1 и µ2 начальный и конечный сегменты пути µ с конечной (начальной) вершиной A1 т. е. µ = µ1 µ2 . Положим i равным числу ребер в пути µ1 , тогда fbi (µ) = µ2 f (µ1 ). По замечанию 7.1 можно считать i = 0 и вершину A1 — начальной в µ. Пусть J1 — сегмент пути [µf (µ)] с начальной вер-

шиной A1 и конечной B1 . Обозначим через y2 , . . . , yk все остальные точки сокращения в пути µ, а через J2 , . . . , Jk — соответствующие им сегменты, определенные, как и ранее. По определению, [f p (Ji )] = τi · Ji · ρi для некоторых приведенных путей ρi , τi , i = 1, . . . , k. Рассмотрим путь вида µ1 = [¯ τ1 f p (µ)f (τ1 )]. По замечанию 7.2 он может быть получен движением в Df из вершины µ, его точки сокращения и соответствующие им сегменты J одинаковы с µ, и этот путь — ближайший в Df с такими свойствами. Аналогично построим µ2 , µ3 , . . . . (D) Решим задачу (IIr ). Очевидно, что если зацикливание имеет место, то найдутся i < j, для которых µi = µj . Пусть µ = J1 · a1 · . . . · Jk · ak для приведенных путей a1 , . . . , ak . Равенство µi = µj верно тогда и только тогда, когда пара i, j удовлетворяет системе   i i    [Pρ1 ,τ2 (a1 )] = [Pρ1 ,τ2 (a1 )],      ...

  [Pρik−1 ,τk (ak−1 )] = [Pρik−1 ,τk (ak−1 )],       i  [P i τ1 )] (ak )], ρk ,[f (¯ τ1 )] (ak )] = [Pρk ,[f (¯

l (a) определяется для отображения f p . Так как есть алгоритм где путь Pρ,τ

для решения задачи (VIr ), можно выяснить, существуют ли i < j, удовлетворяющие этой системе, и найти их, если они существуют. (E) Решим задачу (Ir ). Без ограничения общности можно считать, что µ = J1 · b1 · . . . · Jk · bk для приведенных путей b1 , . . . , bk . Тогда для существования решения задачи (Ir ) необходимо и достаточно, чтобы нашлось

470

О. С. Маслакова

i, удовлетворяющее системе    [Pρi1 ,τ2 (a1 )] = b1 ,        ...

  [Pρik−1 ,τk (ak−1 )] = bk−1 ,        [P i ρk ,[f (¯ τ1 )] (ak )] = bk ,

l (a) определяется для отображения f p . Так как имеется алгогде путь Pρ,τ

ритм для решения задачи (Vr ), можно выяснить, существует ли i, удовлетворяющее этой системе, и найти его, если оно существует. 7.2. Hr — единичный слой. По предложению 5.5 вычислим i > 0 такое, что [f i (µ)] и [f i (µ), f i+1 (µ)] минимальны в Hr . По замечанию 7.2 найдется j > 0 такое, что fbj (µ) совпадает с f i (µ). По замечанию 7.1 мож-

но считать, что j = 0, а пути µ, [µf (µ)] минимальны в Hr . Аналогично,

используя предложение 4.10, а также замечания 7.1 и 7.2, будем считать, что ν минимален в Hr . Пусть E1 , . . . , Ek — все ребра из Hr в пути µ; множество M состоит
m+1 m m для 1 6 l 6 из наборов ребер вида em , . . . , Elm+1 l = El , . . . , Ek , E1 1

6 k, m > 0. Так как Mr — неприводимая матрица престановки размера p,

m+p и множество M конечно (порядка не более kp) и алгоритто em l = el

мически вычислимо. Отметим, что для любого i набор ребер из Hr в пути fbi (µ) равен em l для подходящих l, m, а для каждой пары l, m существует i путь fb (µ), в котором набор ребер из Hr равен em . l

ПРЕДЛОЖЕНИЕ 7.4. Существуют алгоритмы решения задач

(Ir ) и (IIr ) для единичного слоя Hr . ДОКАЗАТЕЛЬСТВО. Решим задачу (IIr ). Пусть [fbi (µ)] = [fbj (µ)]

для некоторых i < j. Будем считать период кратным p (порядку матрицы Mr ). Тогда соответствующие числам i, j элементы множества M совпадают, и ребра из Hr в fbj (µ) являются p-потомками ребер из Hr в fbi (µ).

По замечанию 7.1 можно считать, что [fbi (µ)], [fbj (µ)] начинаются с ребра из Hr .

Пусть em l — произвольный элемент множества M. Найдем минималь-

Группа неподвижных точек автоморфизма

471

bi ное i такое, что в fbi (µ) набор ребер из Hr равен em l и [f (µ)] начинается с ребра из Hr . Заметим, что в [fbi (µ)] некоторые ребра из Hr могут сократиться, обозначим те, которые остались, через Q1 , . . . , Qs . По замечанию 7.1 можно считать i = 0 и µ = Q1 a1 . . . Qs as , где a1 , . . . , as — приведенные пути из Gr−1 , возможно, вырожденные. Пусть [f p (Qj )] = τj · Qj · ρj , где τj , ρj — приведенные пути в Gr−1 . Тогда набор ребер из Hr в [¯ τ1 f p (µ)f (¯ τ1 )] тоже совпадает с Q1 , . . . , Qs , этот путь начинается на Q1 и может быть получен движением из µ по замечанию 7.2. Более того, этот путь — ближайший с такими свойствами (в графе Df ) к µ, для которого все его ребра из Hr являются p-образами ребер из Hr пути µ. Осталось проверить, верно ли, что    [Pρi1 ,τ2 (a1 )] = [Pρi1 ,τ2 (a1 )],        ...

  [Pρik−1 ,τk (ak−1 )] = [Pρik−1 ,τk (ak−1 )],       i  [P i τ1 )] (ak )], ρk ,[f (¯ τ1 )] (ak )] = [Pρk ,[f (¯

l (a) определяется для отображения f p . Так как имеется алгогде путь Pρ,τ

ритм для решения задачи (VIr−1 ), можно выяснить, существуют ли i < j, удовлетворяющие этой системе, и найти их, если они существуют. Решим задачу (Ir ). По замечанию 7.1 можно считать, что путь ν начинается с ребра из Hr . Как и предыдущей задаче переберем все em l ∈ M. Действуя аналогично, получим систему задач (Vr−1 ) для отображения f p . Так как есть алгоритм для решения задачи (Vr−1 ), можно алгоритмически решить и задачу (Ir ). 2 Автор благодарит своего научного руководителя д.ф.-м.н. О. В. Богопольского за внимание и помощь, оказанные при работе над статьей. ЛИТЕРАТУРА 1. M. Bestvina, M. Handel, Train tracks and automorphisms of free groups, Ann. Math. (2), 135, N 1 (1992), 1—53. 2. M. M. Cohen, M. Lustig, On the dynamics and the fixed subgroup of a free group automorphism, Invent. Math., 96, N 3 (1989), 613—638.

472

О. С. Маслакова 3. E. C. Turner, Finding indivisible Nielsen paths for a train tracks map, in: Proc. of a workshop held at Heriot–Watt Univ., Edinburg, 1993 (Lond. Math. Soc. Lect. Note Ser., 204), Cambridge, Cambridge Univ. Press., 1995, 300—313. 4. M. Lustig, Structure and conjugacy for automorphisms of free groups. I, II, www.mpim-Bonn.mpg.de/MPI-2000-130.ps, MPI-2001-4.ps. 5. J. L. Dyer, G. P. Scott, Periodic automorphisms of free groups, Commun. Algebra, 3, N 3 (1975), 195—201. 6. D. Cooper, Automorphisms of free groups have finitely generated fixed point sets, J. Algebra, 111, N 2 (1987), 453—456. 7. W. Dicks, E. Ventura, The group fixed by a family of injective endomorphisms of a free group (Contemp. Math., 195), Providence, RI, Am. Math. Soc., 1996.

Адрес автора: МАСЛАКОВА Ольга Сергеевна, РОССИЯ, 630090, г. Новосибирск, пр. Ак. Коптюга, 4, Институт математики СО РАН. e-mail: [email protected]

Поступило 10 мая 2001 г.