Алгебра и логика, 39, N 4 (2000), 379-394
УДК 512.54
О РАЦИОНАЛЬНЫХ М Н О Ж Е С Т В А Х В КОНЕЧНО-ПОРОЖДЕННЫХ НИЛЬПОТЕ...
5 downloads
182 Views
1MB Size
Report
This content was uploaded by our users and we assume good faith they have the permission to share this book. If you own the copyright to this book and it is wrongfully on our website, we offer a simple DMCA procedure to remove your content from our site. Start by pressing the button below!
Report copyright / DMCA form
Алгебра и логика, 39, N 4 (2000), 379-394
УДК 512.54
О РАЦИОНАЛЬНЫХ М Н О Ж Е С Т В А Х В КОНЕЧНО-ПОРОЖДЕННЫХ НИЛЬПОТЕНТНЫХ ГРУППАХ*) Г. А. БАЖЕНОВА Введение
Следуя [1], определяем класс рациональных подмножеств произволь ного моноида М как минимальный класс, содержащий все конечные под множества М и замкнутый относительно рациональных операций, т.е. объединения, произведения и порождения подмоноида. Выбирая в каче стве моноида М группу G, получаем определение рациональных подмно жеств G. Известен (см. [2]) другой подход к определению рациональных подмножеств, основанный на понятии рациональной структуры в группе. В § 4 мы доказываем, что два определения в некотором смысле эквивалент ны тогда и только тогда, когда рациональные в смысле [1] подмножества G образуют булеву алгебру, т. е. класс, замкнутый относительно объедине ния, пересечения, взятия дополнения и теоретико-множественной разности множеств (поскольку объединение входит в число рациональных опера ций, достаточно говорить о замкнутости класса рациональных множеств относительно взятия дополнения). Известно (см., например, [1]), что рациональные подмножества сво бодного конечно-порожденного (к. п.) моноида образуют булеву алгебру. Нетрудно также показать, что рациональные подмножества свободной *' Работа выполнена при финансовой поддержке Российского фонда фундаменталь ных исследований, проект N 98-01-00932.
©
Сибирский фонд алгебры и логики, 2000
380
Г. А. Баженова
группы конечного ранга — булева алгебра. В данной статье доказывается, что рациональные подмножества к. п. нильпотентной группы G образуют булеву алгебру тогда и только тогда, когда группа G почти абелева. Кроме того, изучается, когда множества решений уравнений в к. п. нильпотентных группах не являются рациональными. Приводится пример уравнения от одной переменной в свободной нильпотентной группе ранга два и ступени три, множество решений которого не будет рациональным (пример 1), это решает известную в данной области проблему о существо вании таких уравнений над к. п. нильпотентными группами.
§ 1. Основные определения ОПРЕДЕЛЕНИЕ 1. Пусть М — моноид. По индукции определим классы %, г = 0 , 1 , . . . , подмножеств из М следующим образом: 1. $ о ~~ э т о класс всех конечных подмножеств из М. 2. Если классы Ло,...,31п
уже определены, то 3£„4-i — класс всех
множеств 5 С М таких, что 5 не принадлежит ни одному из классов 3?о,..., # п , но существуют множества Т\ 6 %к, ?2 £ %, 0 ^ к, I ^ n такие, что либо 5 = Тх U Т 2 , либо 5 = Т{Г2 = {аЬ | а е Г ь Ь G Т 2 }, либо 5 = 2\* = = {1} U Тг U TiTi U Г1Г1Г1 U .. ..
Объединение всех классов %i, г = 0 , 1 , . . . , называется классом раци ональных подмножеств М и обозначается 31(М). Если множество 5 С М принадлежит 3 ^ , то число к будем называть сложностью множества S. Хорошо известно описание рациональных множеств с помощью конечных автоматов. ОПРЕДЕЛЕНИЕ 2. Конечным автоматом Г
Г над моноидом М на
е
зывается четверка {Q,qo<>Qt,ty-> Д Q ~ конечное множество (мноэюе стпво вершин), qo — элемент Q (начальная вершина), Qt — подмножество Q (мноэюестпво выходных вершин), £1 — конечное подмножество декартова произведения Q X М х Q (множество стрелок). Правильный путь тг в автомате Г — это конечная последовательность стрелок вида uj\,... ,и>п, где о;,- = (ft-i, то«?&)> причем qn € Qt- Меткой
О рациональных множествах
381
стрелки о;,* называется элемент гп{. Меткой пути я* называется произве дение т\ • • -тп. Говорят, что автомат Г задает множество R С М, если Л — это множество меток всех правильных путей автомата Г. Т Е О Р Е М А 1. Пусть М — моноид. Тогда любой конечный авто мат над М задает рациональное подмножество М, и наоборот, любое рациональное подмножество М задано некоторым автоматом. Следующая лемма, в основе которой лежит хорошо известная идея, дает полезное необходимое условие, при котором множество будет рацио нальным. Л Е М М А 1. Пусть М - моноид, и Re ЩМ). Тогда: 1) либо R конечно, либо существуют такие и, и, w из М, что v ф 1 и для всех целых п ^ 0 элемент uvnw принадлежит R; 2) существуют такие конечные множества То, Ti С М, что 1 £ Тх и любое г из R\ То можно представить в виде г = utv, где t 6 Т\ и ut*v С R. ДОКАЗАТЕЛЬСТВО. Ясно, что п. 1 следует из п. 2. Докажем п. 2. Пусть R задано с помощью конечного автомата Г. Число правильных пу тей без петель в Г конечно. Пусть Го — множество их меток. Множество петель, не содержащих подпетли, также конечно. Пусть Т\ — множество их меток, отличных от единицы. Если г £ (R \То), пусть 7г = u?i,... ,u;„, и;,- = = (qi-i>mi,qj)
— кратчайший правильный путь в Г с меткой г. Суще
ствуют индексы 0 ^ г < j ^ n такие, что qi = qj и <£,...,#i-i попарно различны. Положим и = mi • • • mt-, t — тп^\ • • -mj,v = mj+\ • • • m n . Заме тим, что t ф 1, иначе путь не был бы кратчайшим. Тогда t E Ti, кроме того, и£*г; С Л. Лемма доказана. Пусть Mi С M
382
Г. А. Баженова, ДОКАЗАТЕЛЬСТВО. Докажем индукцией по сложности R E 01(G),
что hRg € 51(H) (для любых h,g E G), если hRg С Я . Пусть J? = i?ii?2, а для Лх и Д2 утверждение верно. Можно считать # i и Й2 непустыми. Выберем a е R\ и Ь G Дг- Пусть /гЛ# С Я . Тогда й Л ^ е Я(Я) и /шЬ<7 € Я . Далее, g'lb~lR2g l
l
Значит, />Л# = (hRibg)(g- b~ R2g)
= (habg)~1haR2g
6 #(#).
Пусть i? = Л£, и ЛЛ# С Я . Тоща / г Л ^ - 1 = hRig(hg)~l 1
Поэтому (hRih- )*
6 Я(#).
1
l
= йД/Г е Я(Я) и /гД# = hRh~ (hg)
e Я(Я).
е Ж(Я). Пред
ложение доказано.
§ 2. Абелевы группы В абелевых группах групповую операцию обозначаем знаком + . Т Е О Р Е М А 2. Пусть G — почти абелева к. п. группа. Тогда 31(G) — булева алгебра. ДОКАЗАТЕЛЬСТВО. Вначале установим ряд лемм. Л Е М М А 2. Пусть А = Zn — свободная абелева группа конечного ранга п. Тогда любое Л £ 31(A) можно представить в виде к
R=]J(ai + Mi)1
(1)
i=l
где к $> 0, аг; Е А, М; С А — к. п. моноид, г = 1 , . . . , к. ДОКАЗАТЕЛЬСТВО. Поскольку {0} — это к. п. моноид, то все ко нечные множества представимы в виде (1). Поэтому достаточно пока зать, что класс множеств, представимых в виде (1), замкнут относитель но рациональных операций. Ясно, что он замкнут относительно суммы и объединения. Пусть Л имеет вид (1). При всех 1 ^ г ^ к множество (а, + MiY = {0} U ai + (а* + М,-) имеет вид (1), поскольку а* + М,- является к к. п. моноидом. Тогда Л* = ]С(а« + Mi)* — сумма множеств вида (1) и i=i
тоже имеет вид (1). Лемма доказана.
О рациональных множествах
383
ОПРЕДЕЛЕНИЕ 3. Моноид М называется свободным коммутатив ным, если он либо тривиален, либо изоморфен моноиду {{zu...,zn)eZn\zlZ0,...,zn20}-
%l =
Если <р : Z+ -> М — изоморфизм, то
к R=\J(ai + Mi),
(2)
t=i
где к ^ 0, а; £ А} и Mi С А — свободный коммутативный
моноид,
г = 1 , . . . , &. ДОКАЗАТЕЛЬСТВО. Покажем индукцией по числу порождающих, что любой к. п. моноид М имеет вид (2). Пусть элементы # i , . . . , х 5 , где s > 1, порождают М. Если ж; не являются свободными порождающими, то найдутся наборы целых неотрицательных чисел n i , . . . , nSJ n'1? . . . , п ^ такие, что ]Г) n t #, = ]Г п^ж, и для некоторого г имеем щ ф п\. Для г = 1 , . . . , 5 положим т?; = |n,- — n(|, Si — щъ{щ - nj) (считаем sgn(0) = 0), и пусть \ц = т / ^ при rji > 0 и yt- = ж; при ^ = 0. Пусть У = { у ь . . . , y s }. Существует конечное множество АГ такое, что Y* + K = М. Значит, достаточно показать, что У* имеет вид (2). Известно, что J2 £$у, = 0, и найдется 6i ф 0. Иначе говоря, имеем ^ у, = X) у,-, где множества / , J С {!,...,«} не пересекаются и одно из них (скажем, /) непусто. Тогда У = (j{yi'
• • •' » - ь Уй-ь • • •, У.}*-
(3)
Действительно, пусть и = £ /,-#, где /,• б Z и /, ^ 0. Положим А = «:=1
= min{/, | г Е / } , и пусть А = /,, где jf £ / . Можно считать, что lj > 0. Тогда
u
= Yllm+Х^' - А ) »•+ л ]Су* tg/
i€/
iel
Г. А. Баженова,
384
Получим равенство (3). Значит, по индукции У* имеет вид (2). Лемма доказана. Л Е М М А 4. Пусть А = Zn, Я Е Я(Л), а К С А конечно. Тогда (R\K)eOl(A). ДОКАЗАТЕЛЬСТВО. Пусть Я -— свободный коммутативный моно ид, и X = { # 1 , . . . , х8} ~ множество его свободных порождающих. Пусть К
==
\ Yl ^ixi \ состоит из одного элемента. Тогда R \ К = R\ U Я2, где
# i = | Е l&i | О <С /,•*$ А,- } \ t f - конечно, а Я 2 = U ((1 + *•)*« + Я). U=i J t=i Лемма доказана. Л Е М М А 5, Пусть G — группа, X : G -+ Н — гомоморфизм. Тогда: 1) если R Е 51(G), то А(Я) Е Я ( # ) ; 2) если Я € 3£(Я) и X — эпиморфизм с к. п. ядром, то А - 1 (Я) Е 01(G). ДОКАЗАТЕЛЬСТВО. 1) Это утверждение хорошо известно (см. [1]). 2) Воспользуемя индукцией по сложности рационального множества. N
Если R С Н конечно, то А"""1 (Я) = [J #,(kerA), где fifi,...,
= X-1(X)UX~1(Y))
= X~l(X)(X~](X))*
X^(XY)
= А~ 1 (Х)А- 1 (У), А " 1 ^ * ) =
U (kerA). Лемма доказана.
Л Е М М А 6. Пусть G — группа, Н < G — подгруппа конечного индекса, a D — { d i , . . . ,djv} С G — такое, что DH = G. Тогда любое N
Я Е 31(G) Mooicno представить в виде Я — (J с^5,, где S i , . . . , 5дг Е 3£(#). ДОКАЗАТЕЛЬСТВО. Сначала покажем, что для любого Я € 01(G) выполняется Я П Я Е 01(G). Пусть Г — конечный автомат, задающий Я. Пусть Q — множество его вершин, до — начальная вершина, Qt -- множе ство выходных вершин. Построим автомат Г', множество вершин которого образовано множеством: Q x {Hg | g Е G}, а стрелки получаются из стре лок автомата Г по правилу: а; = (вь5?<й) ''порождает" все возможные стрелки вида о/ — ((qi1Hh))g,(q2,Hhg)).
Начальной вершиной объявля-
385
О рациональных множествах
ется (до, Я ) , а множеством выходных — Qt X { Я } . Легко видеть, что Г' задает RC\ H. Пусть R G 51(G). Положим Si = Н Г) d~lR, где % = 1 , . . . , iV. Тогда 5,- Е ЩН), и Л — (J djS,'. Лемма доказана. •=i
Л Е М М А 7. Пусть А — к.п. абелева группа, R e 51(A), а К С А конечно. Тогда R\K
£ 51(A).
ДОКАЗАТЕЛЬСТВО. Группа А — прямая сумма конечной абелевой группы AQ И свободной абелевой группы А\ ~ Zk. По лемме 6, R =
|J (а+ а£Ао
+ Ra), где Ra G ЩА{). Множество К можно представить в виде К = U ( а + Ко), г Д е
=
вс
^ -К"а Я М конечны. Тогда R \ К =
oGAo
(J (а + aG^o
+ (Л а \ Ка)). По лемме 4 все Ra \ Ка 6 51(A), поэтому R \ К 6 51(A). Лемма доказана. Л Е М М А 8. Пусть А = Zn ~~ свободная, абелева группа конечного ранга. Пусть М С А — свободный коммутативный моноид, а £ А. Тогда А\(а
+ М)
еЯ(А).
ДОКАЗАТЕЛЬСТВО. Так как А \ (а + М) = (А \ М) + а, то можно считать а = 0. Пусть Я = (М). По лемме 7, ((А/Я)\{0}) е # ( А / Я ) . Тогда, по лемме 5 , А \ Я Е 51(A). Покажем, что Н\М
£ 3?(А). Пусть щ,...,
Uk ~
свободные порождающие моноида М. Тогда ^ i , . . . , щ свободно порожда ют Я ~ Z*. Далее, Н\М=
[J (~щ + (-«,-)* + ] [ > * + (-^О*)) € ^(А).
Поэтому А \ М = ((А \ Я) U (Я \ М)) £ 51(A). Лемма доказана. В силу лемм 3, 6 и 8 остается показать, что пересечение двух рацио нальных подмножеств свободной абелевой группы рационально. Для этого необходимо установить, что множества неотрицательных решений систем линейных уравнений с целыми коэффициентами рациональны. Л Е М М А 9. Пусть А = Zn — свободная абелева группа конечного ранга. Пусть задана произвольная система L линейных уравнений от п переменных с целыми коэффициентами. Тогда множество S ее решений ( # i , . . . , хп) £ А, для которых хг ^ 0, г = 1 , . . . , п, рационально в А. ДОКАЗАТЕЛЬСТВО проводится индукцией по гг. Случай п = 1
386
Г. А. Баженова,
тривиален. Пусть п ^ 2. Сначала предположим, что L однородна. Пусть X
:=
(£ь • • • >£n) G 5 - ненулевой. Положим iV = max,&. Для 1 ^ г ^ п,
О ^ Т ^ ЛГ положим i2;(T) = {(a?i,..., #„) € £ | х,- = Т}. По индукции эти множества рациональны. Проверим, что п
N
S = X* + [j[jRt(T).
(4)
Действительно, пусть У — Уо = (yi,. ..,Уп) 6 5. Положим д = minij/i. Если д больше N} то пусть Yi = У0 - X. Ясно, что Y\ принадлежит 5 . Если минимальная координата вектора Y\ все еще больше iV, положим Y
JV
хотя бы одна координата не превосходит N. Поскольку Уг £ U U Я,*(Т), г=1Т=0 ЛГ
п
имеем У = гХ + Уг £ X* + U U Ri(T)-
Итак, (4) доказано. Значит, 5
i=l Т=0
рационально.
Пусть L неоднородна. Можно считать 5 ^ 0 . Пусть X = ( £ ь . •. ...,Cn) € ( 5 \ { 0 } ) . Определим N и Д,(Т),г = 1 , . . . , п ; Т = 0,...,ЛГ, так же, как выше. В силу тех же причин все Ri(T) рациональны. Пусть 5 ' — множество неотрицательных решений однородной системы, получающей ся из L заменой всех свободных членов на нуль. По уже доказанному 5 ' рационально. Так как п
N
S = \J[jRi(T)U(S'
+ X),
,=1 Т=0
S будет рациональным. Лемма доказана. Л Е М М А 10. Пусть А = Zn — свободная абелева группа конечного ранга, RUR2€
01(A). Тогда RiPiR2€
ЩА).
ДОКАЗАТЕЛЬСТВО. По лемме 3 достаточно рассмотреть случай Ri — ai + Mi,i
= 1,2, где а; £ А, М{ С А — свободные коммута
тивные моноиды. Пусть и\,...,и%к
— свободные порождающие моноида
М{, i = 1,2. Положим 5 = {(*Ь • • •, 4 ^ i V • •, ^ 2 ) | ^ «1 + £ ф ' } = i=i
а
2 + Е
i=i
z w
i i}*
По
лемме
9
>S
G
£ Z, ^
^ О,
Я(#* 1 + * 2 ). Положим
387
О рациональных множествах
А:
fo1,...,^,
z\,...,zl2)
н-> £ * ] « } . По лемме 5, Л(5) G Я(А). Тогда j=i
i?i П J?2 = A(5) + a\ € 3J(A). Лемма доказана. Л Е М М А 11. Пусть А~ Zn — свободная абелева группа конечного ранга, R £ %(А). Тогда A\R
еЩА).
ДОКАЗАТЕЛЬСТВО. Лемма следует из лемм 3, 8 и 10. Завершим доказательство теоремы 2. Пусть А < G — подгруппа ко нечного индекса и А ~ Zk. Пусть D — множество представителей левых смежных классов группы G по А. Тогда по лемме 6 любое R Е 01(G) имеет вид (J dSd, где Sa e 01(A). Имеем G \ R = U d(A \ S<*). Тогда, по лемме deu deD 11, G \ R G ft(G). Теорема доказана. § 3. Н и л ы ю т е н т н ы е группы Т Е О Р Е М А 3. Пусть G — к. п. нильпотентная группа. Тогда 01(G) является булевой алгеброй в том и только в том случае, если группа G почти абелева. ДОКАЗАТЕЛЬСТВО. Д о с т а т о ч н о с т ь следует из теоремы 2. Ниже нам понадобится следующий хорошо известный факт. Л Е М М А 12. Если G — почти абелева к. п. нильпотентная
группа,
то центр группы G имеет в ней конечный индекс. Н е о б х о д и м о с т ь проверяется индукцией по ступени нильпотент ности. Пусть G — нильпотентная группа ступени п. Из леммы 5 следу ет, что 0l(G/C) — булева алгебра (здесь С — центр группы G). По ин дукции группа G/C почти абелева, тогда по лемме 12 следующий за С член верхнего центрального ряда (2(G) имеет конечный индекс в G. По кажем, что группа (2(G) почти абелева. Достаточно показать, что при любых х, у £ (2(G) порядок коммутатора [ж, у] = х~1у~1ху
конечен (тогда
коммутант (>2(G) конечен, и центр (2(G) имеет конечный индекс). Если по рядок у [ж, у] бесконеченый, то ж, у — свободные порождающие свободной нильпотентной группы N ступени 2 и ранга 2. Любой g £ N имеет вид 9
= хку1[х,уГ,
(5)
388
Г. А. Баженова
где к, /, т — целые и определены однозначно. Обозначим через R=(xy)*([x,y]*U[y,x]*) множество всех д £ iV, для которых в формуле (5) к = / ^ 0. Далее, пусть S = ж*у* — это множество всех д € N, для которых в формуле (5) m = 0, Л, / ^ 0. Множество Д П S = {хпуп | n ^ 0} рационально, тогда по лемме 1 существуют такие u,v ^ l,w E N, что гш*и; С Д П 5 . Положим
ж ^+« у »'+А
^ ? y j n m ^ - n i « - ^ n ( n - i ) . Получаем для любого
п ^ 0 равенства га& + к = nl + A, nra + /i — nln — (l/2)lkn(n
— 1) = 0,
откуда fc = I, fc/ = 0, и j = 1. Полученное противоречие завершает доказа тельство.
§ 4. Связь двух определений рациональности Следующее определение приводится и подробно изучается, напри мер, в [2]. ОПРЕДЕЛЕНИЕ 4. Пусть G — к. п. группа, Д — конечный алфавит, Д* — свободный моноид, А : Д* —» G — сюръективный морфизм моноидов, L £ #(Д*) и X(L) = G. Тогда пару (Д, А) называют выбором поросисдающих для G, тройку (Д, A,L) — рациональной структурой на G. Множество R С G называется L-рациональным, если А" 1 (Д) П L рационально. (Это не означает, что выбор порождающих фиксирован; имеется в виду, что "информация о Д и А содержится в L".) Поскольку морфизмы моноидов переводят рациональные множества в рациональные, то L-рациональное (для некоторого L) множество раци онально. С другой стороны, нетрудно привести пример подмножества Z 2 , L-рационального для одного L, но не L-рационального при другоих L. П Р Е Д Л О Ж Е Н И Е 2. Пусть G—к.п. ны следующие условия:
группа. Тогда эквивалент
389
О рациональных множествах 1) 01(G) — булева алгебра; 2) любое множество из класса 01(G) является L-рациональным
при
некотором L. ДОКАЗАТЕЛЬСТВО. 1) => 2). Пусть R e 51(G). Тогда G\R
£ %(G).
Пусть Ti, Гг — конечные автоматы над G, задающие соответственно мно жества R и G \ Л. Пусть <7i,...,
SN}. Определим
морфизм А : Д* -» (2, полагая A(<Jt-) = • 1). Пусть Л £ 3£(С?). Тогда Я является L-рациональным для некоторого L. Тогда А = L \ (X"l(R) П L) рационально, поскольку рацио нальные подмножества к. п. свободного моноида образуют булеву алгебру. Отсюда G\R
— А (А) рационально. Предложение доказано.
§ 5. Множества решений уравнений в к. п. нильпотентных группах ОПРЕДЕЛЕНИЕ 5. Уравнением от одной неизвестной х с коэффи циентами в группе G называется выражение вида gxx€i . ..дпх€п
= 1, где Qi GG,£,- = ± 1 (г = 1 , . . . , п).
Известно (см. [3]), что в свободной группе конечного ранга множество ре шений любого уравнения от одной неизвестной рационально. Нетрудно доказать аналогичное утверждение для к. п. абелевых групп. Ниже мы даем ответ на известный вопрос о рациональности мно жеств решений уравнений от одной неизвестной в классе к. п. нильпотент ных групп: докажем, что любое уравнение от одной неизвестной в к. п.
390
Г. А. Баженова,
двуступенно нильпотентной группе имеет рациональное множество реше ний, а также приведем пример уравнения от одной неизвестной в свобод ной трехступенно нильпотентной группе ранга два, множество решений которого не рационально. Л Е М М А 13. Пусть К — группа, G — ее подгруппа, Н — нормаль ная подгруппа G, [K,G\ С Н, и периодическая часть абелевой группы G/H конечна. Предположим, что любое уравнение вида aixeia2x€2
• • *апх€п = 1,
(6) п
где а, Е К, Si = ± 1 , г — 1 , . . . , га, х — неизвестная, s = Y2 ei Ф 0? имеет в t=i
Я конечное мносисество решений. Тогда в G мноэюество решений любого уравнения вида (6) конечно. ДОКАЗАТЕЛЬСТВО. Пусть 5 - множество решений (6) в G. Мож но считать его непустым. Пусть £,7? Е 5. Элемент и^ == &i£61 •••&„£*" можно представить в виде v^ = £*C£CJi ••-а п , где с^ € [К,G]. Аналогично ^ — a i 7 ? e i *' * an^/6n = 5
а
rfc^x'''
5
п, где с^ Е [К) СУ]. Поскольку v^ = 1 = и^,
1
то £ С£ = т? ^ и 77~*£* = с,,^ , а так как для некоторого h 6 Н верно 77~*£s = (r]~lti)sh, то элемент г?"1^ факторгруппы G/ff имеет конечный порядок. Пусть fci,..., bm — периодическая часть G/H. Тогда г)~~1£ равно m
некоторому bj, и £ Е D = |J 7/Ь,-Я. Пусть Q t , г = 1 , . . . , га, — множество решений уравнения
t=i
ах(ф{х)ех - • •an(rjbixYn = 1 m
в if. По условию Q* конечны. Кроме того, 5 = (J ijbiQi. Лемма доказана. «=1
Л Е М М А 14. Пусть К — к, га. нильпотентная
группа. Тогда в К
мноэюество решений любого уравнения вида (6) конечно. ДОКАЗАТЕЛЬСТВО. Возьмем произвольный центральный ряд 1 = KQ < Кх < • • • < К\ = А\ Докажем по индукции, что в К{ множество решений уравнения (6) ко нечно. Если для г утверждение верно, то по лемме 13, где в качестве G возьмем Ki+i, а в качестве Н — К^ оно верно и для i +1. Лемма доказана.
О рациональных множествах
391
ЗАМЕЧАНИЕ! Хорошо известно, что к. п. нильпотентная группа без кручения К имеет центральный ряд, факторы которого — без кручения. Поэтому для такой группы леммы 13 и 14 можно уточнить: любое урав нение вида (6) либо не имеет решений, либо имеет единственное решение. П Р Е Д Л О Ж Е Н И Е 3. Пусть G — к. п. двуступенпо
нильпотент
ная группа. Тогда любое уравнение над G от одной неизвестной имеет в G рациональное множество решений. ДОКАЗАТЕЛЬСТВО. Рассмотрим уравнение aixexa2x£2
•••а п ж бп = 1,
(7)
п
где а, £ G, е% — ± 1 , г = 1 , . . . , п. Если ]£ £, ф О, то по лемме 14 множество решений (7) конечно. Иначе (7) можно привести к виду [а, х] = 6, где а, Ь £ G. Пусть £ — решение (7). Тогда множество решений (7) равно %(а)£, где Z(a) — централизатор а. Поскольку Z(a) рационально как к. п. подгруппа, то предложение доказано. ПРИМЕР 1. Пусть G — свободная трехступенно нильпотентная груп па ранга 2 со свободными порождающими а, Ь. Множество 5 решений урав нения [ж, а] == [ж, 6, х] в G не рационально. В самом деле, любой элемент g £ G можно однозначно записать в виде g = акЪ1[а, Ь] т [а, 6,а]г[а, 6,&]*, А, /, т , r , ^ Z .
(8)
Легко проверить, что условие g £ S равносильно ( -I
= О,
< т { -1(1- 1)/2 =
—k2, W.
Пусть а, /3 — свободные порождающие свободной нильпотентной группы Я ступени два и ранга два. Гомоморфизм Л : G -> Я , заданный со отношениями А(а) = а, А(6) = /3, переводит множество 5 в множество S' = {ak[a,f3]k
| fc £ Z}. Достаточно доказать, что множество S' не ра
ционально. В противном случае по лемме 1 существуют такие и, v ф 1, w £ Я , что ш;*ад С 5'. Пусть и = аП1/Зп2[а,/3]пз, г; = а Ш 1 /З т 2 [а,/3] т з ,
392
Г. А. Баженова,
w = аГ1/3Г2[а, /3]Гз. Из условия uw £ S' получаем ?г2 + г 2 = 0, из условия w w £ 5 ' находим п2 + г2 + га2 = 0 и ш 2 = 0. Тогда при натуральном £ имеем m+twii+ri
uv w = a
[«,А
пз-Н<тз+гз-П2*т1—П2Г1
Так как гш*гн принадлежит 5', то (щ + tmi + гг)2 = пз + ^m3 + r 3 - n2£rai - n 2 r i .
(9)
Формула (9) — это равенство двух многочленов от £, справедливое при всех натуральных t. Тогда все коэффициенты этих многочленов долж ны совпадать. Отсюда т\ = 0, га3 = 0. Тогда v = 1. Полученное противо речие завершает рассмотрение. Следующий пример показывает, что множества решений уравнений от большего числа неизвестных могут быть нерациональными уже в двуступенно нильпотентных группах. ПРИМЕР 2. Пусть G — свободная нилыютентная группа ступени два и ранга два со свободными порождающими а, Ь. Тогда множество решений уравнения [х} у] = 1 не рационально в С х С , т . е . множество S — {(#, у) £ E G x G | [ж,у]= 1} не рационально. В самом деле, пусть g = а*Ь т [Ь,а]', /г = акЬ^[6, а]л £ СУ. Элементы # и /г коммутируют тогда и только тогда, когда
га & fl
G x G 3 (j,fe) и
= 0. Отображение
К
(А;,га,к,/|) £ «Z4 — гомоморфизм. Поэтому достаточ-
4 но доказать, что А = < (fc, ra,K,/i) £ Z
т к
= 0 > не принадлежит /х к 32 (Z 4 ). Если А £ 32(Z4), то по лемме 1 существуют такие конечные мно
жества D = { d i , . . . , d n } и £? = { e l 5 . . . , e r } из Z 4 , что нулевой вектор не содержится в Е и для любого вектора v £ А \ D найдется некоторый et £ Е такой, что v + iVe,- £ А для всех натуральных N. Построим вектор v = (Л, га, к,/х) £ А, который не удовлетворяет этому условию. Обозначим e,- = (ej,e?,e?,e?). 1) Пусть (&, га) — вектор вида (1,ш), га ^ 1, не пропорциональный ни одному из ненулевых векторов вида (ej,e?), (e?,ef).
393
О рациональных множествах
2) Пусть R — {р | для некоторого г верно (ef, е*) = p(ej, е?)}. Выберем натуральное mf ф 0 такое, что mf £ R и ( l , m , m/, mm') ^ D. Положим («,/i) = (m ; , mmf). Пусть ej £ Е. Положим
A(N)
1 + JVe} та + Nej rri + Ne?
= N2
4
mm' + Ne -
e33
A3
e3- e4
N
+N
e]3 e?3
1
m
Если при всех целых N ^ 1 выполняется Д(ЛГ) = 0, то определитель 1
e - e2 4 з eсз-
сe
3
равен нулю, его строки пропорциональны и
0 =
т'е)
А
m'ej
та'е?
т
1
т
4
/9
m
4
та е? - el то
= 0.
Если вектор (е],е|) нулевой, то вектор (e|,ej) ненулевой и пропор ционален вектору ( 1 , т ) , что противоречит нашему выбору. Поэтому век тор (ej, е?) ненулевой PI (e|, ej) = />(е], е^) для некоторого р. Тогда вектор (m'--/9)(ej, е?) пропорционален вектору (1, т). Если mf — р ф О, то векторы (ej, е^) и (1, т ) пропорциональны, что противоречит нашему выбору. Если же т! — р = 0, то mf € Д, что опять-таки противоречит нашему выбору. Итак, множество А не рационально, поэтому множество 5 не рационально. В заключение автор благодарит научного руководителя В.А.Романькова за поставленную задачу и Г. А. Носкова за полезное обсуждение.
ЛИТЕРАТУРА 1. R. H. Oilman, Formal Languages and Infinite Groups, in: Geometric and computational perspectives on infinite groups (DIMACS, Ser. Discrete Math. Theor. Comput. Sci., 25), Providence, RI, Am. Math. Soc, 1996, 27-51.
Г. А. Баженова
394
2. S. М. Gersten, Я. 5. Short, Rational subgroups of biautomatic groups, Ann. Math., II. Ser., 134, N 1 (1991), 125-158. 3. Р.Линдон, П.Шупп, Комбинаторная теория групп, М., Мир, 1980.
Адрес автора: БАЖЕНОВА Галина Александровна, РОССИЯ, 644116, г. Омск, ул. Осоавиахимовская, д.290, кв.86.
Поступило 12 мая 1998 г. Окончательный вариант 7 июня 1999 г.