Оператор передающей стороны начинал автоматизированный процесс кодирования, пользуясь клавиатурой. Набирая одну за другой буквы текста, он направлял электрические импульсы по лабиринту электрических цепей, осуществляя автоматизированный процесс шифрования букв и вызывая загорание сигнальных лампочек на панели машины (буква «А» могла высвечиваться, к примеру, как «R»). Помощник оператора переписывал все появлявшиеся на панели буквы. После того как сообщение было набрано, его текст (высвеченный на панели) передавали радиотелеграфисту, который передавал сообщение адресату в телеграфном режиме посылками по пять букв каждая.
Получив зашифрованный текст сообщения, получатель набирал этот текст на клавиатуре своей машины, печатая букву за буквой. Машина автоматически расшифровывала эти буквы одну за другой, высвечивая их на панели (если следовать приведённому примеру, буква «R» на панели превращались в исходную букву «А»).
Поначалу криптологи были уверены в том, что расшифровать сообщение, закодированное с помощью «Энигмы», невозможно. Действительно, общее количество перестановок, получаемых в результате использования большого числа переменных, невообразимо. По одному из расчётов это число оказалось равным шести тысячам триллионов. Таким образом, здесь не могли помочь никакие известные способы дешифровки. Для этих целей не годились ни статистический анализ (учитывающий частоту повторения букв в тексте), ни математические методы расшифровки. Даже обладание «Энигмой», скоммутированной по образцу машины отправителя сообщения, не решало дела. Для того чтобы расшифровать сообщение, необходимо было безошибочно знать порядок расположения роторов, установки наружных зубчатых венчиков и смотровых окошечек, т.е. иметь меню, которое могло быть изменено передающей стороной в любую минуту.
Немецкие военные круги были в восторге от «Энигмы». Это был дешёвый, компактный, простой в эксплуатации аппарат, позволявший исключить расшифровывание набранных с его помощью текстов. Даже захват противником такого аппарата военные не считали большой бедой. На их взгляд, стоило поменять «ключи», и можно было работать дальше.
Первым, в 1926 году, «Энигмой» стал пользоваться немецкий военно-морской флот, а в 1929 году его примеру последовал рейхсвер. Для того чтобы повысить защищённость машины по сравнению с «коммерческим» образцом, немцы модифицировали коммутацию «Энигмы», установив под клавиатурой коммутационную панель телефонного типа, имевшую двадцать шесть штепсельных контактов (от «А» до «Z»). Когда какие-то из этих контактов шунтировались шнурами (совсем как на старинных телефонных коммутаторах), электрические импульсы проходили ещё через один лабиринт, что выводило число возможных контактных соединений за пределы математических представлений. Таким образом, для расшифровки текста, набранного «Энигмой» «военного образца», требовалось знать не только три «роторных ключа», но также и компоновку соединений коммутационной панели.
«Энигма» оказалась на удивление «гибкой» машиной, что позволило различным организациям Третьего рейха применять на практике свои системы кодирования. Каждая организация действовала по-своему: одна меняла в машине внутренние монтажные схемы, другая — предписывала операторам менять роторы, третья — вводила иные, известные только ей изменения. В итоге получилось так, что у армии, флота и авиации оказалось по своей «Энигме».
И всё же, как ни сложна была система кодирования, использовавшаяся в машине, нашлись умельцы, взявшиеся за разгадывание этой загадки[111]. В 1932 году за дело взялись польские дешифровщики Мариан Реджевский, Ержи Розицкий и Хенрик Зюгальский. Они начали свои исследования не с пустыми руками. Дешифровщики обладали не только «Энигмой» в «коммерческом» исполнении, но и шпионскими сведениями технического характера, полученными от немца Ганса-Тило Шмидта (по кличке «Аше»), тайно состоявшего на службе у шефа французских дешифровщиков Густава Бертрана. Кроме того, дешифровщики располагали большим количеством сообщений, набранных с помощью «Энигмы», а затем переданных в эфир и перехваченных польскими радиостанциями.
Поляки вскоре обстоятельно познакомились с немецкой системой шифрования текста с помощью «Энигмы». С особым интересом дешифровщики подметили одну из особенностей набора текста: в начале сообщения всякий раз повторялся блок из трёх произвольных букв. Выяснилось, что немцы вводят повтор для обеспечения надёжного приёма при неблагоприятных условиях передачи. Вот этот повтор и подвёл немцев. Многие немецкие операторы не утруждали себя и дважды набирали блок «ААА» или «АВС», а то и формировали его из букв, расположенных на клавиатуре по диагонали, получая таким образом блок «QSC» или «ESY». Поляки быстро сообразили: первая и четвёртая, вторая и пятая, а также третья и шестая буквы в начале любого текста всегда одинаковы. Кроме того, дешифровщики подметили, что радиообмен между немецкими радиостанциями имеет свой стиль, а передаваемые отдельными словами или даже фразами сообщения повторяют друг друга. Вскоре поляки научились расшифровывать некоторые слова, к примеру: «дивизия», «полк», «операция». Такие расшифрованные слова, а также обрывки болтовни между операторами во время проверки линии связи дешифровщики называли «кормушками». Вот эти «кормушки» и, конечно, сложный математический аппарат и помогли полякам «взломать» немецкую систему кодирования радиосообщений[112]. Однако самым удивительным было то, что поляки справились со своей задачей всего лишь за несколько недель. На протяжении последующих шести лет они постоянно расшифровывали немецкие сообщения, набранные на «Энигме». Для ускорения процесса расшифровки поляки сконструировали «циклометр», состоявший из двух комплектов роторов «Энигмы», определённым образом соединённых между собой. Кроме того, они составили обширную картотеку, содержавшую расшифрованные сообщения и другую информацию. Во время проведения двухнедельного «теста» в январе 1938 года польской команде из десяти человек удалось расшифровать 75% всех сообщений, набранных «Энигмой».
Однако 15 сентября 1938 года немцы преподнесли полякам сюрприз. Они исключили из рассылаемых операторам меню третий «ключ», обязав их самих определять положение роторов под смотровыми окошками, а набор букв в этих окошках передавать адресату, не зашифровывая перед началом передачи, и затем повторять его в том же виде в самом сообщении. Таким образом, третий «ключ» «Энигмы» стал постоянно меняться, что обесценило проведённые поляками работы. Однако они не впали в уныние. В скором времени Мариан Реджевский сконструировал хитроумную машину (своего рода суперциклометр), которую поляки назвали «бомбой»[113]. Сердцем машины служили восемнадцать взаимосвязанных роторов. По определённой команде машина начинала перебирать комбинации зашифрованных букв перехваченного поляками сообщения и работала до тех пор, пока не находила три незашифрованные буквы (третий «ключ» «Энигмы»). Для проведения полного объёма исследований требовалось шесть «бомб».
Одновременно с Реджевским проводил исследования и Хенрик Зюгальский. Он предложил свою методику поиска и обнаружения третьего «ключа» «Энигмы» с помощью перфорированных листов. Согласно предложенной им технологии, перфорированные листы плотной бумаги с нанесёнными на них колонками букв складывались особым образом в стопку и помещались на столик с подсветкой. Стопка содержала 156 листов, а каждый лист имел около 1000 отверстий, причём каждое было вырезано вручную с помощью бритвы. Искомые буквы обнаруживались после прохождения света через отверстия.
15 декабря 1938 года немцы сделали ответный ход. Они разослали всем операторам «Энигмы» по два дополнительных ротора, доведя общее их число в одном комплекте до пяти штук. Согласно новой инструкции, оператору полагалось перед началом работы установить в машине три ротора из пяти, руководствуясь полученным им меню.
Перед поляками встала новая непростая задача: определить схему коммутации каждого из новых роторов. И они с ней справились, правда не без помощи немцев. Немецкие организации СС и СД, хотя и стали изменять набор роторов при разработке меню для своих машин «Энигма», не удосужились внедрить новшество, принятое к использованию большинством военных организаций 15 декабря. Третий «ключ» они оставили прежним. Используя эту халатность немцев, поляки добились ещё одного достижения в области криптоанализа: определили схему коммутации новых роторов. Уже в январе 1939 года они без особого труда расшифровывали сообщения, переданные в эфир радиотелеграфистами организаций СС и СД.
А вот научиться находить третий «ключ» «Энигмы» при его постоянной смене и одновременном использовании в машине нового комплекта роторов поляки попросту не успели. Польше угрожала Германия, и в августе 1939 года, за несколько дней до начала войны, поляки передали все свои разработки французам и англичанам.
