В Оскоме Иван Иванович выполнил заказ Института В. И. Ленина при ЦК ВКП(б), в те годы размещавшегося в особняке на Б. Дмитровке (ул. Пушкинская, 24). Здесь он воспроизвел точную копию кабинета В. И. Ленина в Кремле.
Учитывая присущее И. И. Рербергу бережное отношение к существующим произведениям зодчества, его пригласили выполнять обязанности архитектора три крупнейших столичных театра — Большой, Малый и Художественный. По свидетельству А. В. Щусева, он «много сделал работ для этих театров».
Первые из этих работ относились к Московскому Художественному театру, который благодаря энергии К. С. Станиславского в 20-х гг. создавал свои филиалы, студии и другие «ответвления». Сохранился макет интерьеров одного из относившихся к театру зданий с эмблемой — изображением чайки в узоре паркетного пола, выполненный по чертежам Рерберга в 1921 г.
Особое значение имеет участие И. И. Рерберга в ремонте здания Большого театра. В результате сильной осадки фундаментов тяжело нагруженных внутренних стен здание пришло в аварийное состояние. В 1921—1923 гг. Иван Иванович руководил сложными и очень ответственными работами по устройству новых фундаментов, в то время как театр продолжал функционировать. Помимо перестройки фундаментов, Рерберг переделал наиболее деформировавшиеся перекрытия и перекосившиеся ложи ярусов.
Через три года Иван Иванович сделал проект перепланировки фойе, репетиционных залов и некоторых артистических помещений, а также переустройства лестниц возле гардеробов. Проект был основан на глубоком изучении истории здания, результаты которого Рерберг опубликовал. Осуществление этого проекта велось под его постоянным руководством до 1932 г.
В 1925 г. было составлено задание на проектирование здания Центрального телеграфа, включающего радиоузел и междугородную телефонную станцию. Провели открытый конкурс, в котором участвовали многие известные архитекторы, а затем персонально было заказано еще два проекта, один из них И. И. Рербергу. Выполненный проект хорошо соответствовал всему комплексу функциональных заданий, а также требованию монументальности архитектурного решения. Несмотря на возражения представителей нового творческого направления в архитектуре, этот проект был утвержден Моссоветом в начале марта 1926 г., а 22 мая была совершена церемония закладки здания.
Строительные работы развернулись быстрыми темпами с участием 2 тыс. рабочих, их вело акционерное общество Госпромстрой. Решение технических вопросов сначала было в ведении Оскома. Затем И. И. Рерберга назначили руководителем работ по завершению проектирования здания и начальником строительства. Расчетно-конструктивную часть проекта выполнил инженер С. 3. Гинзбург, который затем был назначен заместителем начальника строительства. В дальнейшем он стал известным организатором строительной отрасли — первым наркомом строительства.
Проект здания Центрального телеграфа был разработан с большой тщательностью. Применение монолитного железобетонного каркаса и вынос всех четырех лестниц за пределы основного объема здания во внутренний двор позволили устроить на разных этажах очень просторные помещения, общая площадь которых составила 40 тыс. м². Срезанные углы главного фасада обусловлены градостроительными возможностями. Благодаря одному из таких срезов здание хорошо «смотрелось» с тогда еще не реконструированной, узкой Тверской улицы (ныне ул. Горького). Срезая острый угол для устройства главного входа, Рерберг выполнил эту часть здания в виде широкой пятигранной башни, возвышающейся на 10 м над остальными фасадами. Башня оборудована вращающимся стеклянным глобусом. На приподнятой над тротуаром площадке перед входом два обелиска из серого гранита, несущие ажурную чугунную консольную раму в виде переплетения дубовых веток для подвески фонарей. В подобной манере выполнены решетки верхнего обрамления башни, в которые включены изображения серпа и молота, а также и кронштейны для флагов. Эти детали отлиты по рисункам художника-графика Ф. И. Рерберга.
Для отделки фасадов использованы серый украинский гранит и декоративная штукатурка с включением крошки этого гранита. Автору проекта удалось удовлетворить требования задания: «Выявить при обработке фасадов не только производственный и общественный характер здания телеграфа и радиоузла, но и придать ему монументальность, соответствующую городу Москве, как столице СССР».
Строительство Центрального телеграфа было завершено в 1927 г.— к десятой годовщине Октября. Оно ознаменовало начало реконструкции главной столичной магистрали, которая на этом участке была расширена на 6,5 м, а ее уклон несколько смягчен. Одновременно были расширены улицы Белинского и Огарева — тоже на 6,5 м. После того как улица Горького подверглась дальнейшей реконструкции, значение Центрального телеграфа еще более возросло. Тот факт, что оно на протяжении нескольких десятилетий особенно богато иллюминируется в праздники, свидетельствует о его важной роли в ансамбле центра Москвы. В здании Центрального телеграфа также размещается Министерство связи СССР.
Вскоре после завершения столь крупной стройки И. И. Рербергу поручили разработку проекта здания Школы красных командиров имени ВЦИК в Кремле. В 1929 г. был создан совет по строительству этого первого в советское время кремлевского здания. Председателем совета был назначен секретарь Президиума Центрального Исполнительного Комитета СССР А. С. Енукидзе. Строительное управление возвело здание в 1930—1934 гг.
Три стоящие параллельно друг другу трех-четырехэтажные корпуса объединены главным, который хорошо виден с Большого Каменного моста и из-за Москвы-реки. Заботясь о том, чтобы новая постройка скромно и спокойно соседствовала с созданным М. Ф. Казаковым зданием бывшего Сената (ныне Совет Министров СССР) — шедевром русского классицизма, Рерберг так решил фасад, обращенный к Ивановской площади, чтобы он не задерживал взгляда человека, проходящего по противоположной стороне площади. Основное внимание автор сосредоточил на фасаде главного корпуса, решенном в характере русского классицизма XVIII в. По облицованному гранитом первому этажу идет колоннада высотой в два этажа. Фасад корпуса, стоящего возле кремлевской стены, участвует в создании ансамбля Красной площади, он воспринимается как нечто единое с равным с ним по высоте зданием Совета Министров СССР.
Кремлевское здание еще недостаточно оценено историками архитектуры. Это объясняется происшедшим в середине 1930-х гг. переходом от конструктивистских тенденций к использованию традиций прошлого и приемов неоклассицизма. Для Рерберга же это было сохранение и даже утверждение его творческих позиций в вопросах архитектурного стиля.
Важная часть этого крупного здания — большой зал с системой примыкающих к нему помещений. Здесь первоначально располагался клуб имени Я. М. Свердлова, а в 1958—1968 гг.— Кремлевский театр. В настоящее время это здание Президиума Верховного Совета СССР с залом, перестроенным и оборудованным в соответствии с современными требованиями.
Один из опытнейших советских зодчих, И. И. Рерберг находился в стороне от шумных дискуссий и борьбы творческих группировок 20-х гг., но его творческая деятельность в этот период была в высшей степени активной, насыщенной постоянными исканиями и решением больших практических задач. С 1928 г., когда он поселился в доме № 12 по Брюсовскому переулку (ныне ул. Неждановой), его квартира стала как бы проектной мастерской. Здесь Иван Иванович выполнил целый ряд работ. Первой из них был конкурсный проект здания Государственной библиотеки имени В. И. Ленина.
К сожалению, полного списка проектов Рерберга нет, а о судьбе отдельных его работ, упоминание о которых удалось найти, можно судить лишь с некоторой степенью достоверности. Например, проект здания бывшей Торговой академии, очевидно, потому не был реализован, что для размещения этой организации приспособили здание 1920-х гг. По проекту, заказанному для созданного в 1930 г. Института овощного хозяйства, вероятно, было построено двухэтажное здание в районе Текстильщиков, но оно снесено в 1960-е гг. при реконструкции этой части Москвы.
Из других проектов Рерберга можно назвать химическую лабораторию МГУ, дом Института локомотивостроения. Сохранились отдельные чертежи незавершенного проекта Дворца Советов.
В разное время И. И. Рерберг проектировал также для других городов. По его проектам построены здания в Ленинграде, Тюмени, в районе города Истры. В годы первой мировой войны, как военному инженеру, ему пришлось строить оборонительные укрепления. На выставке, приуроченной к 1-му Всесоюзному съезду по гражданскому и инженерному строительству (1926 г.), демонстрировался его проект вокзала для Сочи.
Будучи мастером широкого диапазона, Иван Иванович всегда подчинял свое творчество реалистической основе архитектурно-градостроительных задач. Такое его ценное качество можно охарактеризовать словами В. Г. Белинского: «Он всегда держал свою энергическую фантазию в крепкой узде холодного ума».
