В формах русского ампира, характерных для пушкинского времени, Рерберг разработал и осуществил по заказу Общества поощрения трудолюбия проект здания женской гимназии (до сих пор сохранился проектный проект здания). Пропорции и детали фасада, интерьера здания, возведенного в 1911-1912 годах в Большом Казенном переулке (ныне школа №330), отличаются изяществом.

Из других построек этого времени отметим красный бывший особняк Н.В. Урусова на Новокузнецкой улице, 12, торговый пассаж, существовавший на месте нового здания ЦУМа, двух этажного здания Московоско-Брестского технического железнодорожного училища возле Белорусского вокзала, трехэтажное здание ремесленного училища на 1-ой Миусской улицы, которое в настоящее время входит в состав корпусов Московского химико-технологического института имени Д.И. Менделеева, инфекционные корпуса Московского военного госпиталя в Лефортове и другие.

Ежегодник "Архитектурная Москва" писал в 1911 году: "Иван Иванович Рерберг принадлежит к группе сравнительно молодых, но очень популярных строителей". Начиная с 1910 года на всех проектах подпись Рерберга была первой, что соответствует его ведущей творческой роли среди соавторов. В отличие от гражданских инженеров, именовавшихся также инженерами- архитекторами, Иван Иванович несравненно глубже знал строительные конструкции и особенности их работы , а также ориентировался в технике строительного производства. Поэтому он смело применял железобетон и другие современные материалы, умело используя заложенные в них потенциальные возможности архитектурного формообразования.

В творчестве И.И. Рерберга ценили четкость и глубину проработки объемно-планировочных решений, умение вписаться в городской ансамбль. Эпоха. Породившая разброд в архитектурно-стилевых вопросах, наложила отпечаток творчество талантливого мастера, хотя он и сумел оградить себя от крайностей и бесплодных творческих увлечений, но его поиски в основном связаны с развитием неоклассицизма.

В самом начале века Иван Иванович жил на казенной квартире в Лефортове, затем вблизи Разгуляя, некоторое время в доме №6 по Доброслободскому переулку и около двадцати лет занимал часть двухэтажного особняка в Динисовом переулке, 6. Здесь он разрабатывал проекты, активно пополнял свою библиотеку, свободные часы отдавал акварельной живописи, а летом жил на даче Болшеве, где сочетал отдых с напряженной работой.

С 1906 года Рерберг в течение тринадцати лет преподал в Училище живописи, ваяния и зодчества и в Московском инженерном училеще (так назывался до 1913 года Московский институт инженеров железнодорожного транспорта); выступил инициатором обущения женщин на архитектурных курсах, учредителем и преподавателем которых был долгое время.

После того как Рерберг принял участия в работах по перестройке старого здания на Чистопрудном бульваре,6, для Правления Московско-Киевско-Воронежской железной дороги, он получил закан на проектирование и строительство грандиозного Брянского вокзала (с 1934 года - Киевский) на месте существовавшего деревянного.

При разработке проекта осуществленного при участии архитектора В.К. Олтаржевского, были использованы достижения мирового архитектурного опыта и практике применения большепролетных арочных покрытий над платформами. Основа творческих поисков определила положение вокзала вблизи Москвы-реки и оживленный радиальной городской магистрали, проходящей через Бородинский мост. Мост, построенный за год до рождения И.И. Рерберга по проекту его отца (совместно с инженером И.Ф. Кенигом), 1912-1913 годах, перед постройкой вокзала был заменен современным (архитектор Р.И. Клеин, инженер Н.И. Осколков).

Творческий процесс формирования облика вокзала был подобен обработке архитектурных форм комплекса Северного страхового общества. Неоднократно дорабатывался главный фасад с колоннадой на уровне высокого второго яруса, приобрели большое изящество фланкирующие его порталы - крыльца, башня высотой 51 метр была вынесена за пределы фасада, а его первоначальное архитектурные переработаны.

Наружный контур всего здания достигает почти 900 метров. Залы ожидания просторны и имеют большую высоту, площадь самого большого из них - центрального более 900 м2. Позади залов ожидания было четыре подъездных пути под стеклянным ангароподобным покрытием- дебаркадером. В качестве конструктивной основы этого покрытия шириной 47 метров, длиной 231 метр и высотой 30 метров Рерберг предусмотрел арки из крупных ажурных металлических элементов, попарно соединенных в верхней части. Их конструирование, изготовление и установку взяла на себя специализированная фирма Бари, главный инженер которой, выдающийся конструктор- механик В.Г. Шухов, не меняя принципиально конструкцию, рационализировал ее, что упростило изготовление и сократило стоимость. Шухова признают не только исполнителем, но и автор этого уникального покрытия.

Летом 1914 года состоялась церемония закладки здания. В выполнение декоративно-отделочных работ приняли участие скульпторы С.С. Алешин (скульптуры "Труд" и "Урожай" на главном фасаде и др.), Ф.И. Рерберг (участие в росписи плафонов) и другие мастера. Основные работы были завершены в 1917 году.

В 1920 году И.И. Рерберг провел дополнительные работы на Киевском вокзале, главным образом отделочные. Иван Иванович намечал создание большой площади, связывающей вокзал с городом. Современную площадь Киевского вокзала можно рассматривать как воплощение замыслов И.И. Рерберга.

Не безынтересно дальнейшая судьба этого крупного вокзального здания. В 1940 - 1945 годах к нему был пристроен в конце северного фланга корпус с кассовым залом и вестибюлем метро (по проекты Д.Н. Чечулина), а затем в самом здание проведены большие работы, насытившие интерьеры рядом новых деталей, однако не отвечающих рербергскому направлению. Реставрация 1979-1981 года была направлена обновление сложившейся отделки и архитектурных деталей. Одновременно были проведены ремонт и реконструкция металлического покрытия над перронами, несколько изменены конструкции и внешний вид кровли: ступенчатыми рядами уложено более 2800 щитов в виде металлических рамок и специального стекла повышенной стойкости, в том числе цветного.

В начале 1920-х годов Моссовет передал Киевскому вокзалу стоящие вблизи четырехэтажное жилое здание, построенное в 1882 году Иван Иванович перестроил его под железнодорожный привокзальный клуб, вскоре преобразованный в клуб имени А.И. Горбунова.

В годы гражданской войны строительная деятельность в Москве была весьма ограниченной, а первые организационные шаги носили специфический характер. Так, ведавший устройством противоэпидемических санпропускников на железных дорогах Комитет пропускных санитарных сооружениях был реорганизован в Особый комитет по строительству города Москвы (Оском). И.И. Рерберг начальник технического отдела этого комитета сочетал здесь организационно-техническую деятельность и проектной. Одной из работ Рерберга в этот период была частичная переработка проекта и завершения законсервированного 1915 года строительства пятиэтажного жилого дома, Хлебопродукта на Новинском бульваре (здание не сохранилось). Одновременно он построил деревянный павильон Хлебопродукта на Всероссийской сельскохозяйственной и кустарно-промышленной выставки 1923 года.