Чтобы преодолеть зависимость от свободных демократов, блок ХДС/ХСС решил теперь войти в "большую коалицию" с социал-демократами. Лидеры СДПГ не раздумывая присоединились к своим соперникам, претендуя на 9 министерских портфелей против 11 у ХДС/ХСС; Вилли Брандт стал министром иностранных дел и вице-канцлером. Многим социал-демократам была не по душе перспектива работы в правительстве, в которое вошел Франц Йозеф Штраус (на чем настаивал ХСС), вызывала сомнение и кандидатура Курта Георга Кизингера, выдвинутого ХДС на пост бундесканцлера. Кизингер возглавлял отделение ХДС в Баден-Вюртемберге, считался уважаемым депутатом бундестага, но в свое время состоял в нацистской партии.

Большая коалиция, хотя и не принесла радикальных перемен в политике, изменила западногерманскую политику в ряде важных аспектов. СДПГ получила возможность продемонстрировать западным немцам свои способности в качестве правящей партии. Но при этом некоторые избиратели восприняли факт объединения самых крупных партий и неспособность СвДП сыграть роль эффективной оппозиционной партии как показатель того, что господствующая политическая верхушка объединилась против простого народа. В результате избиратели поддержали новые политические группировки, не имевшие ранее депутатов в бундестаге. К праворадикальному крылу относилась Национал-демократическая партия Германии (НДПГ), образовавшая в 1964. Ее программа имела некоторое сходство с программой нацистской партии, нацистами в прошлом были и многие ее лидеры.

НДПГ объединила электорат протеста, умело используя чувства национальной ущемленности и обиды на обе сверхдержавы, недовольство продолжающимся преследованием нацистских преступников, враждебное отношение к мнимой моральной вседозволенности и замешанные на расистских предрассудках опасения в связи с притоком иностранных рабочих. Партия пользовалась поддержкой среди жителей небольших городов и представителей экономически слабых мелких предпринимателей. Ей удалось провести своих депутатов в некоторые земельные парламенты (ландтаги). Но опасения в связи с возрождением нацизма оказались беспочвенными. Против партии сыграло отсутствие у нее сильного лидера, а также улучшение экономического положения в стране. В итоге она проиграла выборы в бундестаг 1969, набрав только 4,3% голосов.

Левая оппозиция опиралась в основном на студенческое движение под руководством Социалистического союза немецких студентов (СДС), который был исключен из СДПГ за отказ принять Бад-Годесбергскую программу. В программе Союза студентов сочетались требования реформы образования и протест против международной политики США. В конце 1960-х годов страну потрясали массовые студенческие протесты и движение "внепарламентской оппозиции".

Отсутствие популярных альтернатив политике христианских демократов оказалось на руку СДПГ. Партия во главе с Куртом Шумахером продолжала настаивать на национализации основных отраслей промышленности, выступала против оодносторонней ориентации на Запад и играла на немецких национальных струнах. Некоторые влиятельные региональные лидеры партии (например, Вилли Брандт в Берлине, Вильгельм Кайзен в Бремене, Карло Шмид в Баден-Вюртемберге и Макс Брауэр в Гамбурге) критиковали отсутствие гибкости в программе СДПГ. До самой смерти (1952) Шумахеру удавалось переигрывать своих соперников, претендующих на лидерство в партии.

Преемником Шумахера стал Эрих Олленхауэр, партийный функционер, который, однако, пошел на изменение партийной политики. С молчаливого одобрения Олленхауэра реформаторы во главе с Карло Шмидом и Гербертом Венером, жестким политиком из бывших коммунистов, самым активным представителем партии в бундестаге, побудили партию расстаться с марксистскими догмами. Им удалось добиться успеха в 1959, когда СДПГ на съезде в Бад-Годесберге приняла программу, обозначившую отказ от марксизма. СДПГ провозгласила поддержку частной инициативы и ориентацию на скандинавскую модель государства всеобщего благосостояния. Партия выступила также за выработку тремя главными партиями общего подхода к национальной оборонительной политике.

По удачному совпадению СДПГ изменила свою программу как раз в тот момент, когда ХДС стал терять поддержку общества. На выборы 1961 СДПГ шла под руководством Вилли Брандта, энергичного и популярного в обществе политика, правящего бургомистра Западного Берлина. Часть избирателей разочаровалась в неповоротливости ХДС и желала отставки Аденауэра. Блок ХДС/ХСС терял голоса избирателей, СДПГ их набирала, но сместить Аденауэра ей не удалось. Свободная демократическая партия (СвДП), которая также критиковала Аденауэра, выиграла больше всех. Несмотря на свою критическую позицию, СвДП вошла в коалиционное правительство вместе с ХДС/ХСС. Аденауэр обещал через два года уйти в отставку. Но до этого настоящую бурю вызвало т.н. дело журнала "Шпигель".

Влиятельный еженедельник "Шпигель" уже давно выступал с критикой главы ХСС Франца Йозефа Штрауса, исповедовавшего крайне правые взгляды и с 1956 занимавшего пост министра обороны. В 1962 журнал опубликовал статью, освещавшую неблагополучное положение в вооруженных силах Западной Германии. Обвинив журнал в раскрытии сведений, составлявших предмет военной тайны, Штраус распорядился провести обыски в редакционных помещениях и арестовать сотрудников по обвинению в государственной измене. Пять министров - членов СвДП в знак протеста подали в отставку, а Штраус был смещен со своего поста.

В 1963 Аденауэр ушел с поста федерального канцлера, сохранив за собой председательское кресло в партии. Канцлером коалиции ХДС/ХСС и СвДП стал Людвиг Эрхард, получивший известность как "отец немецкого экономического чуда" за свою роль стратега в экономической политике после 1949. Его пребывание на этому посту, которого он добивался долгие годы, нельзя назвать удачным: Эрхард отличался нерешительностью, за что и получил прозвище "резинового льва". Впервые с начала 1950-х годов в германской экономике появились тревожные симптомы. Производство сокращалось, темпы роста снижались, появился дефицит платежного баланса. Крестьяне были недовольны политикой правительства, в горнодобывающей, кораблестроительной и текстильной отраслях промышленности сокращались рабочие места. В 1965-1966 в Западной Германии начался общий экономический спад. В 1966-1969 страну потрясли забастовки, особенно в металлургической промышленности; мирный период развития подходил к концу. Аденауэр резко критиковал своего преемника, утверждая, что тот не справляется с обязанностями канцлера.

Несмотря на экономический спад, Эрхард избежал поражения на выборах в бундестаг в 1965. Блок ХДС/ХСС даже увеличил свое представительство в парламенте, но победа не решала стоявших перед Эрхардом проблем. Ему с трудом удалось возобновить коалицию со свободными демократами. Враждебность к нему демонстрировали представители правого крыла собственного блока во главе с Штраусом и земельные лидеры ХДС. Влияние последних возросло в результате разделения обязанностей между Эрхардом (федеральный канцлер) и Аденауэром (председатель ХДС). Региональные лидеры критиковали Эрхарда, связывая неудачи ХДС в ходе ряда земельных выборов с вялой политикой канцлера. В декабре 1966 СвДП, неудобный партнер по коалиции, отказалась поддержать законопроект об увеличении налогов, и Эрхард был вынужден уйти в отставку.