В национальной политике на Украине были два курса: на «украинизацию», то есть поощрение украинской культуры, языка, школы, выдвижение украинцев в аппарат управления и т. п., и на борьбу с «буржуазным и мелкобуржуазным национализмом». Провести четкую границу между ними, особенно в городах и промышленных центрах, было нелегко, и Каганович явно тяготел ко второму курсу: он был безжалостен ко всему, что казалось ему украинским национализмом, У Кагановича происходили частые конфликты с председателем СНК Украины В.Я. Чубарем, Одним из наиболее активных оппонентов Кагановича был также член ЦК КП(б)У и нарком просвещения Украины А.Я. Шумский, который в 1926 году добился приема у Сталина и настаивал на отзыве Кагановича с Украины. Хотя Сталин и согласился с некоторыми доводами Шумского, но одновременно поддержал Кагановича, направив специальное письмо в украинское Политбюро.

Конечно, Каганович проделал немалую работу по восстановлению и развитию промышленности Украины. Однако в политической и культурной областях его деятельность принесла гораздо больше вреда, чем пользы. Как партийный руководитель Советской Украины Каганович являлся фактическим руководителем и небольшой компартии Западной Украины. Национальная обстановка и настроения среди населения западной части Украины существенно отличались от того, что происходило в ее восточной части. Но Каганович не разобрался в сложных проблемах этой компартии, которой приходилось действовать в условиях подполья на территории бывшего Польского государства. Огульно обвинив ЦК КПЗУ в национализме и даже предательстве, Каганович довел эту партию до раскола и добился ареста некоторых ее руководителей, которые создали свой руководящий центр на территории Советской Украины. Каганович не постеснялся дискредитировать всю КПЗУ. В ноябре 1927 года на одном из заседаний Политбюро ЦК КП(б)У он цинично заявил, что не знает, на чьей стороне в случае войны будет КПЗУ.

Уже после отъезда Кагановича в Москву Чубарь, выступая на объединенном заседании Политбюро ЦК и Президиума ЦКК КП(б)У, таким образом характеризовал обстановку, созданную Кагановичем в партийном руководстве Украины: «Взаимное доверие, взаимный контроль у нас нарушались, так что друг другу мы не могли верить… Вопросы решались за спиной Политбюро, в стороне… Эта обстановка меня угнетает».

Масштабы оппозиции Кагановича на Украине возрастали. К Сталину приезжали Г.И. Петровский и Чубарь с просьбой отозвать Кагановича с Украины. Сталин вначале сопротивлялся, обвиняя своих собеседников в антисемитизме. И все же ему пришлось в 1928 году возвратить Кагановича в Москву. Но это вовсе не свидетельствовало о недовольстве Сталина работой Кагановича. Наоборот, он снова стал секретарем ЦК ВКП (б) и вскоре был также избран членом Президиума ВЦСПС. Каганович должен был составить противовес руководству М.П. Томского в профсоюзах. В начале 1930 года Каганович стал первым секретарем Московского областного, а затем и городского комитетов партии, а также полноправным членом Политбюро ЦК ВКП (б).

Летом 1930 года перед XVI съездом партии в Москве проходили районные партийные конференции. На Бауманской конференции выступила вдова Ленина Н.К. Крупская и подвергла критике методы сталинской коллективизации, заявив, что эта коллективизация не имеет ничего общего с ленинским кооперативным планом. Крупская обвиняла ЦК партии в незнании настроений крестьянства и в отказе советоваться с народом. «Незачем валить на местные органы, — заявила Крупская, — те ошибки, которые были допущены самим ЦК».

Когда Крупская еще произносила свою речь, руководители райкома дали знать об этом Кагановичу, и он немедленно выехал на конференцию. Поднявшись на трибуну после Крупской, Каганович подверг ее речь грубому разносу. Отвергая ее критику по существу, Каганович заявил также, что она как член ЦК не имела права выносить свои критические замечания на трибуну районной партийной конференции. «Пусть не думает Н.К. Крупская, — заявил Каганович, — что если она была женой Ленина, то она обладает монополией на ленинизм».

Второй человек в руководстве партии

Начало 30-х годов было временем наибольшей власти Кагановича. Хотя «правые» лидеры: Бухарин, Томский и Рыков — были уже выведены из Политбюро, этот орган не был еще полностью послушен воле Сталина. По ряду вопросов Киров, Орджоникидзе, Рудзутак, Калинин, Куйбышев иногда возражали Сталину. Но Каганович всегда стоял на его стороне. В годы коллективизации в те районы страны, где возникали наибольшие трудности, Сталин направлял именно Кагановича, наделяя его при этом чрезвычайными полномочиями. Каганович выезжал для руководства коллективизацией на Украину, в Воронежскую область, в Западную Сибирь, а также во многие другие области. И всюду его приезд означал тотальное насилие по отношению к крестьянству, депортацию не только десятков тысяч семей «кулаков», но и многих тысяч семей так называемых «подкулачников», то есть всех тех, кто сопротивлялся коллективизации. Особенно жестокие репрессии обрушил Каганович на крестьянско-казачье население Северного Кавказа. Достаточно сказать, что под его давлением бюро Северо-Кавказского крайкома партии приняло осенью 1932 года решение выселить на Север жителей шестнадцати крупных станиц: Полтавской, Медведовской, Урупской, Башаевской и др. Следует напомнить, что казачьи станицы гораздо крупнее русских деревень, в каждой было обычно не менее тысячи дворов. Одновременно на Северный Кавказ на «освободившиеся» места переселялись крестьяне из малоземельных деревень Нечерноземья. Суровые репрессии проводились и в подведомственной Кагановичу Московской области, которая охватывала тогда территорию нескольких нынешних областей. Видимо, учитывая именно этот «аграрный опыт», Сталин назначил Кагановича заведующим вновь созданным сельскохозяйственным отделом ЦК ВКП (б). Каганович руководил в 1933–1934 годах организацией политотделов МТС и совхозов, которым на время были подчинены все органы Советской власти в сельской местности и в задачу которых входила, в частности, чистка колхозов от «подкулачников» и «саботажников».

Каганович был жесток не только по отношению к крестьянам, но и к рабочим. Когда в 1932 году в Иваново-Вознесенске начались забастовки рабочих и работниц, вызванные тяжелым материальным положением, то именно Каганович управлял расправой с активистами этих забастовок. Досталось от него и многим местным руководителям. Некоторые из них бойкотировали введенные тогда закрытые распределители для партийных работников и посылали своих жен и детей в общие очереди за продуктами. Каганович оценил их поведение как «антипартийный уклон».

В 1932–1934 годах письма, с мест многие адресовали: «Товарищам И.В. Сталину и Л.М. Кагановичу». Каганович решал немало идеологических вопросов, так как в Москве было расположено множество учреждений, связанных с культурой и идеологией. В 1932 году комиссия под его председательством в очередной раз запретила представление пьесы Н.Р. Эрдмана «Самоубийца», которая лишь недавно, через много лет после смерти автора, была поставлена Московским театром сатиры.