Отдавая, вольно или невольно, предпочтение современному искусству, Третьяков тем не менее с первых до последних шагов своей собирательской деятельности упорно отслеживал и щедро приобретал все то лучшее, что было на тогдашнем художественном рынке из работ русских художников прошедших эпох XVIII - первой половины XIX века и даже древнерусского искусства. Ведь он создавал, по существу, первый в России музей, отражающий весь поступательный ход развития русского искусства. Что не означает, что у Третьякова совсем не было просчетов и ошибок. Так, связывая свои надежды на великое будущее русской школы с творчеством передвижников, Третьяков почти не приобретал работы художников академического направления XIX века, и их искусство до сих пор слабо представлено в музее. Недостаточно внимания проявлял Третьяков и знаменитому Айвазовскому. В конце жизни собиратель явно с опаской присматривался к новым художественным тенденциям русского искусства 1890-х годов. Страстно любя живопись, Третьяков создавал в первую очередь картинную галерею, реже приобретая скульптуру и графику. Значительное пополнение этих разделов в Третьяковской галерее произошло уже после смерти ее создателя. И до сих пор почти все, что было приобретено П.М.Третьяковым, составляет подлинный золотой фонд не только Третьяковской галереи, но и всего русского искусства.

Поначалу все, что приобреталось Павлом Михайловичем Третьяковым, размещалось в комнатах его жилого дома в Лаврушинском переулке, купленного семьей Третьяковых в начале 1850-х годов. Но уже к конце 1860-х годов картин стало так много, что разместить их все в комнатах не было никакой возможности.

С приобретением большой Туркестанской серии картин и этюдов В.В.Верещагина, вопрос о постройке специального здания картинной галереи был решен сам собой. В 1872 году началось строительство, а весной 1874 года произошло переселение картин в двухэтажное, состоящее из двух больших залов (ныне залы № 8, 46, 47, 48) первое помещение Третьяковской галереи. Оно было воздвигнуто по проекту зятя Третьякова (мужа сестры) архитектора А.С.Каминского в саду замоскворецкой усадьбы Третьяковых и соединено с их жилым домом, но имело отдельный вход для посетителей. Однако быстрый рост собрания скоро привел к тому, что уже к концу 1880-х годов количество залов галереи возросло до 14. Двухэтажное здание галереи с трех сторон окружило жилой дом со стороны сада вплоть до Малого Толмачевского переулка. С постройкой специального здания галереи собранию Третьякова был придан статус настоящего музея, частного по принадлежности, общественного по характеру, музея бесплатного и открытого на протяжении почти всех дней недели для любого посетителя без различия рода и звания. В 1892 году Третьяков подарил свой музей городу Москве.

По решению Московской городской думы, юридически теперь владевшей галереей, П.М.Третьяков был назначен ее пожизненным попечителем. Как и прежде, Третьяков пользовался почти единоличным правом отбора произведений, осуществляя покупки как на капитал, выделяемый думой, так и на свои собственные средства, передавая такие приобретения уже в качестве дара в "Московскую городскую художественную галерею Павла и Сергея Михайловичей Третьяковых" (таково было тогда полное название Третьяковской галереи). Продолжал Третьяков заботиться и о расширении помещений, пристроив в 1890-е годы к существующим 14 еще 8 просторных залов. Умер Павел Михайлович Третьяков 16 декабря 1898 года. После смерти П.М.Третьякова делами галереи стал ведать Совет попечителей, избираемый думой.

В его состав входили в разные годы видные московские художники и коллекционеры - В.А.Серов, И.С.Остроухов, И.Е.Цветков, И.Н.Грабарь. На протяжении почти 15 лет (1899 - нач. 1913) бессменным членом Совета была дочь Павла Михайловича - Александра Павловна Боткина (1867-1959).

В 1899-1900 годах опустевший жилой дом Третьяковых был перестроен и приспособлен для нужд галереи (ныне залы № 1, 3-7 и вестибюли 1 этажа). В 1902-1904 годах весь комплекс построек был объединен по Лаврушинскому переулку общим фасадом, построенным по проекту В.М.Васнецова и придавшим зданию Третьяковской галереи большое архитектурное своеобразие, до сих пор выделяющее его среди прочих московских достопримечательностей

В начале XX века Третьяковская галерея становится одним из крупнейших музеев не только России, но и Европы. Она активно пополняется произведениями как нового, так и старого русского искусства. В 1913-1918 годах по инициативе художника и историка искусства И.Н.Грабаря, бывшего в те годы попечителем Третьяковской галереи, реформируется ее экспозиция. Если раньше новые поступления выставлялись отдельно и не смешивались с основным собранием П.М.Третьякова, то теперь развеска всех произведений подчиняется общему историко-хронологическому и монографическому принципу, соблюдаемому и поныне.

Новый период в истории Третьяковской галереи начался после национализации галереи в 1918 году, превратившей ее из муниципальной собственности в государственную, закрепив за ней ее общенациональную значимость.

В связи с национализацией частных коллекций и процессом централизации музейных собраний количество экспонатов в Третьяковской галереи к началу 1930-х годов увеличилось более чем в пять раз. В состав галереи влился ряд малых московских музеев, таких, как Цветковская галерея, Музей иконописи и живописи И.С.Остроухова, частично Румянцевский музей. Одновременно с этим из состава галереи была выведена и передана в другие музеи коллекция произведений западноевропейского искусства, образованная из собраний С.М.Третьякова, М.А.Морозова и других дарителей.

За последние полвека Третьяковская галерея превратилась не только в огромный музей с мировой известностью, но и в крупный научный центр, занимающийся хранением и реставрацией, изучением и пропагандой музейных ценностей. Научные сотрудники галереи активно участвуют в разработке вопросов истории и теории русского искусства, устраивают многочисленные выставки как в нашей стране, так и за рубежом, читают лекции, проводят экскурсии, ведут большую реставрационную и экспертную работу, внедряют новые формы музейной компьютерной информатики. Третьяковская галерея обладает одной из богатейших в России специализированных библиотек, насчитывающей более 200 тысяч томов книг по искусству; единственной в своем роде фото- и слайдотекой; оснащенными современной техникой реставрационными мастерскими.

Быстрый рост коллекции Третьяковской галереи уже в 1930-е годы остро ставил вопрос о расширении ее помещений. Пристраивались, где это было возможно, новые залы, перестраивались и включались в комплекс галереи примыкавшие к ее территории жилые дома и иные постройки. К концу 1930-х годов экспозиционные и служебные площади были увеличены почти вдвое, но и этого было мало для быстро растущего и развивающегося музея. Начали разрабатываться проекты реконструкции Третьяковской галереи, включавшие в себя то проект сноса всех соседствующих с галереей зданий и расширение ее вплоть до набережной Обводного канала (проект архитекторов А.В.Щусева и Л.В.Руднева, 1930-е), то постройки нового здания на новом месте и переноса в него всей коллекции Третьяковской галереи (здание на Крымском валу, архитектор Н.П.Сукоян и др., 1950-1960-е). В результате многих дискуссий было принято решение о сохранении за Третьяковской галереей исторического помещения в Лаврушинском переулке. В начале 1980-х годов началась его реконструкция и расширение при активной поддержке директора Третьяковской галереи О.К.Королева (1929-1992). В 1985 году вступил в строй первый корпус - депозитарий, где разместились просторные хранилища для произведений различных видов искусства и реставрационные мастерские; в 1989 году - второй, так называемый Инженерный корпус, с помещениями для временных выставок, лекционным и конференц-залами, детской студией, информационно-компьютерной и различного рода инженерными службами. Реконструкция основного здания, начавшаяся в 1986 году, была завершена в 1994 году и окончательно галерея открылась для посетителей 5 апреля 1995 года.