商人、紡織廠老板、俄羅斯文化活動家和繪畫藝術愛好者帕維爾·特列季亞科夫妻1856年購買了第壹批油畫，開始創建這個畫廊。
1874年，這座私人博物館向公眾開放，頗受歡迎。
1892年，特列季亞科夫將其全部藏品無償捐贈給莫斯科市政府。
1918年列寧簽署法令將該館收歸國有，原魯緬采夫等博物館及許多私人的收藏品皆並入該館。建後百余年間畫廊幾經擴建，不斷充實，成為最大的俄羅斯美術作品博物館之壹。
1881年，畫廊對普通民眾開放。
1892年8月，帕·米·特列季亞科夫把自己的收藏品贈送給莫斯科市。收藏品中包括1287幅彩色畫、518幅素描和9件雕塑，還有8幅外國畫家的素描。後來，又加上他的弟弟謝爾蓋·米哈伊洛維奇·特列季亞科夫(1834年—1892年)的收藏。這壹慷慨捐贈的正式接受儀式是在莫斯科市杜馬舉行的，並且帕維爾·特列季亞科夫被授予“莫斯科榮譽市民”的稱號。
1918年之前，畫廊被稱作莫斯科市特列季亞科夫畫廊。
1918年6月3日，國家發布了將畫廊國有化的法令，它成為國立特列季亞科夫畫廊。
20世紀初，莫斯科的壹些小博物館與之合並，其中有茨韋特科夫畫廊、奧斯特羅烏霍夫聖像和繪畫博物館，以及魯緬采夫公***博物館的畫廊，特列季亞科夫畫廊逐漸成為俄羅斯和歐洲最大的美術館之壹。