金上京歷史博物館始建於1961年9月，當時稱阿城縣博物館。館址在原縣城內。
1965年，阿城縣博物館改為阿城縣文物管理所。
1977年，在通城路東側人工湖畔（今會寧公園），新建阿城縣文物管理所辦公樓壹棟。阿城縣文物管理所不但規模擴大了，職能也由原來的保護管理，擴大到文物陳列和對外展示，體制進入了館所合壹時期。
金上京歷史博物館在金上京遺址西，阿城區延川大街南兩公裏處，1997年新建，1998年10月對外開放。2005年閉館改陳，2006年重新對外開放。是中國唯壹壹座展示金代歷史、金源文化的專題博物館。