上海歷史博物館創建於1983，前身為上海歷史文物博物館。1991年改為現館名。
當時上海歷史文物陳列館臨時借用西郊上海農業展覽館五號館作為臨時館址，於5月27日正式對外開放，1984。上海文物博物館是壹座地理博物館，通過1300余件文物、文獻、圖片，全面展示了上海從古代到1949年上海解放前的歷史長卷。
1991虹橋路1286號上海歷史博物館新館。基本展覽為“近代上海城市發展史展覽”，展出文物1500余件，分為六個部分，全面展示了從1843到1949的解放。被列為上海市首批“青少年教育基地”。
上海歷史博物館館藏文物近3萬件，主要包括上海古代歷史文物和18000余件近代歷史文物(含租界殖民地文物)。其中，明代韓希孟的《繡花蟲魚書》、侯同曾的《書卷》、七寶寺的金字真經、鎮遠將軍的青銅炮、近代陳化成抗英的遺物、太平天國的大筆經費、前匯豐銀行前的青銅獅子、1893英美租界與法租界的界碑等，都是館藏的重要文物。
2001年5月，由我館策劃制作的“上海城市歷史發展展覽館”遷至上海浦東東方明珠電視塔。展廳分為華亭由來、城市風貌、開埠掠影、十裏洋場、海上舊跡五個部分。主要運用場景和模型的藝術手法，輔以音響、多媒體信息查詢裝置和多媒體影視模型合成裝置，以城市建築的發展為主要線索，反映了上海從壹個沿海漁村發展成為中國自古以來最大的工商業城市的過程，突出反映了近代上海在政治、經濟、文化、社會、生活等方面的歷史演變。
“上海城市歷史發展展覽館”位於上海著名旅遊景點東方明珠電視塔內。遊客不僅可以登塔觀看改革開放以來上海的巨大變化，還可以感受新上海的飛速發展。他們還可以參觀塔內的上海城市歷史發展展覽館，領略上海城市歷史發展的痕跡和近代上海的歷史和歷史風情。
上海歷史博物館新館工程已列入上海文化建設三年行動計劃。目前，上海市文物管理委員會對上海歷史博物館的建設已有初步設想:未來的新館將是壹座充分反映上海歷史發展軌跡的地方歷史博物館，定位於全面展示上海古代史和近代史的文物。壹座全面展示上海古今文物歷史的新博物館有望在申城出現。