上海博物館最早的遺址是南京路的上海圖書館，建於1935。7年後，搬至河南南路中匯銀行大廈。新館位於市中心人民廣場南端，占地33畝。地下兩層，地上五層，高度29米，總投資43億元。1993年9月開工建設，1994年9月完成主體結構和外墻飾面裝修，1995年底正式開館。它是壹座方形底座、圓形挑檐的建築，其形狀在中國有“圓地方”的意思。它既有中國傳統建築的基礎面和臺階的形式和意義，又有體現現代科技和時代精神的東方園林風格。從遠處看博物館，圓形的屋頂和拱門的上弧使整個建築看起來像壹件中國古代的青銅器；如果妳從高處俯視博物館，屋頂平面就像漢代規則鏡子的巨大圖案。夜晚，中間穹頂跨度為13米的玻璃照明球，在泛光燈的照耀下，更像壹顆閃亮的夜明珠。博物館有四座高聳的藝術雕塑拱門，記錄文字和歷史的演變；右門前的八獅天祿藝術石雕，表達了中華文化無與倫比的光輝。
上海博物館總建築面積3800平方米，地下2層，地上5層，建築高度29.5米，總投資4.3億元。博物館內部按功能分為六個區域。壹至四層為12專門博物館和2個青銅器、陶瓷、書法、繪畫、雕塑、玉器、錢幣、少數民族、工藝品臨時展廳，是老博物館展覽面積的兩倍多。上海博物館的設備設計滿足防震、防雷、防火、防盜、防蟲、防潮、防幹燥、防光、防塵、防汙染的“十防”要求。目前，上海博物館擁有1.2萬件珍品和20萬冊中外文專業書籍，在國內被譽為“半壁江山的文物”，在國際上享有很高的聲譽。
在內部功能上，新館設施先進，布局合理，流程科學，能滿足展覽、科研、文物保護三大基本功能的需要。整個博物館分為開放區、倉儲區、學術區、科研區、管理區、設備區六個區域。各區域的分布清晰、獨立、合理、互不幹擾。
上海博物館的所有展品分為12個專業博物館，即青銅博物館、陶瓷博物館、繪畫博物館、書法博物館、雕塑博物館、錢幣博物館、玉器博物館、家具博物館、尹喜博物館、少數民族工藝美術博物館、胡惠春先生捐贈的瓷器陳列室和西方藝術博物館。
青銅博物館:商周青銅器是中國古代文化的瑰寶。傳世青銅器散落在美、英、法、德、日等國的博物館，每件都有壹定數量。近40年來，陜西、河南、山西、湖北、湖南、四川、雲南等省出土了大量文物，但系統的收藏以北京故宮博物院、臺北故宮博物院和上海博物館最為突出。上海博物館收藏的青銅器的特點是銘文長，描述重。新展品亦豐富了馬承元館長過去三年在香港搶救的壹些重要文物，特別是西周的晉侯器和秦國早期的秦公器。青銅博物館還將安排古代青銅器的鑄造工藝和模擬展示。
陶瓷博物館:它是中國陶瓷史的縮影。從原始社會的彩陶，到商周的原始瓷器，東漢三國西晉的青瓷，沿著陶瓷的發展軌跡，壹直展到明清景德鎮的官窯器。同時還有古代制瓷作坊和瓷窯的模擬展覽。
畫館:上海博物館主要收藏明清時期的文人畫。展品包括唐代的《高圖》、五代董源的《夏山圖》、北宋的《萬和圖》、的《柳顏圖》等國寶級作品，以及南宋、元代、明代、清代名家的真跡。
書法博物館:將書畫分為兩個專門的博物館，是老壹輩專家苦心收藏，逐漸形成強大收藏的結果。甲骨文、兩周金文、石鼓文以及秦漢兩晉南北朝時期都有書法作品。
雕塑館:除了展示壹些木雕和陶塑外，以石雕為主。有北魏、北齊、北周、隋唐時期的雕塑，也有罕見的南方石刻和青銅佛像。
錢幣博物館:中國有三千多年使用金屬貨幣的歷史，上海博物館收藏的中國古錢幣比較齊全。此時，我們不僅收藏了戰國時期的青銅鑄鐵件和金幣，還展出了明清時期的金無鈔版和金銀幣，以及絲綢之路沿線國家的金銀幣。
玉器博物館:史前及三代以後的玉器珍品，會用特別設計的燈光展示。
家具館:設有大廳、書房、臥室三個展廳，陳列明清藏品和大量由港方莊敏先生捐贈的明式家具。中國的古代家具壹直為人們所珍視，在這裏展出必將引起國內外觀眾的濃厚興趣。
印章館:中國歷代印章是研究各朝代政治、經濟、軍事官員、文學藝術的重要資料。館內展品以戰國印章、兩漢官印、明清印章為主。
少數民族工藝美術博物館:中國是統壹的多民族國家。多年來，上海博物館收藏了壹批全國各地少數民族的服飾和各種工藝品。已經建立了壹個新的博物館，向普通觀眾介紹少數民族的藝術和手工藝。
胡惠春先生捐贈的瓷器陳列室:陳列著胡惠春先生捐贈的歷代瓷器，如北宋白釉器、清代官窯琉璃器壹批，十分珍貴。
西方美術館:任何民族、任何國家的優秀藝術傳統都應該是全人類的財富。目前新館尚缺西方藝術藏品，將通過各種渠道舉辦各種展覽，向觀眾介紹優秀的西方藝術作品。
上海博物館的展品充分反映了中國古代藝術六千年發展的光輝歷程。在12000平方米的展覽面積內，館內珍品將在環境溫濕度自動控制的情況下定期更換，為各類文物帶來更多的社會效益。幾個專門的展廳將提供各省市出土的最新文物。上海博物館將成為國內外藝術和文物的展示、交流和研究中心。新博物館采用國際最新科技手段進行管理。特展室的講解全部編程輸入電腦，講解員換成了聽者。根據文物的編號按下按鈕，觀眾可以選擇任何壹種文物講解語音，包括中文、英文、日文等多種語言。展覽室內有電腦控制的攝像頭，提供各種相關的文物和專業知識。