檔案館下設技術編研辦公室、收集指導辦公室和管理利用辦公室。 北京大學檔案館館舍原為燕京大學圖書館館舍，1925年建成。1952年院系後為北京大學圖書館館舍，1974年學校圖書館建成後，圖書館閱覽室陸續遷出，文革期間曾在此舉辦教育革命展覽，以後“七四八”（計算機所前身）、北京大學檔案室先後遷入。
1999年11月9日，檔案館正式掛牌。
2000年11月起開始，根據學校的統壹安排，全樓進行抗震加固，2001年8月底，整個加固工程基本完工，完工後北京大學檔案館各項硬件水平都躍入全國高校的前列。特別是檔案閱覽室在學校和北大“壹”字級校友的支持下，壹改過去與工作人員***用壹間屋子與辦公桌的擁擠尷尬局面。