百余年來，鐵路警察由鐵路興起而生，隨著鐵路的發展而發展，走過了壹條漫長的道路。現據《鐵道年鑒》、敵偽檔案和有關記述，就其歷史沿革、組織概況和主要管理方式分述如下： 1888年（光緒十四年），由清廷總理海軍衙門主管的唐（山）胥（各莊）鐵路展築至天津。通車後，由路方派壹彈壓委員，在列車上做稽查工作；同時在重要車站雇傭3至5人，身著號服，負站臺守望之責，名曰“巡夫”。這是鐵路警察的雛形。在此後的12年間，鐵路展築至關外，都是沿用這種設置。至1901年（光緒二十七年），因沿線經常發生劫車事件，由主管鐵路事務的外務部奏經清廷批準，從沿線駐防淮軍中挑選壹部分改為鐵路巡警，分駐鐵路沿線維護治安，隸屬於當時的礦務鐵路總局工務處。翌年，督辦關內外鐵路大臣袁世凱，分別在天津、山海關設第壹、第二兩個巡警段，***轄巡官、長警500余名，隸屬礦務鐵路總局車務處。1905年（光緒三十壹年）8月北京車站發生炸車事件後，當局深感鐵路巡警責任重大，督辦關內外鐵路大臣、直隸總督袁世凱厲行整頓，並奏定鐵路巡警稽查職守章程十二條。同時，又由當時鐵路主管機關商部咨文督辦京漢、滬寧鐵路大臣唐紹儀，仿照關內外鐵路興辦巡警。此後，到1908年（光緒三十四年），陸續建設的京奉、京漢、京綏、滬杭甬、膠濟、正太、廣三、南潯等路（段）分別設置鐵路巡警或類似巡警職能的護勇、巡查、巡務或彈壓1909年（宣統元年）郵傳部尚書（部長）徐世昌奏經清廷批準，將護勇、巡查、彈壓等職稱統壹稱為“巡警”。
民國成立後，為解決鐵路警務人員缺乏問題，鐵路主管機關交通部於1913年特設“鐵路巡警教練所”。同年9月經內政部提交國務會議決議並以大總統教令公布鐵路警察服裝、臂章制式。此後，在壹些鐵路局及重要車站和區段陸續設立警察所、警察段、護路隊等組織。1920年交通部頒布京奉、京漢、京綏等路警務處編制規則，各鐵路局陸續設立警務處。1923年5月，津浦路臨城、沙溝間發生盜匪劫車擄走中外旅客300余人的案件之後, 當局迫於外國使團的壓力，經國務會議決定，交通部於同年9月成立鐵路警備事務處，由交通部次長孫多鈦兼任處長。同年11月國務院成立督辦鐵路警備事宜處，並由陸軍撥調兩個旅歸其指揮；12月將交通部鐵路警備事務處改為路警總局。1925年1月交通部飭令各路將警察處改為警務處。此後，又陸續建立了壹些制度，力圖整頓，但因當時南北交戰，未能改變鐵路警政的紊亂狀態。 國民政府成立後，於1928年6月交通部令將鐵路警務處壹律裁改為警務課，隸屬於路局總務處。同年11月成立鐵道部。1932年5月，經行政院核準，鐵道部成立路警管理局，掌理全國鐵路警察事宜，管轄各路警務機關。同年7月將各局之警務課、警務處統壹改組為警察署。1936年1月，國民政府軍事委員會以鐵路警察關系國防、軍運，至為重要，為確保鐵路交通安全，將鐵甲車隊劃歸路警統轄，並將路警管理局改為鐵道部鐵道隊警總局，仍隸屬鐵道部，同時受軍事委員會指揮。1938年1月鐵道部並入交通部，鐵道隊警總局改為交通部隊警總局，統轄鐵道、交通、航路隊警，兼為軍委會交通警備司令部。這時抗戰已經開始，鐵路警察系統在日本侵略者的鐵蹄之下，和鐵路壹樣支離破碎。從1940年起，僅存鐵路的警防指揮，為戴笠領導的軍委會水陸交通統壹巡檢處所取代。
1937年日寇侵占華北後，先由滿洲鐵道株式會社派員接收鐵路，後於1939年4月，與華北臨時政府“合辦”成立了華北交通股份有限公司。隨之，日本侵略者打著受臨時政府委托執行鐵路警察權的幌子，在華北交通股份有限公司設立警務局，綜理鐵路警務事宜。
抗日戰爭勝利後，經行政院會議決議，交通部1946年4月重新成立了交通警察總局，統轄鐵路、公路、水路、航路警察組織及警務事宜。翌年，隨著國民黨恢復對東北三省的統治，又成立了第二交通警總局，管理東北鐵路警察組織及警務事宜。 新中國的鐵路警察始建於東北。1947年黑龍江解放後，即在哈爾濱成立了東北鐵路公安處。1948年東北三省解放，又成立了東北鐵路公安局，統管東北鐵路公安保衛工作。1949年隨著中央政府鐵道部的成立，即成立了鐵道部公安局，作為公安部的派出機關，負責領導全國鐵路公安保衛工作。1953年初公安部成立第十局即交通保衛局，統壹領導全國鐵道、公路、航運、郵電系統的公安保衛工作。1954年秋，鐵道部公安局並入公安部十局，直到1966年在文化大革命中被摧殘癱瘓。1970年 7月鐵道部與交通部合並。1971年由於鐵路治安混亂，經交通部、公安部報請國務院批準，於當年8月17日成立交通部公安局，並著手恢復鐵路公安工作。1975年國務院決定恢復鐵道部，隨即成立了鐵道部公安局，同時由公安部重新納入業務局序列，仍為第十局，在鐵道、公安兩部領導下負責全國鐵道公安保衛工作。