遼朝皇帝是國家軍政 的最高決策者，也是最高的軍事統帥。北樞密院既是北面官系統的宰輔機構，又是全國最高軍政機構。它稟承皇帝的旨意，處理軍機，統禦全國的軍事力量。南樞密院雖然是南面官系統的宰輔機構，但並不處理漢地的軍務，不領漢軍。
北樞密院之下，北、南宰相府具體負責部族的軍民事務，諸行宮都部署司掌管各宮衛的軍民事務。部族、宮衛都是軍政合壹的單位。殿前都點檢司具體負責宿衛行宮。五京留守司分領五京州縣漢軍、渤海軍，南京（今北京）置有侍衛親軍都指揮使司統率本地區的漢軍。漢地各州的節度使，包括部分刺史，兼掌軍民政，統領管內的節鎮兵、鄉兵，有的還兼領禁軍。節度使司下設馬、步軍指揮使司，專掌節鎮兵。
除契丹腹裏地區外，遼朝將全國劃分成幾大邊防軍區，分置軍政機構，統馭本軍區所有的蕃漢駐軍。
設在邊疆多民族地區的邊防軍政機構稱招討司或統軍司（契丹語稱詳穩司）。西南路招討司，負責遼夏及本路的遼宋邊防，鎮遏黨項、吐谷渾、突厥等屬部。西北路招討司，負責鎮遏漠北阻蔔（韃靼）系統各部，故其長官又稱阻蔔都詳穩。烏古敵烈統軍司，掌管臚朐河（今克魯倫河）流域烏古、敵烈等屬部分布區的防務。東北統軍司，負責對女真、五國、達魯虢等東北部族的防務。東京（今遼寧遼陽）統軍司，鎮遏渤海、熟女真等族，負責對東部高麗的邊防。招討司、統軍司統領軍區內駐軍及部族，主持邊務，穩定邊疆，並掌管境內屯田和群牧，其下分置若幹兵馬司（詳穩司），分鎮邊疆要地。如東北統軍司下轄黃龍府（今吉林農安）兵馬都部署司、北女真兵馬司（別稱鹹州兵馬詳穩司）等軍政機構，南女真兵馬司（別稱湯河詳穩司）則是東京統軍司的下屬機構。
負責南面遼宋邊防的最高軍政機構是南京兵馬總管府（興宗重熙四年，1036，改稱都元帥府），壹般由南京留守兼任兵馬總管（都元帥）。下設南京統軍司、南京侍衛親軍馬步軍都指揮使司兩個統兵機構，前者領契丹、奚、渤海兵，後者領漢軍。在東起涿、易，西跨應、朔等州的遼、宋沿邊地區，遼朝置西南面安撫司，專司邊務，處理雙邊交涉。這是仿照宋朝的河北沿邊安撫司設置的，初名招安司，澶淵盟好後，改稱安撫司。因治所在飛狐（今河北淶源），故又曾稱易州飛狐兵馬司。
遼朝的軍事指揮權牢固地掌握在契丹貴族手中，各級軍政機構、蕃漢軍隊的中高級將校主要由契丹人擔任。少數受到契丹貴族集團賞識的奚、渤海、漢族人，才能領兵為將。雖然漢族官僚在遼朝政權中的作用日漸重要，但除韓德讓等個別“胡化”漢人外，漢人長期無權參與軍政。直到遼金戰爭中遼軍潰敗，天祚帝方起用張琳征調漢軍東征，張琳雖身任北面官之南府宰相，仍對“舊制，凡軍國大事，漢人不與”，心有余悸。
遼朝的軍隊，按其征集和編組系統，大體可分為朝廷宿衛軍，部族軍，五京州縣漢軍、渤海軍及屬國軍四種類型。按其軍事職能，包括朝廷行宮宿衛軍和地方鎮戍軍兩大系統。
遼朝雖然建有五京，但皇帝及朝廷官屬並不定居京城，仍然四時逐水草遷徙。皇帝的行在所——捺缽，皇帝起居的氈帳——斡魯朵（漢譯宮帳、禦帳、牙帳、行宮），作為遼朝的政治中心和中樞決策地，必須布置重兵宿衛，因而“未有城郭、溝池、宮室之固”，反以“氈車為營，硬寨為宮”。所以，遼朝的朝廷宿衛軍有別於中原皇朝式的宮城宿衛，而是“遷徙往來無常處，以兵為營衛”，且“無日不營，無在不衛”。
遼朝的宿衛軍，前期以左、右皮室軍為主，中、後期以宮分軍為主。此外，包括護衛、祗候郎君等禦帳官。
皮室軍的淵源可追溯到遼建國前部落聯盟首長的親兵群，阿保機為夷離堇、於越時，帳下有眾多的親兵。907年，時為後梁開平元年，他即可汗位，進壹步擴建侍衛親兵，建立了禦帳親軍——皮室軍，時稱“腹心部”。《遼史·百官誌·北面軍官》記載：“皮室軍自太祖時已有，即腹心部是也”，“太祖以行營為宮，選諸部豪健千余人置為腹心部”。從前的親兵首領耶律曷魯、蕭敵魯等繼續總領腹心部，“典宿衛”。繼他們之後，耶律老古參加平定諸弟之亂，“以功授右皮室詳穩，典宿衛”。天顯初，耶律頗德“為左皮室詳穩，典宿衛”。由於宿衛任務的加重，皮室軍的編制也在擴大。至遲在阿保機建國之初（916），皮室軍已分為左、右兩部，分掌宿衛。在阿保機戰勝反對勢力、稱帝建國的鬥爭中，皮室軍起了決定性作用。
遼太宗進壹步擴編皮室軍，“益選天下精銳，置諸爪牙”。遴選範圍超出諸部，州縣漢軍也在其列。據明代《宣府鎮誌》載，天顯十壹年（936），“契丹籍奉聖州（今河北涿鹿）兵為親軍”（原註：時契丹主選州郡精甲置諸爪牙為皮室軍）。遼太宗在位期間，皮室軍多達3萬人。此外，述律太後“從太祖征討，所俘人戶有技藝者置之帳下，名屬珊，蓋比珊瑚之寶”，屬珊作為她的投下私屬戶，組成屬珊軍，盛時達2萬人。皮室、屬珊並稱“禦帳親軍”，在遼初政治舞臺上充當著重要角色。左、右皮室軍又別稱北、南皮室軍。《遼史·百官誌》將左、右、北、南皮室軍並列，實屬錯誤。作為禦帳親軍，二皮室軍以宿衛行宮為職責。世宗天祿末，耶律察割發動行宮叛亂，右皮室詳穩耶律屋質“喻禁衛長、皮室等同力討賊”，是平息叛亂，迎立穆宗的主要人物。穆宗遇弒，右皮室詳穩蕭烏裏只因為“宿衛不嚴”被治罪。皇帝親征，皮室必隨駕從征。神冊末年，遼太祖南略燕趙，右皮室詳穩耶律老古隨征，戰死於雲碧店。太祖親征渤海，右皮室詳穩耶律朔古從征。
遼中期以來，皮室軍的職能發生了變化。這首先體現在頻繁執行征伐任務，轉為朝廷直轄的機動作戰部隊。皇帝親征，皮室軍雖然仍屢被命從征，但已經與早期有所不同，它已經不是扈從皇帝的衛兵。如遼聖宗統和四年（986），宋太宗北伐，聖宗母子親征，左皮室詳穩蕭排押從征，河北解圍後，聖宗“詔遣詳穩排押率弘義宮兵及南、北皮室、郎君、拽剌四軍赴應、朔二州界”，支援樞密使耶律斜軫收復山西失地。外出征戰之外，平時皮室軍就奉命屯駐於軍事要地。道宗鹹雍末，遼宋爭河東地界，左皮室詳穩蕭迂魯奉詔“兼統兩皮室軍屯太牢古山”遏宋；遼末，皮室軍駐防於燕北。皮室軍久駐邊地，其屯戍、生產、生活方式也就開始接近於部族組織，逐漸成為單獨的壹部，只是它始終由朝廷直轄。
繼皮室軍之後，行宮宿衛的任務主要由宮分軍承擔，宮分軍成為真正的禦帳親軍。遼興宗重熙年間三使遼廷的宋人余靖，在其《契丹官儀》中記載：“胡人從行之兵，取宗室中最親信者為行宮都部署以主之，其兵皆取於南、北王府，十宮院人充之。”十宮院人即宮分軍。南、北王府即五院、六院部，遼廷視之為二院皇族，多所倚重。但是二部出軍宿衛行宮，僅見於此，當續考。
宮分軍征集自諸宮分（斡魯朵）。據《遼史·營衛誌》記載，斡魯朵民戶分正戶和蕃漢轉戶兩種，每宮丁男也相應被分成正丁、蕃漢轉丁，宮分軍就由這兩類丁男組成。遼朝十二宮壹府計有正戶8萬，蕃漢轉戶12.3萬，***計20.3萬戶。按每戶出二丁估算，約合宮丁40.6萬。遼制，丁男皆隸兵籍，所以40.6萬宮丁都屬於宮分軍，其中包括10.1萬最精銳的宮衛騎軍。宮分軍按不同的宮分編制，每宮自成壹軍。各宮分設官置府，“各有民戶，出兵馬”。官使扈從行宮，率宮分軍擔負宿衛任務。因而時人稱之“掌綰版圖、撫綏生齒”，並“兼領禁衛”，“綰天子之宮廷”。宮分軍“入則居守，出則扈從，葬則因以守陵”。遼中期以來，取代皮室軍成為強幹弱枝，宿衛行宮的主力。如遼道宗清寧九年（1063），皇太叔重元父子發動行宮叛亂，宮分軍、宮官在鎮壓叛亂中發揮了重要作用。敦睦宮使耶律良與南院樞密使耶律仁先、知北樞密院事耶律乙辛等，“率宿衛士卒數千人禦之”。永興宮使耶律撻不也以平亂有功賜定亂功臣，宮分人急裏哥、霞抹等因功加上將軍。
當然，扈從行宮並不需要動員全體宮分軍，只需其中的壹部分，壹般在萬人左右，實行輪番宿衛。其余的宮分軍繼續在份地內從事生產，並承擔守衛先帝陵寢的責任。作為遼朝軍隊的基本成分之壹，宮分軍除擔負宿衛任務外，還負有出征和屯戍邊地之責，《遼史·兵衛誌·宮衛騎軍》載，“有兵事，則五京、二州各提轄司傳檄而集，不待調發州縣、部族，十萬騎軍已立具矣”。實際上，宮分軍畢竟以輪番宿衛行宮為首要任務，並非攻城略地的主力部隊，外出征伐還主要靠以五院、六院、乙室、奚部為主力的部族軍。
皮室軍和宮分軍，人們往住混為壹談。遼太祖擴充親兵組織，建立腹心部（皮室軍），以及組建弘義宮，均在他即汗位之初。《遼史·兵衛誌》記載，弘義宮是在太祖“親衛缺然”的情況下，“簡天下精銳，聚之腹心之中”而建的。《營衛誌》又說，弘義宮乃“以心腹之衛置，益以渤海俘、錦州戶”。所以，人們自然把腹心部（皮室軍）與弘義宮等同起來，並進而認為，皮室軍就是宮分軍，或宮分軍包含了皮室軍。僅就太祖朝而言，腹心部（皮室軍）確屬弘義宮分戶的壹部分，選自各部族，專司宿衛。遼太宗重新組建自己的禦帳親軍，於部落、州縣精選3萬人組成皮室軍。此後，皮室軍就獨立於宮分之外而存在，逐漸演變成壹種新的社會組織。
後來，皮室軍長期屯戍地方，部落化愈趨明顯。它與征集自宮分戶的宮分軍顯然是兩支不同的武裝力量。證諸史實，統和四年（986），蕭排押赴援山西，所部兵馬同時包括永興宮分軍和左右二皮室軍。從領導體制看，皮室軍詳穩統領皮室軍及其家屬，而宮分軍則由行宮都部署統領，戰時或委任諸宮院兵馬都部署統率出征的宮分軍。再從軍事職能看，遼中期以來，二皮室軍長期屯戍邊地，宮分軍則主要宿衛行宮，只以部分軍隊承擔戍邊任務。
行宮宿衛軍的人數，《遼史·營衛誌·行營》的記載是“宮用契丹兵四千人，每日輪番千人祗直”。這也許是遼聖宗以前或聖宗初年的情況。據聖宗統和年間降宋的遼朝供奉官李信報告，宿衛行宮的衛士是5600余人。道宗清寧四年（1058），使遼的宋人王易在其《重編燕北錄》中記作1萬人。在行營地，士兵環繞牙帳，具體的布置是：“皇帝牙帳以槍為硬寨，用毛繩連系。每槍下黑氈傘壹，以庇衛士風雪。槍外小氈帳壹層，每帳五人，各執兵仗為禁圍。”禁圍分大小兩重。據王易所見，“小禁圍在大禁圍外東北角，內有氈帳二三座。大禁圍每壹面長壹百壹十步，有氈帳十座，黑氈兵幕七座。大、小禁圍外有契丹兵甲壹萬人，各執槍刀、旗鼓、弓箭等”。小禁圍應是禦帳的所在，大禁圍是其他諸行宮的所在。
執事於禦帳內的護衛和祗候郎君，則是皇帝的貼身衛士，二者以契丹貴族子弟為主，也有奚、漢、渤海貴族、品官子弟。護衛重在保衛安全，更強調護衛能力，在體魄、技藝上要求更高。而祗候郎君重在祗候，負責皇帝行宮的日常生活起居，並執行有關公務。在緊急狀態下，自然也承擔宿衛之責。
遼朝的地方鎮戍軍，主要是部族軍和五京州縣漢軍、渤海軍。大致而言，遼朝的西北、西南、東北邊區，主要由部族軍屯戍，兼有少量漢軍、渤海軍。東京地區以渤海軍為主，漢軍、部族軍為輔。長城沿線北側的半耕半牧地區，由部族軍鎮戍，長城以南地區主要以漢軍鎮戍，也雜有少量部族軍。
遼朝各部族“分地而居，合族而處”，集生產、行政、軍事職能於壹體，部民“勝兵甲者即著軍籍”，兵民合壹，“有事則以攻戰為務，閑暇則以畋漁為生”。每個部族就組成壹支軍隊。各部貴族子弟還組成舍利郎君軍，擔負偵候任務的軍士組成拽剌軍。各群牧場的牧民組成群牧軍，也類似部族軍。部族軍的軍事任務主要是戰時出征及平時戍邊。遼朝每逢舉兵，要從諸道征兵。部族軍，尤其是四大部族軍，多在選中，且是沖鋒陷陣的主力部隊。戰事結束，遣返各部。
平時，部族軍輪番戍邊。戍邊成為部族軍當仁不讓的職責，所謂“眾部族分隸南、北府，守衛四邊”。部族與斡魯朵、捺缽並列，成為遼朝“以武立國”的基礎。即所謂“有遼始大，設制尤密。居有宮衛，謂之斡魯朵，出有行營，謂之捺缽；分鎮邊圉，謂之部族……立國規模莫重於此”。每個部落壹般分為戍守戶（行者）和留後戶（居者）兩部分，輪番戍邊。戍守戶即“邊防戶”，包括戍軍及其家屬的全部或部分，“生生之資，仰給畜牧”，戍邊與生產相結合，保持兵民合壹的傳統。留後戶則“番居內地，歲時田牧平莽間”。各部大王或節度使、都監統帥戍軍鎮戍邊地，司徒負責管理留後戶，並為前方戍軍提供必要的後勤服務。
根據各部的實際情況及邊防的需要，部族的鎮戍區有的與份地相近或戍守本部，有的則遠離本部戍守境外。前者如薛特部和撒裏葛部，二部皆“屯駐本境”。後者如突呂不部，留後戶放牧於長春州（隸上京道，今吉林前郭爾羅斯縣）西，戍軍卻隸屬於西北路招討司。奚部的分布區位於中京道，戍區卻隸屬於東北統軍司。五院、六院、乙室三大王部自東至西壹線排開，戍守於長城以北的半耕半牧區，負責對北宋和西夏的邊防。如此布置，既方便了部民的放牧生產，又能在緊急時刻迅速南下執行作戰任務。同時當有監視、威懾燕雲地區漢軍的戰略意圖。
遼宋澶淵盟好之後，遼廷加強了對漠北民族地區的統治，建立了壹系列邊防城堡。這些邊防城皆“因屯戍而立，務據形勝，不資丁賦”，專用於軍事防戍，不作地方行政單位。邊防城的戍軍主要是部族軍，如鎮州建安軍（今蒙古布爾根省青陶勒蓋古城），遼朝“選諸部族二萬余騎充屯軍，專捍禦室韋、羽厥等國，凡有征討，不得抽移”。糺軍向為治遼金元史者所重視。在遼朝，糺不過是部落和宮分軍的泛稱。契丹及其他遊牧民族保持著部落組織形式，軍政合壹，兵民合壹。遼朝不存在壹種由某些人組成或擔當某種特殊職能的糺軍，金、元時代，糺軍的含義發生變化，不再是軍和部的泛稱。
遼朝的漢軍，其制基本承襲唐末五代的軍制，而又有所變通。五京州縣民戶，男子壯者皆兵，丁籍和兵籍是壹致的。丁男或選充禁軍或充州縣地方兵，未被簽發者在鄉充鄉兵。與中原不同的是，鄉兵也隸兵籍。禁軍、方鎮兵的組織編制與五代、宋代大同小異，亦有廂、軍、指揮、都等單位。五京州縣都有漢軍禁兵駐防。南京（今北京）城內有漢軍八營，“有南、北兩衙兵，兩羽林兵，控鶴、神武兵，雄捷兵，驍武兵”，除兩衙兵外，其他皆屬禁軍。約當穆、景之世，耿紹紀為涿州刺史兼左羽林統軍。聖宗統和二年（984），韓倬任應州彰國軍節度使兼侍衛親軍兵馬都指揮使。遼末征討女真，曾簽中京和燕、雲、平等路禁軍。漢軍以燕、雲州縣駐防為主，同時對遼宋沿邊地區的防守負有主要責任。在塞北也有部分漢軍防戍。如耶律元曾任“西北路右神武衛上將軍”，道宗曾詔令西京（今山西大同市）炮人、弩手教習西北路漢軍。
遼朝州縣還有節鎮兵。據《契丹官儀》記載，山後“又有雲、應、蔚、朔、奉聖等五節度營兵”。統和四年（986）三月，有奉聖州武定軍馬步軍都指揮使呂行德，副都指揮使、馬軍都指揮使劉知進叛歸宋朝的記載。前述南京城內的“南、北兩衙兵”，就是衙內軍。聖宗開泰年間，韓橁曾任燕京留守衙內馬步軍都指揮使。《契丹官儀》載，遼朝“逐州又有鄉兵”。景宗乾亨元年（979），宋師圍燕，南京鄉兵有歸宋者。遼軍每南侵，例“於本國州縣起漢人鄉兵萬人，隨軍專伐園林，填道路”。遼末史事中屢見的“武勇軍”，征選或召募自鄉軍，可能就是鄉軍的代稱。
漢軍主要征自五京鄉丁。收編中原軍隊也向為遼朝重視，遼宋戰爭中，所俘宋軍有的被並入諸軍，有的則單獨立營，自成壹軍，如歸聖軍、宣力軍、四捷軍等。遼朝還不斷招徠宋境軍士北來，將之納入漢軍系統，稱“投來南軍”。
遼朝的渤海軍也是單獨編置的，他們主要屯駐於東京地區，是遼對高麗邊防的主力。南京地區也有渤海軍數千。朝廷每年簽取渤海丁男從軍，號稱“渤海都”。他們勇敢善戰，有“三人渤海當壹虎”之譽。東京渤海軍的指揮權嚴格操縱在皇帝手中。
遼朝還有壹支由契丹、奚、漢、渤海軍合編組建的軍隊。他們仍依民族成分分別編組，各設都指揮使司，統領於四軍兵馬都指揮使司。這是壹支集眾家之長的聯合部隊，先後屯駐於遼與宋、高麗邊地。
屬國屬部軍也是遼朝武裝力量的重要組成部分，對外作戰，也常征調屬部軍參戰。然而，諸屬部，尤其西北諸部，叛服無常，屢啟邊釁，實為遼朝邊防的重點。最後，遼朝還是亡在其東北屬部生女真之手。