到了兩宋時期火藥武器發展很快。據《宋史.兵記》記載：公元970年兵部令史馮繼升進火箭法，這種方法是在箭桿前端縛火藥筒，點燃後利用火藥燃燒向後噴出的氣體的反作用力把箭簇射出，這是世界上最早的噴射火器。公元1000年，士兵出身的神衛隊長唐福向宋朝廷獻出了他制作的火箭、火 球、火蒺藜等火器。1002年，冀州團練使石普也制成了火箭、火球等火器，並做了表演。
火藥兵器在戰場上的出現，預示著軍事史上將發生壹系列的變革。從使用冷兵器階段向使用火器階段過渡。火藥應用於武器的最初形式，主要是利用火藥的燃燒性能。《武經總要》（1044年）中記錄的早期火藥兵器，還沒有脫離傳統火攻中縱火兵器的範疇。隨著火藥和火藥武器的發展，逐步過度到利用火藥的爆炸性能。
公元1126年，李綱守開封時，就是用霹靂炮擊退金兵的圍攻。金與北宋的戰爭使火炮進壹步得到改進，震天雷是壹種鐵火器，是鐵殼類的爆炸性兵器。元軍攻打金的南京（今河南開封）時金兵守城時就用了這種武器。《金史》對震天雷有這樣的描述：“火藥發作，聲如雷震，熱力達半畝之上，人與牛皮皆碎並無跡，甲鐵皆透”。
南宋時出現了管狀火器，公元1132年陳規發明了火槍。火槍是由長竹竿作成，先把火藥裝在竹竿內，作戰時點燃火藥噴向敵軍。陳規守安德時就用了“長竹竿火槍二十余條”。公元1259年，壽春地區有人制成了突火槍，突火槍是用粗竹筒作的，這種管狀火器與火槍不同的是，火槍只能噴射火焰燒人，而突火槍內裝有“子巢”，火藥點燃後產生強大的氣體壓力，把“子巢”射出去。“子巢”就是原始的子彈。突火槍開創了管狀火器發射彈丸的先聲。現代槍炮就是由管狀火器逐步發展起來的。所以管狀火器的發明是武器史上的又壹大飛躍。
突火槍又被稱為突火筒，可能它是由竹筒制造的而得此名。《永樂大典》所引的《行軍須知》壹書中提到，在宋代守城時曾用過火筒，用以殺傷登上城頭的敵人。到了元明之際，這種用竹筒制造的原始管狀火器改用銅或鐵，鑄成大炮，稱為“火銃”。
1332年的銅火銃，是世界上現存最早的有銘文的管狀火器實物。
明代在作戰火器方面，發明了多種“多發火箭”，如同時發射10支箭的“火弩流星箭”；發射32支箭的“壹窩蜂”；最多可發射100支箭的“百虎齊奔箭”等。明燕王朱棣（即後來的明成祖）與建文帝戰於白溝河，就曾使用了“壹窩蜂”。這是世界上最早的多發齊射火箭，堪稱是現代多管火箭炮的鼻祖。尤其值得提出的是，當時水戰中使用的壹種叫“火龍出水”的火器。據“武備誌”記載，這種火器可以在距離水面三、四尺高處飛行，遠達兩三裏。這種火箭用竹木制成，在龍形的外殼上縛四支大“起火”， 腹內藏數支小火箭，大“起火”點燃後推動箭體飛行，“如火龍出於水面。”火藥燃盡後點燃腹內小火箭，從龍口射出。擊中目標將使敵方“人船俱焚。”這是世界上最早的二級火箭。另外，該書還記載了“神火飛鴉”等具有壹定爆炸和燃燒性能的雛形飛彈。“神火飛鴉”用細竹篾綿紙紮糊成烏鴉形，內裝火藥，由四支火箭推進，它是世界上最早的多火藥筒並聯火箭，它與今天的大型捆綁式運載火箭的工作原理很相近。
火藥武器是通過戰爭傳到阿拉伯國家，成吉思汗西征，蒙古軍隊使用了火藥兵器。公元1260年元世祖的軍隊在與敘利亞作戰中被擊潰，阿拉伯人繳獲了火箭、毒火罐、火炮、震天雷等火藥武器，從而掌握火藥武器的制造和使用。阿拉伯人與歐洲的壹些國家進行了長期的戰爭，戰爭中阿拉伯人使用了火藥兵器，例如阿拉伯人進攻西班牙的八沙城時就使用過火藥兵器。在與阿拉伯國家的戰爭中，歐洲人逐步掌握了制造火藥和火藥兵器的技術。