明治時期最早傳入日本的歐美音樂是軍樂。1872年，日本政府開始引進歐美音樂教育制度，規定中小學要開設音樂課程；1879 10日本文部科學省音樂研究所(後稱東京音樂學校，現稱東京藝術大學音樂系)成立，由東京師範學校校長伊澤英樹負責管理。從此，中小學音樂教師的培養和音樂教材的編寫走上了軌道，專業音樂教育初具規模。以著名作曲家龍安太郎創作的校歌《花》(1900)和《沙漠之城的月亮》(1901)為標誌，日本pop的創作在20世紀初產生了第壹批成果。1912之前的日本流行幾乎都是歌曲。大正年間(1912 ~ 1926)，山田耕筰第壹個創作了大型樂隊編制的管弦樂《曼陀羅之花》(1913)。自20世紀20年代以來，外國音樂流派的創作，如獨唱歌曲、合唱、器樂獨奏和交響音樂，逐漸主導了日本的流行文化。新交響樂團，NHK交響樂團的前身，1927年2月開始演出。同年成立的全國音樂協會舉辦合唱比賽，促進了全國的業余音樂活動。二戰前夕，有270個團體加入該協會，中國有3800個管樂隊。當時知名的作曲家有專業音樂教育遍及全球的朱京三郎太、池內智二郎，自學成才、重視民族特色的丘吉、清治、松平來澤、早阪文雄、Ifu Buzhao、Kanhara Akira等。
二戰期間，在軍國主義的統治下，日本正常的音樂活動遭到破壞。從1938開始，外國音樂家在日本的演出被中斷，各種音樂團體在1940被勒令解散。到戰爭結束時，演出團體、音樂學校、樂器廠、唱片公司等音樂組織幾乎停止了壹切活動。
自20世紀50年代以來，戰後日本流行文化在創作、表演、欣賞、音樂教育、音樂研究等方面都取得了長足的進步。戰後出現了許多引人註目的新人。團伊玖磨的民族歌劇《夜鶴》、芥川也寸誌的《弦樂三章》和黛敏郎的《涅槃交響曲》都是經得起時間考驗的傑作。除了黛敏郎，還有其他壹些作曲家積極吸收了現代歐美作曲技法，如伊野良郎、柴田南雄、精治珠京、計然湯仙、壹柳慧、高橋佑之等，他們都是最早采用十二音體系的日本作曲家。被稱為“日本的巴托克”的間宮芳生，利用日本民歌創作了《第壹合唱》等著名作品；在國際樂壇，武滿徹、松村禎三、三木、石井真木等人的音樂令人耳目壹新，他們在探索作品的民族氣質和創作非西歐音樂方面取得了豐碩的成果。昭夫昭夫，三山宏司，野田圭佑，插花賢壹郎，南鴻明，三知城章等。池袋友次郎手下的，都是60年代以後有著鮮明個性的傑出作曲家。總之，國際樂壇的各種創作傾向都被日本樂壇所吸收，這在日本作曲界有明顯的反映。
1946之後，日本樂壇相繼成立了日本現代音樂協會、日本音樂家俱樂部、日本演出聯盟、音樂作家協會、日本作曲家協會等行業組織，維護音樂家的權益，保障各種音樂活動的開展。東京有10多個專業交響樂團，各種海外音樂表演團體源源不斷，提供了豐富多彩的音樂欣賞機會。中國有60所高校設有音樂系，如東京音樂藝術大學音樂系、桐朋學園大學音樂系等，每年向社會輸送大量音樂人才，對提高日本音樂家的國際水平、普及社會音樂教育起到了積極作用。