日本人早就有自己的音樂文化。雖然早期寫繩時代、彌生時代、古墳時代的音樂沒有流傳下來，但根據考古資料和8世紀編纂的文獻，如《古事誌》、《日本國誌》、《樹葉集》等，日本人在古代就有自己的歌謠、舞蹈和樂器。在古代，5弦口琴比6弦口琴小。古代笛子包括竹笛、球形石笛和陶笛。豆豆美姑的肚子是圓柱形的。鐘由金屬、陶瓷和木頭制成。當時鐘既是樂器又是裝飾品。都鐸出現在公元前1世紀左右，通多的形制與中國的鐘、都鐸都不壹樣。古代日本的樂器基本種類齊全。進入農耕社會後，出現了最早的男女聚在壹起跳舞的歌(也稱歌)和巫的樂舞。
日本與外國的音樂和文化交流歷史悠久，與歐亞大陸的文化交流主要通過朝鮮和中國進行。公元前，青銅器進口，出現了青銅祭司。5世紀下半葉至7世紀從朝鮮半島傳入日本的新羅、百濟、高句麗，在日本被稱為“三韓音樂”。7世紀初，為振興佛教，聖德太子鼓勵傳入中國音樂，並讓百濟衛摩定居於大和櫻井，教授日本少年(林西婭第壹弟子韓信齋文等人)詞曲。又名，配以笛子、腰鼓和銅鈸。7、8世紀，中國隋唐時期的音樂傳入日本。701年，根據大寶法，在本部行政下設立耶魯遼，主管日本傳統樂舞稱及外國樂舞。752年在東大寺舉行的大佛開光儀式上，來自雅樂寺和各寺廟的數百名樂師和舞蹈演員表演了日本傳統音樂和舞蹈，以及三韓音樂、唐樂音樂、三月音樂、臨猗音樂和獨羅樂。這說明日本已經開始出現職業音樂人了。
註:前四種模式是日本流行的基本模式。在樂譜中，白音是調式中的核心音。節奏分為固定拍子節奏(基本上是雙拍子)和松板節奏。演唱和演奏方法各有獨特之處，註重音色的微妙變化。