NHK交響樂團成立於1926年10月5日，最初的名字是“新交響樂團”，是日本第壹家專業交響樂團。後來更名為“日本交響樂團”。1951年，該樂團開始接受日本放送協會（NHK）的支援，並更名為現在的名稱。 隨後迅速成長為日本乃至亞洲最著名的交響樂團。樂團的演奏以精準性見長，在日本古典音樂發展史上扮演著不可替代的角色。同時，樂團也在中日文化交流史上書寫過濃墨重彩的壹筆。作為亞洲最傑出的樂團，日本NHK交響樂團不但代表了當今亞洲交響樂演奏的最高水準，其發展歷程更可以被視作亞洲交響樂團建設的典範。NHK交響樂團被譽為是“亞洲的德國樂團”。
知名指揮家小澤征爾曾經是NHK交響樂團的指揮，但在1962年小澤與NHK交響樂團之間發生沖突，小澤也因此離開了NHK交響樂團。