• 生日：1935年9月1日
• 出生地：滿洲國奉天市（中國遼寧省瀋陽市）

原本打算成為鋼琴家，後來把重心轉向指揮。

曾任波士頓交響樂團音樂總監及維也納國立歌劇院首席指揮，演出時幾乎不使用指揮棒，激動指揮方式是他的特色之一。

他的父親小澤開作是滿洲國牙醫，也是華北組織新民會主要創建人之一，因十分崇拜日本關東軍策畫918事變的少壯軍官板垣征四郎和石原莞爾，故從兩人名字中各取一字，「征」與「爾」為兒子命名。

1959年赴歐洲學藝，屢獲指揮大賽大獎。1960年在國際卡拉揚指揮比賽中獲得第1名，之後留在西德師從卡拉揚。

1961年成為伯恩斯坦在紐約愛樂管弦樂團助手，成為樂壇罕見曾經師事伯恩斯坦與卡拉揚兩位大師的指揮家。同年開始擔任NHK交響樂團指揮。

1962年提出訴訟控告NHK交響樂團不履行契約及毀損名譽，隔年和解。

1995年1月為阪神大地震罹難者哀悼，在離開NHK交響樂團32年後重新站上樂團指揮台演出。

2002年成為維也納國家歌劇院音樂總監。2010年1月公開患食道癌病情，手術療養後同年8月重返樂壇。