Geboren 1930 in Tokio, beschloss Takemitsu nach dem Zweiten Weltkrieg, Komponist zu werden und begann 1948 mit dem Kompositionsstudium bei Yasuji Kiyose, blieb aber weiterhin vorwiegend Autodidakt.

Seine unkonventionelle Kompositionsweise, losgelöst von jeglicher Tradition, charakterisiert sich durch eine große klangliche Sensibilität. Während man in seinen ersten Werken die Zweite Wiener Schule (insbesondere Schönberg und Berg) und die Französische Schule (vor allem Debussy) erkennt, zeigte sich bald Takemitsus Interesse an allen avantgardistischen Techniken. Sehr häufig benutzte er traditionelle japanische Instrumente, zum Beispiel im Werk November Steps für Biwa, Shakuhachi und Orchester, das im Jahr 1967 komponiert wurde.

Takemitsu interessierte sich nicht nur für Musik, sondern auch für Literatur und moderne Malerei. Daher gründete er 1951 zusammen mit anderen Künstlern die Gruppe Experimentelle Werkstatt, die bald für ihre avantgardistischen und multimedialen Aufführungen von sich reden machte.

Takemitsu begeisterte sich daneben besonders für das französische Chanson, den Schlager, den Jazz und auch die Filmmusik. Als großer Filmfan schrieb er z.B. die Musik zu den Filmen Ran und "Dodes’ka-Den". Obwohl er sich in der Filmmusik und der elektronischen Musik ausgesprochen wohl fühlte, sind seine charakteristischsten Werke jene für Kammerensemble und großes Orchester. In Japan erfreuen sich seine Arrangements von Beatles-Songs für Gitarre solo noch heute großer Beliebtheit.

Er lehrte selber Komposition und wurde häufig als Dozent eingeladen. Im Jahr 1994 erhielt er mit dem Grawemeyer Award für sein Werk Fantasma/Cantos für Klarinette und Orchester einen der wichtigsten Musikpreise der Welt. Am 20. Februar 1996 starb Takemitsu in Tokio.