Johann Michael Haydn war wie sein bekannterer Bruder Joseph Sängerknabe zu St. Stephan in Wien. Nachdem er die Chorschule verlassen hatte, wurde er 1757 erst Geiger und 1760 bischöflicher Kapellmeister in Oradea (Großwardein). Sein Hornkonzert erregte 1762 in Wien Aufsehen. Von Erzbischof Sigismund von Schrattenbach nach Salzburg geholt, wurde er am 14. August 1763 zum Hofkomponisten (Hofmusicus und Concertmeister) in Salzburg ernannt. Später war er als Organist an der Dreifaltigkeitskirche tätig und zuletzt auch für die Dommusik zuständig. In Salzburg wirkte Michael Haydn 43 Jahre lang. In dieser Zeit schreib er 360 sakrale und weltliche Kompositionen, vor allem Instrumentalmusik. Er war ein Freund Mozarts, wobei sich beide Musiker sehr schätzten. Michael Haydn wurde am Petersfriedhof Salzburg beigesetzt. Anläßlich einer der regelmäßigen Gruftleerungen beschafte sich Haydns Witwe den Schädel ihres verstorbenen Mannes und stellte ihn neben ihrem Bett auf. Nach ihrem Tod wurde die Reliquie in einer Urne, die Teil des Haydn-Grabmals in der Stiftskirche ist, verwahrt. Heute befindet sich Michael Haydns Schädel im Safe des Stifts St. Peter.

Sein vor allem in katholischen Messen häufig gesungenes Werk ist das Deutsche Hochamt („Hier liegt vor Deiner Majestät“), das neben der durch Haydns Vorbild beeinflussten Deutschen Messe von Franz Schubert zu den wenigen kirchlichen Volksgesängen der Klassik gehört.

Haydn war ein wichtiger Wegbereiter der geistlichen Musik, aber auch symphonisches Schaffen war bedeutend. Bekannt sind seine geistlichen Chorwerke, darunter die Missa Hispanica (für die er 1804 in Stockholm sein Diplom erhielt), eine Messe in d-Moll, ein Lauda Sion und eine Reihe von Gradualien, von denen 42 in Anton Diabellis Ecclesiasticon gedruckt wurden. Außerdem gilt Michael Haydn als maßgeblicher Begründer des Männerchores und des vierstimmigen Gesanges. Er war auch ein fruchtbarer Komponist weltlicher Musik. Unter anderem schuf er 40 Sinfonien, einige Konzerte und Kammermusik, darunter ein Streichquartett in C-Dur, das früher seinem Bruder Joseph zugeschrieben worden war. Wie Mozart starb Haydn, ohne seine letzte Vertonung des Requiems vollenden zu können.

Eine Begründung, warum Michael Haydn weit weniger bekannt ist als sein berühmter Bruder Joseph, mag darin liegen, dass seine Werke zu seiner Lebzeit nicht verlegt wurden, sondern lediglich in handschriftlichen Kopien hauptsächlich von Kloster zu Kloster, hier vor allem natürlich seine geistlichen Werke, verbreitet wurden. In diesem Zusammenhang darf nicht vergessen werden, dass Wien und sein Umfeld (Joseph) gegenüber Salzburg (Michael) damals weit mehr Möglichkeiten und Chancen für Komponisten und Musiker bot.

Ein Großteil des Schaffens von Michael Haydn ist der Öffentlichkeit noch weitgehend unbekannt und harrt noch seiner Entdeckung.