Erkels Vater war der Kantorlehrer Franz Erkl aus Gyula (Deutsch-Jula), dessen Vorfahren aus Köln stammten. Der junge Erkel studierte in Großwardein und Pressburg Musik.[1] Erkel war von 1838 an als Operndirigent in Budapest tätig und gründete dort auch 1853 die Philharmonische Gesellschaft.

Auf ihn gehen insgesamt neun Opern zurück, die den Rossini-Stil mit der ungarischen Volkstanz-Musik vermengen. Von diesen werden heute nur noch der Hunyadi László und vor allem der Bánk bán aufgeführt. Den dauerhaftesten Erfolg erzielte Erkel aber mit der Melodie der ungarischen Nationalhymne (Himnusz).

Erkel war seit den 1840er Jahren neben József Szén (und nach dessen Tod 1857 einige Jahre allein) der stärkste Schachspieler Ungarns.[2] Er war Gründungsmitglied des ersten ungarischen Schachvereins in Pest im Jahr 1865 und bis zum seinem Tod 28 Jahre lang Vorsitzender des Vereins.

Wegen seiner Musikkarriere musste er zweimal die Einladung zu bedeutenden internationalen Schachturnieren ablehnen (das Pariser Turnier 1867 während der Weltausstellung und Baden-Baden 1870). Kornél Ábrányi fragte Erkel einmal, warum er soviel Zeit mit dem Verschieben von Figuren verliere. Erkel antwortete: „Ha sakkozom, legalább nem kell zenéről, a nem is mindig szellemes zenészekkel társalogni.“ (Wenn ich Schach spiele, dann muss ich mich nicht über Musik mit oft wenig geistreichen Musikern unterhalten.)