Als Sohn des berühmten Gambenvirtuosen Christian Ferdinand Abel wurde Carl Friedrich in Köthen geboren, wo sein Vater als "Premier-Musicus" in Johann Sebastian Bachs Hofkapelle wirkte. Dass er nach Bachs Übersiedlung nach Leipzig Schüler an der dortigen Thomasschule war, ist nicht erwiesen. Gesichert ist jedoch, dass er auf Bachs Empfehlung an den Dirigenten Hasse neun Jahre lang (1748–1757) als "Kammermusiker des Königs von Polen" in der Dresdener Hofkapelle wirkte.

Die Auswirkungen des Siebenjährigen Krieges vertrieben ihn 1757 aus Dresden. 1758 begegnen wir ihm als Gast im Hause der Familie Goethe in Frankfurt/Main. Über mehrere süddeutsche Stationen und Paris erreichte er 1759 London. Mit großem Erfolg gab er hier ein erstes Konzert mit eigenen Kompositionen auf verschiedenen Instrumenten, vornehmlich der Gambe und dem Baryton -- einem Instrument, für das auch Haydn komponierte. Weitere Solo-Konzerte für die Londoner Gesellschaft folgten, mit dem Resultat seiner Ernennung zum Kammermusiker der Königin Charlotte.

Im Jahr 1762 kam auch Johann Christian Bach nach London, um die Bekanntschaft des berühmten Abel zu suchen. Die bald geschlossene Freundschaft zwischen ihm und Abel führte 1764 zur Gründung der beliebten „Bach-Abel Concerts“, die bis 1775 von Mrs. Teresa Cornelys, der Besitzerin eines Konzertsaals, organisiert wurden. Es waren die ersten Abonnementskonzerte der englischen Geschichte.

1764 gelangte auch der kleine achtjährige Mozart mit seinem Vater nach London und besuchte Abel, dessen kompositorischen Satz er studierte. Als Vorbild kopierte er sich Abels Es-Dur Sinfonie (op.VII,6) in seinem Notizbuch, die dadurch fälschlich als "Mozarts Sinfonie Nr. 3" unter Nr. 18 in das Köchel-Verzeichnis gelangte.

Ab 1775 wurden die Konzerte von Mrs. Cornelys unabhängig, und nach Bachs Tod 1782 führte Abel sie noch ein Jahr erfolglos fort. In der Konzertreihe wurden die Werke Haydns erstmals in England aufgeführt. Nach dem Scheitern des Konzertunternehmens kehrte Abel nach Deutschland zurück, wo es ihm nicht gelang, Fuß zu fassen. So sah er sich genötigt, nach zwei Jahren nach London zurückzukehren, wo er immer noch als Spieler verschiedener neuer und alter Instrumente gefragt war. Er wurde jedoch zum Trinker und beschleunigte damit seinen Tod. 1787 starb er in ärmlichen Verhältnissen.

Abel war der letzte große Solist der Gamben-Spielkunst. Mit ihm verschwand das Instrument aus der Reihe der Orchester- und bald danach auch der Solo-Instrumente.

Er war ein Mann von auffallender Erscheinung, von dem mehrere schöne Porträts existieren, darunter zwei von seinem langjährigen Freund Thomas Gainsborough.

Abel schrieb unter anderem Sinfonien, Ouvertüren, Konzerte, Sonaten und Solos.

Mitwirkung an folgenden Pasticci: