Billy Connolly wurde als Sohn irischer Einwanderer in Glasgow geboren und wuchs in verschiedenen Arbeitervororten der Stadt auf. Schon früh hatte er Ambitionen, Komiker zu werden. Mit 15 Jahren verließ er allerdings die Schule und wurde, wie damals viele der Arbeiterkinder, Schweißer auf den Glasgower Werften. In dieser Zeit begann er sich für Folk Musik zu interessieren und verschiedene Instrumente zu lernen. In den 60er Jahren gab er den Schweißerberuf schließlich auf, um sich der Musik zu widmen.

Gemeinsam mit Tam Harvey gründete Billy Connolly eine Band namens The Humblebums, in der später auch Gerry Rafferty Mitglied war. Connolly sang, spielte Banjo und Gitarre und unterhielt das Publikum zwischen den Stücken mit Witzen und Anekdoten. Als sich die Band auflöste wurde er zum Solokünstler und Komiker. Durch Auftritte in der Fernsehshow Parkinson wurde Billy auch außerhalb Schottlands bekannt.

Seine frühen Alben waren eine Mischung aus Comedy und komischen sowie ernsthafteren Musikeinlagen. 1975 konnte er mit dem Comedy-Titel D.I.V.O.R.C.E. einen Nummer-Eins-Hit in England landen. Nach und nach nahm der Comedyteil zu und der Musikteil ab, so dass das Programm seit den 80ern so gut wie keine Musikeinlagen mehr enthält. Trotzdem nimmt er immer noch Musik auf und sang z. B. im Film Lemony Snicket - Rätselhafte Ereignisse.

Am besten ist Billy Connolly als Stand-Up Comedian bekannt. Sein Markenzeichen ist neben seinem Erscheinungsbild und seinem breiten Glasgower Dialekt seine Beobachtungsgabe und der freie Gebrauch von Flüchen, sowie seine vor allem in den 70er und 80er Jahren unkonventionelle Themenwahl (von Fäkalthemen über Krankheit, die Arbeiterklasse und Blasphemie). Eines seiner bekanntesten Programme, "The Crucifixion" (Die Kreuzigung) vergleicht das letzte Abendmahl mit einer feuchtfröhlichen Nacht in Glasgow und wurde von vielen Radiostationen der damaligen Zeit boykottiert.

In den 70er Jahren begann Billy Connolly seine dritte Karriere als Schauspieler, womit er erstmals als Hauptdarsteller der Sitcom Head of the Class 1990 erfolgreich war, gefolgt von einer weiteren Show namens Billy.

Seitdem ist er nicht nur als Komödiant, sondern auch als Charakterschauspieler in diversen Filmen erfolgreich. Von den Kritikern am besten aufgenommen wurde seine Rolle im Film Ihre Majestät, Mrs. Brown, in dem er mit Dame Judi Dench zu sehen war. Für seine Rolle erhielt er Nominierungen für den BAFTA und den Screen Actors Guild Awards.

In den letzten Jahren filmte Billy Connolly eine Reihe von Reiseberichten unter dem Namen Billy Connolly's World Tour of..., die seriöse Berichte über Geschichte, Kultur und Einheimische des jeweiligen Landes mit Ausschnitten zum jeweiligen Thema aus seinem Bühnenprogramm kombinieren.

1998 wurde ihm eine zweistündige Hommage namens Erect for 30 Years gewidmet, die Kommentare von Sean Connery, Whoopi Goldberg, Robin Williams, Dustin Hoffman und anderen enthält. Zwei Biographien über Billy Connolly wurden von seiner zweiten Frau, Pamela Stephenson, verfasst.

Billy Connolly wurde 2001 von der Universität Glasgow mit der Ehrendoktorwürde ausgezeichnet. 2003 erhielt er außerdem einen BAFTA für sein Lebenswerk und einen CBE.