Bereits als kleines Kind begann Schon Oboe und Gitarre zu spielen. Als 15-jähriger schloss er sich der Santana Blues Band an und tourte mit dem Ausnahme-Gitarristen vier Jahre lang um die Welt. Gleichzeitig erhielt er auch ein Angebot von Eric Clapton, dass er jedoch zugunsten von Santana ablehnte. Auf sämtlichen Santana-Alben dieser Zeit sind einige Soli von Schon zu hören.

1973 gründete er zusammen mit Gregg Rolie die Band Journey, mit der er auf der ganzen Welt bekannt wurde. Bis 1987 feierte er mit der Band zahlreiche Erfolge mit Alben und Konzerten. Bekannteste Stücke der Band sind Wheel In The Sky, Anyway You Want It und Don’t Stop Believing. Während des Bestehens der Band von 1973 bis zu deren zwischenzeitlichen Auflösung 1987 konzentrierte er sich fast ganz auf das Wirken mit seinen Kollegen. Nur sporadisch wirkte er an Alben anderer Künstler mit. Zu Beginn der 1980er Jahre veröffentlichte er mit dem bekannten Jazz-Pianisten und -Keyboarder Jan Hammer drei Alben. Auch seine ersten beiden Solo-Alben brachte er zu dieser Zeit auf den Markt, hatte mit ihnen aber zunächst nur geringen kommerziellen Erfolg.

Nach der Trennung von Journey konzentrierte sich Schon mehr auf seine eigenen CDs und andere Projekte. So gründete 1988 die Band Bad English, die sich aus den ehemaligen Journey-Mitgliedern Jonathan Cain und Deen Castronovo sowie einigen anderen Musikern zusammensetzte. Mit ihnen brachte Schon zwei Alben und später ein Greatest-Hits-Album heraus. Zu Beginn der 1990er Jahre kamen einige weitere Projekte hinzu. So beispielsweise Hardline, wo er erneut mit seinem alten Bandkollegen Castronovo zusammenspielte. Auch zwei weitere Solo-Alben brachte Schon in dieser Zeit heraus und arbeitete an einigen instrumentalen Gitarren-CDs mit.

1996 kam es zu der Reunion von Journey, bei der auch Schon erneut mitwirkte. Er ist damit der einzige Musiker, der auf bislang allen Journey-Alben mitgewirkt hat. Schon blieb aber weiter an vielen Fronten aktiv, veröffentlichte bis heute vier weitere Solo-Alben. Für Voice (2001) wurde er für einen Grammy nominiert. Andere Projekte waren unter anderem Soul Sirkus - eine Band, die 2005 ihr einziges Album herausbrachte und sich kurz darauf wieder trennte. Auch mit Van Halen-Sänger Sammy Hagar arbeitete er für dessen Solo-Album zusammen. 2007 ist Schon mit Journey wieder auf einer großen Tournee, unter anderem durch Europa. Auch ein neues Album der Band ist bereits in Planung.

Schon spielt eine nach seinen Vorstellungen gefertigte und nach ihm benannte Les Paul Gitarre der Firma Gibson von der lediglich 23 Exemplare hergestellt wurden. Außerdem benutzt er Paul Reed Smith-Gitarren. Früher verwendete er hauptsächlich Gitarren der Firma Godin, zum Beispiel auf seinem Solo-Album Beyond The Thunder von 1995.

In den späten 1980er Jahren produzierte und spielte er seine eigene Gitarrenlinie von Jackson Guitars. Von den schlicht Schon genanntan Gitarren wurden weniger als 200 gefertigt. Eine weiße Schon-Gitarre ist unter anderem im Journey-Video zu Girl Can’t Help It zu sehen. Eine goldene spielt Schon unter anderem in den Videos zu I’ll Be Alright und Be Good To Yourself.