Nachdem Sherinian das Klavierspiel bereits im Alter von fünf Jahren erlernt hatte, erhielt er im High-School-Alter ein Stipendium an der renommierten School of Music of Berklee in Boston. Dort konnte er einige wichtige Kontakte knüpften, darunter zu Will Calhoun, der später an Gruppen wie Living Colour und Megadeth beteiligt war, sowie zum Gitarristen Al Pitrelli.

Auf das Bestreben von Pitrelli hin, der zu dieser Zeit Produzent von Alice Cooper war, wurde Sherinian 1989 in dessen Band vermittelt. Aus dieser Zusammenarbeit gingen mehr als 250 Konzerte für den Millionenseller Trash hervor, später wurde er für zwei neue Studioalben eingespannt und behauptete sich daneben als Live- und Studio-Musiker bei der Band Kiss.

1994 fand er Anschluss bei der Progressive-Metal-Band Dream Theater. Hier war er an drei Alben (davon lediglich ein reguläres Studioalbum: „Falling into Infinity“, 1997, Eastwest Records) und zwei umfangreichen Welttourneen beteiligt und konnte sich dabei vor allem durch sein Spiel auf der Hammond-Orgel beweisen. 1999 trennte sich die Band von ihm, nachdem man in Jordan Rudess einen Nachfolger gefunden hatte, dessen musikalischen Vorstellungen für die weitere Entwicklung von Dream Theater sich mehr mit denen der übrigen Mitglieder deckten.

Ab 2000 veröffentlichte Sherinian fünf Soloalben unter Mitwirkung einer Reihe von hochrangigen Rockmusikern, darunter etwa Yngwie Malmsteen, Zakk Wylde, Steve Lukather, Simon Phillips, Slash, Billy Idol, John Petrucci und Tony Franklin. Zur Single-Auskopplung In the Summertime mit Sherinian, Slash, Billy Idol, Franklin und Brian Tichy, einer Coverversion des gleichnamigen Stücks von Mungo Jerry, wurde ein Musikvideo produziert.

Aus seinem Debütalbum Planet X, das er mit dem australischen Schlagzeuger Virgil Donati aufgenommen hatte, ging eine Progressive-Fusion-Band gleichen Namens hervor, an der außerdem der Gitarrist Tony MacAlpine beteiligt war, der jedoch inzwischen ausgestiegen ist. Das aktuelle Album "Quantum" nennt nur Sherinian und Donati als feste Mitglieder.

Sherinian ist Betreiber eines Musikstudios namens Leopard Room in Hollywood Hills.