Schon früh begann Jeff sich mit Rap zu befassen und schrieb mit 16 Jahren seine ersten Texte. Er arbeitete am Anfang seiner „Karriere“ mit Produzent Irv Gotti von The Inc. zusammen, der ihn an Lyor Cohen vermittelte. Dieser war Präsident von Def Jam, die zu diesem Zeitpunkt (1996) unter anderem DMX und Jay-Z unter Vertrag haben. 1999 erscheint das Debut-Album Venni Vetti Vecci von Ja Rule. Das Album wurde ein recht großer Erfolg. Mit Titel wie Holla holla und Kill 'em all machte er nicht zuletzt durch die tatkräftige Unterstützung von DMX alias Earl Simmons, E-Dub aka. Erik Sermon und Jay-Z alias Shawn Carter auf sich aufmerksam. Mit seiner zweiten Soloscheibe Rule 3:36 gelang ihm endgültig der Durchbruch im Rap- und Musikgeschäft. Von diesem zweiten Album verkaufte Ja Rule vier Millionen Exemplare.

2002 spielte Ja Rule neben Paul Walker und Vin Diesel im Hollywood-Streifen The Fast and the Furious mit und lieferte auf seinem Album Rule 3:36 den dazugehörigen Soundtrack mit dem Titel Fuck you!

Seine Single The Reign wurde 2003 ein großer Erfolg. Trotzdem schwand sein Ansehen im Rap-Geschäft immer mehr. Folge waren Streitigkeiten mit bekannten Persönlichkeiten wie Eminem, 50 Cent, Dr. Dre und DMX. 2004 veröffentlichte er sein sechstes Erfolgsalbum R.U.L.E., wonach das Best-of-Album Exodus kam, dass aber keinen Erfolg hatte. Im Jahre 2002 spielte er an der Seite von Steven Seagal in dem Film Halbtot mit, der komplett in Berlin entstand. 2003 folgte eine Nebenrolle in dem Streifen Scary Movie 3. Außerdem war er 2005 im Film Back in the day in der Hauptrolle als Reggie Cooper zu sehen.

Im September 2007 wurde Ja Rule von einer homosexuellen Anti-Diffamierungsgruppe für seine homophoben Äußerungen in einem Interview, „dass Homosexualität Amerika schade“, heftig kritisiert.[1] Die Gay & Lesbian Alliance Against Defamation (GLAAD) reagierte mit einer Stellungnahme.[1] Ja Rule wehrte sich später in einem weiteren Interview und sagte, er sei missverstanden worden.[2]