Ruby wurde als Kind polnisch-jüdischer Einwanderer geboren. Er lebte mit seinen sieben Geschwistern bei Pflegeeltern und geriet schnell in kriminelle Machenschaften. Schon als 16-Jähriger gehörte unter anderem der König des organisierten Verbrechens, Al Capone, zu seinen Auftraggebern.

Zuerst verdiente Ruby sein Geld durch Schwarzmarktverkäufe und durch Betrug bei Pferdewetten. Später dann durch seine Nachtclubs, die ihm viele Beziehungen einbrachten (z. B. zu Sam Giancana, dem damaligen Boss der Mafia in Chicago). 1937 wurde Ruby dann Gewerkschaftsorganisator in Chicago, wieder angeleitet durch die Mafia. Ruby plagten immer wieder Auseinandersetzungen vor Gericht und finanzielle Probleme.

Am 24. November 1963 erschoss Ruby den mutmaßlichen Mörder von John F. Kennedy, Lee Harvey Oswald, im Keller des Polizeigebäudes von Dallas. Am 14. März 1964 wurde er des Mordes für schuldig befunden und zum Tode verurteilt. Sein Anwalt Melvin Belli hatte vergeblich versucht, einen Freispruch wegen geistiger Unzurechnungsfähigkeit zur Tatzeit zu erreichen. Das Urteil wurde im November 1966 von der Berufungsinstanz aufgehoben, die der Argumentation von Rubys Anwalt folgte, dass der Prozess wegen der aufgeheizten Stimmung nicht hätte in Dallas stattfinden dürfen. Ein neuer Prozess war für Februar 1967 in Wichita Falls geplant, kam aber wegen Rubys Tod nicht mehr zustande.

Seine Vernehmung durch die Warren-Kommission am 7. Juni 1964 verlief tumultuös. Ruby drängte wiederholt darauf, nach Washington gebracht zu werden, weil er angeblich nur dort die Wahrheit sagen könne, und brach mehrfach in Tränen aus. Er bestand auf einem Test mit dem Lügendetektor:

Er befürchtete, als Teil einer Verschwörung hingestellt zu werden, womit in seiner Vorstellung ein Vorwand geschaffen werden solle, um die amerikanischen Juden zu bekämpfen:

Ursprünglich äußerte Jack Ruby, dass er Lee Harvey Oswald nur Jacqueline Kennedy zuliebe getötet habe. In einem Brief an einen anderen Anwalt jedoch schreibt er, dass diese Idee von seinem Anwalt Tom Howard kam. Dem Gefängnispsychologen erzählte er, dass man ihn erpresst habe, Oswald zu töten. Im Jahr 1978 wurde ein altes Fernsehinterview gefunden, das Ruby während einer Pause einer Gerichtsverhandlung gab. Ruby:

Der Interviewer fragt Ruby, ob er glaube, dass die Wahrheit jemals ans Licht kommen werde. Ruby:

Die anschließende Annahme eines Reporters, ob eben diese Leute hohe Positionen bekleiden würden, bestätigt er klar.

Rubys geistiger Gesundheitszustand hatte sich seit seinem Prozess deutlich verschlechtert. Nach Aussage seiner Schwester Eva vor der Warren-Kommission wurde er von der paranoiden Vorstellung verfolgt, die US-Regierung plane einen Holocaust an allen Juden, und wähnte, im unteren Stockwerk des Gefängnisses von Dallas, in dem er einsaß, wären bereits 25 Millionen Juden ermordet worden.[2]

Auf seinem Sterbebett im Parkland Memorial Hospital äußerte sich Ruby am 19. Dezember 1966 zum letzten Mal zum Mord an Oswald, für den er ganz allein verantwortlich sei.[3]: Wie sein Bruder Earl bezeugte, wollte er einen weiteren Test mit dem Lügendetektor beantragen, „sodass die Menschen überzeugt werden, dass es von seiner Seite keinen Plan gab, keine Verschwörung irgendeiner Art. Es gibt nichts zu verbergen, da war niemand sonst“.[4]

Jack Ruby starb 1967 an Krebs, kurz bevor der Fall erneut durch den Bezirksstaatsanwalt von New Orleans, Jim Garrison, aufgerollt wurde.