Aufgrund eines erblich bedingten grünen Stars ist er seit seiner Geburt blind. Im Alter von fünf Jahren zog er mit seiner Familie nach Harlem, New York City. Mit neun Jahren spielte er im Teatro Puerto Rico. Er konnte bereits verschiedene Instrumente spielen, darunter Akkordeon, interessierte sich dann aber für die Gitarre. Um ungestört zu sein, schloss er sich manchmal 14 Stunden am Tag in sein Zimmer ein und hörte Rockmusik der 50er Jahre.

Mit 17 verließ er die Schule, um in Klubs aufzutreten und damit seine Familie zu ernähren. In diesem Jahr hatte er auch seinen ersten professionellen Vertragsauftritt in Detroit.

1966 ging er nach Mar del Plata, Argentinien, um bei einem Festival aufzutreten. Dort wurde er von RCA Victor entdeckt, die mit ihm ein Album auf spanisch aufnehmen wollten. Feliciano schlug Bolero-Musik vor und das Ergebnis waren die beiden erfolgreichen Hits Poquita Fe (Wenig Vertrauen) und Usté ("Sie" von Usted).

Nach zwei weiteren erfolgreichen Platten hatte Feliciano einen hohen Bekanntheitsgrad in Lateinamerika erlangt. Um auch in den USA berühmt zu werden, zog er nach Los Angeles. Er komponierte den Song Feliz Navidad (Frohe Weihnachten), der mittlerweile ein Weihnachtsklassiker geworden ist, und seine eigene Version des The Doors-Songs Light My Fire. Mit den beiden Stücken wurde er schlagartig erfolgreich und so verkaufte er Millionen Alben.

Jose Feliciano hatte zusammen mit David Carradine und Cannonball Adderley 1975 einen Auftritt in der 55.ten Folge der US-amerikanischen Fernsehserie Kung Fu.

Auf dem Höhepunkt der Proteste gegen den Vietnamkrieg 1968 hatte Feliciano die Gelegenheit, die Nationalhymne The Star-Spangled Banner während der World Series zu singen. Seine sehr persönliche, langsame Latino-Jazz-Version war sehr umstritten. Manche nannten seine Darbietung unpatriotisch und verlangten sogar seine Abschiebung. Andere verstanden die Gefühle und Aufrichtigkeit seiner Darbietung, und so wurde er zum Helden der Gegenbewegung. Die Aufnahme wurde als Single veröffentlicht und kam in den Billboard-Charts unter die ersten 40 Plätze.

Feliciano ist einer der wenigen Sänger, denen es gelungen ist, sowohl mit spanischer Musik als auch englischem Rock and Roll erfolgreich zu sein. 1987 erhielt er einen Stern auf dem Hollywood Walk of Fame.

Im Jahre 1995 wurde Feliciano durch die Regierung von New York geehrt, die die öffentliche Schule Nr. 155 in Jose Feliciano Performing Arts School umbenannte.

2001 gab Feliciano zu, einen außerehelichen Sohn gehabt zu haben. Dieser starb aber wenige Wochen nach der Geburt.