Giovanni Gabrieli studierte bei seinem Onkel, dem Komponisten Andrea Gabrieli und bei Orlando di Lasso. Er wurde 1584 oder 1585 Organist an der Kirche San Marco (Markuskirche) in Venedig und übernahm nach dem Tode seines Onkels 1586 auch dessen Position als Komponist.

San Marco war einer der führenden Orte im damaligen musikalischen Leben, und Gabrielis Tätigkeit dort machte ihn zu einem der bedeutendsten Komponisten Europas. Wie andere Komponisten vor ihm nutzte er die besonderen Gegebenheiten der Kirche mit ihren zwei gegenüberliegenden Galerien, um ungewöhnliche räumliche Effekte zu schaffen. So sind etliche seiner Werke so gestaltet, dass der linke Chor eröffnet und der rechte Chor anschließend erwidert („cori spezzati“, vgl. Venezianische Mehrchörigkeit).

Gabrieli gilt als eine der wichtigen musikalischen Persönlichkeiten an der Schnittstelle zwischen Renaissance und Barock. Seine Arbeiten machen bereits früh Gebrauch vom basso continuo und in der „Sonata pian e forte“ finden sich einige der frühesten dynamischen Kennzeichnungen (d. h. Markierungen zum jeweiligen Einsatz von Lautstärke in der Musik). Später erlangte er auch Bedeutung als Lehrer von bedeutenden Komponisten wie Michael Praetorius und insbesondere Heinrich Schütz.

Von seinen Arbeiten erschienen die ersten in einer 1575 zu Venedig herausgekommenen Sammlung, weitere in der 1587 ebenfalls in Venedig von ihm veröffentlichten Sammlung von Gesängen seines Onkels Andrea Gabrieli. .

Außerdem veröffentlichte er zwischen 1593 und 1595 drei Sammlungen von Orgelstücken („Intonazioni e ricercari“). Die berühmteste Sammlung ist jedoch "Canzon Septimi Octavi Toni à 12".