Juhnke wurde als Sohn eines Polizeibeamten geboren, seine Mutter stammte aus einer Bäckerfamilie. Er wuchs in einer Mietskaserne im Arbeiterbezirk Wedding in Berlin auf. 1948 verließ er die Schule, um Schauspieler zu werden.

Nach dreieinhalb Monaten Schauspielunterricht bei Marlise Ludwig trat er am 9. November 1948 in Berlin erstmals auf einer Bühne auf: Im „Haus der Kultur der Sowjetunion“ spielte er in dem Revolutionsstück Ljubow Jarowaja einen russischen Offizier. 1950 engagierte ihn das Theater Neustrelitz, dann die Freie Volksbühne Berlin. In den 1950er und 1960er Jahren wurde er als Filmschauspieler bekannt. Man engagierte ihn als jugendlichen Liebhaber oder als lustigen Berliner. Er selbst maß diesen Filmen keine allzu große Bedeutung bei:

Zwischen 1952 und 1994 war Juhnke in der Synchronisation tätig. So sprach er z. B. Marlon Brando (u.a. in Die Faust im Nacken, Morituri oder Sayonara), Charles Bronson (Ein Mann ohne Furcht), Peter Falk (Eine Leiche zum Dessert), Peter Sellers (Der rosarote Panther), Robert Wagner (u. a. Die gebrochene Lanze) und Woody Allen (Was sie schon immer über Sex wissen wollten [Kinoversion]).

Ab 1977 trat er verstärkt im Fernsehen auf: Zunächst mit Grit Böttcher in der ZDF-Serie Ein verrücktes Paar, dann mit Eddie Arent in der Sketchserie Harald und Eddi. Ab 1979 moderierte er als Nachfolger des verstorbenen Peter Frankenfeld im ZDF die Show Musik ist Trumpf und erreichte damit bis zu 30 Millionen Zuschauer. Als Showmaster eiferte er in Smoking und Lackschuhen seinem Vorbild Frank Sinatra nach. Zu seinen populärsten Songs zählte eine deutsche Version von My Way, die er ebenso wie das Lied Barfuß oder Lackschuh mehrmals in unterschiedlichen Versionen und Arrangements einspielte.

Ab 1985 übernahm er die Rolle des Trödelhändlers Ottmar Kinkel in der seit 1977 laufenden Fernsehvorabendserie Drei Damen vom Grill.

Die 1990er Jahre waren für Juhnke ein Comeback als Filmschauspieler. In den Filmen Schtonk!, Der Papagei (beide 1992) und Der Hauptmann von Köpenick (1997) erwarb er sich bei Kritikern großes Lob als Charakterdarsteller. 1995 spielte er die Hauptrolle in dem Film Der Trinker nach Hans Fallada, in dem er auch seine eigene Alkoholerkrankung verarbeitet.

Juhnke war in erster Ehe mit der Schauspielerin und Tänzerin Sybil Werden verheiratet. Aus dieser Ehe stammen zwei Kinder: Tochter Barbara (1953-1955) und Sohn Peer (* 1956) (der seit 2002 Doktor der Medizin und Chirurg in München ist). Die Ehe ging 1962 auseinander. Von 1963 bis 1971 war er mit Chariklia Baxevanos liiert. Am 8. April 1971 heiratete Juhnke die Schauspielerin Susanne Hsiao. Sie ist die Tochter eines chinesischen Gastronomen und einer Ostpreußin. 1972 wurde ihr Sohn Oliver Marlon geboren.

Die Öffentlichkeit nahm an Juhnkes Alkoholkrankheit, insbesondere durch regelmäßige Berichte in der Boulevardpresse, regen Anteil. Sein Alkoholkonsum wurde 1959 erstmals öffentlich. Juhnke war seinerzeit wegen Trunkenheit am Steuer, Widerstandes gegen die Staatsgewalt, Körperverletzung und Beleidigung zu sieben Monaten Gefängnis ohne Bewährung verurteilt worden. Nach vier Monaten wurde er wegen guter Führung entlassen und verzichtete fortan auf einen Führerschein. Es kam seither immer wieder zu schweren Alkoholabstürzen, die häufig auch gerade in Phasen großer Erfolge einsetzten, zu Regressforderungen seiner Arbeitgeber führten und die Engagements des "Mannes für alle Fälle", zu dem er sich selbst stilisierte, gefährdeten oder beendeten. So verlor er 1981 seine Fernsehshow "Musik ist Trumpf", da das ZDF meinte sich nicht mehr auf ihn verlassen zu können. In den 1980er-Jahren gewann ihn die Molkerei Müller als Werbeträger u.a. für Buttermilch und Kefir und spielte gezielt darauf an, dass er auf den Konsum alkoholfreier Getränke angewiesen sei. Sein Alkoholkonsum wurde auch von verschiedenen Bands satirisch behandelt. So z.B. von 4 Promille mit dem Tributsong Harald oder Harald Unser.

Seinen letzten Rückfall hatte Juhnke im Jahr 2000 - er wurde in einem Hotel in Baden bei Wien aufgefunden, wo er sich während Dreharbeiten aufhielt, die er nicht mehr beenden konnte. Er erkrankte am Korsakow-Syndrom und lebte ab Dezember 2001 in einem Pflegeheim in der Nähe von Berlin.