Walter Kempowski wurde am 29. April 1929 als Sohn des Reeders und Schiffsmaklers Karl Georg Kempowski, den er als „still und stark gehemmt“ bezeichnete, und der Hamburger Kaufmannstochter Margarethe Kempowski, geb. Collasius, in Rostock geboren. Er besuchte ab 1935 die St.-Georg-Schule, eine Knabenschule, und wechselte im Jahre 1939 auf das Realgymnasium.

Im Jahre 1944 wurde Kempowski in eine Strafeinheit der Hitlerjugend versetzt und noch 1945 als Fünfzehnjähriger als Luftwaffenkurier zur Wehrmacht eingezogen. Sein Vater fiel in den letzten Kriegstagen, am 26. April 1945. 1946 musste Walter Kempowski die Schule verlassen. Nach verschiedenen Tätigkeiten als Laufbursche trat er bei einer Rostocker Druckerei eine Kaufmannslehre an. Da deren Fortsetzung beim Rowohlt Verlag in Hamburg, wo Kempowski ab 1947 lebte, aufgrund einer fehlenden Arbeitserlaubnis nicht möglich war, nahm er eine Anstellung als Verkäufer in einem PX-Store der United States Army in Wiesbaden an.

Am 8. März 1948, während eines Besuchs bei seiner Mutter in Rostock, wurde Walter Kempowski, der sich auch für die liberale LDP engagierte, vom sowjetischen NKWD verhaftet. Sein Bruder Robert Kempowski, der die väterliche Reederei weiter betrieb, hatte Frachtpapiere aus dem Kontor gesammelt, um beweisen zu können, dass die sowjetische Besatzungsmacht größere Mengen an Demontagegütern aus Deutschland abtransportieren ließ, als mit den Westalliierten vereinbart war. Walter Kempowski sollte diese Dokumente den Amerikanern übergeben. Aufgrund dessen verurteilte ein sowjetisches Militärtribunal beide Brüder wegen angeblicher Spionage zu 25 Jahren Arbeitslager. Auch ihre Mutter wurde zu zehn Jahren Zwangsarbeit verurteilt wegen „Nichtanzeige von Agenten ausländischer Geheimdienste“. Walter Kempowski musste seine Haft im sowjetischen Speziallager Nr. 4 im früheren Zuchthaus Bautzen unter unmenschlichen Bedingungen absitzen. Dort wurde er auch etwa im Jahre 1953 in mehrwöchige Einzelhaft wegen des Vorwurfs der Gründung einer christlichen Untergrundbewegung eingesperrt. Im Jahre 1954 wurde Kempowski Leiter des Gefängnischores. Die Erlebnisse in Bautzen verarbeitete er literarisch in seinem 1969 erschienenen Erstlingswerk Im Block. Ein Haftbericht, von dem er nach eigener Aussage keine 1000 Exemplare verkaufte, was ihn „sehr schmerzte“.

Am 8. März 1956 wurde Kempowski vorzeitig aus der Haft entlassen. Er ging zunächst nach Hamburg zu seiner Mutter, die bereits im Jahre 1954 entlassen worden war. Dort begann er mit regelmäßigen Tagebuchaufzeichnungen. 1957 legte er in Göttingen das Abitur ab und nahm dort auch das Studium der Pädagogik auf. Noch in Göttingen heiratete er die friesische Pfarrerstochter Hildegard Janssen, die ebenfalls Lehrerin wurde. Diesen Zeitabschnitt nannte Kempowski „ein sonniges Kapitel meines Lebens“. Ab 1960 war er als Lehrer bei Zeven, ab 1965 in Nartum, Landkreis Rotenburg (Wümme) und von 1975 bis 1979 in Zeven bei Bremen tätig. In diesen Jahren erprobte Kempowski erfolgreich selbst entwickelte Methoden des Lesen- und Schreibenlernens an seinen Erstklässlern; ohne Lehrplan und Schulbücher zu benutzen, machte er tägliche Erlebnisberichte der Schüler zu Unterrichtsinhalten. Methodenvielfalt und individuelle Förderung selbst in großen Klassen zeichnen seine Methode aus. Im Jahre 1961 wurde sein Sohn Karl-Friedrich, im Jahre 1962 seine Tochter Renate geboren.

Der Neuanfang wurde durch die in Westdeutschland inzwischen etablierten 68er überschattet, die aus ideologischen Gründen ehemalige Häftlinge aus der DDR oftmals ablehnten. Kempowski entwickelte aufgrund dieser Erfahrungen eine tiefe Ablehnung gegen diese Bewegung, sprach selbst sogar von Hass.

Anfang der achtziger Jahre begann Kempowski, biografische Materialien von „einfachen“ Menschen zu sammeln, indem er Anzeigen in der ZEIT aufgab. Er erhielt Unmengen an Tagebüchern, Briefwechseln, Lebensaufzeichnungen und Fotografien von Menschen aus unterschiedlichen Kreisen und Zeiten. Diese Materialien verwendete er in seinem Hauptwerk Echolot. 2005 vermachte er sein Biografien-Archiv, das mittlerweile hunderttausende Fotos und Millionen Blatt Papier umfasst, der Â»Stiftung Archiv der Berliner Akademie der Künste«.