1969 verließen Schlagzeuger Carsten Bohn, Sängerin Inga Rumpf, der französische Keyboarder Jean-Jacques Kravetz und der Bassist Karl-Heinz Schott die Hamburger Formation The City Preachers, die 1965 gegründet worden war, und formierten sich unter dem Namen Frumpy. Der Bandname bedeutet unkleidsam.

Bis zum Herbst 1970 standen Frumpy unter anderem in Frankreich und Deutschland auf der Bühne, beispielsweise neben der damals schon bekannten Band Yes. Anschließend begaben sich die vier Musiker ins Studio und nahmen ihre erste Platte auf, All Will Be Changed, die noch im selben Jahr bei Philips Records erschien.

In der Bundesrepublik Deutschland war dieses Album erfolgreich und bezeugte, dass Musik aus Deutschland international mithalten konnte. Vor allem Inga Rumpfs kraftvoller Gesang, die langen Keyboardloops und die jazzigen Elemente schienen den Zeitgeist getroffen zu haben.

Gerade im frisch entstandenen Progressive Rock war in der Sparte Krautrock schnell ein Platz für Frumpy gefunden. Auch die Kritiker blieben von Frumpy nicht unberührt. So wählte der Musik Express Frumpy zur beliebtesten Band des Jahres, und auch die FAZ äußerte sich positiv.

1971 wurde die Band um den Gitarristen Rainer Baumann erweitert, und es erschien die zweite LP, Frumpy 2, wieder bei Philips Records. Sie wurde in einer runden Plastikhülle verkauft. Heute ist dieses Album offenbar weitgehend in Vergessenheit geraten, obwohl das Album auch auf CD erschien. 1972 erschien dann die dritte und für einige Zeit letzte Platte von Frumpy, By the Way (Vertigo Records, ein Sublabel von Philips).

Inga Rumpf, Jean-Jacques Kravetz und Karl-Heinz Schott gründeten 1972 die ebenfalls erfolgreiche Nachfolgeband von Frumpy, Atlantis. Carsten Bohn gründete, mit verschiedenen Musikern in unterschiedlichen Besetzungen, seine eigene Band Carsten Bohn's Bandstand (in der Zeit von 1977–1981). Von 1979 bis 1983 komponierte Carsten Bohn 98 Musikstücke für das Miller International Label EUROPA, von denen 78 Kompositionen in ihren bekannten Hörspielserien (Fünf Freunde, TKKG, Drei Fragezeichen, (neonfarbene) H. G. Francis „Grusel-Serie“, Larry Brent, Macabros, Flash Gordon, Edgar Wallace, Funk-Füchse, Pizzabande u. a.) verwendet wurden.Rainer Baumann gründete seine eigene Band, die Rainer Baumann Band, mit der er in unterschiedlichen Besetzungen bis 2002 unterwegs war.

Frumpy fand 1990 wieder zusammen und produzierte drei weitere Alben, die jedoch musikalisch wesentlich glatter und ruhiger als die der frühen Jahre sind.