Bill Anderson wuchs in einem Vorort von Atlanta, Georgia auf. Bereits als Teenager begann er Songs zu schreiben, die er als Mitglied einer Schul-Band selbst vortrug. An der University of Georgia studierte er Journalismus. Sein Versuch, Baseball-Profi zu werden, scheiterte. Nach dem Gewinn eines Talentwettberwerbs beschloss er, Musiker zu werden. Zunächst arbeitete er als Journalist bei der renommierten Atlanta Constitution Tageszeitung.

Bereits während seines Studiums hatte er als Diskjockey Eingang in die Szene gefunden. Bei einem kleinen Label spielte er den selbstverfassten Song City Lights ein. Es wurden insgesamt 500 Singles gepresst, die er eigenhändig verkaufte oder verschenkte. 1958 hörte Ray Price diesen Song zufällig im Radio. Er nahm ihn selbst auf und hatte damit einen seiner größten Hits. Bill Anderson erhielt nach diesem Erfolg einen Schallplattenvertrag vom Decca-Label, das ihn vor allem als Songwriter gewinnen wollte.

Anfang der 1960er Jahre hatte er, angefangen mit Tips Of My Fingers, mehrere Top-10-Hits. Auch als Songwriter war er erfolgreich. Jim Reeves hatte mit seinem I Missed Me einen Hit. 1961 trat Anderson erstmals in der Grand Ole Opry auf. Ein Jahr später gelang ihm mit Mama Sang A Song sein erster Nummer-1-Hits. Seinen endgültigen Durchbruch hatte er 1963 mit der einfühlsamen Ballade Still, der sogar den Crossover in die Pop-Charts schaffte und als sein bekanntester Song gilt. Seine Anhängerschaft bestand vorwiegend aus weiblichen Fans. In diesen Jahren erhielt er den Spitznamen "Wispering Bill" (eng: "Flüsternder Bill") ein, der - allerdings übertrieben - auf seine leise Stimme und langsames Gesangstempo anspielte.

Auch andere waren mit seinen Songs erfolgreich. Sein Schützling Connie Smith erreichte mit Once A Day ihren ersten Top-Hit. Unter anderem erzielten Lefty Frizzell, Hank Locklin, Porter Wagoner, Mickey Gilley und Roger Miller hohe Chart-Platzierungen. Bill Anderson gehörte zu einer neuen Generation von Country-Musikern mit städtischen Hintergrund und College-Abschluss, die die alte Garde einfacher Jungs vom Lande allmächlich verdrängte. Weitere Hits waren: Five Little Finger (1964), Bright Lights And Country Music (1965), I Get The Fever (Platz Eins 1965), My Life (Throw It Away If I Want To (Platz Eins 1969).

Seine Erfolge hielten auch in den 1970er Jahren an. Er erzielte zahlreiche Top-10-Hits und erreichte 1973 mit World Of Make Believe Platz Eins. Eine Serie von Duetts mit Jan Howard und später Mary Lou Turner war ebenso erfolgreich. Im Laufe seiner Karriere erhielt er zahllose Auszeichnungen für seine Kompositionen. 1976 wurde er in die Nashville Songwriters Hall of Fame aufgenommen. In den 1980er Jahren standen Fernsehauftritte im Vordergrund. Hitparadenplatzierungen blieben die Ausnahme, aber mit seiner langjährigen Begleitband, den Po' Boys stand er weiterhin in seinem typischen grellbunten Outfit auf der Bühne.