Figlio di un chitarrista, nato e cresciuto a Yale nello stato americano dell'Oklahoma, si trasferì successivamente nella California meridionale, dove trovò successo come trombettista di rilievo a partire dal 1951, quando fu scelto da Charlie Parker per suonare nella sua band in una serie di concerti nella West Coast. Nel 1952, Baker si unì al Gerry Mulligan Quartet, divenendone in breve una delle punte di diamante, per via delle sue capacità strumentali fuori dal comune.

In particolare, fu portato alla notorietà dall'assolo da lui eseguito nella registrazione di My Funny Valentine eseguita dal Quartet. Dopo il declino quasi immediato del Quartet per via dei problemi di droga di Mulligan (che fu in carcere per un certo periodo) e per i disaccordi, economici e caratteriali fra lui e Chet, Baker fondò una propria jazz band, in cui, oltre a suonare la tromba, faceva anche le veci di cantante. Nel 1954, Chet Baker vinse il premio di migliore strumentista nel sondaggio della rivista Down Beat, battendo tra gli altri anche Miles Davis, Dizzy Gillespie e l'astro nascente Clifford Brown. A partire dai primi anni sessanta, Baker iniziò anche a suonare il flicorno durante le sue esibizioni.

Tuttavia, la carriera di Chet Baker fu anche caratterizzata dai suoi problemi di droga, che ebbero un impatto notevole sul successivo declino della stessa. In particolare, la sua dipendenza dall'eroina gli causò anche numerosi problemi legali, inclusa una detenzione di oltre un anno in Italia nel carcere di Lucca, e successive espulsioni da Germania Ovest e Inghilterra. Nel 1966, Baker fu gravemente ferito in una colluttazione mentre cercava di acquistare droghe dopo un concerto a San Francisco. Baker, a causa di ciò, si ritrovò anche completamente privo dei denti anteriori (che uno spacciatore gli aveva fatto saltare con una bottiglia durante la rissa), menomazione molto grave per un trombettista. Trovandosi anche in gravi difficoltà economiche, Baker sparì per diverso tempo dalla scena, finché un appassionato non lo riconobbe nel commesso di una pompa di benzina e lo aiutò a rimettersi in sesto, facendogli anche trovare i soldi per sistemarsi la bocca.

Baker dovette imparare a suonare la tromba con la dentiera, cosa considerata estremamente difficile. Parzialmente disintossicato, Chet Baker si trasferì a New York, dove ricominciò a registrare con altri rinomati musicisti jazz, come Jim Hall, per poi infine ritornare a vivere in Europa. Famosa la sua collaborazione con l'artista inglese Elvis Costello, e celebre il suo commovente assolo di tromba nella canzone Shipbuilding. Baker poi trascorse i suoi ultimi anni di carriera in Brasile, suonando musica Bossa Nova. In questi suoi ultimi anni di vita scopre un talento, una rarità del jazz moderno, il flautista italiano Nicola Stilo. Il 13 maggio 1988, Chet Baker morì, cadendo da una finestra del Prins Hendrik Hotel di Amsterdam, probabilmente sotto l'effetto di droghe.