Nato a Berlino il 3 luglio del 1930. Suo padre era il grandissimo direttore d'orchestra Erich Kleiber, di cui Carlos superò la fama. Nel '35 la sua famiglia lasciò la Germania ed emigrò in Argentina, per protestare contro il regime nazista. Conclusa la guerra Kleiber tornò in Europa. Debuttò a Potsdam, allora in Germania dell’est, nel 1954. Da allora in poi diresse opere e musica sinfonica nei più grandi teatri del mondo lavorando con i più grandi cantanti. Di lui si ricordano le direzioni storiche del «Tristano e Isotta» di Wagner, della «Traviata» e dell'«Otello» di Verdi, il «Rosenkavalier» di Richard Strauss, l'operetta «Fledermaus» e la «Boheme» di Puccini. Nel 1980 Kleiber aveva preso la cittadinanza austriaca. Precedentemente, durante il suo soggiorno in Sudamerica, era diventato cittadino onorario argentino. Da alcuni anni viveva a Monaco. L'ultima volta che Kleiber aveva diretto un concerto in Italia era stato nel '93 a Cagliari.