Il passe ses premières années d’études à Little Rock dans l’Arkansas, puis au bout de 10 ans, après avoir fini sa scolarité, il déménage avec sa famille dans l'Illinois.

Pour ses devoirs militaires, il sert la Marine des Etats-Unis pendant la Seconde Guerre mondiale puis devient membre actif des anciens combattants des guerres étrangères.

Il poursuit par la suite des études à l'Université de l'Illinois au Collège de «William and Mary »et enfin intègre l'Université de Californie du Sud. Pendant toute cette période scolaire, Charles Gerhardt fut attiré par la musique mais aussi par les sciences. Cet intéret l'amena même pendant quelques temps à suivre des cours à la fameuse « Juilliard School » de New York.

Sa carrière comme directeur d’orchestre débuta lorsqu’il dû remplacer un chef qui ne se présenta pas à ses répétitions. Un poste qu’il prit l’habitude d’occuper ensuite lors de diverses sessions d’enregistrement pour le disque et occasionnellement pour des concerts.  

Ses enregistrements pour œuvres classiques incluent des œuvres de Richard Strauss, Tchaïkovski, Wagner, Ravel, Debussy, Walton et Howard Hanson.

En contrat pour la RCA, il montre un vif intérêt pour la musique de film, ce qui abouti à la réalisation d’un disque intitulé « The Sea Hawk » : The Classic Film Scores of Erich Wolfgang Korngold avec le National Philharmonic Orchestra réputé pour ses solistes et produit par George Korngold, fils du célèbre compositeur viennois, qui travailla souvent avec Gerhardt.

Cet enregistrement qu'édita la firme RCA en 1972 fut une grande réussite ce qui permit à Charles gerhardt de réaliser 12 disques suplémentaires sur d'autres grands maîtres de la musique de film. Au programme : Max Steiner, Miklos Rozsa, Franz Waxman, Alfred Newman, Dimitri Tiomkin, Bernard Herrmann et John Williams.

Sa passion pour la musique cinématographique l’amènera éplus tard à arranger, orchestrer voire même de composer des musiques pour des films européens.

Gerhardt a passé la plupart de son temps à Londres à faire des enregistrements mais a toujours gardé un pied-à-terre aux États-Unis.

Après s’être retiré de la RCA en 1986, il travaille indépendamment pour la «Readers Digest», un poste qu’il assure en production et en supervision musicale jusqu'en 1997. Pendans ce temps, Il déménagea à Redding en Californie, en 1991.

La collection des « Classic Films Scores » de RCA Victor représente un ensemble unique dans l’histoire du disque de musique de films. 14 enregistrements d’une qualité rare, autant sur le plan de l’interprétation du National Philharmonic Orchestra et de son leader Sidney Sax que dans la finesse d’exécution, l’arrangement et le respect des scores souvent scindés en suites conçues judicieusement par Charles Gerhardt.