Né d'une mère travaillant dans le magasin familial et d'un père vendeur de fournitures, Charles Grodin trouve son premier rôle au cinéma dans 20.000 lieues sous les mers en 1954, celui d'un personnage non crédité d'un batteur. Le jeune acteur enchaîne ensuite avec plusieurs apparitions dans des séries, avec en parallèle des rôles au cinéma dans des films plutôt marquants comme Rosemary's Baby (1968), Catch 22 (1970), King Kong (1976) ou encore Le Ciel peut attendre (1978).
Ses rôles gagnant en importance, Charles Grodin incarne un enquêteur dans Coup de soleil et un avocat dans Comme au bon vieux temps. Se spécialisant dans la comédie, le comédien est à l'affiche de La Grande aventure des Muppets (1981), The Lonely Guy (1984) ou encore Parle à mon psy, ma tête est malade (1988).
En 1988, Charles Grodin trouve l'un de ses rôles les plus marquants dans le buddy movie Midnight Run, celui d'un comptable qui a réussi à escroquer un fameux caïd de la mafia et que le personnage de chasseur de primes campé par Robert De Niro est chargé d'attraper. Grodin incarne ensuite le personnage principal de Beethoven 1 et 2, le père de la famille possédant le célèbre Saint-Bernard.
A partir du milieu des années 1990, Charles Grodin devient rare sur les écrans. Il est tout de même présent dans quelques épisodes des séries Louie et Madoff. En 2016, il retrouve quelqu'un qu'il connaît bien en la personne de Robert De Niro pour les besoins de la comédie The Comedian.
Il s'éteint le 18 mai 2021 à l'âge de 86 ans, souffrant d'un cancer de la moelle osseuse.