Élevé à Bordeaux, entre un père médecin et une mère comptable, passionné de théâtre, il prend des cours de diction dès l'âge de douze ans. Après des débuts avec Jouvet et Dullin, il passe au cinéma, joue avec Carné, Renoir et Autant-Lara. Il deviendra aussi un pilier de la télévision où il interprétera une centaine de dramatiques. Parallèlement, puisqu'il ne cesse de naviguer entre ces deux métiers, il écrit des chansons. Ses premiers textes datent de sa captivité au stalag en Silésie. À son retour, en décembre 1942, il se produit au Lapin à Gile où chante sa tante, Yvonne Darle. C'est dans ce cabaret de la bohème montmartroise que, cinq ans plus tard, il fait la connaissance de Léo Ferré. La rencontre est fructueuse. Caussimon écrit, Ferré compose puis chante : « Monsieur William », « Comme à Ostende », « Mon Sébasto », « le Temps du tango », « Mon camarade »… En 1972, ce sera « Ne chantez pas la mort » et, en 1985, une dernière collaboration, tout un album, avec ses chansons les plus libertaires (« les Loubards », « les Spécialistes », « Comment ça marche »). Caussimon a d'autres interprètes : Renée Jean, Maurice Chevalier, Philippe Clay, Catherine Sauvage, les Frères Jacques, Réda Caire, André Claveau, les Quatre Barbus, Suzy Solidor et même Serge Gainsbourg… mais c'est Léo qui fera de lui un véritable auteur populaire.
En 1970, il enregistre son premier 33 tours, Caussimon chante Caussimon (treize titres récompensés par le grand prix de l'académie Charles-Cros).
L'anar mélancolique a quarante huit ans, une casquette de marin « comme à Ostende » et sa barbe en pointe déjà blanche. Pierre Barouh, créateur de la maison de production Saravah, est à l'origine de ce changement de cap. Il est allé lui rendre visite rue Damrémont, dans son petit appartement sur le flanc ouest de la butte Montmartre, pour le convaincre de faire un disque : « Vous n'en vendrez pas un seul… vous allez perdre votre argent… je ne sais pas chanter… » arguë Caussimon, modeste comme toujours. Déjà, en 1967, quand Seghers avait publié ses Chansons des quatre saisons, dans la collection « Poètes d'aujourd'hui », Caussimon avait clamé qu'il n'était qu'un « simple chansonnier ». Mais pour quelles chansons ! Celles d'un homme au désespoir tranquille parlant de la mer (ou de sa mère qui s'est suicidée en 1943), de l'amour, du temps qui passe, avec toujours en filigrane la mort qui, « Quotidiennement, nous vole quelque chose/La poignée de cheveux ou l'ivoire des dents… ».
