Le collectif, créé en 1977 au café-théâtre Le Splendid à Paris, reprenait des standards de Duke Ellington et de Ray Ventura, au milieu d'un répertoire voué au swing et au jazz. Le collectif est composé des frères Thibault : Xavier (auteur, compositeur et chanteur, entre autres) et Frédéric (compositeur), Alice Prévost (chanteuse) et Paul Maucourt (trompettiste et chanteur), on y retrouve Michel Winogradoff (chanteur), Frédo Westrich (bassiste), Rudy Muller (guitariste), Bernard Balestier (trompettiste), Vincent Turquoize (saxophoniste), Lou Volt (chanteuse) et Damien Verherve (tromboniste). Les ont rejoint Yvano Latucca (Batteur), Claude Egéa et Jean Gobinet (trompettistes), Alain Hatot, Philippe Duchesne, Gilles Miton (saxophonistes), Julie Saury et Véronique Bossa (percussionnistes et chanteuses).
Le groupe est vite repéré par Jean-Louis Foulquier, animateur de l'émission Saltimbanque sur France Inter. C'est sur cette antenne que le Grand Orchestre du Splendid va, durant une saison entière, parodier et singer les standards de la chanson française, comme Charles Trenet, Claude Nougaro et Joe Dassin, tout en continuant de se produire au Café de la Gare et à l'Espace Cardin.
L'identité musicale du Grand Orchestre du Splendid se précise alors et prend de plus en plus le ton de l'humour et du second degré, avec en toile de fond le swing, le reggae, la salsa et le mambo. La troupe signe des titres entre insolence et humour, la plupart signés Philippe Adler, Jacques Delaporte, les frères Xavier et Frédéric Thibault. Ils signeront notamment les « tubes » « La Salsa du démon », « Jazz volant » ou encore « Macao ».
Puis en 1986 nait la première comédie musicale : Tam Tam au Pays des Noirs-Blancs (Théâtre des Bouffes-Parisiens), suivie en 1992 de Couac (Théâtre Daunou). Ces deux comédies musicales confirment le succès populaire du Grand Orchestre du Splendid. Macao se vend en effet à plus de 400 000 exemplaires, tandis que le titre « La Salsa du démon » s'écoule lui à plus de 800 000 unités... Au Théâtre des Nouveautés, au Théâtre de la Porte Saint Martin, ou au Théâtre du Gymnase, les spectacles du Splendid affichent complet sur toute leur durée. La troupe n'est pas en reste dans toute l'Europe mais aussi au Québec, où elle connait aussi un gros succès public. Le groupe sort en 1995 un nouvel album, Amusez-Vous, comprenant huit chansons inédites et cinq reprises.
Après des années de succès, le Grand Orchestre du Splendid réembraye à l'Olympia en 2000 pour un spectacle mis en scène par Yves Carlevaris, et la sortie d'un nouvel album Le Swing Me Soigne . Puis en 2002 sort J'Suis Snob ! Le Splendid chante Boris Vian, comprenant les classiques « Fais-moi mal Johnny » et « On n'est pas là pour se faire engueuler ! ». Les années qui suivent voient le Grand Orchestre du Splendid poursuivre inlassablement des tournées à travers la France.