Né le 12 avril 1928 à Vitry-le-François dans la Marne, Jean-François Paillard mène parallèlement ses études à la Sorbonne où il obtient une licence en mathématiques et au Conservatoire de Paris en classe de musicologie. Son diplôme en histoire de la musique le conduit au Mozarteum de Salzbourg, en Autriche, où il poursuit son apprentissage de la direction d'orchestre auprès du célèbre chef Igor Markevitch et de la composition avec Norbert Dufourcq.
En 1953, la formation de l'Ensemble instrumental Jean-Marie Leclair (d'après le nom du compositeur qu'il admire) débouche sur une véritable révolution qu'est la redécouverte du répertoire de musique baroque, négligé sinon ignoré depuis la mort de Jean-Sébastien Bach (1750), soit environ deux siècles, par les musiciens et le public. Un premier enregistrement pour le compte de la marque Erato, La Musique française au XVIIIème Siècle, obtient un énorme succès la même année.
En 1959, l'ensemble change son nom en Orchestre de Chambre Jean-François Paillard comprenant une section de douze cordes et un clavecin. La notoriété du chef français rayonne à travers le monde entier par les nombreuses tournées qu'il effectue, en particulier au Japon et aux États-Unis. Invité par d'autres orchestres prestigieux dont l'English Chamber Orchestra, il emmène le plus souvent avec lui des solistes français réputés tels que Maurice André, Jean-Pierre Rampal, Lily Laskine, Marie-Claire Alain, Pierre Pierlot, Maxence Larrieu, Robert Veyron-Lacroix, Gérard Jarry ou Jacques Chambon.
Durant les trente deux années de son contrat avec le label Erato dont il est le fleuron, Jean-François Paillard multiplie les enregistrements à succès comme les Concertos brandebourgeois de Bach, les fameux Canon de Pachelbel et Adagio d'Albinoni, les pièces pour clavecin et orchestre de François Couperin et Jean-Philippe Rameau, les oeuvres orchestrales de Mozart, Corelli ou Fasch (Concerto pour trompette), les opéras et oeuvres vocales de Haendel et Charpentier (le Te Deum) sans oublier le concerto des Quatre saisons de Vivaldi qu'il interprète 1480 fois en concert et enregistre à six reprises. Il est également le seul à avoir enregistré l'intégrale des douze concertos de Jean-Marie Leclair. De 1986 à sa retraite en 2002, le chef d'orchestre enregistre pour le label BMG. Balayé au cours des années 1970 et surtout 1980 par la nouvelle vague de chefs « baroqueux » privilégiant les instruments anciens, Jean-François Paillard perd de son prestige. Le défricheur de nombreuses oeuvres des XVIIe et XVIIIe siècles, éditeur des fameuses Archives de la musique instrumentale et auteur de l'essai La Musique française classique (1960) se voit reproché sa vision trop romantique de la musique baroque.
Le Chevalier de la Légion d'honneur récompense à 29 reprises d'un Grand Prix du disque de l'Académie Charles-Cros est relégué par les nouvelles générations dans les « bacs à soldes » de la musique classique. Néanmoins, un recensement publié en 2010 évalue le total de ses ventes à 9 millions d'unités et en 2008, son quatre-vingtième anniversaire est fêté dignement au Japon et aux États-Unis où l'un de ses enregistrements est sacré « best-seller classique de tous les temps ». C'est donc paisiblement que Jean-François Paillard s'éteint le 15 avril 2013, à l'âge de quatre-vingt cinq ans, dans le village de Saint-Auban sur l'Ouvèze (Drôme).