John Scofield est né le 26 décembre 1951 à Dayton (Ohio). Il fait l'apprentissage de la guitare durant son adolescence, se produisant dans des groupes de rock et de rythm'n'blues, avant de s'intéresser plus particulièrement au jazz.
Etudiant à la Berklee School of Music de Boston entre 1970 et 1973, il suit les cours de Mick Goodrick et joue dans la région. Il collabore ensuite à l'orchestre du vibraphoniste Gary Burton avant d'être retenu pour un fameux concert enregistré de Gerry Mulligan et Chet Baker au Carnegie Hall de New York. John Scofield rejoint ensuite le groupe formé par la paire rythmique George Duke et Billy Cobham, enregistre avec Charles Mingus et au même moment, sort son premier album solo East Meets West (1977) pour le label Black Hawk. Peu après il renoue avec l'orchestre de Gary Burton et participe au quintet de Dave Liebman. A la fin de la décennie paraissent John Scofield Live (1977) et Rough House (1978), suivis des albums live Out Like a Light et Shinola.
Outre des séances pour Lee Konitz, Tony Williams ou Ron Carter, le guitariste collabore au trio expérimental de Steve Swallow et Adam Nussbaum, avant d'être sollicité par Miles Davis, qu'il accompagne entre 1982 et 1985. Cette période est également marquée par une poignée d'albums pour Gramavision Records : Electric Outlet (1984), Blue Matter (1986), Pick Hits Live et Loud Jazz (1987). Cette décennie voit également l'apparition du groupe Bass Desires comprenant Bill Frisell, Marc Johnson et Peter Erskine.
En 1990, John Scofield enregistre les albums Meant To Be et Time On My Hands pour Blue Note. Le second a pour collaborateurs Charlie Haden, Jack DeJohnette et Joe Lovano. Les disques suivants, Grace Under Pressure, What We Do, Hand Jive et Groove Elation reçoivent Bill Frisell, Joey Baron, Bill Stewart, Eddie Harris, Larry Goldings, Idris Muhammad et Dennis Irwin. D'autre part, Scofield est invité à jouer dans l'orchestre de McCoy Tyner et avec l'Orchestre National de Jazz.
La période Verve, ouverte en 1996 avec l'acoustique Quiet, est marquée par le funky A Go Go (1997) enregistré avec Medeski, Martin & Wood, l'expérimental Bump (2000) et le plus classique mais excellent Works for Me (2001). De retour au jazz fusion des débuts dans Uberjam (2002) et Up All Night (2003), John Scofield monte un trio expérimental avec les fidèles partenaires Steve Swallow et Bill Stewart pour le live En Route (2004).
L'année suivante, il rend hommage à Ray Charles dans That's What I Say, puis revient aux expériences virtuoses dans This Meets That (2007) avant de revisiter le gospel dans Piety Street (2009). En 2010, John Scofield s'associe au Metropole Orkest du chef Vince Mendoza pour le brillant 54. Un an après, il revient sous son seul nom pour un splendide A Moment's Peace où les morceaux originaux côtoient les reprises ; John Scofield est ici accompagné de Larry Goldings aux claviers, Scott Colley à la basse et Brian Blade à la batterie. Toujours en 2011, il est crédité sur l'album MSMW Live: In Casse the World Changes Its Mind, avec le trio Martin, Medeski & Wood.
En 2013, le guitariste relance le projet Uberjam pour un second volume réunissant Avi Botnick, Adam Deitch, Andy Hess, Louis Cato et John Medeski. L'album suivant, Past Present, paru en 2015, le voit retrouver deux anciens camarades de l'époque du Berklee College, Joe Lovano et Bill Stewart, accompagnés par Larry Grenadier en remplacement du défunt Dennis Irwin. L'enregistrement est récompensé par le Grammy Award du « meilleur album de jazz instrumental ». En 2016, le plus bluesman des guitaristes de jazz opère une fusion avec la country dans l'album de reprises Country for Old Men, auquel participent Larry Goldings, Steve Swallow et Bill Stewart.
