C'est par le rock que Charles Samuel « Chuck» Loeb arrive au jazz. Alors qu'il n'est encore qu'un enfant, le guitariste né à Nyack, dans l'état de New York le 12 juillet 1955 écoute Bob Dylan, Cream, Eric Clapton, Jimi Hendrix et Led Zeppelin. Puis il découvre John McLaughlin, Pat Martino, George Benson et Wes Montgomery et prend des leçons auprès de Jim Hall, Pat Metheny et Joe Puma.
Après deeux années d'études au Berklee College of Music de Boston, il part s'installer à New York en 1976 afin de se faire un nom dans la scène jazz locale. Il joue alors pour Chico Hamilton, Ray Barretto, Joe Farrell et Hubert Laws puis, en 1979, intègre le quartette de Stan Getz pendant deux ans. Le saxophoniste est même son homme d'honneur lors de son mariage avec Carmen Cuesta. En 1985, il rejoint le groupe de smooth jazz Steps Ahead, avec lequel il retourne lors de sa reformation en 1992.
Entre temps, Chuck Loeb, qui avait déjà enregistré de courtes compositions pour des jingles et produit des albums de Donald Harrison ou Larry Coryell, sort son premier album solo My Shining Hour pour le label japonais Pony Canyon et signe cinq albums pour le label DMP : Magic Fingers (avec le pianiste Andy Laverne), Life Colors (1990), Balance (1991), Mediterranean (1993) et Simple Things (1994). C'est ensuite au sein du groupe Metro qu'il retrouve son ancien partenaire chez Stan Getz, le pianiste Mitchel Forman.
Entre 1996 et 2005, il enregistre six autres albums solo pour Shanachie dont The Moon, the Stars and the Setting Sun (1998), Listen (1999), In a Heartbeat (2001), All There Is (2002) et eBop (2003). Après deux autres enregistrements pour Heads Up International, division du label Telarc, le guitariste remplace Larry Carlton au sein de Fourplay, tout en poursuivant sa propre carrière de compositeur et producteur. Ainsi, il retrouve le label Shanachie en 2013 pour l'album Silhouette et invite Jeff Lorber et Everette Harp sur Jazz Funk Soul (2014) et More Serious Business (2016). En 2015, c'est avec le saxophoniste Eric Marienthal qu'il crée Bridges. En 2016 paraît Unspoken. Le 31 juillet 2017, il décède d'un cancer à l'âge de 61 ans.
