Originaire de Manchester, le groupe formé par Paul Gilbertson (guitare, chant), Jim Glennie (basse) et Gavan Wheelan (batterie), adopte plusieurs noms avant de pencher pour James quand arrive le nouveau chanteur, compositeur et guitariste Tim Booth, qui prend les rênes en 1982.
Signé par Factory Records (l'EP Jimone sorti en 1983), James tourne avec The Smiths. Sans Gilbertson, il enregistre l'EP Sit Down puis les albums Stutter (1986, n°68 des charts anglais), Strip-Mine (1988) et le live One-Man Clapping (1989, n° 1 au rayon indépendant). Cependant, il faut attendre Gold Mother en 1990 pour la cote d'estime de James se transforme en succès public avec les extraits « Come Home » et « How Was It for You? ». Réenregistré, le titre « Sit Down » atteint la deuxième place des ventes en 1991.
L'année suivante, l'album Seven qui abrite le simple « Sound » se classe n° 2 au Royaume-Uni et son successeur, Laid sorti en 1993, atteint le marché américain avec les titres emblématiques « Sometimes » et « Say Something ». Le nouveau producteur du groupe, Brian Eno, poursuit sa collaboration (avec Markus Dravs) sur le plus expérimental Wah Wah (1994), divisant critique et public. En 1996, Tim Booth enregistre Booth and the Bad Angel avec l'arrangeur Angelo Badalamenti.
James reprend du service avec les albums Whiplash (1997) et Millionaires (1999), au succès sporadique. En 1998, James: The Best Of se classe n° 1 au Royaume-Uni. En 2001, déçu par les résultats de l'album Pleased to Meet You (n° 11), Tim Booth lance James dans une tournée d'adieu donnant lieu au CD/DVD Getting Away With It...Live. En 2004 sort l'album solo du leader, Bone.
La formation annonce son retour en 2007 par une tournée et l'album Hey Ma paru l'année suivante. En 2010 suivent deux mini-albums studio, The Night Before et The Morning After, sortis à trois mois d'intervalle. Après plusieurs tournées entre 2011 et 2013, James retrouve le studio pour l'enregistrement de l'album La Petite Mort paru en juin 2014. Deux ans plus tard, le groupe travaille avec Brian Eno et le producteur Max Dingel sur son quatorzième album Girl at the End of the World, dans la lignée mélodique des précédents. En 2018, James fait appel à Charlie Andrew et Beni Giles pour Living in Extraordinary Times.