Jermaine Lamarr Cole voit le jour à Francfort (Hesse) le 28 janvier 1985. Dès son plus jeune âge, J. Cole est élevé par sa famille maternelle à Fayettville (Caroline-du-Nord). C'est à partir de quatorze ans que J. Cole rappe et écrit ses rimes, inspiré par des artistes comme Canibus et Nas. Dès sa sortie du collège en 2007, J. Cole s'empresse de réaliser avec The Come Up sa première mixtape. L'exercice est tellement brillant que Jay-Z n'hésite pas à signer le jeune homme sur son label Roc Nation.
Le résultat est une nouvelle mixtape, The Warm Up en 2009 ainsi qu'une participation de J. Cole à l'album The Blueprint de Jay-Z. La même année J. Cole collabore avec Wale pour l'album Attention Deficit. En plus de s'investir dans la production de son propre travail, J. Cole commence à produire des titres pour d'autres artistes de Young Chris à Wale. Il sort en novembre 2010 sa troisième mixtape intitulée Friday Night Lights, avec les participations de Drake, Wale, et Omen. J. Cole va ensuite s'aguerrir sur les planches en première partie de Drake, Tinnie Tempah ou Rihanna.
Il est temps en 2011 pour J. Cole de franchir le pas et de s'affirmer avec un premier album. Sorti le 26 septembre 2011, Cole World: The Sideline Story s'enorgueillit des présences de son mentor Jay-Z, de Trey Songz, Drake, No I.D., et Missy Elliott. Au milieu d'une production rap trop dominée par les croisements avec la pop, la dance, et le R&B, Cole World: The Sideline Story fait l'effet d'un îlot d'authenticité et est salué comme il se doit. Le succès n'est pas qu'artistique puisque Cole World: The Sideline Story est numéro un aux Etats-Unis et fortement remarqué dans le reste du monde.
J. Cole continue de marcher sur les traces de son mentor en 2013 avec l'album Born Sinner qu'il produit et compose dans sa quasi intégralité. Cette nouvelle réussite bénéficie de l'apport de Miguel, Kendrick Lamar, et TLC présents sur un titre chacun. C'est seul qu'il aborde les deux albums suivants, 2014, Forest Hills Drive (2014) et 4 Your Eyez Only (2016), enregistrés dans les mythiques studios Electric Lady à New York, qui ne manquent pas, comme leurs prédécesseurs, de s'emparer de la première place des charts américains.