Originaire de Greenville (Texas), Bart Millard rêve d'abord d'être professionnel du football américain. Une blessure à la hanche l'éloigne définitivement de ce postulat, avant que le décès de son père n'obscurcisse encore plus ses années de lycée. Bart Millard devient alors sonorisateur pour un groupe de musique chrétienne établi en Floride. Devenu par hasard chanteur du groupe, Bart Millard se lie d'amitié avec le claviériste James Bryson. L'idée de former un groupe se concrétise en 1994 avec les arrivées de Michael Scheuchzer (guitare), Nathan Cochran (basse), et Robby Shaffer (batterie). MercyMe sort six albums en indépendant, avant de signer un contrat avec la marque INO Records en 2001 qui le fait de facto passer à l'étage supérieur.
Almost There le premier album national de MercyMe est une réussite qui se retrouve numéro un des ventes de musique chrétienne et numéro trente-sept du Billboard. Le titre « I Can Only Imagine » promis à un bel avenir figure sur ce premier disque. MercyMe sort en 2002 Spoken For qui est artistiquement et commercialement en deçà de son premier essai. L'année suivante, « I Can Only Imagine » débute véritablement son odyssée et commence à apparaître dans les classements du Billboard. Toujours en 2003, le guitariste Barry Graul arrive pour étoffer le son de MercyMe. Undone en 2004 se retrouve douzième des ventes américaines, tandis que « I Can Only Imagine » poursuit sa route et devient un hymne du rock chrétien.
MercyMe s'attelle en 2005 à un disque de Noël, démarche logique pour un groupe chrétien. The Christmas Sessions sort en septembre 2005 et connaît un succès de saison. Cette parenthèse refermée, MercyMe revient en force avec Coming Up to Breathe en 2006. Le groupe figure désormais parmi les groupes importants du moment, tant en rock qu'en musique à connotation religieuse. Il est ensuite temps pour MercyMe de sortir coup sur coup deux albums marquants avec All That Is Within Me et le concept album The Generous Mr. Lovewell. En 2011, The Worship Sessions est un disque de prières, distribué d'abord dans la chaîne de magasins Family Christian Book Stores.
Le groupe revient aux affaires courantes avec The Hurt & the Healer en 2012 qui constitue une nouvelle réussite totale. La force de MercyMe est de marier parfaitement un pop rock teinté d'Americana avec l'exploration de thèmes chrétiens qui apportent de la profondeur à sa musique. « I Can Only Imagine » continue lui sa route, devenant un véritable phénomène du genre en étant le premier titre de rock chrétien à dépasser un million de téléchargements légaux. L'aura internationale du titre lui permet même de bien figurer dans des pays où le rock chrétien est peu développé. Ainsi la France l'accueille volontiers parmi ses meilleures ventes à l'été 2012.
