Arthur Ira Garfunkel naît le 5 novembre 1941 à Forest Hills dans le Queens (New York). Il est le fils d'un représentant de commerce et d'une ménagère tous deux de confession juive. Art Garfunkel commence à chanter à l'adolescence, s'enregistrant sur un magnétophone à bande offert par son père. En 1954, il régale les invités de sa bar mitzvah d'un récital de quatre heures de ses chansons favorites. Il rencontre son futur partenaire Paul Simon à l'école primaire et forme avec lui en 1956 le duo Tom & Jerry inspiré par The Everly Brothers.
Devenu Simon and Garfunkel en 1963, le duo devient très vite un groupe majeur du pop rock inspiré par le folk. La voix merveilleuse de Art Garfunkel se met au service des compositions de Paul Simon pour des hits indémodables et universels comme « The Sound of Silence » (1965), « Mrs Robinson » (1968), et « Bridge Over Troubled Water » (1970). Pendant leur dernière tournée en 1969, les relations du duo se détériorent - ils s'étaient déjà brièvement séparés en 1965 - et amènent à sa dispersion en 1970. N'étant pas compositeur lui-même, Art Garfunkel fait un peu d'actorat chez Mike Nichols, puis exerce quelque mois le modeste métier de professeur de mathématiques. Le succès de l'album Greatest Hits de Simon and Garfunkel en 1972 lui redonne le goût à la chanson.
Il débute sa carrière par le très beau Angel Clare en 1973, avec des chansons venues du répertoire traditionnel ou de compositeurs comme Van Morrison, Jimmy Webb (le tube « All I Know »), et Randy Newman. Le succès étant au rendez-vous, Art Garfunkel enchaîne en 1975 avec Breakaway où Paul Simon est présent pour « My Little Town ». Watermark en 1977 n'obtient qu'un succès modéré et marque le début de la perte de popularité de l'artiste, en particulier aux Etats-Unis. Son album suivant, Fate for Breakfast en 1979 est sauvé pas ses ventes en Angleterre où « Bright Eyes » est numéro un. Art Garfunkel est alors touché en juin 1979 par le suicide de sa petite amie Laurie Bird, et par le désastre commercial de l'album Scissors Cut qui lui est dédié en 1981.
Art Garfunkel s'enfonce dans une longue dépression, dont il ne sort brièvement en 1982 que pour The Concert in Central Park de Simon and Garfunkel reformés. Il connaît une autre courte rémission en 1986pour l'album de Noël The Animals' Christmas en duo avec Amy Grant. Par contre l'album Lefty en 1988 ne lui donne pas l'occasion de remonter la pente et est un désastre artistique et commercial. Il faut attendre 1997 et l'enregistrement en public Across America pour voir Art Garfunkel revenir en meilleure forme. Ce retour est confirmé quelques mois plus tard par la sortie de Songs from a Parent to a Child qui lui vaut son seul Grammy Award personnel en tant que meilleur album pour enfants. Malheureusement le succès n'est pas là, pas plus qu'il ne l'est pour le pourtant réussi Everything Waits to Be Noticed en 2002. Some Enchanted Evening en 2007 est également une déception à tous points de vue. En 2012, la compilation The Singer offre un large panorama de sa carrière et rappelle quel chanteur exceptionnel Art Garfunkel a toujours été.