Arthur Rubinstein est né le 28 janvier 1887 dans la ville de Lodz faisant alors partie de l'Empire russe et devenue polonaise en 1918.
Mis très tôt devant un clavier, il montre de fortes dispositions qui conduisent ses parents à lui trouver un professeur en la personne de Joseph Joachim qui le voit jouer à trois ans. Ce dernier, violoniste et compositeur de renom, conseillent à ses parents (des commerçants d'origine juive) de l'inscrire dans une école de musique. Il est dit qu'à l'âge de sept ans, le petit Rubinstein maîtrisait parfaitement certaines pièces de Mozart, Schubert et Mendelssohn, qu'il interprète lors d'un concert de charité.
Le pianiste prodige prend des leçons de piano à Varsovie auprès d'Alexander Rooycki, puis au Conservatoire de Berlin où il a pour professeurs Heinrich Barth, Robert Kahn et le célèbre Max Bruch. En 1899, Arthur Rubinstein joue son premier concerto à Postdam, sans pour autant abandonner ses études. Entouré de plusieurs précepteurs, il lit cinq langues dans le texte, entre deux tournées en Allemagne.
Devenu un temps l'élève du compositeur Penderecki, Rubinstein part s'installer à Paris en 1903. De là, il rencontre des compositeurs et pianistes modernes aussi éminents que Ravel, Paul Dukas, Jacques Thibaud ou Camille Saint-Saëns, qui approuve l'interprétation de son Deuxième Concerto pour piano, qu'il interprète au Carnegie Hall de New York, devant une assistance abasourdie. Cette première tournée américaine assez houleuse le rend dépressif ; désargenté, il tente de se suicider, en vain.
Les années qui suivent vont lui redonner espoir. Demandé par les organisateurs de concerts, Rubinstein se produit d'un bout à l'autre du globe, notamment dans une tournée avec Eugène Ysaÿe. Il s'installe successivement à Londres (où il joue avec Pablo Casals) puis en Espagne en 1916. Spécialiste des répertoires en solitaire et de musique de chambre, Arthur Rubinstein s'intéresse particulièrement aux oeuvres novatrices de compositeurs hispaniques tels Manuel de Falla, Enrique Granados ou Isaac Albeniz.
Après une tournée espagnole, le pianiste visite l'Amérique latine et se passionne pour les oeuvres du Brésilien Heitor Villa-Lobos, dont il devient proche. Ce dernier lui dédie sa composition Rudepoema. La réputation de Rubinstein gagne en ampleur, ses interprétations de Chopin font autorité, mais le pianiste dit souffrir de son manque de technique dû à une exposition prématurée. Il décide donc de marquer une pause pour se perfectionner et se marier avec Anelia Mlynarska.
Les années 1930 vont permettre à Rubinstein de s'épanouir jusqu'à la Seconde Guerre mondiale où il décide de s'installer aux États-Unis et d'adopter la nationalité américaine, en 1946. En 1954, le pianiste autant renommé pour ses interprétations fiévreuses de Beethoven que son pré-carré romantique, retrouve son domicile parisien de l'avenue Foch, mais refuse de jouer en Allemagne. Grand voyageur, il parcourt le monde à la recherche de nouvelles sensations et de nouvelles découvertes musicales. Il s'établit successivement en Californie, à New York, Paris et Genève.
Dans les années 1960, sa quasi intégrale Chopin pour RCA devient instantanément historique. Au fur et à mesure de son avancement dans l'âge et d'une cécité accrue, Rubinstein ralentit ses prestations. Le bon vivant, amateur de vin et de femmes, coule des jours paisibles en Suisse et fait une dernière apparition à Londres le 10 juin 1976. Quasiment aveugle, il s'éteint le 20 décembre 1982 à l'âge de 95 ans. Ses cendres sont enterrées dans une forêt qui porte son nom sur les hauteurs de Jérusalem.