Supervielle Montevideóban, Uruguayban született egy bankot vezető családban; apja Béarnból, anyja baszk származású volt. Szülei még egyéves kora előtt, egy franciaországi családi látogatás során meghaltak, és először nagyanyja, majd Uruguayba visszatérve nagynénje és nagybátyja nevelte fel. Kilenc éves korában kezdett meséket írni. 1894-ben nagynénjével és nagybátyjával Párizsba költözött, és 1901-ben Brumes du passé címmel verseskötetet adott ki. 1906-ban Montevideóban feleségül vette Pilar Saavedrát; hat gyermekük született.
Irodalmi disszertációját 1910-ben védte meg A természet érzése a spanyol-amerikai költészetben címmel.
Az első világháború alatt besorozták, és 1917-ig szolgált, amikor visszatért a költészethez. Verseinek 1919-es megjelenése felkeltette André Gide és Paul Valéry figyelmét, és kapcsolatba hozta őt a Nouvelle Revue Française-szel (NRF).
Első jelentős gyűjteménye, a Débarcadères 1922-ben, első regénye, a L'Homme de la pampa pedig 1923-ban jelent meg. 1925-ben kiadta a 20. század francia nyelvű költészetének egyik legnagyobb gyűjteményét: a Gravitations-t. Hat évvel később kiadta rövid fantáziáinak könyvét, L'Enfant de la haute mer címmel (öt szöveg jelent meg 1924 és 1930 között, plusz három eredeti). Első fontos színdarabja, a La Belle au bois is ebben az időben íródott.
A második világháború alatt Supervielle egészségügyi és pénzügyi nehézségekkel küzdött, ezért ideiglenesen Uruguayba költözött. Officier de la Legion d'honneur címet, és számos irodalmi díjat kapott. A háború befejezése után visszatért Franciaországba, mint az uruguayi követség kulturális tudósítója Párizsban. Első mitológiai meséit Orphée címmel adta ki 1946-ban. 1947-ben Supervielle Shéhérazade-ja egyike volt annak a három darabnak, amelyet Jean Vilar rendezett az első Avignon fesztiválon. 1951-ben Boire à la source címmel önéletrajzi beszámolót jelentetett meg, amelyet 1959-ben utolsó verseskötete, a Le Corps tragile követett.
Röviddel halála előtt, 1960 májusában Párizsban megválasztották Prince des poètes-nek ("A költők fejedelme").