Հայրը գերմանացի էր Քիլ քաղաքից, մայրը` ծնունդով Էլզասից։ Արպը սովորել է Ստրասբուրգի արվեստների ու արհեստների դպրոցում, 1908 թվականին՝ Փարիզի Ժուլիանի ակադեմիայում։ 1912 թվականին Մյունխենում ծանոթացել է Կանդինսկու հետ, աշխատել է էքսպրեսիոնիստների «Կապույտ հեծյալ» ալմանախում։ Սկսել է տպագրվել որպես բանաստեղծ։ 1914 թվականին Քյոլնում ծանոթացել է Մաքս Էռնստի հետ, նույն տարում Փարիզում հանդիպել է Ապոլիների, Պիկասոյի, Մոդիլիանիի, Սոնյա և Ռոբեր Դելոնեներին։ 1915 թվականին Ցյուրիխում դարձել է դադաիզմի հիմնադիրներից մեկը։ Պատկերազարդել է Տրիստան Տցարայի, Պերե Բենջամենի, Ռիխարդ Խյուլզենբեկի գրքերը։ 1917 թվականին սկսել է զբաղվել քանդակագործությամբ։ 1920 թվականին Բեռլինում ծանոթանում է Լիսիցկիի և Կուրտ Շվիտերսի հետ։ 1924 թվականին տեղափոխվում է Փարիզ, ծանոթանում է Մոնդրիանի հետ։ Միացել է սյուրռեալիստների խմբին, մոտ էր աբստրակցիոնիզմին։ 1925 թվականին կնոջ` նկարչուհի Սոֆի Տոյբերի հետ, հաստատվում է Կլամար քաղաքում, Մյոդոնի անտառների սահմանին, Փարիզից դեպի հարավ-արևմուտք։ Գրել է Հանս Ռիխտերի «Օրն ինչպես օր» ֆիլմի սցենարը (1929 թվականին դերերից մեկում խաղում էր Ս. Էյզենշտեյնը)։ 1940-1946 թվականներին, փրկվելով հիտլերականներից, ապրել էր Շվեցարիայում, հետո` նորից Կլամարում։ 1959 թվականին հաստատվել է Սոլդունոյում, Լոկարնոյի մոտ։
1954 թվականին Վենետիկի Բիենալեյում ստանում է քանդակագործության գլխավոր մրցանակը, 1959 թվականին՝ Պատվո լեգեոնի շքանշան։ 1961 թվականին դարձել է գրականության և արվեստի շքանշանակիր։ 1963 թվականին Արպն արժանացել է Ֆրանսիայի Արվեստի ազգային մեծ մրցանակին, 1964 թվականին արժանացել է Հյուսիսային Ռեյնի հողերի նկարչական մեծ մրցանակի, 1965 թվականին Իտալիայի մշակույթի նախարարության կողմից պարգևատրվել է ոսկե մեդալով, Համբուրգի համալսարանի Գյոթեի անվան մրցանակով։
Արպի ստեղծագործությունների ամենախոշոր հավաքածուն գտնվում է Ստրասբուրգում Նոր և Ժամանակակից արվեստի թանգարանում, որի դիմաց գտնվող հրապարակը նկարչի անունն է կրում։ Նրա անունով է կոչվում Կլամարի մշակութային կենտրոնը, ինչպես նաև` մեկ փողոց Փարիզի 13-րդ շրջանում։ 1979 թվականից Կլամարում գործում է Արպի հիմնադրամը (2004 թ. այն ստացել է ազգային թանգարանի կարգավիճակ)։