1 Mayıs 1923 yılında İstanbul’da doğan sanatçı orta öğrenimini Pertevniyal Lisesini bitirdi. Memurluk ve futbolculuktan sonra amatör olarak ilgilendiği sanat hayatına, 1951 yılında Saat 6 Tiyatrosu`nda profesyonel olarak başladı. 1952’de Mahmut Moralı’nın desteği ve davetiyle Şehir Tiyatrolarında çalışmaya başladı. Ekrem Reşit Rey’in davetiyle İstanbul Radyosu Temsil (tiyatro) Kolu`nda görev yaptı.
Bir dönem Oraloğlu Tiyatrosu’nda çalışan sanatçı, 1952 yılında “Kahpenin Kızı” isimli filmde oyuncu olarak sinemaya girdi. Daha sonra “Deli”, “Bu Kadın Benimdir”, “Affet Beni Allahım” ve “Beklenen Şarkı” gibi filmlerde oyuncu olarak devam etti. “Babaların Günahı” 1955 yılında yönettiği ilk filmidir.
1964’te kendi adına bir tiyatro topluluğu kuran Abdurrahman Palay, daha sonra Arena Tiyatrosu’nda rol aldı. Senaryo yazarlığı, film yönetmenliği, sinema oyunculuğu, seslendirme yapan sanatçınin önemli filmleri arasında Acı Türkü, Adalardan Bir Yaz Gelir Bizlere, Bir Aşk Türküsü, Erkek Fatma, Çalıkuşu, Garipler Sokağı, Keşanlı ve Zehirli Kuşak yer alıyor.
Sanatçının rol aldığı tiyatro oyunlarından bazıları ise Fırtına, Othello, Baba Parası, Yarış Bitti.
Abdurrahman Palay, Yılmaz Güney, Cüneyt Arkın, Ediz Hun, Orhan Gencebay, Göksel Arsoy, Ümit Besen gibi birçok sanatçıyı seslendirmiş, seslendirme yönetmenliği yapmıştır.
Sanatçı; kendine has telaffuzuyla Türk sineması’na n’ayır, n’olamaz, n’Alev gibi sözcükleri kazandırmış olmasıyla ünlüdür.
Değerli sinema, tiyatrocu ve seslendirme sanatçısı Abdurrahman Palay geçirdiği ani rahatsızlık sonucu 14 Nisan 2002 tarihinde vefat etmiştir.