İ.Ö. 550’lerde Persler sonra da Makedonyalılar’ca işgal edilen yöre İ.Ö. 306’da Selokid Krallığı sınırları içinde kaldı. İ.Ö. 129’da Partlar’ın eline geçen Pervari İ.S. 77’de Roma İmparatorluğuna katıldı. IV ve V. Yy.’larda Bizanslarla Sasanlılar arasında el değiştiren yöre 700’lerde Arap Etkinliği’ne girdi. 1243’te Moğollarca işgal edildi. 1514’te Osmanlı topraklarına katıldı.
Pervari Osmanlı İmparatorluğu zamanında, Tanzimat’tan sonra 1852 yılında Siirt Sancağının Eruh Kazası’na bağlı bir nahiye olarak mülki taksimatta yer almıştır. Cumhuriyetten önce ilçe olduğu bilinmekte ise de, ilçe oluş tarihi kesinlikle saptanamamıştır.