Eruh’un kuruluş tarihi kesin olarak bilinmemekle birlikte, Eruh M.Ö. 1000 yıllarından itibaren Urartu, daha sonra Med, Pers, Selçuk ve İslam İmparatorlukları hakimiyetinde kalmış olup, Yavuz Sultan Selim zamanında bölge ile birlikte Osmanlı topraklarına katılmıştır. Siirt İli’nin en eski ilçelerinden biri olduğu Hicri 1288, Miladi 1872 tarihli Diyarbekir Salnamesi’nde (yıllıkta) Siirt Sancağı’na bağlı 4 kaza arasında Eruh Kazasıda sayılmakta; Zilan, Dergül ve Pervari adlarında 3 nahiyenin bağlı olduğu, Hicri 1315, Miladi 1899 tarihli Bitlis Salnamesi’nde; Eruh’un Siirt Sancağı’na bağlı bir kaza olduğu Dergül, Lodi ve Fındık adlarında 3 nahiyesinin bulunduğu kaydedilmekte olup, her iki tarih arasında Pervari Nahiyesi’nin Eruh’tan ayrılarak ayrı bir ilçe haline geldiği anlaşılmaktadır.

Cumhuriyetin kuruluşu ile birlikte il olan Siirt İli’ne bağlı ilçe statüsüne kavuşturulmuştur.