Eruh' un kuruluş tarihi kesin olarak bilinmemekle birlikte, m.ö.1000 yıllarından itibaren Urartu, daha sonra Med, Pers, Selçuk ve İslam imparatorlukları hakimiyetinde kalmış, yavuz sultan selim zamanında bölge ile birlikte Osmanlı topraklarına katılmıştır. 

Siirt ilinin en eski ilçelerinden biri olduğu hicri 1288,miladi 1872 tarihli Diyarbakır salnamesinde (yıllıkta) Siirt sancağına bağlı 4 kaza arasında eruh kazası da sayılmakta; Zilan, Dergül ve Pervari adlarında 3 nahiyenin bağlı olduğu, hicri 1315,miladi 1899 tarihli Bitlis salnamesinde ise; Eruh’un Siirt sancağına bağlı bir kaza olduğu dergül, lodi ve fındık adlarında 3 nahiyesinin bulunduğu kaydedilmekte olup, 

Her iki tarih arasında Pervari nahiyesinin Eruh’tan ayrılarak ayrı bir ilçe haline geldiği anlaşılmaktadır .Eruh ilçesi cumhuriyetin kuruluşu ile birlikte il olan Siirt iline bağlı ilçe statüsüne kavuşturulmuştur.