Mardin İl Halk Kütüphanesi 1925 yılında kurulmuştur. Değişik zamanlarda değişik yerlerde faaliyet göstermiş 1941-1942 yıllarında Defterdarlık hizmet binasının zemin katında hizmet vermiştir. 1972 yılında Kütüphaneler ve Yayımlar Genel Müdürlüğünün yaptığı 3 katlı modern binaya taşınmıştır.