Cami iki minareliyken, günümüze sadece doğu minaresi ulaşabilmiştir. Minare, Artuklu döneminde 1176 inşa ettirilmiş, II. Abdülhamid döneminde 1889 yenilenmiştir.
Yapının Cumhuriyet sonrası döneme ait bilinen en kapsamlı onarımı Vakıflar Genel Müdürlüğünce yaptırılan 2010-2012 yılları restorasyonudur.
Mardin'in merkezinde yer almaktadır. Minaredeki 1176 tarihli kitabeye göre Artuklu Beyliği'nin kurucusu Artuk Bey'in oğullarından olan Diyarbekir Meliki II. Kutbettin İlgazi yaptırmıştır. Avluda bulunan kitabeye göre Artuklulardan Hüsameddin Yavlak Arslan tarafından 1186 yılında yaptırılmıştır. Cami , Timur'un 1393–1402 yılları arasında Ortadoğu ve Anadolu üzerine yaptığı seferlerde zarar görmüş, yıkılan minare Memluklu ve Akkoyunlular devrinde tamir görmüştü. Mardin Ulu Camii , Osmanlılarca 1764-65, 1870,1886, ve 1889 yıllarında tadilat görmüş. Cumhuriyet döneminde , 1967-68 ve 2010-12 yıllarında onarım görüştür.
