M.S. 330 yılında ateşe ibadet edip güneşe tapan Şad Buhari adındaki bir kral buraya gelerek Mardin Kalesi’nde kalmıştır. Hastalıklarla boğuşan kral burada kaldığı süreç içerisinde iyileşme gösterince, buraya bir kasır yaptırarak yıl boyunca burada yaşamıştır. Sonrasıda memleketi Pers ve Babil’den pek çok asker ve sivil getirterek Mardin’e yerleştirmiştir. Halkın gelmesiyle birlikte M.S. 442 yılına dek çok fazla ilerlemelerin kaydedildiği görülmüştür. Bu yıldan itibaren sonra veba salgını olmasıyla birlikte hiç kimse sağ kalmamıştır, böylelikle kale boş kalmıştır.

M.S. 975-976’da Hamdaniler’den Hamdan Bin El Hasan Nasır El Devle Bin Abdullah Bin Ham kaleye eklemeler yaparak daha korunaklı bir hale getirmiştir. Ovadan bin metre yükseklikte yer alıyor olup, bir bölümü de sarp kayaların üzerindedir. Eğimin fazla olduğu yerlerde insanların rahatlıkla inip çıkma ihtimaline karşı surlar inşa edilmiştir. Güney kısmında bir gözetleme kulesi halen ayaktadır.

Evliya Çelebi’nin anlatmasında kale ambarlarının fazlaca erzak ve cephane ile dolu olduğundan bahsetmiştir. 19. yüzyılın yarısına kadar var olan surların günümüzde yalnızca bazı noktalarında temellerine rastlanmaktadır. Tarihte pek çok kez kuşatılan Mardin Kalesi, komutan Timur’u dahi delirten bir direnişi göstermiştir.

Sağlamlığını koruduğu zamanlarda altı tane kapısı bulunuyor olup bunlar; batıda Diyarbakır Kapı, doğuda Savur Kapısı, Kuzeyde Bab-ı Şavt, güneybatıda Bab-ı Zeytun, güneyde Bab-ı Cedid (Yeni kapı), kuzeybatısında ise Bab-ı Hamara’dır. Bu kapıların sağlam yapıda olmasını yüz yıllar boyu her kuşatmada alınamaması ile ispatlanmıştır. Pek çok şaire ilham olan Mardin Kalesi, şehrin en güzel manzarasına sahiptir. Bir rehber eşliğinde gezinizi yapmanızı tavsiye ederim.