Mardin, üst üste yığılmış farklı uygarlıkların izlerini taşır. Onu özetleyen hammaddeler taş ve kildir; kent, eski eserlerinin ve taş anıtlarının çokluğu bakımından başka hiçbir uygarlığın aynı biçimde sahip olmadığı bir şeye sahiptir. Mezopotamya boyunca kil yazının, yani öğrenmenin belirleyici ortamıydı.
Buradaki yerleşim çok eskidir. Kuzey Mezopotamya, Mardin’in Mousterien dönemden, yani yaklaşık MÖ 50.000’den beri iskân edildiğini kabul eder; tahıl yetiştirmeye dayalı bir ekonomi ortaya çıkınca bölge, kalıcı yerleşim görülen yöreler arasında önemli bir yer aldı. Mezopotamya’nın dağlık kenarındaki Jarmo Neolitik yerleşiminde üç bin yıllık geçiş evreleri hâlâ art arda izlenebilir; oradaki en eski çanak çömlek, evcilleştirilmiş hayvanlar ve işlenmiş topraklar, kesintisiz yerleşimin başlangıcını yaklaşık MÖ 6750’ye tarihler.
Ardından gelen yüzyıllar, Dicle’den Akdeniz’e uzanan şehir devletlerinin çağıydı. Habur Nehri üzerindeki bir alanda görülen Tell Halaf evresinde, yaklaşık MÖ 4500’de bakır işlenmeye başlandı; tahıl ve evcil hayvanlar daha fazla miktarda görülür; teknik ilerlemeler arasında tekerlekli taşıtlar, taş döşeli yollar ve tonoz ilkesine hâkimiyet vardır.
