Kilis ha acogido a una larga serie de pueblos —babilonios, hititas, hurritas y mitanios, arameos, asirios, persas, macedonios, romanos, bizantinos, selyúcidas, mamelucos y otomanos— por la sencilla razón de que el país aquí es bueno para asentarse. La excavación de Oylum Höyük, a unos cinco kilómetros al sureste del centro de la ciudad, remonta la historia del distrito al Calcolítico Final, entre el 3500 y el 3000 a. C.

Los registros hititas sitúan el distrito bajo el reino de Alepo hacia el 1460 a. C. En siglos posteriores cayó dentro del territorio de Alejandro de Macedonia a medida que se afianzaba su expansión hacia el este y, tras su muerte en el 323 a. C., pasó aproximadamente 227 años bajo los seléucidas.

Roma anexionó Kilis y su distrito en el 64 a. C. y, bajo dominio romano, el lugar se llamó Ciliza sive Urmagiganti. Cuando el imperio se dividió en 395, permaneció en el lado oriental y fue adscrita, junto con Alepo, al tema bizantino de Siria.