О Sivas до хеттов известно мало; при хеттах он был важным поселением. Киммерийские и скифские вторжения обрушились на него в VII веке до н. э.; мидийцы владели им в начале VI века, а персы — к середине того же века. Александр взял город во второй половине IV века до н. э., после чего он был присоединён к Каппадокийскому царству, а в 17 году н. э. вместе с Каппадокией перешёл к Риму.
При Риме это был город с крепостными стенами и важная митрополичья кафедра, а начиная с III века здесь быстро распространялось христианство. Местное предание приписывает значительную часть этого распространения святому из Sivas, Власию, благодаря приписываемым ему чудесам; мусульмане здесь считают его святым глаз, а его могила, как полагают, находится близ Gök Medrese, за стенами того времени.
