No se sabe con certeza cuándo se fundó Muş por primera vez ni de dónde viene su nombre, y hay muchas historias al respecto. Según una versión, el nombre lo dio una de las tribus hebreas que huyeron de los asirios y llegaron al distrito de Muş; el anuario provincial de Bitlis de 1914 sostuvo que procede de la palabra hebrea muşa, que significa bien regado, fértil y bueno para el pasto. Que la llanura de Muş haya sido verde y bien regada desde el pasado hasta el presente sugiere que la historia no carece del todo de fundamento.
Una segunda versión apunta a un pueblo más que a una palabra. Según esta lectura, el nombre procede de los mushki, que aparecen por primera vez en fuentes asirias tras las migraciones del Egeo del siglo XII a. C. y de quienes se informa que se asentaron en el alto valle del Tigris. Los mushki pusieron fin al dominio hatti en Anatolia central en la segunda mitad del segundo milenio a. C. y se expandieron hacia el este, y se dice que una rama de ellos llegó al distrito de Muş y puso los cimientos de la ciudad antes de seguir hacia territorio asirio.
