Erzincan'ın kuruluş tarihi kesin olarak bilinmemektedir. Asur kaynaklarında geçen Zuhma (Suhma), yörenin bilinen en eski adıdır. Erzincan adının Eriza'dan geldiği sanılmaktadır. Eriza adı Selçuklular tarafından Erzingan olarak kullanılmış, daha sonra da Erzincan olarak anılmıştır. Erzincan adı bir söylenceye göre, eski çağlardaki "Azzi" bölgelerinden dolayı Aziriz olarak bilinmekteydi. Selçuklular, Aziriz adını çok beğenmiş ve buna "Rahmet yağarsa can Aziriz can" rahmet yağmazsa "Yan Aziriz yan" biçiminde bir tekerleme uydurulmuş, bu tekerlemedeki Aziriz sözcüğü zamanla değişerek, Erzincan biçimini almıştır. Erzincan da bu sözcükten türemiştir.