Kale ve surlar, Kayseri’ye Türk fethi öncesinde bir “kale şehir” görünümü vermiştir. Batı ve kuzey duvarları M.S. 242 yılında, Roma İmparatoru III. Gordianus tarafından yapılan Kayseri dış kale surlarına ait olan İç Kale, M.S. 4. yüzyılın başında Bizans İmparatoru Justiniaus tarafından dış surların daraltılması esnasında, güney ve batı duvarlarının ilave edilmesiyle oluşturulmuştur. Yamuk bir dikdörtgen biçimindeki İç Kale, Selçuklular, Karamanoğulları, Dulkadiroğulları ve Osmanlılar tarafından onarım görmüş ve bugünkü görüntüsünü bu onarımlar ve ilavelerle almıştır. Günümüzde müstakil bir yapı durumunda olan İç Kale, Selçuklu döneminden 1916 yılına kadar yerleşim yeri olarak kullanılmıştır. Sonradan kale içine yapılan çarşının kaldırılması ve Arkeoloji Müzesi’nin buraya taşınması planlanmıştır. 18 burca sahip olan kalede ayrıca, Fatih Sultan Mehmet zamanında yaptırılan “Fatih Camisi” yer almaktadır. 13. 15. ve 16. yüzyıllara tarihlenen onarım kitabeleri bulunan yapının doğuda “Dizdar (Fatih) Kapısı ” ve güneyde “Altın (Arslanlı) Kapısı” olmak üzere iki kapısı bulunmaktadır.
İç Kale yamuk bir dikdörtgen biçiminde olup, Dış Kale’nin kuzey surlarına bitişiktir. Kale surlarında Selçuklu yapılarından alınmış devşirme parçalar dikkat çekmektedir.