Şebinkarahisar Kalesi İlçenin güney ve güneydoğu yönünde Hacıkayası diye isimlendirilen bazalt bir tepe üzerinde yükselir. Karahisar kalesi, iç ve dış kale olmak üzere iki kısımdan oluşmaktadır.
Kale üzerine oturduğu toprak zeminden 200 - 450 metre yüksekliktedir. Kalenin batı yönü nispeten çıkışa elverişli, diğer yönleri ise uçurumdur. Dış kale ve iç kalenin batı ve güney bölümünde 21. yy. başlarına kadar yetmiş kadar ev mevcuttu.
1915 Ermeni isyanı ve ondan sonraki zamanlarda evler ve cami tamamıyla tahrip edilmiştir. 1920’lerden sonra define arayıcıları nedeniyle temellerde ortadan kaldırılmıştır. Kule denilen iç kale yüksek duvarlardan ve surlardan oluşmuştur. Burada üç katlı bir saray ve kaya içerisine oyulmuş bir zindan mevcuttur...
Dış kaleye giriş tek yol iki kapı ile, iç kaleye giriş tek kapı ile sağlanmıştır. Dış kalenin hemen her yönünde sarnıçlar yer almıştır. Yapılan incelemeler ve mimari tarzından anlaşıldığı üzere kale Romalılar tarafından yaptırılmıştır. Elde edilen bilgilere göre kale Bizans ile Araplar ve Selçuklular arasındaki savaşlarda daha sonra Anadolu Beyliklerinin kendi aralarındaki savaşlarda yöre halkına sığınak görevi üstlenmiştir.
Dış Kale
Dış Kale'nin giriş kapısına bugün hâlâ özelliğini koruyan kayaya oyma merdivenlerle ulaşılır. Giriş kapısı yarı daire planlı iki kule arasına yerleştirilmiştir. Dış Kale'de dikkat çeken önemli yapılardan birisi kuzeybatı uçta yer alan oval planlı burçtur (kızlar kalesi). Dış kalenin güney ve doğuya bakan kısımlarında kuleler oldukça haraptır. Dış Kale'de değişik büyüklüklerdeki kayaya oyma su sarnıçları ve yapı kalıntıları mevcuttur. En büyük su sarnıcı kırk badal ismiyle anılan su sarnıcıdır.
İç Kale
İç Kale XI. yüzyıl Türk mimarisinin özelliklerini taşıyan sekizgen bir kule ve onu çevreleyen dikdörtgen bir avludan oluşmaktadır. Dış avludan 15 - 20 metre içerideki kayalık zemine kurulu olan iç kaleye kulelerden desteklenen bir kapıyla girilir. İç Kale'nin kuzeybatı köşesinde sekizgen planlı dört katlı bir kule bulunmaktadır. Bu burca basık kemerli ( 1,54 – 1,90 metre ) kapıyla girilir. Kırk iki basamaklı bir merdivenle yukarıdaki mazgal siperlerine ulaşılır. 27 m yükseklikteki kulenin, kapının açıldığı yüzey hariç tutulursa, her yüzünde yedi pencere bulunur. Kulenin 2,70 m güneyinde 6,20 x 4,20 metre ebadında, 8 metre derinlikte alttan kayaya oyulmuş, üzeri moloz taş ve horasan harcı ile örülmüş bir sarnıç bulunmaktadır. İç Kale surları büyük kule dışında yarı daire planlı dört küçük kuleyle takviye edilmiştir. Şebinkarahisar Kalesi'nin kimler tarafından ne zaman yapıldığı belli değildir. Tarihsel kaynaklarda Pers (M.Ö. 550 – 331), Pontus (M.Ö. 293 – 65) ve Roma (M.Ö. 65 – M.S. 226) hakimiyetinde olan kalenin ilk onarımı, Roma komutanı Pompeyüs tarafından yapılmıştır. M.S. 226–591 tarihleri arasından Sasani hakimiyetinde kalan Şebinkarahisar Kalesi, M.S. 591'de Bizans hakimiyetine geçmiştir. Bizans kralı Justinianus tarafından bu dönemde (M.S. 591) onarılan kaleye, M.S. 645'ten itibaren Müslüman Arap akınları düzenlenmeye başlamıştır. M.S. 778'de Emevi kumandanı Yezid Usayd Al Sulami tarafından ele geçirilen kaledeki Müslüman hakimiyet Abbasiler döneminde gerçekleşmiştir. M.S. 1074'te Anadolu'daki ilk Türk beylikleri olan Danişmendliler ve Mengücek beyliklerinin ortak fethiyle Türk hakimiyetine giren kaleye önemli ilaveler ve onarım, bu dönemde yapılmıştır. Mengücek beyi Fahrettin Behramşah, oğlu Muzafferüddin Mehmet'e yıkık olan surların onarımı, bir cami ve saray yapılması talimatını vermiştir.
Muzafferüddin Mehmet tarafından günümüzdeki görüntüsüne kavuşturulan kale, M.S. 1128'de Anadolu Selçuklu Devleti'nin, daha sonra sırasıyla İlhanlılar, Eretna Devleti, Kadı Burhanettin Devleti, Karakoyunlular ve Akkoyunlular'ın hakimiyetine geçmiştir. 1473'te Fatih Sultan Mehmet ile Akkoyunlu hükümdarı Uzun Hasan arasında geçen Otlukbeli savaşı sonrasında Osmanlı İmparatorluğu hakimiyetine geçen kale, 1647'de Evliya Çelebi tarafından şöyle tanımlanmaktadır: “Kale göğe uzanmış bir dağın tepesinde yedi köşe bir kaledir. İlk bakışta direksiz ve serensiz kalyın gemi gibi görünür. Duvar kalınlığı 70 ziradır (75 – 90 cm). 70 burç, 100 bedendir, çevresi 3600 adımdır. Hendeği yoktur. Üç kat demir kapıları vardır. Gece gündüz bekçilerce korunan kale içinde 70 ev vardır. Kale içinde bir fatih camii de vardır. Diğer hayır kurumları ve camileri kasabadadır. (1600 hane, 3 tekke, 4 han, 7 ilk mektep, 750 dükkân)” 1915 Ermeni isyanı, 1939 Erzincan depremi ve diğer tabii olayların etkisiyle tahribata uğrayan kale en son 2003 tarihinde onarım görmüştür.