Eski dönem insanları kralları öldüğü zaman mezara koyduklarında tüm mal varlığını da yanında mezara koyarlarmış. Geremez Dağ’ında da kırk tane mezar varmış, bir tanesi de kralın mezarıymış. Kralın mezarlığına da büyüklerin dediğine göre mezarın içerisine kralın tüm varlığı beraberinde defnedilirmiş. Günümüzde yapılan kazılarda bulunan değerli eşyalar efsanenin doğru olduğunu kanıtlıyor. Bunula birlikte Geremez Dağı’nın tepesinde
Rivayete göre Kelkit Vadisinde bir zamanlar kuraklık hüküm vermiş. Halk susuzluk yüzünden tarlalarını sulayamaz, hayvanlarını doyuramaz hale gelmiş. Bir gün yaşlı bir derviş bu topraklardan geçerken halkın çaresizliğini görmüş. İnsanlar dervişten bu sıkıntının çözümü için dua istemişler. Derviş dağın zirvesine çıkıp gözyaşları içinde dua etmiş. Allah’ım bu insanlara merhamet et onlara su ver diye yalvarmış.
Geremez Dağı’nın etrafında gezen bir adam varmış. Bir gün bu dağa çıkmak istemiş, dağa çıkmış ama dağ adamı içine almış. Üstünü de bir taş ile örtmüş. Daha sonra bu taşın etrafına gelen herkesi adam içine almış. Bu insanlardan bir daha haber alınamamış. Bu sebeple Geremez Dağı’nın yanına kimse yaklaşmazmış.