Bor’a bağlı Kayı köyü ilçe merkezine 16 km uzaklıkta eski bir yerleşim yerine sahiplik etmektedir. Köyün içerisinde Selçuklu döneminden kaldığı söylenen bir mezarlık bulunmkatadır. Mezarlıkta ilgi çeken durum ise bir mezar taşında kayı boyunun damgası bulunmasıdır. Ayrıca bu mezarlığın bulunduğu yerde yazısız bir çok mezar taşı bulunmakta, arazinin üstünde çokca üzerlik otu bulunması buranın mezarlık olduğunu kanıtlmaktadır. Bu mezar köy içerisinde mistik hikayelere konu olmaktadır. Köyde yaşayanlardan biri define bulmak amacıyla mezarı gece açmak istemiş gaipten gelen 7 tane sakallı, yaşlı adamdan sabaha kadar dayak yemiş olduğu anlatılır. Ayrıca köyün merkezinde bulunan bir evde Arapça maşallah mevlüd 927 yazıyor. 927 tarihini miladi tarihe çevirdiğimizde 1520 tarihine denk gelmektedir. Bu kitabenin bulunduğu evin karşısındaki yapının duvarında ise duvara çark-ı felek işlenmiş taş bulunmaktadır.