Di sepanjang jalur pendakian, terdapat sejumlah titik bersejarah. Bukit pertama menjadi lokasi Cai Kahuripan, tempat penyucian diri sebelum menuju puncak. Selanjutnya, pada bukit kedua, terdapat makam Kiayi Jaga Bejo Jaka Supena dan sedikit lebih ke atas lagi terdapat Batu Pangasahan Si Belang. Setelah melewati tanjakan terakhir, tibalah tim di lokasi utama, yaitu Batu Lingga Yoni Gunung Payung.
Batu lingga tersebut berdiri di atas gundukan tanah di sisi kanan puncak bukit. Batu ini memiliki tinggi sekitar 80 sentimeter dan lebar 20 sentimeter dengan ujung berbentuk setengah lingkaran. Pada bagian bawah terdapat ukiran melengkung di empat sisi, yang menunjukkan bahwa batu ini adalah hasil karya manusia, bukan batu alami.
Sayangnya, batu yoni atau alas batu lingga kini telah hilang. Menurut keterangan warga dan perangkat Desa, dulunya batu tersebut ada dan posisinya berada di tengah puncak, bukan di pojok seperti sekarang. Namun, tidak diketahui secara pasti alasan pemindahannya maupun keberadaan batu alas tersebut saat ini.
