กำแพงเมืองกาแป๊ะกอตอ ตามหลักฐานและตำนานที่เล่าขานสืบต่อกันมา ในสมัยประวัตินั้นเมือมีการแยกมณฑล ปัตตานีออกเป็น ๗ เมือง ในราว พ.ศ. ๒๓๕๗ อำเภอเบตงจึงขึ้นกับเมืองรามัน ทีเจ้าเมืองรามันบางองค์ได้มาสร้างวังอยู่ที่เบตง คือที่ชุมชนบ้านกาแป๊ะกอตอแห่งนี้ เพียงตำนานเล่าขานกันว่า เป็นวังของรายอเชียง (ราชาเขี้ยวงอก) เป็นราชาอธรรมข่มเหงรังแกชาวบ้าน ชาวบ้านจึงได้รวมตัวกันขับไล่ไปอยู่ทางตอนใต้ (ในประเทศมาเลเซียปัจจุบัน) ดังนั้น ชุมชนเมืองเก่าจึงหลักฐานทางประวัติศาสตร์ที่สำคัญ เป็นกำแพงเมืองที่ปรากฏ ร่องรอยให้เห็นอยู่ในหมู่บ้าน กำแพงเมืองบ้านกาแป๊ะกอตอ เป็นกำแพงดินฐานกว้างประมาณ ๓ เมตร สูง ๒ เมตร คลุมพื้นที่ประมาณ ๒๐ ไร่ เป็นรูปสี่เหลี่ยมคางหมู สภาพปัจจุบันกำแพงดินถูกขุดทำลายหายเป็นช่วงๆ บางตอนถูกรื้อปลูกบ้านเรือนบางตอนอยู่ในสวนยางพารา นายมะดี ให้ข้อมูลว่าคนที่มีอายุมากกว่า ๙๐ ปี เล่าให้ฟังว่าแต่ก่อนกำแพงนี้สูงมากคนยืนไม่สามารถจะมองข้ามกำแพงไปได้ นอกจากนี้ มีบ่อน้ำศักดิ์สิทธิ์ที่น้ำไม่เคยเหือดแห้ง และลานประหาร ปีงบประมาณ ๒๕๔๙ สำนักงานคณะกรรมการวัฒนธรรมแห่งชาติ กระทรวงวัฒนธรรมได้จัดตั้งให้บ้านกาแป๊ะกอตอในเป็นหมู่บ้านภูมิทัศน์วัฒนธรรม โดยได้ดำเนินการปรับภูมิทัศน์ จัดทำป้ายชื่อและประวัติความเป็นมาของกำแพงเมือง บ่อน้ำศักดิ์สิทธิ์ และลานประหาร