หลวงปู่หินเป็นพระพุทธรูปเก่าแก่คู่บ้านคู่เมืองมานานแล้ว เดิมประดิษฐานอยู่ที่กู่โนนบ้านเก่า ไม่มีบ้านเรือน การค้นพบได้เริ่มต้นเมื่อมีราษฎรอพยพมาจากจังหวัดอุบลราชธานี โดยมีหัวหน้ากลุ่มชื่อหมื่นจำเริญ แข็งฤทธิ์ หมื่นมัย แสงจันทร์ พร้อมด้วยนายศรีหามาตร บุตรวงศ์ นายศรีนงคราญ แสงจันทร์ ได้มาตั้งรกรากบ้านเรือนอยู่ที่โนนป่า ต่อมาช้างใหญ่ (ช้างป่าเป็นโขลง) บุกเข้าทำลายบ้านเรือนราษฎรกลัวตายหนีมาตั้งหลักที่บ้านผือ ซึ่งบ้านผือมีราษฎรอยู่ก่อนแล้วแต่มีจำนวนไม่มาก อยู่มาระยะหนึ่งชาวบ้านผือ จึงพากันออกไปดูบ้านเรือน ปรากฏว่าบ้านเรือนไม่มีอะไรเสียหาย ยังอยู่ในสภาพปกติดี แต่กลับพบพระพุทธรูปโผล่ขึ้นมาจากพื้นดิน จำนวน ๓ องค์ องค์ประธานมีหน้าตักกว้างประมาณ ๑๐๐ เซนติเมตร สูง ๑๕๐ เซนติเมตร ส่วนอีก ๒ องค์เข้าใจว่าน่าจะเป็นพระโมคคัลลานะ และพระสารีบุตร พระอัครสาวกเบื้องซ้าย-ขวาขององค์พระ เมื่อเห็นดังนั้นชาวบ้านจึงพากันเก็บข้าวของรื้อบ้านเรือนออกจากบริเวณนั้น พอตกกลางคืนขุนภักดี ฝันว่าให้ชาวบ้านไปรักษาหลวงปู่หินจึงจะอยู่เย็นเป็นสุข ขุนภักดี จึงได้แต่งตั้งให้ชาวบ้านไปรักษาประจำอยู่ที่บริเวณหลวงปู่หิน ประดิษฐานอยู่ จึงอยู่เย็นเป็นสุข

ครั้นต่อมาเกิดสงครามกรณีเขาพระวิหารกับเขมร เพราะมีโจรเขมร ออกลักโขมยหาของดีหวังจะสู้ศึกสงครามกับไทยถ้าชาวบ้านใด มีของโบราณรักษาอยู่ เกรงว่าจะรักษาไว้ไม่ได้ให้แจ้งอำเภอๆ จะไปเอามาเก็บรักษาให้ ชาวบ้านผือเกรงกลัวว่าจะรักษาหลวงปู่หินไว้ไม่ได้ ประกอบกับกลัวอาญาแผ่นดินจึงได้แจ้งไปยังอำเภอเชียงยืน ให้ทราบเพื่อนำไปเก็บรักษา ดังนั้นหลวงปู่หินถูกเคลื่อนย้ายไปที่อำเภอแต่ก็อยู่ได้ไม่นานเพราะเกิดเหตุเพทภัย กล่าวคือราษฎรเดือนร้อนอย่างหนัก ฝนก็ไม่ตกเกิดภาวะฝนแล้งอย่างรุนแรงอยู่ ๗ ปี ผู้ใหญ่บ้านในขณะนั้นชื่อ นายบุญทัน ศรีแพงเลิศ โดยความเห็นชอบของราษฎร จึงได้ขอเข้าพบนายอำเภอเชียงยืน เพื่ออันเชิญกลับมาที่บ้านตามเดิม นี่เป็นเหตุการณ์เมื่อ ๔๐ ปีมาแล้ว

จากคำบอกเล่า หลวงปู่หินไม่ใช่ธรรมดา นักดูของโบราณกล่าวกันเป็นเสียงเดียวกันว่า มีอายุไม่กว่า ๑,๐๐๐ ปี องค์พระเป็นเนื้อหินศิลาแลง ยุคของคนแปดศอก จนได้รับการบรรจุไว้เป็นส่วนหนึ่งของคำขวัญอำเภอชื่นชม ดังมีว่า “ชื่นชมถิ่นคนดี กะหล่ำปลีเงินล้าน ลำธารห้วยสายบาตร ธรรมชาติป่าโคกข่าว กราบเจ้าหลวงปู่หิน”