บริเวณที่ตั้งบ้านแพงในปัจจุบันนี้ นับว่าเป็นสถานที่เก่าแก่ กล่าวคือ แต่เดิมนั้นบริเวณที่ตั้งหมู่บ้านแพงนั้นคือ "เมืองพลแพง" ในสมัยที่ขอมเรืองอำนาจ หลักฐานที่ปรากฏ โนนสูงกลาง หมู่บ้านจะมีอิฐหักและถ้วยชามสมัยโบราณบริเวณแห่งนี้เรี เรียกว่า "สโมสรพญาศรีสุข" ซึ่งมีถนนลูกเชื่อมระหว่างเมืองพลแพงถึงเมืองสีแก้ว และเมืองเชียงเหียน มีกู่เก่าตั้งอยู่ในบริเวณวัดสำราญนิวาส บ้านแพง ต่อมาเมืองขอมเสื่อมอำนาจลง จึงกลายเป็นเมืองร้าง
บ้านแพงเป็นหมู่บ้านขนาดกลาง อยู่ห่างจากอำเภอประมาณ ๘ กิโลเมตรชาวบ้านประกอบอาชีพทำนาเป็นหลัก แต่เนื่องจากการทำนาไม่ได้ผลดีเท่าที่ควร ระยะเวลาที่ว่างจากการทำนาชาวบ้านบางส่วนจึงเดินทางไปประกอบอาชีพรับจ้าง ค้าขาย ที่กรุงเทพฯ
สถานที่สำคัญในหมู่บ้าน ได้แก่
๑. วัดสำราญนิวาส บ้านแพง เป็นสถานที่ชาวบ้านร่วมกันทำบุญและประกอบพิธีกรรมทางศาสนา มีศาลาการเปรียญ อุโบสถ ซึ่งชาวบ้านได้นำผ้าป่ามาก่อสร้างทุกปี ใช้เป็นสถานที่อุปสมบทของชาวตำบลดงสิงห์ วัดแห่งนี้ จะมีของเก่ามากมาย มีเกวียนประมาณ ๒๐ เล่ม และอื่นๆ อีกมากมาย
๒. ดอนปู่ตา เป็นดอนเก่าแก่ สันนิษฐานว่าเป็นสถานที่สำคัญสมัยขอมเรืองอำนาจ มีอิฐหัก วัตถุโบราณที่ขุดพบหลายชิ้น
๓. วัดเก่าบ้านแพง เดิมเป็นสถานที่าร้างวัดเก่า มีเนื้อที่ประมาณ ๔ ไร่ ตั้งอยู่กลางหมู่บ้าน เป้นสถานที่ทำงานขององค์การบริหารส่วนตำบลดงสิงห์ (เมื่อปี ๒๕๔๐)
๔. ดอนปู่ตาแห่งที่ ๒ เป็นดอนอยู่ทางทิศตะวันตกของหมู่บ้าน มีป่าไม้อุดมสมบูรณ์ มีเนื้อที่ประมาณ ๓๐ ไร่
๕. หนองอุ่ม เป็นหนองสาธารณะประจำหมู่บ้าน เป็นสถานที่เก็บกักน้ำให้สัตว์เลี้ยงดื่มกินตลอดปี
ชาวหมู่บ้านแพงเป็นผู้ที่รักษาและสืบทอดวัฒนธรรมประเพณีอันดีงามตามฉบับของชาวอีสานอย่างเคร่งครัดเสมอมา ประชากรในหมู่บ้านมีความเป็นอยู่ที่ดี สนใจข่าวเหตุการณ์บ้านเมือง มีความรักใคร่สามัคคี อยู่ร่วมกันด้วยความสงบสงบสุข