เป็นวัดที่หลวงปู่ขาว อนาลโย เมื่อครั้งเดินธุดงค์มาในเขตหนองบัวลำภูได้พบถ้ำแห่งหนึ่งบนเทือกเขาภูพาน ชาวบ้านเรียกกันว่า ถ้ำกลองเพล มีก้อนหินใหญ่ที่ถ้ำแห่งนี้มีสัณฐานเหมือนกับกลองเพล ท่านหลวงปู่ขาว อนาลโย ได้พักอยู่ที่ถ้ำกลองเพลเพื่อบำเพญสมถกรรมฐาน และได้พิจารณาดูว่าเป็นสถานที่เงียบสงบเหมาะแก่การบำเพ็ญเพียรภาวนา จึงได้ตกลงจำพรรษา ณ วัดถ้ำกลองเพลแห่งนี้มาตั้งแต่ ปี พ.ศ.2501 และจนถึงวาระสุุดท้ายเมื่อวันจันทร์ที่ 16 พฤษภาคม พ.ศ. 2526 สิริอายุได้ 95 ปี 5 เดือน วัดเริ่มก่อตั้งมาตั้งแต่ปี พ.ศ. 2470 ยังไม่เป็นวัดโดยสมบูรณ์ เป็นเพียงสำนักสงฆ์ ต่อมาใน ปี พ.ศ.2513 เมื่อหลวงปู่ขาว อนาลโย ได้มาอยู่ประจำวัดถ้ำแล้ว 12 ปีเศษ จึงได้รับพระราชทานวิสุงคามสีมา เป็นวัดโดยสมบูรณ์แบบ ม่ีเนื้อที่ตั้งวัดทั้งสิ้นประมาณ 1,100 ไร่ พระบาทสมเด็จพระเจ้าอยู่หัวเสด็จมา 10 ครั้ง ปัจจุบันหลวงปู่บุญเพ็ง เป็นเจ้าอาวาสดูแล