พิพิธภัณฑ์อัยการไทย ก่อตั้งขึ้นอย่างเป็นทางการเมื่อวันที่ 1 เมษายน พ.ศ.2536 ซึ่งตรงกับงานวันครบรอบ 100 ปี แห่งการสถาปนาสถาบันอัยการไทย โดยมีวัตถุประสงค์เพื่อให้เป็นสถานที่จัดเก็บและรวบรวมสิ่งของมีค่าจากสำนักอัยการทั่วประเทศตั้งแต่สมัยโบราณไม่ว่าจะเป็นหนังสือ เอกสาร วัสดุ ครุภัณฑ์ โดยแนวคิดในการออกแบบห้องพิพิธภัณฑ์นั้นเน้นแสดงถึงความเป็นไทยทั้งการตกแต่งที่ใช้ลายไทย วัสดุอุปกรณ์ที่ใช้จัดเก็บ นอกจากนี้ยังมีบรรยากาศแห่งความเงียบสงบสื่อความรู้สึกได้ถึงความเป็นสถานที่ศักดิ์สิทธิ์และเกิดความเคารพต่อสถานที่ ภายในห้องพิพิธภัณฑ์ ประกอบด้วย 3 ส่วนคือ

1.ส่วนพิพิธภัณฑ์ เป็นที่ประดิษฐานพระบรมรูปพระบาทสมเด็จพระพุทธยอดฟ้าจุฬาโลกมหาราช (จำลองพระพักตร์มาจากปราสาทพระเทพบิดร) ซึ่งพระองค์ได้รับยกย่องให้เป็น พระบิดาแห่งอัยการไทย เนื่องจากทรงเคยดำรงตำแหน่งยกกระบัตร (ตำแหน่งอัยการในอดีต) เมืองราชบุรีก่อนได้รับการสถาปนาเป็นปฐมกษัตริย์แห่งราชวงศ์จักรี ภายในส่วนพิพิธภัณฑ์ยังมีมุมนิทรรศการจำลองโต๊ะทำงานของอัยการสมัยโบราณ, โต๊ะทำงานเสมียน มีลักษณะเป็นรูปถั่ว, โต๊ะพิมพ์ดีดที่ออกแบบสำหรับการพิมพ์สำนวนคดีโดยเฉพาะ, สมุดบาญชีรับ –ส่งหนังสือและสมุดสารบบคดี 2460 รวมทั้งครุภัณฑ์และข้าวของเครื่องใช้เก่าแก่อีกมากมาย นอกจากนี้ยังมีตู้จัดแสดงครุย 3 สมัยด้วยกันตั้งแต่เสื้อเนติบัณฑิตรุ่นแรกปี พ.ศ.2440 จนถึงสมัยที่ 3 รัชกาลที่ 8 ทรงประกาศใช้ พ.ร.บ. เสื้อครุยเนติบัณฑิตปี 2479 ซึ่งใช้มาจนถึงปัจจุบัน ในส่วนพิพิธภัณฑ์ยังรวมถึงห้องบรรพอัยการและห้องพระโบราณไว้ด้วย

2.ส่วนห้องสมุดกฎหมายโบราณ ได้รวบรวมและจัดเก็บหนังสือกฎหมายหายากจำนวนกว่า 25,000 เล่ม แยกไว้เป็นตู้ ได้แก่ ตู้รวมพระนิพนธ์ของพระบิดากฎหมายไทย (พระองค์เจ้ารพีพัฒนศักดิ์), ตู้แสดงวิวัฒนาการการพิมพ์กฎหมายตรา 3 ดวง, ตู้หนังสือราชกิจจานุเบกษาเล่ม 1- 25 ซึ่งถือเป็นสิ่งพิมพ์ประเภทสารวารเล่มแรกของรัฐบาลไทย, ตู้รวมหนังสือกฎหมายไทย อายุกว่า 114 ปี ของขุนหลวงพระยาไกรสี อธิบดีอัยการคนแรก เป็นต้น นอกจากนี้ยังมีหนังสือกฎหมายเก่าซึ่งได้รวบรวมไว้เฉพาะที่นี่ เช่น หนังสือสมุดคู่มือหมอกฎหมาย ฯลฯ

3.ส่วนเอกสารจดหมายเหตุอัยการ ซึ่งรวบรวมไว้กว่า 25,000 แผ่น ตั้งแต่สมัยกรมอัยการขึ้นอยู่กับกระทรวงยุติธรรมจนกระทั่งย้ายมาสังกัดกระทรวงมหาดไทย เช่น เอกสารแผ่นเดียวในประเทศไทยที่แสดงให้เห็นถึงการเรียกตำแหน่งอัยการว่ายกกระบัตรในสมัยก่อน, เอกสารสัญญาค้าทาส พ.ศ.2426, เอกสารโบราณประกอบด้วยกฎหมายตรา 3 ดวงในรูปเล่มดั้งเดิมที่เรียกว่าหนังสือสมุดไทดำ ฉบับรองทรงพ.ศ.2350 ซึ่งถือเป็นต้นแบบของประมวลกฎหมายอาญาที่ใช้ในปัจจุบัน, คัมภีร์ใบลาน เป็นต้น นอกจากนี้ยังมีสำนวนคดีโบราณที่สำคัญอีกหลายคดี เช่น คดีแชร์แม่ชม้อย, คดี 6 ตุลา ฯลฯ

ห้องพิพิธภัณฑ์อัยการไทย ยังมีบริการสืบค้นข้อมูลด้วยระบบคอมพิวเตอร์ จัดทำในรูปแบบ Electronic Book (e-book) เล่มแรกคือ หนังสือกฎหมายเมืองไทยฉบับหมอบรัดเล และระบบ Electronic Cases สำหรับคดีความต่างๆอีกด้วย นอกจากนี้บริเวณชั้น 11 ยังมีห้องสมุดสำนักอัยการสูงสุดเปิดให้บริการสำหรับผู้ที่ต้องการค้นคว้าหาหนังสือหรือเอกสารเกี่ยวกับกฎหมาย โดยใช้ทั้งการสืบค้นข้อมูลระบบ E-Library และค้นหาจากหมวดหมู่ที่ทำไว้ในรูปเล่ม