หลังสวนได้ตั้งเป็นมณฑลชุมพร เมื่อ พ.ศ.2439 (ภายหลังเปลี่ยนชื่อเป็นมณฑลสุราษฎร์ธานี) มีเมือง 4 เมือง คือไชยา หลังสวน และกาญจนดิษฐ์ โดยตั้งที่บัญชาการมณฑล ณ เมืองชุมพร ต่อมาย้ายมาตั้งที่เมืองสุราษฎร์ธานี
หลังสวน มีฐานะเป็นเมืองจัตวา มีอำเภออยู่ในปกครองคืออำภอหลังสวน อำเภอสวี อำเภอพะโต๊ะ และอำเภอประสงค์ ต่อมา พ.ศ.2449 โอนอำเภอประสงค์ไปขึ้นกับเมืองไชยา ปัจจุบันอำเภอประสงค์คืออำเภอท่าชนะ เป็นอำเภอหนึ่งของสุราษฎร์ธานี ต่อมา พ.ศ.2475 ทางการยุบเมืองหลังสวนเป็นอำเภอหลังสวน ชื่อว่าอำเภอขันเงินขึ้นกับจังหวัดชุมพร ต่อมา พ.ศ.2481 อำเภอขันเงินเปลี่ยนชื่อเป็นอำเภอหลังสวนตามเดิม
คำว่า หลังสวน บ้างว่ามาจากคลังสวนหรือรังสวน หมายถึงพื้นที่อุดมสมบูรณ์ด้วยสวนผลไม้เสมือนคลัง หรือรังของพืชผลอันพร้อมพรั่ง ผู้ผ่านไปมาบนเส้นทางหลังสวน - ชุมพร จะเห็นผลไม้วางขายทั้งสองฟากถนน ไม่ว่าจะเป็นเงาะ ทุเรียน ลางสาด ระกำ สละ มังคุด จำปาดะ และกล้วยเล็บมือนางสุกเหลืองน่ารับประทาน
พจนานุกรมภาษามลายู-ภาษาไทย ของอาซิสบิน มูฮัมมัด อีซา อธิบายคำว่า หลังสวน ซึ่งเป็นคำมลายูว่า ลังซวง (Langsuang) หมายถึง ความมั่นคงถาวร, การกระทำที่ต่อเนื่องกัน และอีกคำหนึ่งคือ เบอร์ลังซวง (Berlangsuang) หมายถึง การชุมชน, การอยู่ร่วมกัน, สงคราม ซึ่งมีความหมายตรงกับคำว่าชุมพรในแง่เกี่ยวกับชุมนุมพลเพื่อทำสงครามดังกล่าวข้างต้น
เลยฝั่งทะเลหลังสวนออกไป มีเกาะแห่งหนึ่งเรียกเป็นทางการว่า “เกาะพิทักษ์” เดิมชาวบ้านเรียก “เกาะผีทัก” เล่ากันว่าชาวบ้านผู้หนึ่งล่องเรือหาปลาผ่านมายังเกาะนี้ และมองเห็นชาวเกาะกวักมือเรียก แต่เมื่อเขานำเรือเข้าไปใกล้เกาะ กลับไม่เห็นผู้คนและบ้านเรือน เลยเข้าใจว่าคงถูกผีหลอก ชาวบ้านจึงเรียกเกาะแห่งนี้ว่าเกาะผีทักหรือผีทักทาย แต่ทางการเปลี่ยนชื่อใหม่ว่า เกาะพิทักษ์ ปัจจุบัน เป็นชุมชนประมาณ 40 – 50 กว่าครัวเรือน
อำเภอหลังสวน ที่ตำบลบ้านควน มีหมู่บ้าน “เขาวอ” เล่ากันว่าเจ้าเมืององค์หนึ่งไม่ทราบพระนามชัดเจน วันหนึ่งพระองค์ประทับบนวอ (วอคือยานมีหลังคาเป็นรูปเรือนใช้คนหาม) เสด็จตามด้วยข้าทาสบริวาร ซึ่งขนทองคำจำนวนมากไปด้วย โดยใช้วอทั้งหมดถึงสามหลัง ขณะเดินทางเกิดอาเพศยอดวอ หรือหลังคาหักสะบั้น เจ้าเมืองรับสั่งให้ทหารนำวอและทองคำไปฝังไว้ในถ้ำ เล่ากันว่าเมื่อทุกคนเข้าไปในถ้ำบางคนเสียชีวิตด้วยโรคหิวโหย และที่น่าอัศจรรย์คือก้อนหินหล่นมาปิดปากถ้ำ ผู้คนและทองคำติดอยู่ในถ้ำ สถานที่นั้นจึงได้ชื่อว่า “เขาวอ” มาจนทุกวันนี้
ที่มาข้อมูล: ชื่อบ้านนามเมืองภาคใต้ (2) ชุมพร รองศาสตราจารย์ประพนธ์ เรืองณรงค์