หากจะกล่าวถึงพระภรรยาเจ้าในรัชกาลที่ ๕ ผู้มากด้วยฐานะและเกียรติยศ หนึ่งในนั้นจะต้องชื่อของ เจ้าคุณพระประยุรวงศ์ (แพ บุนนาค) ติดอยู่ในใจของใครหลายๆคน จากสตรีสูงศักดิ์ผู้เป็นหลานของอดีตผู้สำเร็จราชการแผ่นดิน ท่านมีเรื่องราวของความรักที่มอบให้แก่พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัวอย่างมิเคยเสื่อมคลาย เจ้าคุณพระประยูรวงศ์นั้นยังเป็นพระสนมเอกในพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัวทรงไว้วางพระทัยเป็นอย่างมากตลอดช่วงชีวิตของพระองค์ และท่านก็ยังทำหน้าที่เป็นผู้เบิกพระโอษฐ์พระราชโอรสและพระราชธิดาในรัชกาลที่ ๕ หลายพระองค์ด้วย

เมื่อพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว ทรงสร้างพระราชวังดุสิตเป็นที่ประทับ ทรงปรารภถึงกาลภายหน้าว่าเมื่อพระองค์เสด็จสวรรคตแล้ว เจ้าจอมที่มีพระเจ้าลูกเธอพระองค์ชาย ก็คงออกไปอยู่วังกับพระโอรส เจ้าจอมที่ไม่มีพระเจ้าลูกเธอ ก็เป็นอิสระแก่ตัว อยู่ไหนอยู่ได้ตามชอบใจ แต่เจ้าจอมที่มีแต่พระเจ้าลูกเธอแต่พระองค์หญิงคงจะตกยาก เพราะไม่มีวังพระโอรสอยู่ และไม่มีอิสระที่จะอยู่ไหนอยู่ได้เหมือนเจ้าจอมอยู่งาน จะต้องจำใจอยู่แต่ในพระราชวัง จึงให้ซื้อที่ดินตามริมคลองสามเสนทางฝั่งใต้ อันต่อกับริมบริเวณสวนดุสิต ปันเป็นที่บ้านพระราชทานเป็นสิทธิ์แก่บรรดาเจ้าจอมมารดาที่มีแต่พระราชธิดาคนละบ้าน เพื่อจะได้เป็นที่อยู่ในภายหน้า เจ้าคุณพระประยูรวงศ์ได้พระราชทานก่อนคนอื่น ท่านทูลขอสร้างเรือนและย้ายออกไปอยู่ที่สวนนอก ตั้งแต่ในรัชกาลที่ ๕ ก็ทรงพระราชทานกรุณาโปรดพระราชทานอนุญาตตามประสงค์

ท่านจึงออกจากพระบรมมหาราชวัง ย้ายไปอยู่บ้านที่บ้านสวนนอก เวลานั้นอายุท่านได้ ๕๐ ปีเมื่อวันทำบุญขึ้นเรือน พระบาทสมเด็จพระเจ้าอยู่หัวเสด็จไปพระราชทานน้ำสังข์มงคล แล้วดำรัสสั่งให้สถาปนาท่านเป็น ‘เจ้าคุณจอมมารดา’ แต่นั้นมา นอกจากนั้นพระราชทานพระบรมราชานุญาตให้ท่านไปเที่ยวเตร่ไหนๆได้ตามอำเภอใจ และดำรัสสั่งกรมทหารเรือ ซึ่งเป็นพนักงานรักษาเรือพาหนะของหลวงอยู่ด้วยในสมัยนั้น ว่าถ้าเจ้าคุณฯจะไปไหน ก็ให้จัดพาหนะของหลวงให้ใช้ทุกเมื่อ ท่านก็อยู่ที่สวนนอกเป็นสุขสืบมา จนตลอดรัชกาลที่ ๕

ต่อมาถึง พ.ศ. ๒๔๖๔ พระบาทสมเด็จพระมงกุฎเกล้าเจ้าอยู่หัว ทรงพระกรุณาโปรดให้เลื่อนเกียรติยศท่าน ขึ้นเป็นเจ้าคุณชั้นพิเศษจาก ‘เจ้าคุณจอมมารดาแพ’ ขึ้นเป็น ‘เจ้าคุณพระประยูรวงศ์’

ในตอนนี้ท่านได้เพิ่มการเที่ยวเข้าในกิจวัตรที่ท่านชอบอีกอย่างหนึ่งนอกจากการร้อยดอกไม้กับเล่นละคร ที่จริงสมเด็จพระพุทธเจ้าหลวงก็ได้พระราชทานอนุญาตไว้ตั้งแต่แรกท่านออกไปอยู่สวนนอกว่าจะไปเที่ยวเตร่ที่ไหนก็ได้ และให้ใช้รถหลวงและเรือหลวงได้ด้วย แต่ในชั้นนั้นท่านเป็นแต่ชอบลงเรือพายไปเที่ยวตามเรือกสวนในจังหวัดกรุงเทพฯ เมื่อตอนท่านพ้นจากเป็นนางใน และอายุล่วง ๖๐ ปีแล้วก็มีมูลเหตุเกิดขึ้น ด้วยตัวท่านป่วยอาการมากครั้งหนึ่ง หมอแก้ไขพอคลายแล้วแนะให้ไปเที่ยวทางทะเลหาอากาศบริสุทธิ์บำรุงตัว พระบาทสมเด็จพระมงกุฎเล้าเจ้าอยู่หัว ทรงพระกรุณาโปรดให้เรือหลวงรับท่านไปเที่ยวทางชายทะเลตะวันออกถึงเมืองจันทบุรี ท่านไปหายป่วยมีกำลังเป็นปกติอย่างเดิม กลับมาแต่นั้นท่านก็เลื่อมใสในการแปรสถาน เที่ยวหาอากาศบริสุทธิ์รักษาตัว

ชั้นแรกมักชอบไปสำนักที่เมืองสมุทรปราการ หรือมิฉะนั้นก็ที่วัดเสาธงทองเหนือปากเกล็ดแขวงจังหวัดนนทบุรี พบประจวบสมัยเมื่อพวกผู้ดีชาวกรุงเทพฯพากันไปสร้างที่สำนักสำหรับแปรสถานที่หัวหิน แต่ท่านไม่ชอบหัวหิน ไปชอบอ่าวเกาะหลักตรงที่ตั้งเมืองประจวบคีรีขันธ์ จึงซื้อที่ดินแห่งหนึ่งแล้วสร้างเรือนอย่างถาวรขึ้นไว้ สำหรับแปรสถานลงไปสำนัก

ท่านเคยไปเที่ยวหัวเมืองไกล ถึงเมืองเชียงราย เชียงแสน เชียงใหม่ แล้วลงเรือล่องแก่งกลับมากรุงเทพฯ และเมื่อ พ.ศ. ๒๔๗๗  ท่านปรารถนาจะใคร่ไปเยี่ยมเจ้านายที่เสด็จอยู่ต่างด้าว ขึ้นรถไฟที่เมืองประจวบคีรีขันธ์ไปยังเมืองปีนัง เวลานั้นฉันอยู่ที่นั่น เที่ยวเมืองปีนังแล้วลงเรือไปเมืองสิงคโปร์ ไปเฝ้าเยี่ยมเยือนสมเด็จเจ้าฟ้ากรมพระนครสวรรค์วรพินิตที่เมืองบันดุงในเกาะชวา เมืองบันดุงนั้นอยู่บนเขาลึกเข้าไปในกลางเกาะ ทางไปจากเมืองเบตาเวีย ซึ่งเป็นเมืองหลวง ถ้าไปรถไฟหรือรถยนตร์ ราว ๓ ชั่วโมงจึงถึง แต่ถ้าใช้เครื่องบินไปมาได้ใน ๔๕ นาที

เมื่อเจ้าคุณพระประยูรวงศ์ไปรถยนต์ ขากลับทูลกระหม่อมท่านตรัสถามเจ้าคุณพระประยูรวงศ์ว่า “จะลองขึ้นเครื่องบินหรือไม่”

เวลานั้นเจ้าคุณพระประยูรวงศ์อายุ ๘๐ ปี แต่ไม่กลัวภัย ใคร่จะลองขึ้นเครื่องบิน ทูลกระหม่อมจึงทรงจัดให้กลับจากบันดุงด้วยเครื่องบินจนมาถึงเมืองเบตาเวีย เขาว่าท่านชอบด้วย แถมกลับจากเกาะชวาครั้งนั้นยังเลยไปเที่ยวถึงเกาะสุมาตราด้วย แล้วจึงกลับมากรุงเทพฯ ดูเป็นที่น่าพิศวงที่อายุท่านถึง ๘๐ แล้ว ยังมีกำลังทนทานการเที่ยวได้ถึงอย่างนั้นและยังไม่เข็ดด้วย

ต่อมาถึง พ.ศ. ๒๔๘๐ เมื่อท่านอายุได้ ๘๓ ปี ยังไปเที่ยงไกลอีก คือขึ้นรถไฟไปเมืองนครราชสีมาแล้วเลยขึ้นไปถึงเมืองหนองคาย เมื่ออยู่ที่เมืองหนองคายแล้วก็เลยออกนอกพระราชอาณาเขต ข้ามไปดูเมืองเวียงจันทน์ด้วยแล้วจึงกลับมา ต่อมาถึงเมื่ออายุท่านได้ ๘๖ ปี ยังไปเที่ยวไกลจนถึงเมืองจันทบุรีอีกครั้งหนึ่ง นับเป็นครั้งสุดท้ายในการเที่ยวทางไกลของท่านเพียงนั้น