董橋先生寫過一篇〈龔夫人之戀〉，談及梁鼎芬因丟官而託妻龔氏於好友文廷式照顧，但最後龔夫人卻情歸於文廷式。
文廷式以曾教珍妃姊妹讀書而著名於後世，也為世人所艷稱。其實他教珍妃姊妹讀書，是早在她們尚未被選入宮時。當時文廷式在廣州讀書時，因文名藉甚，與于式枚並推為陳蘭甫（澧）的高足。當時滿州人長善（樂初）正在做廣州將軍，最喜與文士交遊，文廷式亦被延之入幕，待以殊禮。珍妃的父親長敘，是長善的三弟。因此胡思敬撰《文廷式傳》時，說文廷式是在長善幕府時，教珍瑾二妃讀書，此說不確。因為文廷式入長善幕府始於光緒三年，約有三年之久，光緒三、四年時，瑾妃才四、五歲，珍妃才二、三歲，安有授讀之理。其實教珍瑾二妃讀書之事，當在光緒十二至十四年間，當時文廷式常在北京，他在京時，常住在好友志銳（長善的姪子）家中，當時珍妃父親早已故世，瑾妃、珍妃就在堂兄志銳的安排下，搬進長善在北京的府第。時珍妃已十一、二歲，瑾妃亦十三、四歲，她們跟文廷式讀一些書，也是情理中的事。
光緒十四年，慈禧太后為光緒帝選后，慈禧以其弟弟桂祥的女兒，也就是光緒帝的表姐隆裕為皇后，瑾妃和妹妹珍妃同時入選，成為光緒帝的妃子。而當珍妃日漸得寵之際，因見光緒帝雖已親政，然一切用人行政，皆仍出於慈禧之手，為了幫助皇帝力振乾綱，乃極力舉薦她的蒙師文廷式。
光緒十六年四月二十一日，文廷式赴殿試。二十四日，殿試讀卷進呈御覽，翁同龢等彌封奏至廷式之名，光緒帝宣詔曰：「此人有名，作得好！」於是欽定文廷式殿試一甲第二名。光緒帝如何知道文廷式有名呢？如非珍妃屢有所言，當無印象如此之深也。到了光緒二十年三月，文廷式參加保和殿翰詹大考。未閱卷前，光緒帝特提朱筆御寫「文廷式一等」五個字交下閱卷房後，皇帝兩次傳下口諭：「除第一及另束五本毋動外，餘皆可動。」四月初八日，大考榜發，文廷式得一等第一名，並着以侍讀學士升用。文廷式再度因珍妃的關係而被拔擢，因此當時人諷刺說：「玉皇大帝召試十二生肖，兔子當首選，月裏嫦娥為通關節」，形容得極為刻薄。
在中日甲午戰爭爆發後，文廷式與李鴻章由於雙方立場的不同，以致兩人關係急遽惡化。其間，李鴻章雖難辭其咎，但文廷式也未免攻訐太過，李鴻章自然會對文廷式有所積怨。尤其是光緒二十年八月，黃海大敗，李鴻章一生英名毀之殆盡。在帝黨和言官的交章彈劾下，被褫去了三眼花翎及黃馬褂，這對一生戰功彪炳的李鴻章而言，無疑是奇恥大辱。因此他後來不無感慨地說：「予少年科第，壯年戎馬，晚年洋務，一路扶搖，遭遇不謂不幸。自問亦未有何等隕越，乃無端發生中日交涉，至一生事業掃地無餘。如歐陽公所言：『半生名節，被後生輩描畫都盡。』環境所迫，無可如何？」他言下之意，對帝黨人物的清議，始終是耿耿於懷的。而文廷式是當時清議的領袖，李鴻章對其更是厭惡至極。只是他找不出文廷式有任何重大違誤，因此一時間只得隱忍。
光緒二十一年六月，文廷式出都南歸時，據顧家相《五餘讀書廛隨筆》記載：「芸閣主眷日隆，名震中外，嘗指陳時事，擬成奏稿七篇，置枕箱中，其語頗有侵合肥者。道出上海，箱忽被竊，時黃愛崇觀察承煊，方官上海令，為之追還原物，纖細畢具，而奏稿竟不可得，蓋早入合肥之手矣。」枕箱追回，僅奏稿遺失，李鴻章唆使人為之，嫌疑最大。李鴻章取得彈劾他的奏稿，更加速對文廷式的報復行動。於是才有光緒二十二年二月中旬的楊崇伊彈劾文廷式之事。楊崇伊跟李鴻章的長子李經方（實為李鴻章六弟李昭慶之子，後過繼給李鴻章）是兒女親家，楊崇伊的兒子楊雲史娶李鴻章的孫女、李經方的女兒李國香（道清）為妻。而李鴻章的孫子李國杰則是楊崇伊的女婿。因此楊崇伊為李鴻章出手彈劾文廷式，則自然不過的事。
於是光緒帝下令：「着即革職，永不敘用，並驅逐回籍，不准在京逗留。」文廷式是光緒帝一直大力拔擢的人，卻在此時中箭落馬被罷黜，當時朝野皆為之嘩然。其罷黜的原因據皇帝的聖旨說：「據稱翰林院侍讀學士文廷式，遇事生風，常於松筠庵廣集同類，互相標榜，議論時政，聯名執奏。並有與太監文姓結為兄弟情事等語。文廷式與內監往來，雖無實據，事出有因，且該員於每次召見時，語多狂妄。其平時不知謹慎，已可概見。」但這只是個託詞，其實並未道出真正的原因。黃秋岳在《花隨人聖盦摭憶》書中說：「文以新進勾結妃侍，獲得高科，取非其道，又處帝后猜忌之際，其取禍被謗，宜也。」或許更接近事實的真相。
當然首先是文廷式自己捲入宮廷內鬥中，他屬於「帝黨」以翁同龢為首領的所謂「後清流」的一員幹將，也是慈禧太后想要除之而後快的目標。文廷式的被革職驅逐出京一事，當是慈禧太后親下的懿旨，若非慈禧下令，以光緒帝對他的寵信，必定徇情迴護，而楊崇伊之彈劾，則亦當難以得逞。
相對於文廷式的被革職，此時的梁鼎芬在湖北則十分得意，他在湖廣總督張之洞幕府中，極得張之洞的信任。相傳文廷式在窮困時，龔夫人還往湖北向前夫梁鼎芬打秋風。龔夫人每次來訪，梁鼎芬仍待以命婦之禮，穿好官服，開中門親自迎接，相敬如賓。而龔夫人在衙門裏有時也住上一月半月，臨別時，梁鼎芬必使一個丫頭送一些精巧禮物給她，無非是裝潢得很好看的詩文集或詩箋之類，外面看來似乎很薄的禮物，其實裏面有銀票一張，多時四五百兩，少亦二三百兩，總不使龔夫人失望空手而回的。
一九○四年初夏，政治流亡八年多的文廷式，再次歸返江西萍鄉故里，幽居文家大屋。一襲布衣，閉目靜坐，手捻佛珠，默誦經文，並作有《金剛經註解》。中秋節後的第九天子夜，悄然瞑目，無疾而終。年僅四十九歲。文廷式死後，龔夫人沒有復歸梁家，也沒有留在萍鄉，她回到長沙，獨自撫養她和文廷式所生的三個兒子。