一九四八年七月三日夜，大風大雨，詞人喬大壯在蘇州旅舍寫了遺書給女兒，告誡身後事甚詳；再寫一絕命詩給弟子蔣維崧，詩云：「白劉往往敵曹劉，鄴下江東各獻酬；為此題詩真絕命，瀟瀟暮雨在蘇州。」當夜他自沉於蘇州之梅村橋下，年僅五十七歲。當月落烏啼之夜，正珠波玉碎之時，湛湛清波，綿綿幽恨，可謂極儒士之不幸矣。第二天遺體被發現，身上還放著一張名片，寫著「責任自負」。他在臨命之際，猶賦詩遂其弟子所求，平生不肯負人，於此可見！又生死安排，如此從容，尤以當日上午猶訪老友徐森玉於上海，言笑自若，徐老當不會想到這是老友前來訣別矣。喬大壯生前曾戲言：「自殺乃我家常事。」其祖孫三代都沉於水，早在他五十四歲時即有「六九匆匆閱廢興，沉淵負石了無能」之句，可知其懷沙必死之決心，固由來已久矣。
對於喬大壯，好友汪東在《寄庵隨筆》有段描述：「大壯，四川華陽人，為喬樹柟孫。性最謹飭，與客言，必正襟危坐。值道中，垂手唯諾，如見摯友，論事不臧否人物。同坐有女子，面輒發頳，恒託故避去。然嗜飲，醉則反其所為，以是知平日由於自制耳。」喬大壯早年畢業於北京譯學館，通習法文，博通經史諸子，且旁及釋老佛乘經論，以及稗官野史之書，無不窮究。善詩，尤工長短句。一九一五年他任職於教育部「圖書審定處」審定專員時，與魯迅、許壽裳、陳師曾、徐森玉有密切的互動。現今還掛在北京魯迅故居書房「老虎尾巴」的西牆上的《離騷》集句聯：「望崦嵫而勿迫；恐鵜鳺之先鳴」，就是一九二四年魯迅託喬大壯書寫的。
一九三五年，喬大壯任南京中央大學藝術系教授，講授印藝和詩詞之餘，更與唐圭璋等共結詞社，當時即以其詞作精妙，書法清麗，篆刻奇倔，而有「三絕」之譽。論者謂其「文摹魏晉，詩踵晚唐，均能及其藩籬，而以所為慢詞，尤能傳夢窗神髓，雖有未免時近乎支離晦澀，然要其潛氣所注，驅遣飛卿、玉谿於模山範水，柳昏花瞑間，合夢窗、碧山而一之，自是一時作手。」而對其刻印，則稱曰：「素善治印，渾樸勁秀，當世莫比。日惟縱酒，間一奏刀，案頭美石數方，雜置酒樽，篆刻未終，頹然已醉。」
抗戰期間，喬大壯歷任經濟部、軍訓部、監察院秘書、參議、參事等職，司文書筆札，但正如汪東所言「沉跡下僚，無所展布」，也因此常興懷才不遇之歎！其夫人善書工詩，理家井然，喬大壯不善治生，處事又迂疏，端賴夫人調護扶掖，伉儷相得而情深，堪稱神仙眷侶。奈何一九四一年夫人病逝，喬大壯中年喪偶，顧影淒清，哀痛不能自克，日日杜門傾壺，夜夜和月醉臥。再加上其長子服役於空軍，一九四二年秋，與日軍機戰，戰死，其時年甫冠也。汪東說：「大壯聞訊悲甚，因知交勸，出遊散懷，乃訪余歌樂山中。余病脊骨勞損，偃臥不能起，大壯坐余榻前，正襟如故。示哭子詩，余依韻慰之。」
抗戰勝利還都之翌年，南京中央大學內部以派系傾軋之故，致人事發生頗大之變動。不同流合污，不容於俗塵的剛烈個性，使得喬大壯對之深致其憤慨與不滿，終遭中央大學在一九四七年解聘。同年夏，以臺灣大學中國文學系主任許壽裳之薦，渡海來臺，任臺大中文系教授，講授詞學。一九四八年二月十八日晚，喬大壯還與許壽裳飲酒賦詩，次日發覺，許壽裳在寓所睡夢中被宵小連砍五刀慘死（或指為國民黨特務所為）。喬大壯對於許壽裳慘死，驚悼特甚，心境益劣。靈前致弔時，淚流不止，返回宿舍，直至半夜才讓同事臺靜農等人離去。又站在大門前以手電筒照著院中大石頭說：「這後面也許就有人埋伏著。」風聲鶴唳之情景，可見一斑。追悼日，喬大壯寫了兩首輓詩，其中有兩句非常沉痛：「門生搔白首，旦夕骨成灰。」他是當年許壽裳在北京譯學館任教的學生，故自稱門生。臺靜農說：「他在臺北古玩舖買了一個琉球燒的彩陶罐子，頗精美，曾經指著告訴朋友：『這是裝我的骨灰的』。這本是一時的戲言，後來才知道他心中早有了死的陰影。」
許壽裳故去後，喬大壯旋接任中文系主任。五月間，他忽然表示想回上海看看，臺靜農說：「當時系中學生少，他只任一門課，暫時離校，無大影響。我總覺得他精神迄不穩定，不如回去看看兒女，散散心，因而也慫恿他作渡海之行。」不意到七月三日風雨之夕，他卻作屈原之懷沙，淒然畢命，一往不回。
詞人多情，哀樂倍於常人。喬大壯自喪其侶，繼失愛子，其積痛摧心，實難想像。萬里來臺，恓恓惶惶，既無家園，亦無親人。臺靜農歎道：「真如墮瀰天大霧中，使他窒息於無邊的空虛中。生命於他成了不勝負荷的包袱，而死的念頭時時刻刻侵襲他，可是死又不是輕而易舉的事，這更使他痛苦。在臺時兩度縱酒絕食，且私蓄藥物，而終沒有走上絕路。……都可見他的生命與死神搏鬥的情形，最後死神戰勝了，於是了無牽掛的在風雨中走到梅村橋。」
喬大壯平日頗讚賞王國維之論詞，不料靜安先生以投水逝世，而喬氏又步其後塵。雖其趨死之念各殊，而厭薄浮生，衷情芳潔，似又了無二致。喬氏絕詣驚才，卻遽萌厭世之心，輕拋軀命；苟若能令其克盡修齡，竟宏素業，則其所詣能不偉乎？悲夫！詞人薄命，千古如斯！