十月，朝廷派鄭州刺史狄兼謨來接任蘇州刺史。狄兼謨是狄仁杰的曾孫，為官清廉正派，有曾祖遺風，他是令狐楚提拔推薦上來的，仍是牛黨成員。
此時朝廷的牛黨勢力占據著上風，李德裕執掌浙西一道，而最大的蘇、杭兩州均長期被牛黨成員把持，其受制于肘腋之間，很難施展開來。
后來李德裕垮臺的直接原因“吳湘案”，就是發生在這一時期，該案背景錯綜復雜，或許與這一時期的某些牛黨人士有所關聯。
對于白居易來說，現在最重要的是，他可以離開蘇州了。
至此，白居易在蘇州只呆了一年半左右的時間，而其中有五個多月是在請假。
盡管如此，白居易不辭辛勞、勤懇踏實的工作作風仍得到了蘇州群眾的認可。
白居易從蘇州走的還是徐、汴漕運水路，出發時他“身攜妻子唯三口，鶴與琴書共一船”，非常簡樸。與之對照鮮明的是蘇州民眾盛大的送行場面，他在《別蘇州》詩中說：
“浩浩姑蘇民，郁郁長洲城。
來慚荷寵命，去愧無能名。
青紫行將吏，班白列黎氓。
一時臨水拜，十里隨舟行。
餞筵猶未收，征棹不可停。
稍隔煙樹色，尚聞絲竹聲。
悵望武丘路，沉吟滸水亭。
還鄉信有興，去郡能無情。”
與上次離開杭州不同，白居易是因為“假滿百日”自動解除刺史職務而離開蘇州的，因此他尚未得以任命新的官職。因此，他打算先回洛陽，觀察形勢，如有可能，不妨再次請求分司，繼續優游卒歲的閑散生活。
白居易走的是徐汴漕運水路，在經過楚州（今江蘇淮安）時，楚州刺史郭行余是白居易的崇拜者，他極力挽留白居易在楚州盤桓，給予了熱情招待。
更重要的是，郭行余還告訴白居易，劉禹錫和州刺史任期已滿，也是取道徐汴回洛陽，不久就會來到楚州。
盛情難卻，又有神交已久的大詩人前來，白居易決定再逗留幾日。
果然，沒過多久，劉禹錫也到了楚州。好友相逢，自然分外開心，再加上兩人都是處于無官身輕的狀態，而東道主郭行余也是詩文同好，三人在楚州唱酬游宴，何其快哉！
白居易和劉禹錫相識時五十四歲，劉禹錫也已經五十二歲。當白居易遇到和自己一樣名滿天下的詩豪劉禹錫，就如身處巔峰的武林高手，遇到了一個難得的敵手。年紀相仿，又都才華橫溢，二人很快成為了摯友。
這一次退居洛陽，兩人沒事就一起吟詩喝酒，留下了不少名作。
酒酣耳熱之際，白居易率先寫下了《醉贈劉二十八使君》：
“為我引杯添酒飲，與君把箸擊盤歌。
詩稱國手徒為爾，命壓人頭不奈何。
舉眼風光長寂寞，滿朝官職獨蹉跎。
亦知合被才名折，二十三年折太多。”
在這首詩中，白居易開頭就寫到兩人一見如故，把酒言歡，對酒高歌的場景。只有志同道合，親密無間的朋友，才會如此無拘無束。詩歌之中，白居易主要還是感嘆劉禹錫才華橫溢，堪稱詩文“國手”卻仕途坎坷，經歷的挫折太多，是命運的不公。
白居易的這首詩，非常出眾，堪稱千古之作。他語言平實自然，卻又感情真摯。對于劉禹錫來說，一定是莫大的安慰。
劉禹錫對白居易非常敬仰。白居易和元稹，共同推動了新樂府運動，聲名顯赫，更在其上。在這種情況下，白居易還能夠如此贊許自己，這讓自負的劉禹錫更為感動。
因此，當劉禹錫舉杯應和白居易時，一首更偉大的名作也由此誕生了——《酬樂天揚州初逢席上見贈》：
“巴山楚水凄涼地，二十三年棄置身。
懷舊空吟聞笛賦，到鄉翻似爛柯人。
沉舟側畔千帆過，病樹前頭萬木春。
今日聽君歌一曲，暫憑杯酒長精神。”
劉禹錫的高明之處在于，他沒有和白居易一起沉浸在悲傷之中，而是將話鋒一轉，展現出昂揚的氣息。這首詩行云流水，毫不拖沓。尤其是“沉舟側畔千帆過，病樹前頭萬木春”一句，不僅一掃席間低沉的氣氛，也是劉禹錫不屈精神的表現。后來，它更是成為萬千事業低谷文人的座右銘。這句話的橫空出現，極大提高了全詩的思想性。
劉禹錫的詩雖不如白居易多，卻也是獨特新穎。特別是他的詠詩史，如《西塞山懷古》中的“王濬樓船下益州，金陵王氣黯然收”一句，更被認為是詠史詩之冠，壓倒元稹和白居易。
對此白居易是不服的，于是他寫了數首詩贈與劉禹錫，有些詩看似是在問候好友，其實是要和這個知已好友比上一比。就這樣，兩位詩壇巨星斗了半輩子，誰也不服誰。但有一首詩，白居易卻是心服口服，拿到這首詩時，白居易“掉頭苦吟，嘆賞良久”，就是《烏衣巷》。
在楚州盤恒了幾日，白居易和劉禹錫向洛陽繼續進發。
劉白辭別楚州郭行余之日，是寶歷二年（826年）年底，也就是臘月最后幾天，除夕夜登船。
劉禹錫有《歲杪將發楚州呈樂天》詩贈白居易：
“楚澤雪初霽，楚城春欲歸。
清淮變寒色，遠樹含清暉。
原野已多思，風霜潛減威。
與君同旅雁，北向刷毛衣。”
白居易作《除日答夢得同發楚州》：
“共作千里伴，俱為一郡回。
歲陰中路盡，鄉思先春來。
山雪晚猶在，淮冰晴欲開。
歸歟吟可作，休戀主人杯。”
他們乘船進入江淮運河，沿“通濟渠”向西北航行，先到泗州（今安徽泗縣），進而到宿州（今安徽宿州），再過宋州（今河南商丘），始抵中原汴州。
這段水路逆流而上，少說也有千里之遙。上年，白居易以同樣航線順水而下，航行時間近一個月，此次逆水北返駛抵汴州，比來時更為緩慢，時間已到了次年正月下旬。
白居易和劉禹錫在名城汴州拜見了他們共同仰慕的兄長令狐楚。
去年，白居易赴蘇州，曾在令狐府上停留五日，而劉禹錫和令狐楚，雖詩酬往來不斷，卻多年不見，未知此三位高人相聚汴州，該喝多少酒，該聊多少話，該吟多少詩？又將給后人留下多少評品之趣？
然而實際情況是，三方所留詩篇寥寥無幾，涉及內容也乏善可陳，后世品評這次聚會，也是記述平平，一筆帶過。
這是絕對一種意外，其中必有原因，一定是發生了什么事端。