桓車騎在荊州，張玄為侍中，使至江陵，路經陽岐村，俄見壹人，持半小籠生魚，徑來造船雲：“有魚，欲寄作膾。”張乃維舟而納之。問其姓字，稱是劉遺民。張素聞其名，大相忻待。劉既知張銜命，問：“謝安、王文度並佳不？”張甚欲話言，劉了無停意。既進膾，便去，雲：“向得此魚，觀君船上當有膾具，是故來耳。”於是便去。張乃追至劉家，為設酒，殊不清旨。張高其人，不得已而飲之。方共對飲，劉便先起，雲：“今正伐荻，不宜久廢。”張亦無以留之。

　　桓大司馬下都，問真長曰：“聞會稽王語奇進，爾邪？”劉曰：“極進，然故是第二流中人耳！”桓曰：“第壹流復是誰？”劉曰：“正是我輩耳！”

　　謝萬北征，常以嘯詠自高，未嘗撫慰眾士。謝公甚器愛萬，而審其必敗，乃俱行。從容謂萬曰：“汝為元帥，宜數喚諸將宴會，以說眾心。”萬從之。因召集諸將，都無所說，直以如意指四坐雲：“諸君皆是勁卒。”諸將甚忿恨之。謝公欲深箸恩信，自隊主將帥以下，無不身造，厚相遜謝。及萬事敗，軍中因欲除之。復雲：“當為隱士。”故幸而得免。