劉遵祖少為殷中軍所知，稱之於庾公。庾公甚忻然，便取為佐。既見，坐之獨榻上與語。劉爾日殊不稱，庾小失望，遂名之為“羊公鶴”。昔羊叔子有鶴善舞，嘗向客稱之。客試使驅來，氃氋而不肯舞。故稱比之。

　　正始中，人士比論，以五荀方五陳：荀淑方陳寔，荀靖方陳諶，荀爽方陳紀，荀彧方陳群，荀顗方陳泰。又以八裴方八王：裴徽方王祥，裴楷方王夷甫，裴康方王綏，裴綽方王澄，裴瓚方王敦，裴遐方王導，裴頠方王戎，裴邈方王玄。

　　賈充初定律令，與羊祜共咨太傅鄭沖。沖曰：“臯陶嚴明之旨，非仆闇懦所探。”羊曰：“上意欲令小加弘潤。”沖乃粗下意。