，何心可以安之。身辱高位，倾覆寻至，愿守先人弊庐，岂可得哉！违命诚忤天威，曲从即复若此。盖闻古人申于见知，大臣之节，不可则止。臣虽小人，敢缘所蒙，念存斯义。今天下自服化以来，方渐八年，虽侧席求贤，不遗幽贱，然臣不尔推有德，达有功，使圣听知胜臣者多，未达者不少。假令有遗德于版筑之下，有隐才于屠钓之间，而朝议用臣不以为非，臣处之不以为愧，所失岂不大哉！臣忝窃虽久，未若今日兼文武之极宠，等宰辅之高位也。且臣虽所见者狭，据今光禄大夫李憙执节高亮，在公正色；光禄大夫鲁芝洁身寡欲，和而不同；光禄大夫李胤清亮简素，立身在朝，皆服事华发，以礼终始。虽历位外内之宠，不异寒贱之家，而犹未蒙此选，臣更越之，何以塞天下之望，少益日月！是以誓心守节，无苟进之志。今道路行通，方隅多事，乞留前恩，使臣得速还屯。不尔留连，必于外虞有阙。匹夫之志，有不可夺。”不听。
及还镇，吴西陵督步阐举城来降。吴将陆抗攻之甚急，诏祜迎阐。祜率兵五万出江陵，遣荆州刺史杨肇攻抗，不克，阐竟为抗所擒。有司奏：“祜所统八万余人，贼众不过三万。祜顿兵江陵，使贼备得设。乃遣杨肇偏军入险，兵少粮悬，军人挫衄。背违诏命，无大臣节。可免官，以侯就第。”竟坐贬为平南将军，而免杨肇为庶人。
祜以孟献营武牢而郑人惧，晏弱城东阳而莱子服，乃进据险耍，开建五城，收膏腴之地，夺吴人之资，石城以西，尽为晋有。自是前后降者不绝，乃增修德信，以怀柔初附，慨然有吞并之心。每与吴人交兵，克日方战，不为掩袭之计。将帅有欲进谲诈之策者，辄饮以醇酒，使不得言。人有略吴二兒为俘者，祜遣送还其家。后吴将夏详、邵顗等来降，二兒之父亦率其属与俱。吴将陈尚、潘景来寇，祜追斩之，美其死节而厚加殡敛。景、尚子弟迎丧，祜以礼遣还。吴将邓香掠夏口，祜募生缚香，既至，宥之。香感其恩甚，率部曲而降。祜出军行吴境，刈谷为粮，皆计所侵，送绢偿之。每会众江沔游猎，常止晋地。若禽兽先为吴人所伤而为晋兵所得者，皆封还之。于是吴人翕然悦服，称为羊公，不之名也。
祜与陆抗相对，使命交通，抗称祜之德量，虽乐毅、诸葛孔明不能过也。抗尝病，祜馈之药，抗服之无疑心。人多谏抗，抗曰：“羊祜岂鸩人者！”时谈以为华元、子反复见于今日。抗每告其戍曰：“彼专为德，我专为暴，是不战而自服也。各保分界而已，无求细利。”孙皓闻二境交和，以诘抗。抗曰：“一邑一乡，不可以无信义，况大国乎！臣不如此，正是彰其德，于祜无伤也。”
祜贞悫无私，疾恶邪佞，旬勖、冯紞之徒甚忌之。从甥王衍尝诣祜陈事，辞甚俊辨，祜不然之，衍拂衣而起。祜顾谓宾客曰：“王夷甫方以盛名处大位，然败俗伤化，必此人也。”步阐之役，祜以军法将斩王戎，故戎、衍并憾之，每言论多毁祜。时人为之语曰：“二王当国，羊公无德。”
咸宁初，除征南大将军、开府仪同三司，得专辟召。初，祐以伐吴必藉上流之势。又时吴有童谣曰：“阿童复阿童，衔刀浮渡江。不畏岸上兽，但畏水中龙。”祜闻之曰：“此必水军有功，但当思应其名者耳。”会益州刺史王浚征为大司农，祜知其可任，浚又小字阿童，因表留浚监益州诸军事，加龙骧将军，密令修舟楫，为顺流之计。
祜缮甲训卒，广为戎备。至是上疏曰：“先帝顺天应时，西平巴蜀，南和吴会，海内得以休息，兆庶有乐安之心。而吴复背信，使边事更兴。夫期运虽天所授，而功业必由人而成，不一大举扫灭，则众役无时得安。亦所以隆先帝之勋，成无为之化也。故尧有丹水之伐，舜有三苗之征，咸以宁静宇宙，戢兵和众者也。蜀平之时，天下皆谓吴当并亡，自此来十三年，是谓一周，平定之期复在今日矣。议者常言吴楚有道后服，无礼先强，此乃谓侯之时耳。当今一统，不得与古同谕。夫适道之论，皆未应权，是故谋之虽多，而决之欲独。凡以险阻得存者，谓所敌者同，力足自固。苟其轻重不齐，强弱异势，则智士不能谋，而险阻不可保也。蜀之为国，非不险也，高山寻云霓，深谷肆无景，束马悬车，然后得济，皆言一夫荷戟，千人莫当。及进兵之日，曾无籓篱之限，斩将搴旗，伏尸数万，乘胜席卷，径至成都，汉中诸城，皆鸟栖而不敢出。非皆无战心，诚力不足相抗。至刘禅降服，诸营堡者索然俱散。今江淮之难，不过剑阁；山川之险，不过岷汉；孙皓之暴，侈于刘禅；吴人之困，甚于巴蜀。而大晋兵众，多于前世；资储器械，盛于往时；今不于此平吴，而更阻兵相守，征夫苦
