金农在京城日子过得并不轻松，最后连离京的路费也难以筹措了，只好忍痛将一方由好友高翔用隶书书写、汪士禛镌刻的写经砚换米，方能离京南下。
他经由河北，穿过当河北、山西要冲的娘子关（在山西省平定县东部），进入山西境内，过太原、临汾，是年冬抵达晋东南泽州（山西晋城）。在泽州，认识了罢居在家，居午山亭村的陈壮履。
陈壮履是康熙朝重臣陈廷敬（1640年—1712年）的儿子，廷敬字子端，号悦岩，顺治十五年进士，康熙四十二年授文渊阁大学士兼吏部尚书，康熙五十一年卒，谥文贞。生平好学，少时与宋琬、王士禛切磋文章、唱和诗歌，俱有深造。午山亭村即陈廷敬在故乡泽州的庄园。陈壮履16岁即中进士，但十年后便被罢归了，那时他父亲正供职内阁时。为什么被罢归，现在还不清楚。这次陈一见金农，便十分倾倒。感叹说：“吾不幸十六中进士，翱翔禁庭十年，罢归，不深读书。今夜灯相对，受益良多。君乡查翰林免园挟册，吾最薄之。君诗如玉潭，如灵湫，绠汲不穷，非吾友，实吾师也。从此执业称诗弟子矣。”这番话，金农听了颇有知遇之感；对陈的放归，不论出于什么原因，联系到自己的身事，也不乏同情之心。金农《陈学士（壮履）晚食戏成三首》其三云：
雪虐风饕饮冻醅，围炉偏向夜深来。
可知印绶寻常物，只博丁郎啖百枚。
诗中有对陈的安慰，有金农自己无可奈何的“旷达”，他们算是一见如故了。
上述的谈话，引起过一段公案，陈壮履攻击了查慎行：“君乡查翰林兔园挟册，吾最薄之。”查慎行（1651年—1728年），号初白，浙江海宁人。其诗多写行旅之情，也有反映民间疾苦之作，赵翼甚至认为：“初白诗功力之深，香山、放翁后一人而已。”他善用白描手法，与金农、厉鹗等苦硬清峭的诗风不同，加上门户之见，故据翁方纲查证，他们彼此的集中无一相互唱酬之作。就这点来说，金农是首肯陈的看法的。在陈的一方，则另有情况。查慎行的集中有题王石谷午亭山村图之作，也有与壮履之父的唱和诗，但无一字提及陈壮履。壮履的学问文章如何，不得而知，至少是没有得到查慎行的承认。官场失意加上怀才不遇，不免迁怒于人，出语失去分寸了。后人翁方纲评论说：“寿门短章精妙，不得以初白限之，至长篇巨制，焉能企及初白？”这个说法是比较公正的。这件事和上面提及的关于王士禛的事，对了解金农的诗和清代诗坛的是非，不无帮助。
金农在泽州，除往来于陈壮履之门，曾登王屋，攀中条，行乐于樊口西郊，醉饮于伎家席上，心情是怡然而悠闲的。但他最慕恋的，还是午亭山村已故陈阁老的“清德余音”和陈壮履的师礼相待。次年，他径直住进了午亭山村，一住就是三年。
三年中，金农饱读了陈家的藏书，鉴赏了大量书画，作为款待的报答，以更多的时间整理抄校了陈家的旧籍文本。游山玩水，诗酒唱和，当然也是少不了的生活内容。
然而金农终于厌倦了。无论陈家礼敬不衰也好，或日久渐疏成为陪主人风雅的清客也好——金确实说过，“游其门与嗣君学士（指陈壮履）为笔札之徒。”这种虽不必俯首听命却是寄人篱下的状态，即使不失其超然，也是他不能长耐的。他怀念南方的旧友，他要振作起来重新追求，雍正六年（1728年）春，即金农在陈家第三年的春天，他离开午亭山村作邯郸之游。在道经太行山时，他作过一则《马箠铭》：“滑溪之藤，可策而去，笿云笿云，毋落人后。”这是铭马箠，也是自励吧！秋天他又回到泽州，这次主要是再登王屋、中条，再没有提起午亭山村的事。
此后金农时归江南，但主要是远游。他的游踪，在这之前是“渡扬子、过淮阴、历齐、鲁、燕、赵，而观帝京，自帝京趋嵩洛。”以后则是“之晋、之秦、之粤、之闽，达彭蠡、道鄂渚，汎衡湘漓江间”。足迹遍及辽阔的地域。所到之处，他吊古迹，探名胜，察世情，访金石，结师友，大大助长了他的诗情，为今后的书画创作积累了丰富的生活经验。每到一处，金农也留他自己的手迹。例如雍正八年（1730年）秋九月曾于曲阜之秋庐作《王秀》隶书册。据胡惕庵跋云：“正是壮年所作。笔墨矜严，幽深静穆，非寻常眼光所能到。”王瓘跋云：“此册用笔结字纯师《华山碑》，……至匠心独运，精微入妙处，实不愧中郎入室弟子。”①以此册与同年十一月在扬州为汪师虞《秋柳图》所作题记相较，金农此时仍以隶书胜，师《西岳华山碑》又能自出己意，有相当高
