幸好，旅长徐海东知道他是个做部队思想政治工作的行家里手，十分支持黄克诚的工作。
徐海东专注于打仗，部队有人闹情绪，思想出了问题，汇报给他，他总是大手一挥，说：“找政委去！”
有时，记者来前线访问徐海东，他也说：“找政委去！”
黄克诚在军事问题上虽然尽量少讲话，但由于他已经与三四四旅同甘共苦，荣辱与共，融为一体了，所以他很快发现三四四旅作战方式有问题。
三四四旅大多沿用过去对付国民党军队的那一套打法，与日军作战，猛打猛冲，对于毛泽东提出的山地游击战并不在意，显得勇猛有余，灵活不足，战斗中多次吃亏，这支英雄之师经受了几次挫折。
1937年底到1938年初，三四四旅奉命开赴正太路以北，开展敌后游击战争，建立抗日民主政权。
这期间，三四四旅同日军进行了两次较大的战斗。
一次是盂县牛村之战。六八七团在团长张绍东指挥下，打了一场运动战。
虽然歼灭了敌人一部，但是由于我军策略、战术水平不高，部队也遭较大伤亡。
不久，三四四旅为配合晋察冀军区反“扫荡”，在平山县温汤与日军大战一场。温汤战斗，因为旅长徐海东病重，由黄克诚负责指挥。这一仗原本计划将温汤日军五百余人全歼，但是仗一打起来，各部队之间配合不好，乱了套，不仅没有在预定时间内全歼日军，反而受到增援日军的重炮轰击。由于广大干部战士缺乏避炮经验，全旅伤亡较大，六八八团团长与一营营长双双阵黄克诚为此深深自责，看到部队两次受挫，他就劝说大家研究新战法，避免再打被动仗和阵地仗。
然而，很多人听不进去。
黄克诚也不急躁，还是耐心进行说服工作。
就在这节骨眼上，三四四旅发生了一起重大政治事故。
1938年3月，三四四旅奉命南下晋东南，进入太行山区，配合刘伯承、邓小平领导的一二九师作战。
部队在山西平定、昔阳地区行军时，徐海东、黄克诚率部走在前面，由主力六八七团殿后。
六八七团团长张绍东本来是个善动脑子的红军指挥员，从红军时期到抗战初期，一直是三四四旅中的一员勇将。但是，他擅自违背中央有关抗日民族统一战线的政策，在部队驻地搞起了“打土豪”！而且从中渔利，进而嫖娼！不仅如此，他还把团参谋长兰国清拉下了水。纸里包不住火，旅部知道这个情况后，决定整顿队伍。张绍东听到消息后，心里发慌。他就把连以上干部集中起来，以看地形为名，骗出驻地。在半路上，张绍东和盘托出自己的打算，胁迫他们一起叛逃。
六八七团毕竟是支老红军主导的团队，张绍东的阴谋当即受到政工干部的抵制，不少干部也站在了政工干部一边，苦劝张绍东改变主意。
但是张绍东最终不知悔改，看见绝大多数人不想跟他叛逃，他只好带着兰国清等少数几个人逃跑了。
部队全部由政工干部拉回了旅部。
这件事令徐海东、黄克诚大为恼火，也使三四四旅这支英雄部队蒙受了耻辱。
朱德总司令闻讯，也大为恼火，这不但会影响军心士气，而且会影响八路军的声誉啊！
朱德亲自来到三四四旅指导工作，他总结性地感慨道：“部队的政治工作必须深入哟！”
一番话，使黄克诚深受震动，觉得肩上的担子更重了。三四四旅进入太行山区后，黄克诚被任命为太南军政委员会书记，与徐海东一起，指挥部队开始在太行山南段坚持抗日游击战争，放手发动群众，建立抗日民主政权。
4月间，日军纠集三万余人，分九路大举进攻晋东南地区。晋东南地区烽火连天，如何粉碎日军九路围攻成为国共两党关注的焦点。
徐海东、黄克诚率三四四旅配合兄弟部队在内线开展游击战，实行坚壁清野，使日军逐步陷入处处扑空、饥饿疲惫和被动挨打的境地。
三四四旅历经长乐村、虒亭镇、张店镇等战斗，给予日军以有力打击，在反“九路围攻”作战中显露锋芒。经过二十三天的反击，日寇的九路围攻被完全粉碎。
7月6日。沁河畔町店。
骄阳似火，路旁的柳树无精打采，柳枝低垂，仿佛睡了一般。
随着阵阵轰鸣声，数十辆汽车从远处蠕动而来。膏药旗斜插在驾驶窗旁，迎风作响。
汽车队在町店停了下来，一群群日本鬼子从车上钻了
