日本外交官必然也以亲切的微笑和官场上的礼德来处理拉贝的信件，接待他的来访。但拉贝最终总是得到千篇一律的回答：“我们将会通知军部。”过了一些天，每天都有令人无法容忍的新的暴行出现，拉贝给日本大使信的信中语气变得越来越充满敌意了，言语中加重了对暴行的愤怒：
当时留在南京的27个西方人以及中国居民都被你军在12月14日进行的抢劫、强奸和屠杀等恐怖活动所震惊了！
不论在安全区内还是在安全区入口处，我们没有看见一个日本巡逻哨。
昨天，而且是在大白天，在大庭广众之下，在神学院的大厅里，日军士兵当着许多男人、妇女和儿童的面，强奸了数名妇女。我们22个西方人不能养活20万中国平民，也不帮你们白天黑夜地保护他们。这是日本当局的职责。如果你们能为他们提供安全保障，那么我们能够帮助养活他们！
假如目前这种恐怖局面持续下去的话，很快连工人也找不到，基本的服务根本无法进行。
渐渐地，拉贝和国际委员会的其他成员开始理解日本外交官答复的真实含义——下令进行屠杀的是军方，大使馆也无能为力。日本大使馆参赞福田德康跟拉贝谈了很多，他说：“日木军队想尽量地破坏这座城市，但我们大使馆，将竭力阻止他们。”在南京被疯狂蹂躏期间，一些日本大使馆官员确实曾建议国际委员会直接向日本国内寻求公众舆论的支持，以迫使日本政府采取行动。与此同时，另外一名使馆官员却竭力劝阻拉贝保持沉默，并警告他说：“一旦你对新闻记者说了什么坏话，整个日本军队都会对我群起而攻。”
到后来，日本盟国官员的身份成了拉贝最后一张护身符，他做了现在想起来令人十分害怕的事情：他开始在城里四处游荡，打算以个人力量去阻止暴行的发生。
无论何时拉贝开车往来于南京城中时，不时会有男人跳出来拦住车子，请求拉贝去制止一场正在进行的强暴——通常受害人是该男子的姐妹、妻子或女儿。于是拉贝就让他上车一起赶往出事地点。一到那儿，他就将日本兵从受害者身边赶跑，有一次他甚至亲自拉起一个正趴在一名年轻姑娘身上的日本兵。他知道这些行动是非常危险的（拉贝在给希特勒的报告中写道：“日本人有手枪和刺刀，而我……只有纳粹党标志和我的袖章。”）但是没有什么力量能够阻挡他的正义之举——即使面对死亡的威胁。
拉贝在1938年1月1日的日记中记下了这样一件事：“有位母亲跪在我面前，大声哭叫着恳求我，去营救她年轻漂亮的女儿。一进（房子），我就看见一个全身裸露的日本兵正压在那年轻姑娘的身上，那女于歇斯底里地哭喊着。我对那蠢猪喊叫着，用各种他能听懂的语言嚷着，‘新年快乐！’他只好灰溜溜地光着身子跑了，手里还拎着自己的裤子。”
拉贝被南京城内的暴行惊呆了。在街道上他看见许多具妇女的尸体横陈在被烧焦的房屋废墟边上，她们都是被强奸以后惨遭杀害的。拉贝在给希特勒的报告中写道：“3到10个一群的日本士兵开始沿街搜索，掠夺各种可以被偷走的东西。”
他们不停地对妇女和姑娘们施以残暴，并随心所欲地杀死任何人，包括表示反抗，试图逃跑、以及碰巧是在不适当的场合、不恰当的时间出现的人。上至年过七旬的老媪，下至不到8岁的幼女，都很难逃脱被奸污的恶运，事后日本兵还以最野蛮的方法，对她们施以毒打或残害。我们发现有些妇女的尸体躺在碎啤酒瓶上，还有的被竹竿刺破了身体。我亲眼目睹了这些受害者的惨状——甚至与其中一些奄奄一息的人进行交谈，最后是我把她们的尸体送到了鼓楼医院的停尸房。所以，我个人确信，所有这些报告谈到的都是事实。
在拉贝走在这座他深爱着的城市的废墟之时，他看见几乎在每一条街角处，都贴着漂亮的日本海报。上面写着：“回到家乡来！给你饭吃！信赖日本军！可得救助！”
拉贝从决定救助中国难民之后，就竭尽所能地收容中国人，他把自己的房子和办公室变为西门子公司雇员及其家属的避难所，还把许多中国妇女藏在后院矮小简陋的茅屋中。为防止她们遭受日本流氓的伤害，拉贝专门建立了一套警报系统。只要有日本兵翻过院墙，妇女们就会吹响口笛招呼拉贝冲到院内将他们赶走，这种情况太频繁了，以至于拉贝晚上几乎不敢离开家，唯恐日本兵会趁他不在的时候闯进来，对那些可怜的妇女恣意施暴。他不断地向日本军官控诉这些暴行，但都仿佛是泥牛入海，那些人根本置之不理。有一天拉贝
