山西守军认为雁门关是天险，尤其是关北的铁甲关更是地形险要，重武器很难施展，故没有设兵布防。但日军很快就凭着当年土肥原绘制的地图，从最为险要的铁甲岭越过了雁门关，使中国守军大吃一惊，直到很晚他们才搞清为什么日军会对地形更为熟悉的原由。
九一八事变前夕，土肥原由驻天津特务机关长，调任驻奉天特务机关长。这一调任不是偶然的，因为他在天津时就已经盯上了溥仪，而把溥仪从天津弄到东北，也正是他对日本的满蒙方略做出的最大贡献，尽管事变发生时，他并不在奉天，而是在东京向最高当局汇报自己关于“根本解决”蒙满问题的想法。
多年后的溥仪在回忆他对土肥原接触的情境时，讲述了一个“祛魅”后的土肥原的形象：
那时关于他有种种充满神秘色彩的传说，西方报纸称他为“东方的劳伦斯”，中国报纸上说他惯穿中国服装，擅长中国方言。根据我的了解，他在中国的活动如果都像鼓动我出关那样做法，他并不需要传说中的劳伦斯的诡诈和心机，只要有一副赌桌上的面孔，能把谎话当成真话说就行了。那次他和我会见也没有穿中国服装，只不过穿了一套日本式的西装。他的中国话似乎也不怎么高明，为了不致把话说错，他还是用了吉田中太郎充当我们之间的翻译。……他那年是四十八岁，眼睛附近的肌肉已出现了松弛的迹象，鼻子底下有一撮小胡子，脸上自始至终带着温和恭顺的笑意。这种笑意给人的惟一感觉，就是这个人说出来的话不会有一句是靠不住的。
这个真实的土肥原，尽管没有传说中的神奇，但却是“大巧似拙”，仅从“说出来的话不会有一句是靠不住的”这一点，就足见这个特务的可怕程度。
全面侵华战争爆发后，晋升为中将的土肥原，也曾担任师团长，带兵直接参与了日军的侵华战争。可是约一年后，他又奉调回国，参加由陆、海、外代表组成的“对华特别委员会”，负责筹建中国占领区内统一的伪政权，并在上海设立了办事机构——土肥原机关。可是这一次他却失手了，他没能成功地策动吴佩孚出任伪政权首脑，而让另一个日本特务组织“梅机关”抢了先——他们率先策反了汪精卫。
据说，土肥原在与人交往时，处处以晚辈自居，看上去对世事漫不经心，因而中国的显要们不仅不对他加强防备，反而是颇有好感。对这种外表忠厚、内藏奸诈的人，中国人是最痛恨的。