武器，这当然是绝对不能答应的。谢晋元当即代表八百壮士坚决表示：“我们的魂，可以离开我们的身，枪不能离开我们的手。没有命令，死也不退！”
二十七日天亮以后，敌人才发党中国军队已经撤离。于是，就向中国守军放弃的阵地小心地推进。在敌人接近四行仓库的时候，他们发现那里有中国军队，因不知中国守军的情况，敌人未敢轻易进犯。他们先是用火力进行了侦探，下午两点钟，敌人便开始向四行仓库猛扑过来。
敌人虽有飞机和大炮，但不敢轰炸四行仓库，因为怕流弹飞到租界，引起国际争端。因此，敌人进攻四行仓库时，只能用机关枪和步枪，但气焰十分嚣张，他们喊叫着，猛烈射击四行仓库。待敌人接近四行仓库时，谢晋元一声令下，机关枪和步枪响作一团，打得敌人丢盔弃甲，狼狈败退。这次战斗，毙敌数十人，而八百壮士几乎没有损失。见到八百壮士同仇敌汽，英勇善战，在苏州河南岸租界上观战的群众，无不拍手称快。
二十八日凌晨，日军有两个士兵准备偷袭四行仓库，被谢晋元发现了。
他一个箭步冲上去，猛一弯腰，左手抓住敌人手中的枪支，右手掐住了敌人的脖子。另一个敌人见情况不妙，正想转身脱逃，结果也被谢晋元结束了狗命，人们都非常敬佩他这种机智与果断的精神，赞不绝口地称赞他是一位英雄。
八百壮士的英勇奋战，对人民群众也是一种莫大的鼓舞。这一天，女童子军杨惠敏冒着生命危险，将一面国旗送到了四行仓库，当国旗在楼上升起，迎风招展的时候，观众们掌声雷动。随后，各界人民又给八百壮士送去了慰劳品。卡车沿苏州河北岸开到西藏路桥北娩东侧，人们将各种食物、药品递进了烟纸店的窗口。
人民群众的爱国热情，更加激励着八百壮士抗击敌人的决心。面对敌人的包围与进攻，他们更加表现出了一种大无畏的精神。
二十九日拂晓，日寇又向四行仓库发动了进攻。八百壮士在谢晋元的指挥下，奋起堵截敌人，使敌伤亡众多。当敌人冲到四行仓库楼下的时候，一位壮士身上捆满了手榴弹，从仓库楼上突然跃入敌群之中，随着手榴弹的声声巨响，有二十多个敌人当即被炸死。这位壮士，也壮烈牺牲。
这天下午，在敌人又一次进攻四行仓库的时候，谢晋元一声令下，向敌人展开了猛烈射击，日军死伤过半，被迫撤退。
这一天的战斗结束后，谢晋元给师长写了这样的一封信：
窃职以牺牲决心，谨遵钧座意旨，奋斗到底。在未完成达到任务前，决不轻易牺牲。成功成仁，计之熟矣，决不偷安一时，误国误民致负钧座咐托之重。外界一切宣传消息，概自外界传出，职到此时，从未向外界发表任何要求，任何谈话，既抱必死决心。现除任务外，一切思念皆无。整个工事经三日建筑，业已达到巩固程度。敌如来攻，决不得逞。二十七日敌攻击时，据瞟望台报告，毙敌八十名以上。
二十八日晨五时许，职亲手狙击，毙敌二名。租界民众观看，咸拍手欢呼。现职宗旨，待任务完成后，决作壮烈牺牲。
并作诗云：勇敢杀敌八百兵，抗敌豪情以诗鸣，谁怜爱国千行泪，说到倭寇气不平。
与此同时，谢晋元还致函某一团体说：“军人以服从为天职，保国卫土，职责所在，洒最后一滴血，必向倭寇索取相当代价；余一枪一弹，亦必与敌周旋到底。”
这一天，何香凝致函谢晋元与八百壮士，赞扬了他们高度的革命精神与英雄气概，希望他们奋战到底。
何香凝在信中说：你们每一个人，都已具有革命精神，牺牲精神，不论是成仁或成功，都可以俯仰无愧了。殉国的将士，将因为你们而愈伟大；前线的将士，将因为你们而愈英勇。全国同胞，将因为你们而愈加团结；国际人士，也将因为你们而愈能主持正义了。我已设法送你们些救伤品和食品，聊表心意。盼望你们奋战，苦斗，牺牲到底。
十月三十日下午五点多钟，英国驻军又派人告诉八百壮士，说七点钟日军要总攻四行仓库，英国驻军愿意帮助守军退入租界，并保证他们的人身安全。谢晋元与八百壮士谢绝了英国驻军的好意，再一次表示了与阵地共存亡的决心。
在日军对八百壮士发动总攻之前，谢晋元率八百壮士积极投入了战斗准备。他们个个都表示了决心，不管付出多么大的代价，也要守住祖国的这一块土地。这时，宋子文从中国银行仓库给谢晋元打来了电话，要他率领部队撤入公共租界。谢晋元接到电话以后，表示坚决与日寇血战到底，决不撤离。
但宋子文对他讲，军人应以服从命令为天职。这样，他们才不得不开始撤退。
八百壮士还没有来得及撤退，日军就对四行仓库发起了总攻。壮士们仍然英勇堵截敌人。战斗到天黑以后，日寇用探照灯照亮了四行仓库的东南角，借着灯光继续进攻。八百壮士将敌人的探照灯打坏以后，趁着一片漆黑，便开始了撤退。
他们拆掉烟纸店门口的一个工事，登上店内的柜台，一个一个地从屋里