中国之行在政治上宣告失败，但这并没有阻止他征服中国的野心。松井也因此对他的老朋友蒋介石异常失望，心生恨意。

回国后，松井多次发表讲话，要求给中国政府一个教训，必须举起铁锤，给南京政府一击，让他们猛醒，让他们反省。无论是在公开的演讲还是个人写日记，不止一次的表现出对攻下南京的渴望和狂热，表现出对他的老朋友蒋介石的痛恨，希望给这个老朋友以毁灭性地打击。卢沟桥事变后，松井石根对东亚联盟演讲：“迅速拿下南京……这将服中国公众摒弃蒋介石，把他们的命运托付给日本领导人。”

民国二十六年八月，退役后的松井石根正带着妻子在富士山一带旅游。日本大本营决定以第3、11两个师团组成上海派遣军，以支援驻上海的海军陆战队。因松井是公认的“中国通”和攻坚战专家，被日本军部重新征召入伍，担任上海派遣军司令。

八月十二日，日本参谋本部下达了增援上海的陆军动员令：至八月十八日，第3师团的半数和第11师团均已紧急动员完毕，决定分两批由海军舰艇向上海输送第3师团一半兵力于八月十八日、十九日由热田港出发第11师团于八月二十日、二十一日由多渡津出发，至前进基地马鞍群岛集结第3师团的另一半兵力于八月二十八日、二十九日由宇品出发，直驶上海。

八月十五日，松井石根接受上海派遣军司令官的任命后，对近卫首相：“别无他图，只有拿下南京，打垮蒋介石政权。这就是我必须完成的使命。”同时，他还表示对日军参谋本部的命令对上海派遣军限定“扫荡上海附近敌军，占领西方要地，保护居住在上海的居留民”的作战任务，表示十分痛心和遗憾。两后，松井石根又被日本裕仁皇召见。在召见中，松井向日本皇再次陈述了他率军到上海后的军事计划和战略目标：“别无他图，只有拿下南京，打垮蒋介石政权，这就是我必须完成的使命。”