第一军部队一直撤退到苏州才陆续收容集结。各师、旅都残缺不全。因日军迅速向前推进，而中国军队未做好纵深防守的准备，致使既设的吴福线弃而未用。胡宗南率第一军于11月16日退至无锡，暂归上官云相指挥，在无锡、常州之间组织防御，与进攻日军苦战三昼夜。
胡宗南对近三个月的淞沪血战感慨良多，对各部撤退混乱、损失严重更是忧愤不已。他在11月20日致信密友戴笠说：“弟刻又在无锡进入阵地矣。此次前方撤退各军，秩序纪律毫无。官无斗志，士多伤亡，吴福线尚不能守，澄锡线更无论矣。黄埔部队多已打完，无人撑持，其余当然望风而溃矣。第二期革命已失败，吾人必须努力，培养第三期革命干部，来完成未来之使命也。”《胡上将宗南年谱》，沈云龙主编：《近代中国史料丛刊续编》第49辑，（北京）文海出版社有限公司印行，第83页。
1937年11月20日胡宗南奉命率第一军由镇江渡过长江，至扬州整理一周，补充新兵三个团，各师、旅稍见充实，然后开往浦口，参加南京保卫战。
豫东迎战日军土肥原师团
1937年11月底，胡宗南率第十七军团（实际只有第一军）经过整补的部队，进驻南京长江北岸的浦口至滁州一线地区。
这时，日本侵略军正从上海沿太湖两岸，从苏南与浙皖边分头并进，从东、南、西三面，向中国的首都南京迅速包抄围攻过来，只留下北面浦口一条通道，尚未形成合围之势。南京形势危急。蒋介石于1937年11月23日任命唐生智为南京卫戍司令长官，后又任命罗卓英、刘兴为副司令长官，指挥第七十一军王敬久部、第七十二军孙元良部、第七十四军俞济时部、第七十八军宋希濂部、教导总队桂永清部、第二军团徐源泉部、第六十六军叶肈部、第八十三军邓龙光部、江防军刘兴部等，在南京布置外围与内廓两道防线，阻击日军，保卫南京。中国军队多是刚刚从上海战场后撤，残缺不全，仓促整补一些新兵，战斗力不强，但都以保家卫国的热情投入战斗。
1937年12月2日，蒋介石在南京召见胡宗南，打算让胡任南京卫戍副司令长官，协助唐生智指挥南京保卫战，后因故未成，只是让胡率所部归第九集团军总司令顾祝同指挥，担任浦口至滁州一线的防务，保卫南京的后路北大门。
胡宗南知道大战在即，南京不保，特地去拜别中山陵，心中生出无限悲凉与感慨。据一位当时在南京鼓楼附近第一军办事处里见到胡宗南的人回忆说，他见到胡宗南：
一个人静悄悄地两手插在裤袋内，在来回踱方步，西式的头发梳得很整齐，草绿色华达呢的军常服，也是笔挺的。……胡先生所给我的直接印象，依然是那么丰神俊朗，意态轩昂。……（胡对我说）：“你总看到报纸了，这次日本人在上海是集中了最炽热的火力，会出乎他们想象的，是我军在上海的英勇抵抗，壮烈牺牲！”突然语气一转，说：“我刚从中山陵来，忽然想起李后主的词：无限江山，别时容易见时难……我们真是愧对总理，愧对领袖。”刘醒吾：《别时容易见时难》，刊（台北）《中外杂志》第3卷第6期。
1937年12月5日，日军向南京外围阵地发动猛烈进攻，惨烈的南京保卫战开始。7日晨，蒋介石飞离南京。8日，日军凭借先进的武器装备，攻抵南京城墙边内廓阵地，战况空前激烈。南京卫戍司令长官唐生智为了表示破釜沉舟、背城借一的死守南京的决心，下令撤走长江中所有的船只，并“指示第一军军长胡宗南，不准南京的人员擅自过江。”谭道平：《南京卫戍战》，刊南京国民政府军委会军令部核准刊行：《南京卫戍战史话》，东南文化事业出版社1946年刊行。南京保卫战进行了约八天，打得激烈而又悲壮。胡宗南率部驻防浦口，未能参战，只是在12月12日南京保卫战失败后，掩护南京卫戍司令长官部与部分部队渡过长江北撤。据唐生智回忆，在12月11日中午，顾祝同从扬州打电话给他，说：“委员长已下令要南京守军撤退，你赶快到浦口来，我现在要胡宗南在浦口等你。”唐生智：《卫戍南京之经过》，刊《原国民党将领抗日战争亲历记：南京保卫战》，（北京）中国文史出版社1987年版，第4页。
1937年12月中旬南京失守后，胡宗南率部在浦口、滁州一线坚持约十日，直到12月下旬才奉命西撤，年底至安徽寿州，以后经阜阳、固始、潢川，于1938年1月初至河南信阳待命。
胡宗南部在西撤至安徽时，蒋介石曾打算将该部拨归第五战区李宗仁指挥。但胡宗南拒不向李宗仁报到，继续西进，引起李宗仁的愤恨。据李宗仁说：“胡宗南部在上海作战后，自江北撤往蚌埠。蒋先生曾亲自告我说，将来拨胡宗南部归五战区指挥。但是这批‘嫡系’中央军至蚌埠后，也不向我报告。同时他们彼此之间为争取溃退的士兵，竟至互相动武，闹得乌烟瘴气。”《李宗仁回忆录》，广西人民出版社1989年版，第533页。胡宗南向来以天子门生自居，只听从蒋介石一人的指挥。他不愿隶属李宗仁部下，是国民党内多年形成的派系观念所至，也是国民党军队后来四分五裂导致失败的重要原因之一。
胡宗南率部到达信阳后，蒋介石打算令胡部移师武汉外围担任卫戍。但西安行营主任蒋鼎文向蒋介石提出，关陇居川蜀上游，以西安为中心的陕西关中地区，东隔黄河与山西日军相峙，北防中共陕甘宁边区军队南下，屏障西北与西南，卫护四川大后方，战略地位极其重要，而目前关中兵力空虚，急需增调有力部队驻守。胡宗南部为中央军嫡系精锐，久驻西北，人地相宜。蒋介石听从了蒋鼎文的建议。1938年1月中旬，胡宗南奉命率部进驻关中。第十七军团部先驻凤翔，后移西安永宁门外荐福寺，即俗称小雁塔者。胡宗南本人开始住西安建国公园内，后移住东仓门之下马陵董子祠，乃汉董仲舒墓前祠屋，屋仅三间，陈设简陋。
在这期间，胡宗南正式组建第十七军团部，并解除自己的第一军军长兼职，由第一师师长李铁军兼任。军团部主官编制如下：
军团长胡宗南，参谋长罗列。
军团部参谋处处长傅维藩，副官处处长袁杰三，军需处处长蔡翎祺，机要组长王微。
胡宗南作长期驻军关中的打算，一方面整补军队，同时着手筹建中央军官学校第七分校与西北干部训练团等机构，以培训军队基层军官与干部。
但到1938年5月下旬，胡宗南突然接到蒋介石从郑州发来的紧急军令，要胡率所部立即开往豫东，参与阻击与“围歼”渡黄河南犯的日军精锐的土肥原的第十四师团。
原来，在1938年4月初台儿庄战役后，日军集中主力向徐州进围。李宗仁率第五战区部队，于5月18日突围退向皖北。日军于5月19日占领徐州，然后以中岛今朝吾的第十六师团从丰县沿陇海铁路西进。与此同时，日军在豫北的土肥原第十四师团于5月9日至13日间，在濮阳一线强渡黄河，击破中国防军，迅速占领郓城、荷泽等鲁西要地，然后分兵两路南下，向考城、兰封挺进，企图截断陇海线，与东路日军第十六师团配合，“围歼”中国军队主力于豫东地区，接着占领开封、郑州，与沿平汉线南下之日军会师，直下武汉。日本大本营与政府认为：“只要控制中原，实质上即能支配中国。”日本防卫厅战史室编：《中国事变陆军作战史》第2卷第一分册，（北京）中华书局1979年版，第116页。
(责任编辑：陈冬梅)
