1938年春，日本侵略军决定以南京、济南为基地，沿津浦铁路南北夹击徐州，然后利用中州平坦地势，发挥其机械化部队的威力，直扑平汉铁路，消灭郑州、武汉间中国军队，夺取武汉，迫使国民政府投降。日军侵略攻势的核心是占领徐州，国民党军事委员会同样看重这个兵家必争的战略要地，制定了以黄河、淮河为天然屏障的保卫徐州作战计划。可是，第五战区副司令韩复榘在日寇进攻面前毫无退兵之计，丢弃黄河天险，不战而退守鲁南，中国军队保卫徐州的计划被完全搅乱，只好临时调兵遣将，仓促应战。结果，第三军团长兼四十军军长庞炳勋部被日寇精锐部队、号称“铁军”的坂垣师团围困于临沂，频频向战区长官司令部告急求援。　　

　　临沂，鲁南重镇，距台儿庄90公里，为徐州东北之门户，如果临沂不保，日军则可由青岛直趋台儿庄、徐州，威胁陇海、津浦两路之安全，战略地位至关重要。李宗仁接到求援后，一面令庞炳勋“坚决保卫，拒敌前进”，一面令张自忠率五十九军北上临沂，援助庞部作战。　　

　　李宗仁虽然下达了上述命令，可心中仍存顾虑。原来，张自忠与庞炳勋皆冯玉祥部属，在1930年蒋冯中原大战时，因庞炳勋倒戈反冯，并突袭张自忠师部，张险遭不测，彼此积怨甚深。李宗仁由此想到张自忠会不会见死不救，或者落井下石呢？他赶紧将张自忠召来，诚恳地劝慰道：“你和庞炳勋有宿怨，我甚为了解。不过以前的内战，不论谁是谁非，皆为不名誉的私怨私仇。庞炳勋现在前方浴血奋战，乃属雪国耻，报国仇。我希望你以国家为重，受点委屈，捐弃个人前嫌。”　　

　　没等李宗仁继续往下说，张自忠以军人独有的语言答道："绝对服从长官命令，请长官放心!"随即，张自忠引领人马，一昼夜急行军180里，于3月12日黄昏到达临沂西郊。庞对张前来增援十分感激，和先一天到临沂的战区参谋长徐祖诒亲自出城迎接，一同商议退敌之策。庞炳勋带着商量的口吻建议道：“第三军团原有五个团，现在只剩下三个团的兵力，可否请荩忱兄接替城防，第三军团沿沂河西岸戒备，待敌决战？”　　

　　张自忠听后暗自吃了一惊，号称第三军团，只剩下三个团的兵力，与精锐的坂垣师团决战，岂不是以卵击石！但他首先表示无论怎么决定，一定遵照命令执行，并进一步建议说：“应以攻为守，与其待敌进攻，不如由五十九军主动向敌侧背出击，以解临沂之危。”　　

　　在提出了以攻为守的战略部署后，张自忠立即召集全军营以上军官开会部署战斗，他对大家说：“我军在喜峰口、北平、天津、淮北等地，已经先后和日军交战多次，只要我们能充分发扬我军善于近战、夜战的长处，根据现有条件，集中使用轻重武器，就一定能够打败这个蛮横不可一世的坂垣，为中华民族争光，以尽到我们军人保国卫民的天职。既是战死疆场，虽死犹荣。”　　

　　庞、徐虽然同意张自忠建议，但又认为五十九军行军疲劳，应该休息两天再向敌人发动进攻。张自忠却坚持说：“兵贵神速！面对现代化装备的坂垣师团，必须利用夜战近战才能见效。应打破常规，提前行动。”最后，三人商定3月14日向敌人发动反击。　　

　　张自忠领受作战任务后，于13日夜率领五十九军迅速强渡沂河，14日拂晓向日军发动猛烈反击。五十九军虽然经过长途行军，仍然以迅雷不及掩耳之势，插入到坂垣师团的右侧背。　日军没有料到困守临沂的第三军团，竟会抽出兵力越过沂河袭击他们坚固的防线，更没有料到出现在他们防线之前的是五十九军的增援部队。在五十九军的猛烈攻击下，庞军防守部队乘机反击，两军前后夹攻，坂垣师团腹背受挫。经过几昼夜激战，日军全线溃退。乘胜追击到汤头附近的一一四旅，于17日夜冒雨徒步涉过沂河，趁日寇沉睡之机突然袭击，将其打得落花流水。此后，日军又组织兵力反扑，经过三次拉锯式的白刃肉搏战，击溃了汤头的日军，敌人残部向莒县逃窜，解了临沂之危。此次战斗前后三天击毙日军4000余人，五十九军伤亡也在6000余人，全军第一线作战部队中，营长伤亡达三分之一，连排长则全部易人，可见战斗之残酷。16日，战区参谋长见五十九军伤亡惨重，命令张自忠率部后撤，但是张自忠要求再战一昼夜。他下令营团长全部到第一线指挥，师旅长到团指挥所，军长也亲临两师前线。黄昏时分，先以猛烈炮火向日军轰击，然后所有指战员投入战斗，向日军发起猛烈攻击，一时喊声震天，激战至17日凌晨2时，号称铁军的坂垣师团被打得一败涂地，向临沂以北逃窜。　　

　　3月2O日，五十九军留下一个旅配属庞炳勋指挥外，主力奉命向费县集结，准备侧击滕县附近之敌。28日，坂垣师团调整补充，又猛攻临沂。五十九军再次奉命复援临沂。29日，张自忠在给战区司令长官李宗仁去电中称：“职军两日以来伤亡2000余人，连前此伤亡达万余人。职一息尚存，决与敌奋战到底。”张自忠亲率部队三渡沂河，与日军鏖战七个昼夜，终于击溃日寇劲旅坂垣师团，毙伤日寇3000余人，击毁敌机1架、坦克6辆。临沂之战歼灭日军精锐部队过半，阻止了日军向台儿庄、枣庄前线增援，彻底粉碎了日军将坂垣、矶谷两师团在台儿庄会战的计划，并使台儿庄右翼阵地得到巩固，为台儿庄大捷奠定了有利的基础，造成台儿庄血战时矶谷师团孤军深入而被围歼。而临沂一役之所以取得胜利，也正如李宗仁所说：“若非张氏大义凛然，捐弃前嫌，及时赴援，则庞氏所部已成瓮中之鳖，必致全军覆灭。”张自忠的功绩由此可见一斑。临沂之战后，张自忠被提拔为第二十七军团司令官兼五十九军军长。