1938年2月，日军第一O四旅团在飞机、坦克及优势炮火的掩护下，经邯郸、武安、涉县进攻东阳关，想一举驱逐驻守长治的我第四十七军，进而扫平我在山西坚持抗战的军队。在山西长治，这是李家钰带领他的军队千里迢迢首先奔赴的抗日前线。他把军部设在长治，派一O四师守在长治及附近，另令一七八师守护长治东北的东阳关。东阳关是敌人从河北邯郸进入山西的门户，也是敌人沿平汉铁路西进必攻的地方。2月14日，敌人以飞机大炮助阵，猛攻东阳关，李家钰命守军顽强抵抗，守军以劣势的兵力武器阻止了敌人达三天三夜。敌人遭受到沉重的打击，见正面攻击不得要领，便从侧面迂回直扑长治。李家钰命一O四师的三一二旅担任长治城防，守城官兵无比英勇，他们用砖石堵住城门，决心死守。与敌人展开逐街逐屋的肉搏，坚持了两天，营长杨岳岷，连长杨显模、夏抚涛壮烈牺牲，旅长李克源也身负重伤。这一仗，李家钰的军队损失惨重，敌人也付出了伤亡千余人的代价。但是寡不敌众，守城官兵最后只得退出长治。　　

　　长治失陷，李家钰非常难过，他一方面为自己虽尽了最大努力却依然未能保住长治而难过，一方面为死去的将士们难过，因为他们中的许多人已跟随他多年，一些还是他的本家、他的亲戚。直到有一天，两个治愈的伤兵出现在他的面前，带来了黎城县长何公振的公函，他才深切地感受到，尽管逝者已去，但不仅他在怀念他们，老百姓也怀念他们。他为他的将士们自豪，他庆幸自己带兵出川抗日，为国家、为民族、为百姓做了一件非常有意义的事情，他仿佛感受到那些抗日的亡魂因为这一切而得了安慰，那封公函是这样写的：“东阳关之役，贵军官兵英勇抗敌，经一周血战，日寇伤亡千余人，我忠勇官兵作战壮烈牺牲者，亦在二千人以上。黎城民众，对此可歌可泣之事迹，极为崇佩敬仰，久而难忘。除阵亡官兵由地方民众清查埋葬举行追悼，负伤官兵已由地方政府收容治疗外，并在东阳关建立‘川军抗日死难纪念碑’一座，在黄帝陵建川军庙一所，每年二月十七日演戏一日，以志不忘。”　　

　　长治之战后，李家钰又率他的军队与日本鬼子在山西省境内进行了多数较量：　　

　　1938年4月，他指挥所部收复了被日军占领的平陆、芮城；6月，派军攻占安邑县城，破坏敌军运输线，保护陇海铁路，保障了中国军队运输补给线的安全；夏秋之际，率军在运城、平陆一带与敌激战。此间，涌现出一个众人传诵的英雄，这就是一七八师一O六四团八连炊事兵李发生。他送饭上阵地，正遇上战友们与鬼子在战壕边撕杀，他当即乘敌不备，用扁担打死了数名敌人，自己全身也八处负伤，但仍然斗志昂扬，缴获敌人三支三八式步枪，独自背下战场；9月，率部攻打夏县，狠狠打击了敌人，保卫了中条山地区。　　

　　1939年6月，在同蒲铁路南段，粉碎敌人大规模“扫荡”。之后，李家钰晋升为第四集团军副总司令，总司令是孙蔚如。7月至10月，他率领部队转战晋南，指挥大小战斗580余次，毙伤敌军2000余人(包括少佐以上军官20余名)，炸毁铁路32段、火车头2个、车厢5节、汽车36辆、汽油300余桶。冬，率部防守晋城，不断袭击焦作、博爱地区的日军，同时晋升为三十六集团军总司令；1940年春，与“扫荡”我太行山抗日根据地的日军激战，重创敌人，毙伤敌人千余人；1940年夏到1944年，在黄河以南担譬渑池、陕县一带河防，此间每月轮番派遣游击队到黄河北岸袭击敌人，捕捉俘虏，搜集敌情，加强警戒，防御日寇，担负起守卫黄河天险的任务。