李家钰率部在山西作战数年，打仗数十次，屡立战功。1939年夏他以战功卓著被提升为第四集团军副总司令，1939年冬，他再次晋升为第三十六集团军总司令，管辖第四十七军和第十七军。1941年夏第三十六集团军奉命南渡黄河，驻扎在洛阳以西的新安县，担负起守卫黄河天险的艰巨任务。李家钰深感担子很重，他经常巡视前沿警戒线，了解敌军的动态，勉励将士忠于职守，严密监视敌人。他还经常派遣游击部队偷渡黄河，到北岸侦察，搜索敌情，袭击日军，捕捉俘虏，加强戒备，防御日军渡河南犯。　　

　　1944年3月，日军南渡黄河的企图更加暴露。日军这一动向被中国第一战区长官司令部觉察。3月，战区军以上将领群聚洛阳，召开了紧急会议，商讨对策，李家钰在会上慷慨陈辞，提出“先发制人”之策略，主动出击来犯之敌，使敌人处于被动，我军处于主动。但他的建议未被战区司令长官蒋鼎文、副司令长官汤恩伯重视，会议也没有制定抗敌作战方案，以碌碌无为而告终。　　

　　5月17日，日军从河南中牟、陕县两处强渡黄河，迅速侵占了黄泛区两岸，随后，攻占了郑州，并向洛阳进逼。驻扎在洛阳的蒋鼎文惶惶不可终日，生怕被日军包围，马上弃职撤退，而且一退再退再三退，一路仓皇，一时间，准备参加洛阳会战的诸兵团群龙无首，失去统一指挥，只得盲目跟随长官部撤退，局面非常混乱。　　

　　李家钰将军见此危险状况，十分镇定，他主动在渑池县召开西撤各部队主官会议，决定统一指挥，派出掩护部队，指示退却目标和退却路线，集结主力，再图反攻。大家一致推举他为统一指挥官。李家钰临危受命，指挥若定。他主动提出由第四十七军担任后卫掩护任务，掩护各军撤退和集结。他对各部队长官们说：“我们南渡以来，吃了河南老百姓四年的饭，现在不能见了日本人就跑。否则，怎么对得起老百姓！日本人有什么可怕的，他们来了，我们就同他们打。别的部队怕跑在后面挨打，我不怕，我愿殿后。”他把生的希望让给兄弟部队，而把死的危险留给自己。面对到前线慰问的劳军团，他慷慨疾书：男儿欲报国恩重，战死沙场是善终。可见，他已经下定决心，要与日军决死在战场。　　

　　从5月20日起，李家钰不断率自己的部队与敌人激战，掩护友军西撤。5月21日，各部队撤到了渑池县的翟涯。这是一个山中小集镇，十几万军队挤在山间小道上，人、车、马混杂，行动迟缓，秩序混乱。对日军的飞机大炮来说，这是再好不过的轰炸目标。这时的中国军队进展速度与日军相比，好比龟兔赛跑，情况十分危急。各部队将领自发召开了临时会议，大家公推李家钰统一指挥各部。以李家钰单薄的兵力掩护友军，必然冒极大的危险，但是，他毅然表示：“如果明天仍继续西进，窃愿殿后以免挤在一起。”次日，他一直等友军西撤后才令自己的队伍出发。　　

　　此时，李家钰率部转移的目的就是要冲出敌人的包围。他不断激励官兵们，突围出去就是胜利。但是到了5月20日，部队在陕县的东姚院村宿营时，已陷入了敌人的重重包围。5月21日，李家钰率部西行，不幸中了敌人埋伏，当他率总部将士正爬秦家坡时，敌人的机枪密密麻麻打了下来，他急忙指挥身边的特务营抢占阵地，奋力还击。但是敌人居高临下，占有兵力和地形的优势，李家钰和随行的200余名官兵全部壮烈牺牲，他的全身满是枪眼，　　

　　终于战死在抗日的沙场。　　

　　这个消息令举国悲愤，因为李家钰是第三十六集团军总司令、陆军中将。以他已过半百的年龄和较高的职位，本可在指挥部指挥，不必亲临火线。但是，李家钰却冒着生命危险，处在抗日战火的前沿，直到生命的最后。　　

　　李家钰殉国，举国悲悼。他的遗骸运到成都后，四川省和国民政府驻川各级机构、各界人士、群众团体联合举行公祭和隆重追悼会。蒋介石亲自发来唁电，政府各要人、各党派、知名人士都送了花圈和挽联，表彰李家钰将军坚持抗战的丰功伟绩和为国献身的崇高爱国精神，著名诗人柳亚子先生赋诗赞颂将军的爱国情操：　　

　　万里中原转战来，前师急报将是颓。　　

　　归元先轸如生面，化碧苌弘动地哀。　　

　　军令未闻诛马谡，思论空遣重曹丕。　　

　　灵旗风雨无穷根，丞相祠堂锦水隈。　　

　　追悼会后，李家钰将军的忠骸被安葬在成都市南郊红牌楼广福桥的“李上将墓园”里。　　

　　1944年6月11日，《新华日报》发表了《悼李家钰将军》的短评，文章指出：“中原大战，李家钰将军在此役中杀敌殉国，是应受到全国尊敬的。我们哀悼李家钰将军抗战殉国，希望前线将士都抱为国牺牲的决心！”　　

　　1944年6月22日，国民政府追赠他为陆军上将。1984年4月25日，中华人民共和国民政部正式追认他为革命烈士，人民政府还拨专款重新修缮了李家钰将军的墓园。