1937年8月淞沪抗战爆发，第51师和58师合并为国民革命军第七十四军（军长俞济时），51师师长王耀武，李天霞任51师副师长兼153旅旅长，下辖305团（团长张灵甫）、306团（团长邱维达），奉命扼守曹王庙、施相公庙以及罗店一带，与日军久留米师团激战数月。11月中旬，李率部坚守望亭拒敌西进，曾于京沪铁路137号大桥与敌血战三天，完成掩护友军撤退任务。同年12月参加“南京保卫战”。4日，第51师在淳化镇同2倍于己的日军激战五昼夜，并守住阵地。日军攻击受阻，不得不派飞机对51师阵地狂轰滥炸，再以炮兵和步兵联合作战。51师官兵伤亡惨重，终因寡不敌众，淳化镇失守。王耀武命令151旅周志道部退至水西门外继续防守，153旅李天霞部把守城墙，李部与爬上城墙的日寇进行殊死搏斗，反复较量达七、八小时，双方成胶着状态。这时王耀武接到命令：“日军已进入中华门、通济门，南京将失陷。51师马上实施突围。”王耀武率部突出重围后，令151旅到八卦洲扎木排过江，153旅到下关找船过江。经过一夜接运和自行过江的51师官兵约5000人。12月13日南京失陷。
1938年5月，七十四军开赴江苏封县韩道口参加徐州会战，7月间，又奉命转移至江西马回岭防线参战。武汉会战期间，李天霞暂调任第二十九军40师师长，在坚守庐山的战斗中，给予日军以重创。同年底，李有病去桂林疗养。
1939年3月12日，李接到两封急电：一封是军长俞济时嘱其马上回防，接任51师师长。另一封王耀武告诉他，连日来，其胃出血不止需医治，急盼弟速回防，接任师长职。星夜，第七十四军办事处处长吴鸢风尘仆仆赶来接李，第二天一早，李一行人赶往51师驻地。
1939年6月，李正式升任第七十四军51师师长，奉命兼程驰援，拦截两个师团的日军，激战于江西高安。8月，第七十四军在江西分宜，宜春一带整编，每个师由3个建制团1个野战补充团组成。
1941年3月，王耀武率七十四军，下辖51师（师长李天霞）、57师（师长余程万）、58师（师长廖令奇）参加著名的江西上高会战。1941年3月15日，北路日军第33师团由安义向奉新、上高方向进犯，国军第70军在奉新城东西设防，凭借潦河两侧高地抵抗，在日军飞机和炮兵的猛烈轰击下，被迫撤守奉新。日军攻陷奉新后，强渡锦江，续向上高进击。南路日军第20混成旅团，由赣江北岸发起攻击，于夜间两次强渡锦江，遂由独城以北地区沿锦江南岸西犯，受到国民革命军第70军第107师和第74军第51师的阻击重创。
3月16日，中路日军第34师团沿锦江北岸向高安方向进犯，企图协同北、南两路击破守军第70军，再以3路围攻第74军。第70军第107师在日军强烈攻势面前丢城弃地，仓皇突围。3月18日，第34师团侵占高安又西进龙团圩。第33师团进至上富、若竹坳附近，3月19日，日军池田旅团8000余人从义渡街出发，妄想渡过锦江，从后背打击上高等地的中国军队。王耀武即令李天霞率部予以坚决堵截，在锦江南岸埋伏下来。池田所部2000余人分乘四艘大船逐渐进入埋伏圈，李天霞一声令下，山炮营和重机枪连大发虎威，四艘大船相继被炸沉，敌人大多被消灭和淹死。
3月20日，日军池田旅团向锦江南岸第51师鸡公岭一线阵地发动猛攻，双方展开血战，李师樊逢春连长带领士兵进行白刃格斗，100多人壮烈牺牲。敌人在阵地上也丢下200多具尸体。日军又组织近千人，在飞机掩护下，向鸡公岭猛扑，李天霞率一部迂回从侧面袭击，消灭日军300余人。
3月21日，第74军英勇抗击日军的进攻，固守上高外围阵地。第49军与第74军之第51师将日军第20混成旅团击退至锦江以北；遂渡江向北，协同江北第70军主力攻击日军第34师侧背。3月22日至24日，日军在数十架飞机掩护下，向上高以东第74军阵地发动猛攻。国军奋勇抗击，主阵地失而复得3次，为实施两翼对日军包围争取了时间。国军第70军、第72军和第49军适时赶到主战场，由南北两面包围日军，形成了南北5公里、东西15公里的包围圈。
在此情况下，日军第34师团长大贺茂中将一面向汉口日军第11军司令部急电求援，一面命令所部突围撤退。第11军司令部急令第33师团驰援解围，并同第20混成旅团掩护第34师团撤退。
3月25日，退至奉新之北路日军第33师团一部向官桥街、棠浦急进，被围第34师团亦向东方向突围，两路日军得以会合。3月26日夜夜，第74军攻克泗溪，并协同第72军等部将日军压迫于官桥街、南茶罗一带。3月27日，日军向奉新、南昌方面突围、狼狈溃逃。第49军、第70军分两路对日军实施侧后追击，予以重创。3月28日，国军主力进攻官桥街，与日军激战至下午，将日守军600余人全部歼灭，并毙日军第34师团少将指挥官岩永，收复官桥街。3月31日克复高安，截断了日军东逃归路。
4月1日，日军以15架飞机掩护突围，向斜桥方面逃窜。国军乘胜追击，收复了沿途城镇。4月2日，国军克复子西山、万寿宫、奉新等地，4月8日和9日又克安义外围的长埠、宋埠、平洲、弓尖各要点。日军受到重大伤亡后撤回原驻地。双方恢复战前态势，会战结束。
何应钦(时任国民政府军政部长)称此役为抗战以来最精彩之战，七十四军被誉为抗日铁军，授军中第一面荣誉旗。李天霞51师获第一号“陆海空军武功状”，余程万57师获第二号“陆海空军武功状”。
由李天霞编剧，第七十四军51师“新年代剧团”演出的战地剧《上高会战记》，在驻地巡演。有趣的是李的12岁儿子李塞安，在剧中饰演国军“敢死队员”一角。“陆军第51师第一号武功状歌”相继问世。同年李妻卢氏患肺病不治而亡。
1943年2月，李升任第七十四军副军长，兼贵州镇远师管区司令，负责为七十四军训练新兵。这年他与该军政工队员罗璐小姐结婚，并倡导“西南剧运”配合抗日宣传政策。冬季，李兼任东南训练团总队长，接受美式训练。
1944年3月，李天霞晋升为国民革命军第100军中将军长，军序列为19师（师长唐伯寅）、63师（师长徐志勖）、75师（师长朱惠荣）。李到职后，基于军队以战斗为主的原则，鼓励官兵奋勇杀敌，制定两句口号“军人的事业在战场上，部队的光荣是打胜仗”，同年6月-9月，李率部参加“长衡会战”“、邵阳战役”。
1945年2月20日晋升陆军少将。
1945年4月，李率100军会同18军（胡琏）、73军（韩浚）、74军（施中诚，参加抗日战争最后一战“雪峰山会战”李率部布防于雪峰山东麓之山门、隆回、淑浦一线。湘西三大土匪之一陈广中游击队归其指挥。74军布防于武洞洞口地区。4月25日，日军116师团3万余人向李师两军阵地发动进攻。我军居高临下又新装备了美式武器，火力甚强，双方杀得血肉横飞尸陈遍野，100军杀出了威名。18军、73军将士也奋勇杀敌，同样的给予日军重创。会战为时两个月，终以日军溃退邵阳而告终。此役共击毙日军12498人，伤23307人。抗日战争中，李天霞战功显赫，除荣膺“陆海空武功状”外，还获得四等“云麾”、“宝鼎”等勋章。
1945年7月，李奉命赴重庆陆大甲级将官班第三期受训。8月中旬，日军无条件投降，李提前返回部队驻地（湖南邵阳）。其妻罗璐于10月11日擅自驾驶美国吉普去慰问伤兵，不幸途中与压路机相撞，车毁人亡，暂厝于美军留下的救护车内。因受条件限制，李天霞在100军军部设置了一个灵堂，供友军将领和地方政要悼念。
届时一批新入伍的女政工队员充当招待，其中一位姑娘在李的视线中定格良久，此女芳名岳景华，年龄18岁，原长沙周南女中学生。李令其就地休息待命，尔后让她坐上吉普车随浩浩荡荡的出殡队伍去“卓刀泉”公墓。同年11月，第100军奉命开往武汉整补。12月，抵达南京待命，即被派往镇江和泰州，一方面协助第七十四军57师镇江之防务，另则占据泰州、泰兴一带，确保长江西岸之安全。未几，第100军奉命再次吹响集结号，调回驻镇江之一部，接受日军混成第90旅团投降及伪军第26师之改编。
