李抱玉本名安重璋，家族世代居住在河西， 擅长饲养名马，为时人所称颂。他的侄儿们，有的迁居京城，成了儒生，和儒士结成了亲家，逐渐受到了儒士的影响。安重璋从小在西州长大，喜欢骑马射箭，经常在军营任随从，沉着、坚毅、有计谋、忠诚并细心谨慎。
安史之乱时，唐肃宗在灵武即位。于至德二年（757年）五月赐安重璋姓李氏，改名李抱玉。
乾元初年（758年） ，太尉李光弼命他任偏将，多次立有功绩，很快脱颖而出。
乾元二年（759年），从特进官、右羽林大将军、知军事，升任鸿胪卿员外置同正员；持节郑州诸军事兼郑州刺史，代理御史中丞，郑、陈、颍、亳四州节度。
太上皇唐玄宗以其战河西有功，为其改名抱玉。
当时史思明攻陷了洛阳，李光弼据守河阳，叛军兵力正强，李光弼对李抱玉说：“您能替我守两天南城吗？”李抱玉说：“过了两天怎么办？”李光弼说：“过了两天没有救兵来，可以放弃城池。”叛军元帅周挚率安太清、徐黄玉等先抵达南城，要攻城，李抱玉就骗他们说：“我军粮食吃完了，明天就投降。”叛军很高兴，收兵等他们投降。李抱玉因此能修好守卫设施，第二天，他坚守城墙求战。叛军因被骗发怒而猛烈攻城。李抱玉乘叛军没防备进攻，内外夹攻，杀死了很多叛军，周挚军退却了。李光弼亲自率军守中赎城，周挚放弃南城进攻中赎城，没获胜，就整顿军队要攻北城。李光弼率军出城进攻，大败叛军。固守河阳，收复怀州，他的功劳都最大，因此升任泽州刺史、兼任御史中丞。
唐代宗即位，擢为泽潞节度使、潞州大都督府长史、兼御史大夫，加领陈、郑二州，迁任兵部尚书，封武威郡王。李抱玉多次上书恳辞王爵，代宗只好改封其为凉国公，拜为司徒。
广德元年（763年）冬天，吐蕃攻陷京师长安，代宗逃到陕州。各军散兵和各地亡命之徒聚集成为草寇，京城南边子午等五条山谷的草寇对百姓危害较大。代宗派薛景仙任五谷使，率军征讨，几个月都没有获胜，于是下诏命李抱玉为凤翔节度使讨伐草寇。李抱玉探听到匪首住处，先派兵分别驻守各条山谷，又出奇兵暗暗派几百名精兵从洋州进攻草寇。匪首高玉正和众匪首聚会，突然被几十名精兵抓获，于是又大举搜捕匪首，把他们都杀了，其余匪徒不攻自散，十天以内五谷都平定了。因此升任司空，其他职务和过去一样。
当时吐蕃每年进犯边境，唐代宗认为岐阳是国家西边的大门，靠李抱玉镇守，对他无比宠信，提拔他为同中书门下平章事，又兼任山南西道节度使，河西、陇右、山南西道副元帅、判梁州事，同时兼任三道节度，又掌管凤翔、潞、梁三大府，官任三公。
李抱玉认为职务太高，坚持上奏恳切辞让司空官职和山南西道节度、判梁州事，又请求辞去兵部尚书。唐代宗赞赏他的谦逊礼让，同意了。李抱玉镇守凤翔十多年，他镇守凤翔十余年，虽无破虏之功，但境内比较安定，颇受当时人的赞扬。
大历十二（777年），李抱玉去世，唐代宗非常悲痛，为此罢朝三日，追赠太保，谥号昭武。
刘d：①李抱玉、李抱真，以武勇之材，兼忠义之行，有唐之良将也。且如农隙教潞人之射，数骑入武俊之营，非有奇谋，孰能如是。惜乎服食求仙，为药所误。王虔休不党僭命，有足可嘉；卢从史动多怀奸，自贻伊戚。M则老也知足，澄则过而改图。元素为御史时，执德不回；居大夫日，其心甚短。因缘七出，益露丑声，善少恶多，又何足算。②抱玉、抱真，我朝良将。虔休之心，亦多可尚。史怀奸谋，M将禄让。澄迷却行，素贪一响。吾谁与欺，岂如忠谅。
宋祁：抱玉在镇十馀年，虽无破虏功，而禁暴安人，为将臣之良。
陈宏谋：唐自中叶以后，方镇皆选列校以掌牙兵。是时四方豪杰，不能以科举自达者，皆争为之。往往积功以取旄钺。虽老奸巨盗，或出其中。而名卿贤将，如高仙芝、封常清、李光弼、来、李抱玉、段秀实之流，所得亦已多矣。
曾祖：安兴贵，右武候大将军、凉国公。
祖父：安文生，不仕。
父亲：安忠敬，左司御率兼河西节度副大使临洮军使，转鄯州都督。
从弟：李抱真，字太玄，检校司空。
儿子：李自正，字尚贞，少府监，袭凉国公。工正书，其父李抱玉纪功碑阴记为其所书。
《旧唐书·列传第八十二》
《新唐书·列传第六十三》