古籍载，通山地域在战国时为楚地。
秦属南郡。
汉属江夏郡下雉县。
三国属吴之武昌郡阳新县。
隋改阳新县为永兴。
唐属鄂州永兴县。
北宋乾德二年（964），南唐（遵北宋年号）始置通山县，以通羊、青山二镇各取一字命名，隶鄂州。开宝八年（975）属江南道。太平兴国元年（976）属荆湖北路永兴军，太平兴国二年属江南西道兴国军，太平兴国三年降为羊山镇，不久复为县。崇宁元年（1102）属江西路兴国军，南宋绍兴四年（1134）再次降为镇，翌年复县。
元至元十七年（1280）属江淮行省蕲黄道，至元十九年属江西道，至元三十年（1293）属湖广省兴国路。
明洪武元年（1368）属兴国府，洪武九年（1376）属武昌府兴国州。
清康熙三年（1664）属武昌府。
民国期间，通山县始终属湖北省辖。元年（1912）属第一区，3年（1914）属江汉道，16年（1927）直属湖北省辖。1930年建苏埃政府时，属湘鄂赣省鄂东南苏区辖。21年（1932），国民县府属第二行政督察区，25年（1936）改属第一行政督察区。
解放后，1949年5月属大冶专署。1952年6月属孝感专区。1958年11月与崇阳、通城合并为崇阳县，1959年3月恢复通山县。1959年11月属武汉市，1962年5月复属孝感专区。1965年6月属咸宁地区。 自宋建县至清县域未发生大的变化。1929年东南革命根据地形成，经大冶中心县委决议，阳新所属梅田、黄沙、大畈、慈口等地划归通山县辖。这一时期，苏维埃县府与国民县府并存，国民县府的辖域只限于楠林、城关、厦铺一线数点。1933年后，革命趋向低潮，苏区渐转向边缘山区，国民党政区扩展，梅田、黄沙、大畈、慈口等地仍归阳新县辖。1934年5月，湖北省政府决定将阳新县的黄沙、九折、慈口、大畈、燕厦与通山到的富有、横石潭大桥背等地，划为“大畈特别区”，直属湖北省第二行政督察区辖。1935年6月撤销特别区，各地复归原县辖。抗日战争时期的1940年，日军在占领区建伪政权；伪省府将阳新县大畈区划归通山县辖。抗日战争胜利后，阳新、通山两县参政机关争议纷起，经省决议，大畈区仍归阳新县辖。
建国后，1950年3月大冶行署析出阳新县燕厦、大畈、黄沙等地划入通山。1952年6月属孝感专区。1954年南林区高桥乡的黄泥档、三界宕、张家、孙家、花红等村及雨山乡的廖家山村划归崇阳县。1955年3月，阳新县八区白果乡陈村划归通山县。1971年，通山县杉木、太平、东源等地划归阳新县。 1999年3月咸宁撤地设市，通山隶属未变至今。
通山县城
通山县历史悠久。唐尧建九州，通山地处荆、扬二州之交。春秋时属楚，秦为南郡地。汉高祖六年公南郡置江夏郡，下雉县属之。新莽改下雉为闰光县名。东汉献帝十三年复为下雉县。三国时属吴，章武之年，孙权改江夏郡置武昌郡，分下雉县置阳新县。唐太宗贞观之年公天下为十道，永兴县属江南道鄂州。南唐改差羊山镇为通羊镇。宋太祖乾德二年分永兴县置通山县，立县治所于通羊镇明洪武元年（1368）属兴国府，九年改隶武昌府兴国州。清康熙废 三年直属武昌府辖。
辛亥革命除帝制建立民国，通山县司湖北省第一区。民国三年改属江汉道。民国下六年，废道改属省直辖。民国二十年属湖北省第一行政督察区。
建国后，1950年3月大冶行署析出阳新县燕厦、大畈、黄沙等地划入通山。1952年6月属孝感专区。1954年南林区高桥乡的黄泥档、三界宕、张家、孙家、花红等村及雨山乡的廖家山村划归崇阳县。1955年3月，阳新县八区白果乡陈村划归通山县。1971年，通山县杉木、太平、东源等地划归阳新县。1999年3月咸宁撤地设市，通山隶属未变至今。