东汉灵帝中平年间（公元184年），汝南（今河南）上蔡百姓迁到上高，始建上蔡县，为上高县之始，距今有1822年的历史。
晋太康元年（公元280年），改名为望蔡县。
唐中和年间（公元881年）初置上高镇，南唐升元初（公元937年），废上高镇改置上高场，南唐保大十年（公元952年）升场为县，始名上高县，沿用至今。
从1968年2月起，隶属于宜春地区，即现宜春市。
春秋战国时，上高境域先后属吴、越、楚三国。
秦朝，上高属九江郡。
汉代，西汉高祖六年（前201年）置建成县（含今高安、上高、宜丰、万载及樟树市一部分）时为建成县地，属豫章郡。
新莽时（9—23年）改建成为多聚县，属九江郡。
东汉建武元年（25年）仍改为建成县，属豫章郡。
东汉中平间（184—189年），在萍居建成的汝南上蔡（今河南省）人聚居地析置上蔡县，这是本县立县之始。
西晋太康元年（280年），因上蔡人怀念故土，改上蔡县为望蔡县，属豫章郡。
南北朝梁（502—557年）望蔡县属豫章王国。
隋朝开皇九年（589年）望蔡县复并入建成县，属洪州。
大业初（605年）洪州复改豫章郡，仍属豫章郡。
唐朝，武德五年（622年）复立望蔡县，属靖州；七年（624年）属米州；同年改筠州；八年（625年）望蔡县并入高安县，属洪州。
中和元年到五年（881—884年），镇南节度使钟传以望蔡地居高安之上游，加上地形也比较高，初置上高镇。
上高因此得名。
五代十国时，南唐升元中（937—942年）废上高镇，改设上高场。
南唐保大十年（952年）升场为县，始名上高县，属筠州。
宋朝，南宋宝庆元年（1225年）属瑞州。
元朝，世祖至元十四年（1277年）升瑞州为瑞州路，上高属瑞州路。
元贞元年（1295年）升新昌县为州，上高属新昌州。
明朝，洪武二年（1369年），改瑞州路为瑞州府，上高属瑞州府。
清朝，沿袭明制，隶属未变。
民国三年（1914年）江西省分为四道，上高县属庐陵道；十五年（1926年）废道，上高直属于省；二十一年（1932年）省下设行政区，上高隶属第八行政区；二十四年（1935年），上高属第二行政区。
1949年7月14日上高县解放，属袁州区；1952年9月属南昌专区；1958年12月属宜春专区；1968年2月属宜春地区；2000年8月宜春撤区设市，上高属宜春市至今。