阜阳，历史上曾称谓汝阴、颍州或顺昌。时间更迭，称谓之变，各有其说。
阜阳地名由来，或说县有土阜，名为丘，汉置新县，隋有颍阳县，合二之名与义曰阜阳。或说因阜阳侯而得名。据《
后汉书·济南王传》所载，永初二年（公元108年），安帝封济南王刘错之子刘显为阜阳侯，阜阳地名始见。侯邑在沈亭南，古沈亭原在阜阳境，今为临泉县境，但其正式作为县名记载于志是在清雍正十三年（1735年）升颍州为颍州府时，增设附廓阜阳，
阜阳县才确定。
而汝阴之称见志最早，其因古汝水支流流经城东北而得名。秦灭六国即置汝阴县。
汉高帝六年（公元前201年）封夏婴为汝阴侯。后汉又封刘信为汝阴王。据考，汝阳，《汉书·地理志》又作女阴。
《水经注》卷22《汝水注》说：“阚●曰：本汝水别流，其后枯竭，号曰
‘死汝水’，故其字无水。”郦道元以为阚氏所释非是，认为“汝女，乃方俗之音，故字随读改”。北魏孝昌四年曾一度改为颍州郡，但不久即又复汝阴名，直到唐初。
颍州称谓始于北魏孝昌四年，因城临颍水而得名。《后汉书·郡国志》记汝阴县“本胡国”。“杜预曰：县西北有胡城”。《水经注》卷22《颍水注》：“颍水又东南流迳胡城东。”胡子国故城在阜阳城西二里。唐武德六年（公元623年）设颍州，天宝初年一度称汝阴郡，干元六年（公元758年）又复名颍州。经
五代十国，直至宋初。
顺昌之称，始于宋代，宋治平元年（1064年）英宗封子赵顼为颍王，赵顼即位后称神宗。因颍州为“飞龙”之地，即升州为府，称顺昌府。直到
南宋绍兴三十一年，金兵占领顺昌，此称告一段落。
金大定元年（1161年），改顺昌为颍州，历经元、明、清三代，政府机构增减变化，但其称未变，直到一九一二年
辛亥革命废府设县，改称阜阳。