平顶山，这座历史悠久的城市，其根源可追溯至公元前五、六千年前的新石器时代，拥有裴李岗文化、仰韶文化和龙山文化的丰富遗址。在古代，这里曾是商周时期的应国，早在《左传》、《诗经》、《史记》等经典文献中就有记载。众多历史名人如唐朝元结、南宋牛皋、明代滑寿、春秋墨翟、清代李绿园、近代白朗、沈诸梁等都曾在这里生活或留下足迹，他们的文化遗产为平顶山增添了深厚的文化底蕴。
北魏时期，高阳县在此设立，以境内的高阳山得名。1957年，平顶山市由叶县和宝丰县合并而成，得名于其山峰平直。自古以来，这片土地属于豫州，殷商时期，应、桀部落在此居住。历经西周、春秋战国、秦汉、晋南北朝，平顶山曾分属多个郡县，如颍川、襄城、南阳等。隋唐时期，它属于汝州、许州和襄城郡，随后的宋元明清时期，归属汝州、许州和裕州。
新中国成立后，平顶山归属洛阳专区、许昌专区管辖，随着煤田的开发，1954年设立筹备处，1957年正式设市，成为直辖市。市区发展逐步起步，1960年代，行政区划有所调整，设立街道办事处，直至1990年代，汝州市和舞钢市设立，成为计划单列市。市区名称的变更和行政区划的调整，反映了平顶山城市发展与行政区划变迁的过程。
2005年的乡镇区划调整，使得平顶山市的乡镇数量减少，人口和面积分布更加均匀。如今，平顶山市辖四个县、四个区，代管汝州市和舞钢市，共有众多乡、镇、街道办事处，以及居民委员会和村民委员会，形成了一幅独特的历史与现代交融的画卷。
平顶山以前的历史只能查到六朝。当时当地正在搞一个城市雕塑，因为出煤，它准备搞一个太阳城标识。古文字专家郝本性说这没有特点，凡是出煤的地方都可以叫太阳城，他建议改成鹰（应）城，鹰字在商代就有，后来这个城市的别名鹰城就叫开了。 鹰城是河南平顶山的简称或者通俗名称；平顶山春秋时为应国，应国以鹰为图腾，古典汉语“应”“鹰”通假，平顶山因此又称鹰城 。