黄山市环境保护局设有多个关键职能科室，以确保环境保护工作的高效进行。
首当其冲的是办公室，负责统筹机关的政务工作，包括文电处理、会务安排、机要事务以及档案管理。他们负责机关的安全保密、来信来访、政务公开等，参与起草综合性文件，并负责退休人员的管理工作。此外，办公室还负责机构编制、人事管理和教育培训，以及协助管理县（区）环保部门的领导班子工作，监管财务和国有资产，监督环保专项资金的使用，并负责法规文件的起草、合法性审核、行政复议和应诉工作，同时，他们还负责环保目标责任制的实施和生态文明建设及环境友好型社会的宣传教育。
污染控制科（科技监测科）承担着重要的污染防治任务，制定并执行大气、水体、土壤等污染防治政策，负责排污申报、许可证制度的实施，以及污染物排放总量控制和考核。他们关注辐射安全，处理放射性废物，并监督相关环保工作，推动循环经济和环保产业的发展。此外，科室内还负责环境监测工作，评估环境质量，建设和管理环境监测网及信息网。
环境影响评价科（行政审批服务科）主要负责建设项目环境保护的法规执行，指导全市环保管理工作，审查规划环境影响评价，并负责建设项目环境影响评价文件的审批，同时监管相关机构资质和从业人员职业资格。
自然生态保护科则聚焦于生态保护，负责编制实施生态保护规划，对国家级和省级自然保护区的保护工作进行监督，开展生物多样性和农村生态环境保护，以及生态示范和生态农业的建设。
根据《中共安徽省委办公厅 安徽省人民政府办公厅关于印发的通知》（厅〔2009〕60号），设立市环境保护局，为市政府组成部门。