郑州位于东经112°42'-114°13' ，北纬34°16'-34°58'，东西宽166公里，南北长75公里，北临黄河，西依嵩山，东南为广阔的黄淮平原，东面是七朝古都东京开封市，西面为十三朝古都洛阳市，南面是许昌市，北面为焦作市和新乡市。
郑州市横跨中国二、三级地貌台阶，西南部嵩山属第二级地貌台阶前缘，东部平原为第三级地貌台阶的组成部分，山地与平原之间是低山丘陵地带。郑州最高点位于登封市的少室山，连天峰海拔约1512.4米；最低点位于中牟县韩寺镇胡辛庄，海拔73米。郑州山地面积约2377平方公里。