鄭州是一座古老的城市。早在3500年前，這裡就是商王朝的重要都邑。鄭州歷史悠久，是中華民族的發祥地之一，孕育了中華民族及其光輝燦爛的文化。曾有夏、商、管、鄭、韓5朝為都，隋、唐、五代、宋、金、元、明、清8代為州。轄區內發現有距今8000年的裴李崗文化，距今5000年的大河村、秦王寨等多種類型的仰紹文化與龍山文化遺址。據史籍記載，中華民族始族黃帝的出生地軒轅之丘，位於鄭州市境內的新鄭。我國歷史上第一個奴隸制王朝夏代曾建都于陽城（今鄭州市登封），商王仲丁遷都于?（今郑州市区），周武王封叔鲜于管（今郑州市区），表明郑州地区在历史上相当长的时期内曾是国家的政治中心。
春秋战国时期，郑、韩先后在新郑建都，长达500多年。秦汉时期，郑州地区始置荥阳、巩、京、新郑等县，荥阳一度成为“富冠海内”的天下名都。之后，历代先后在郑州地区设置荥阳郡、北豫州、荥州等。隋开皇三年（公元583年）将荥州改为郑州。隋开皇十六年（公元596年）置管州治所。管城作为郑州、管州州治，成为郑州地区政治、经济中心。隋炀帝开通大运河和通济渠后，郑州一度“商旅往返，船乘不绝“，成为全国水陆交通的重要枢纽。北宋建都汴京后，郑州属京畿路，崇宁四年（公元1105年），建为西辅，成为宋代四辅郡之一。明初，郑州划归开封府。清代，郑州为两次升为直隶州。
本世纪初，由于平汉和陇海铁路在郑州交汇，郑州的民族工业、手工业和商业得到较快发展。1923年，郑州爆发了震惊中外的”二七“大罢工，在中国工运史上写下了光辉的篇章。1929年至于1931年郑州曾一度废县设市。1948年月10月22日，正式建立了郑州市，1954年成为河南省省会。