安阳市属于河南省。
早在25000年前旧石器时代晚期，先民就在此生活。
夏朝，胤甲（别名孔甲）即位，建都于西河。
商朝，公元前1300年左右，商王盘庚亦将都城迁至太行山麓的漳河、洹河冲积扇扇缘，史称盘庚迁殷。 商王盘庚迁都于此，历经八代十二王255年，创造了光辉灿烂的中国殷商文明。在殷墟发现的甲骨文是中国文字始祖，与现代汉字一脉相承，也是世界三大古文字之一，对推动中华文明乃至世界文明的发展都做出了巨大的贡献
春秋时期，安阳先属卫国，继而属晋国；战国时期，安阳属魏国，后属赵国。
战国时期，秦昭襄王五十年（公元前257年）十二月，秦国调动更多士兵驻扎在汾城附近。当时王龁继续攻打邯郸，但依旧未能攻克。恰逢各国援军向王龁进攻，王龁几次败退，告急使者往返于秦国。魏无忌率领援军在邯郸城下大败秦军，王龁于是撤除邯郸围军退走，回转投奔汾城附近驻军。二个月后，韩、赵、魏再次组成合纵军逼近汾城，企图阻止王龁从汾城向东进攻，不料王龁抢先进攻合纵军，斩首六千，合纵军向南逃跑，王龁一直追到黄河，合纵军又有两万人死在了黄河里。另一支赵军趁王龁东进时攻下汾城，于是王龁进攻汾城，随即跟随张唐攻克赵国城邑宁新中，将其改名为安阳。
秦统一六国后实行郡县制，分天下为三十六郡，今安阳市所辖地区分属河内郡和邯郸郡。辖区内始置安阳县。
西汉初年，废安阳县并入荡阴县，此后直到西晋才得以重置。此间今安阳市所辖地区西部属河内郡，东部属魏郡（治邺城，即今安阳北）。自东汉至西晋统一前，河内郡属司隶校尉部管辖范围，魏郡则属冀州管辖范围。
东汉末年，属袁绍势力范围。建安九年（204年），曹操打败袁绍，攻取邺（今安阳北），重建邺城，使邺城成为东汉实际的政治、经济和文化中心；建安十八年（213年）曹操为魏王，定魏国之都于此；延康元年（220年），曹丕代汉，迁都洛阳，邺仍然陪都，为“五都”之一。此时，今安阳市所辖地区仍分归魏郡（治邺）与河内郡管辖。
西晋时期，属司州魏郡（统8县，林虑县（今林州市）属司州汲郡）。十六国时期，仍属魏郡管辖。同时，邺先后成为后赵、冉魏、前燕三国的都城。
北魏道武帝天兴四年（401年），在邺立相州。此时邺已经成为相州、魏郡、邺县三级治所。东魏初年，邺成为东魏的都城，安阳县与荡阴县一起并入邺县。武定八年（550年）七月，高洋（高欢次子）篡魏，改国号为“齐”，仍都邺。北齐统治极为残暴，后于577年灭于北周。北周静帝时，杨坚辅政。北周大象二年（580年），隋公兼丞相杨坚镇压了对自己不服的相州（今安阳）总管尉迟迥，为了防止河北反杨势力死灰复燃，遂下令火焚邺城，相州、魏郡和邺县及所有居民一并南迁至安阳城。从此安阳城代替邺城成为这一地区的政治、经济和文化中心，成为新邺城，安阳县更名为邺县，原旧邺县地置灵芝县。
隋开皇三年（583年），隋文帝废天下诸郡，实行州县二级制，安阳城为相州、邺县治所。开皇十年（590年）邺县治所迁回原地邺，复安阳县建制。隋大业元年（605年），隋炀帝废诸州总管府，实行郡县二级制，废相州，存魏郡，治安阳，领11县。隋末今滑县一带翟让、李密领导的瓦岗军起义，是隋末农民起义的重要部分。
唐武德元年（618年），改魏郡为相州，领8县。唐贞观元年（627年），分天下为十道，相州隶属于河北道。唐天宝元年（742年）至乾元元年（758年），相州一度改称“邺郡”。安史之乱期间，安阳城又是一个大战场，连年战争给农业生产造成了严重破坏，给百姓带来了极大灾难。宝应元年（762年），唐雍王李适讨伐驻相州的史朝义（史思明之子）叛军，史朝义部将薛嵩（薛仁贵之孙）向唐节度使李抱玉投降。唐朝便在相州等六州置昭义军，以薛嵩为昭义军节度使，治所在相州。唐末藩镇割据时期，相州属魏博节度使管辖。唐肃宗乾元初，时值安史之乱末期，于魏州、博州置魏博军，田承嗣为魏博节度使。
宋初，相州隶属河北西路，并置彰德军节度。
金章宗明昌三年（1192年），相州升为彰德府，领5县（一说4县）。元至元初改“彰德府”置“彰德路”，直接隶属于中书省。
明清时期，属河南省，复为“彰德府”。领6县1州（磁州），临漳县属河南省彰德府（今安阳市）管辖。 乾隆时期，临漳、涉县、武安、安阳、内黄、汤阴、林县（现林州市）等7县隶属彰德府管辖。
中华民国成立之初，安阳仍为彰德府治所。民国二年（1913年）改彰德府为安阳县，属河南省豫北道，民国三年（1914年）改为河北道。民国十六年（1927年），道级行政区被废除，安阳县归河南省直辖。中国共产党领导人民建立了太行抗日根据地和冀鲁豫抗日根据地。
中华人民共和国成立前夕，漳南县原属河南安阳专区，1949年解放后，漳南县分别划归安阳县、临漳县、魏县。1949年5月6日，中国人民解放军解放安阳，成立安阳市。8月1日，成立平原省，安阳市为省辖市。1952年11月30日，撤销平原省，安阳市回归河南省，仍为省辖市。新中国成立后，临漳县划归河北。1983年，国务院决定把安阳县、林县、浚县、汤阴县、淇县划归安阳市，实行以市带县体制。1986年2月，河南省进行行政区划调整，将淇县、浚县划归鹤壁市，将濮阳市属的内黄县、滑县划归安阳市。