武安春秋属晋，战国为赵之武安邑。秦灭赵后，武安属邯郸郡。王莽新朝时，改武安为恒安，东汉初复名武安。西汉初（前202—前195年）设置县，属魏郡。当时县城在今市区西南50里固镇。固镇位于?河北岸，西通秦晋，既为交通要道，又为兵家重地。“武安”一词，含“凭借武力获取”之意。隋代县城移至今地。
唐武德元年（618年）以来，武安先后改属紫州、慈州、磁州。元至元二年（1265年），武安并入邯郸县，明洪武元年（1368年）武安仍属磁州。清雍正四年直属彰德府。民国初废府置道，武安属河南省河北道。民国十三年道废，直属省政府。
1937年以来，先后改为武南县（1941年）、武磁县（与磁县一部分合并后1942年成立）、武东县（1944年）。1945年县城解放，原磁武、武东县撤销，设置武安县。1946年，恢复武安县原建置。1949年，武安县由河南省划归河北省邯郸专区。1958年，撤销武安县，西部并入涉县，东部划归邯郸市，称武安矿区。1961年，恢复武安县原建县。1988年10月6日，取消县建置，更名武安市，为省属县级市，由邯郸市代管，素有“太行明珠”之称。