JR東北本線白河駅の北側約500mに位置する。小峰ヶ岡と呼ばれる標高約370ｍ、東西約450ｍ、南北約80mの丘陵を利用した悌郭式平山城（ていかくしきひらやまじろ）である。丘陵の西端に本丸を設け、本丸の東側と南側に二之丸や三之丸などの曲輪を階段状に配置する。曲輪の周囲には石垣や堀が設けられ、全体としては五角形のような形状をした城郭である。
　史跡として指定されているのは本丸および二之丸などの一部約16万m²であるが、当時の城郭の範囲は約54万m²の規模と推定されている。
　小峰城は、南北朝期の興国・正平年間（1340～1369年）に結城親朝＊が現在の丘陵に城を築いたのが始まりと伝えられ、その後、16世紀には搦目＊にあった白川城から白河結城家の本城を移したと推定される。1590（天正18）年、豊臣秀吉の奥羽仕置で白河結城家は所領が没収され、その後、白河は蒲生家や上杉家が領主をつとめる会津領の一部となり、小峰城には城代が置かれた。
　1627（寛永4）年には、初代白河藩主となった丹羽長重が棚倉から入封し、小峰城の大改修や城下の町割を行い、1632（寛永9）年に現在も遺る石垣を多用した近世城郭を完成させた。丹羽家をはじめ、榊原＊、本多、松平（奥平）、松平（結城）、松平（久松）＊、阿部と7家21代にわたり白河藩主の居城となったが、1868（慶応4）年の戊辰戦争白河口の戦いで一部の建物が消失し、落城した。
　現在は、本丸周辺の石垣や堀の一部が残存し、また、1991（平成3）年に三重櫓、1994（平成6）年には前御門が江戸時代の絵図や発掘調査成果をもとに木造で復元され、江戸時代の小峰城の様子を感じることができる。
　2010（平成22）年8月には、奥州の玄関口という要衝に位置する城として重要な役割を担い、石垣を多用した江戸時代の城郭の姿を良好に残し、近世の政治・軍事を知るうえで重要なことから、国史跡に指定された。
＊榊原の榊は木へんに神