Bad Wimpfen hat zwei Stadtteile. Der ältere Teil, Wimpfen im Tal, liegt in der Neckaraue, wo schon im 1. und 2. Jahrhundert ein römisches Kastell zur Sicherung des später weiter nach Osten verlegten Obergermanischen Limes stand. Wimpfen im Tal war neben Ladenburg und Rottweil einer der bedeutendsten römischen Siedlungsorte am Neckar, zumal hier eine Brücke über den Fluss führte. Der andere Stadtteil, Wimpfen am Berg, verdankt seinen Aufstieg einer 1182 erstmals erwähnten staufischen Kaiserpfalz, die heute die größte noch erhaltene Pfalz nördlich der Alpen ist.

Nach dem Ende der Stauferzeit wurde Wimpfen zur Reichsstadt. 1622 fand mit der Schlacht bei Wimpfen eine der blutigsten Schlachten des Dreißigjährigen Krieges statt, in deren Folge die Entwicklung der Stadt durch Zerstörungen und Plünderungen weit zurückgeworfen wurde.

1803 wurde Wimpfen eine Exklave des Großherzogtums Hessen zwischen dem Großherzogtum Baden im Westen und Norden und dem Königreich Württemberg im Süden und Osten. Erst 1952 wurde Bad Wimpfen nach einer Volksabstimmung in den nordwürttembergischen Landkreis Heilbronn eingegliedert, wobei der staatsrechtliche Status der Stadt bis heute noch nicht abschließend geklärt ist.