Der Bau des Alten Rathauses ist eng mit der Geschichte des Deutschen Ordens verknüpft. Der markante Renaissancebau wurde auf Antrag des Deutschmeisters Wolfgang Schutzbar vom Deutschen Orden zwischen 1562 und 1564 erstellt.
Das Gebäude mit Krämerläden und dem Arrestgebäude im Untergeschoss verpachtete der Deutschmeister für einen jährlichen Mietzins von 99 Gulden an die Stadt. Kernstück des hoch aufragenden Gebäudes mit dem auffälligen Staffelgiebel ist der prächtige Ratssaal im ersten Stock. Dort wurden im 16. Jahrhundert nicht nur Bürger und Ritterversammlungen durchgeführt, sondern auch große Feste gefeiert. Ihren Wein tranken die Ratsherren dabei aus Silberbechern. 1596 vermerkt die Chronik extra die Anschaffung eines solchen großen silbernen Humpens. Im zweiten Obergeschoss befanden sich ein Beratungssaal, Kanzleien, das Archiv und die städtische Altertumssammlung. Sie bildete später den Grundstock für das heutige Deutschordensmuseum.
Im Laufe der Jahre gab es einige Umbauten am Rathaus. 1720 wurde die breite, steinerne Treppe, die außerhalb des Rathauses zum ersten Stock führte, entfernt und durch eine Altane (Balkon) ersetzt. Im Inneren entstand gleichzeitig eine breite Treppe. Nach dem Übergang der Deutschordensgüter an Württemberg 1809 wurde das Rathaus von vielen staatlichen Ämtern genutzt und die Stadtverwaltung an den Rand gedrängt.
Nach zähen und elf Jahre dauernden Verhandlungen kaufte die Stadt 1838 schließlich das Rathaus und renovierte es in den drei Folgejahren. Umbau- und Erneuerungsarbeiten waren auch in der jüngeren Geschichte des Rathauses notwendig. Zwischen 1955 und 1958 erhielt der Deutschordensbau neue Fenster und eine Fernheizung, von 1997 bis 1999 wurden der Dachstuhl und das Innengebäude renoviert. Seine besondere architektonische Ausstrahlung hat das Gebäude durch die fast 450 Jahre währende Geschichte erhalten.
Heutzutage ist hier die Tourist-Information sowie die Volkshochschule untergebracht. Zudem starten von hier aus die regelmäßigen Stadtführungen.