Das Gebäude gehört zu den ältesten Profanbauten der Stadt und reicht mit Sicherheit in die Zeit der Kuenringer zurück. Schon im Jahre 1307 wurde es von Leuthold I. von Kuenring-Dürnstein um- und ausgebaut. Nach Leutholds Tod (1312) ging es in das Eigentum der Liechtensteiner und dann der Puchheimer über, die das „Herrenhaus“ an die Stadt verkauften. Seit dieser Zeit diente es bis 1850 als Rathaus.
1549/50 wurde an der Vorderfront ein quadratischer Turm errichtet, hinter dessen runder Toröffnung noch das ältere gotische, schön profilierte Spitzbogenportal zu erkennen ist. Im Zuge der Errichtung dieses Turmzubaues schmückte man die Vorderfront mit Sgraffiti, die Bezüge zur Funktion des Hauses als Sitz der städtischen Verwaltung und des Stadtgerichtes aufweisen. 1678 stellte man – wahrscheinlich aus Gründen der Statik – die beiden seitlichen Stützpfeiler an das Gebäude. Das Alte Rathaus wurde in der Folge mehrmals umgebaut und fassadiert, so auch nach den Stadtbränden von 1772 und 1814.
Die Renaissancesgraffiti wurden erst 1976 wieder freigelegt. Bei der Restaurierung der Bilder, die 2002 vorgenommen wurde, bemühte sich der in Zwettl wohnende akad. Restaurator Mag. Ralf Wittig um größtmögliche Originaltreue. Von 1850 bis 1975 beherbergte das Alte Rathaus das Bezirksgericht und das Grundbuchsamt.
Heute befindet sich im Alten Rathaus die Zwettl-Info sowie das sehenswerte Stadtmuseum mit der Dauerausstellung „Sammlung Anton“. Außerdem wird Museumspädagogik für Kinder und Erwachsene angeboten.
