Im Haus Florianigasse 2, das 1569 erstmals urkundlich erwähnt wurde, wohnte und amtierte der Zwettler Gerichtsdiener, auch Scherge genannt. Die heutige Florianigasse hieß daher bis ins 19. Jahrhundert Diener- oder auch Schergengasse. Der Gerichtsdiener hatte vielfältige Aufgaben zu erfüllen. Er war – gewissermaßen als Polizeiorgan – für die Einhaltung der Ordnung zuständig, hatte Kundmachungen des Stadtrates zu verlautbaren, Exekutionen durchzuführen, Urteile zu vollstrecken, dem Scharfrichter zu assistieren, die Gefangenen zu beaufsichtigen usw. Gerichtsdiener waren in der bürgerlichen Gesellschaft aber keineswegs angesehen. Ihr Beruf galt als unehrenhaft.
Im Zwettler Dienerhaus, das bis 1860 der Gemeinde gehörte, befand sich auch ein Arrest. 1817 verlangte das Kreisamt, dass dieses Gefängnis erweitert und ausgebaut werden solle. Den Bauplan dafür verfasste der Zwettler Maurermeister Ignaz Köck. Johann Prinz, der ehemalige Besitzer des Hauses Florianigasse 2, ließ den Plan für diesen Umbau, dessen Original sich im Stadtarchiv befindet, an der Westfront des ehemaligen Dienerhauses aufmalen.
Einer der letzten Insassen dieses städtischen Gefängnisses war der Bauernbursch Andreas Bruckner aus Niederstrahlbach, der 1836 wegen eines Raubmordes zum Tode verurteilt und hingerichtet wurde.
Als nach der Revolution von 1848 das alte Herrschaftssystem aufgehoben wurde und Bezirksgerichte sowie Bezirksgefängnisse entstanden, hatte das Haus des Zwettler Gerichtsdieners seine Aufgabe verloren und wurde 1860 an Privatpersonen verkauft.
