Mlynář se zavazoval udržovat budovu, mlýnské zařízení, pivovar i panský vodovod v domě. Pro zimní ohřívání potrubí dostával do mlýna 10 sáhů dříví. Zámeckému pivovaru musel navíc semlít veškerý slad, za to obdržel z každé várky 1 vědro piva po zaplacení 2 zl. 20 kr. tácu ze sudu.
V městském archivu je záznam o obecním mlýně z roku 1636:
"Mlejn obecní, v němž se předešle náchlební mlynář choval a každého roku větší náklad než zisku z něho přicházelo, na něj od obce činěn byl, z bedlivého uvážení toho roku pronajat jest v sumě 45 kop míš."
V roce 1759 se nakonec město mlýna zřeklo a převedlo jej do soukromých rukou.
Od 1. ledna 1759 zakoupil Císařský mlýn za 2200 zl. (1000 zl. hotově na místě, 700 zl. doplatit na sv. Jiří, zbytek splácet v ročních splátkách 60 zl.) Karel Palm. Tehdy měl mlýn tři složení a čtyři stoupy.
srpen 1759 (po půl roce) mlýn odkoupil Antonín Ditrich
2. října 1764 Jiří Bubeník
po jeho smtrti se 13.6.1786 ujal mlýna Václav Jaňura, ketrý zde hospodařil až do plnoletosti Antonína Bubeníka
1811 Antonín Bubeník spojil mlýn Císařský s mlýnem obecním, který přikoupil
Od roku 1764 se Císařský mlýn stal majetkem mlynářského rodu Bubeníků. Antonín Bubeník roku 1811 přikoupil ještě sousední mlýn čp. 13 a od té doby osud obou mlýnů splývá. (RR)