Am 10. Juli 1840 weihte die jüdische Gemeinde die Kleine Synagoge ein. Sie nutzte sie jedoch nur 44 Jahre, bis 1884, als Gotteshaus, da die Gemeinde im 19. Jahrhundert stark anwuchs. Sie baute die Große Synagoge am heutigen Juri-Gagarin-Ring und verkaufte die Kleine Synagoge an einen Kaufmann. Ihm diente das Haus als Lager und Produktionsgebäude. 1918 baute die Stadt Wohnungen ein. In den 1980er Jahren wuchs das Interesse am jüdischen Erbe. Die Stadt ließ die Baugeschichte der Synagoge erforschen und das Gebäude sanieren. Bauforscher fanden die Mikwe sowie den Toraschrein und die Frauenempore. So zeigt sich der Betsaal heute in nahezu ursprünglichem Zustand. Die Kleine Synagoge dient heute als Begegnungsstätte und zeigt eine Ausstellung, die über das jüdische Leben in Erfurt im 19. und 20. Jahrhundert informiert. Exemplarisch werden namhafte Personen vorgestellt, von der Periode der Integration und Assimilierung, über antisemitische Anfeindungen vor der Machtübertragung an die NSDAP. Darauf folgend die systematische Auslöschung der jüdischen Gemeinde ab 1933 bis zur Wiederbelebung der Synagogengemeinde im Frühsommer 1945.