Tussen 1871-1923 was in Paviljoen Welgelegen het Koloniaal Museum gevestigd, de voorloper van het huidige Tropenmuseum in Amsterdam. Welgelegen is gebouwd door bankier Henry Hope. Hij was gouverneur generaal van de West-Indische Compagnie en in die functie betrokken bij de slavenhandel. Vanaf 1814 tot haar dood in 1820 woonde hier Wilhelmina van Pruisen, vrouw van Willem V. Rond 1770 werden Cedron uit Curaçao en Cupido als kind cadeau gedaan aan het echtpaar. Of de zwarte bedienden haar vergezelden in Paviljoen Welgelegen, is niet bekend.
Het Historisch Museum bezit een bijzonder Haarlems erfstuk: een tabaksvulmachine uit 1762, afkomstig van tabakswinkel De Gouden Kroon aan het Spaarne 70. Dat tabak, plantages en koloniën onlosmakelijk met elkaar verbonden waren, was ook te zien aan namen van andere tabakswinkels in de stad, zoals Javahandel, De Gekroonde Moor en De Rookende Indiaan. Bij de tabaksteelt werd gebruik gemaakt van slavenarbeid.
In 1637 kocht een spekverkoper dit pand. Honderd jaar later stond de naam Worstvat op de gevel. Duidelijk is te zien hoe worst in vaten werd verpakt. Worst, zoutvlees of zoute vis diende als voedsel op de schepen naar Oost- en West-Indië. Gezouten vis (bakkeljauw) en soms gezouten vlees werden ook één keer per jaar aan slaven op de plantages uitgedeeld. Loon kregen ze niet. In 1791 vestigde zich hier drukkerij Bohn, uitgever van het werk van Beets.
De Haarlemmer Nicolaas Beets hield in 1856 een toespraak bij de Nederlandsche Maatschappij tot Bevordering van de Afschaffing der Slavernij: ‘Geliefde Landgenooten, Zoo lang de Vrijheid het hoogste en dierbaarste goed des menschen zal zijn, zal de slavernij zijn diepste vernedering en zijn vreeselijkste ellende wezen. Wat is het dat de harten van Nederlanders vergeten doet te kloppen? Is het onverschilligheid voor het lot van stervelingen van een ander volk en van een andere kleur?… Liefde tot den naaste moet op de bevrijding van den Slaaf aandringen.’