A gyűjteményt 1979-ben alapította Leskowsky Albert. miután németországi tanulmányaiból rengeteg hangszeres szakirodalommal és számos különleges hangszerrel tért haza. Ezt követően belevetette magát az akkor még élő tanyavilágba: idős citerásokkal, hangszerkészítőkkel találkozott. Ezek az emberek - felismerve Leo alázatát és hagyománytiszteletét - neki ajándékozták hangszereiket.
A kollekció ezek után a történelmi hangszerekkel, zongorákkal, trombitákkal, cimbalmokkal, hegedűkkel gyarapodott, miközben az ország különböző részeiből érkeztek különleges adományhangszerek. A nyolcvanas évek második felében a gyűjtemény kinőtte a rendelkezésre álló teret és átköltözött a Piarista Gimnázium pincéjébe. Ebben az időben nyert Leskowsky Albert a Soros Alapítványtól egy nagyobb összeget a gyűjtemény nemzetközi részének bővítésére. Leo a világ számos részén találkozott legendás hangszerkészítőkkel, akik örömmel adtak hangszert a múzeumnak és avatták be a gyűjtőt a féltett titkaikba. A fokozatos bővülés eredménye az lett, hogy újból költözni kellett és 1992-ben vette birtokba a Leskowsky Hangszergyűjtemény a Zimay u. 6/a szám alatt álló ingatlant és 1999-ben a város megalapította a Leskowsky Hangszergyűjtemény Közalapítványt, ami a gyűjteményt kezeli.
2011-ben társadalmi adakozásból megújult a Zimay utcai múzeumépület, bár a hely szűke még így is probléma maradt. Kecskemét város 2011-ben úgy döntött, hogy pályázati forrásból felújítja a város főutcáján, a Rákóczi úton lévő régi moziépületet, a Városi Mozit, hogy abban kerüljön elhelyezésre a Leskowsky Hangszergyűjtemény és a Kelemen László Kamaraszínház. A felújítás 2015 augusztusában befejeződött és novemberben megújult tartalommal a Hangszergyűjtemény megnyitotta kapuit. A Városi Mozi történetéről és felújításáról itt olvashat.