Vele middeleeuwse regeringen en samenlevingen beperkt Joodse muzikanten om specifieke instrumenten (fluiten en snaarinstrumenten van de meest prominente), en de muziek zelf was een van de weinige beroepen Joodse volk mochten oefenen. Dus, elke grote Europese stad bezeten hoogopgeleide, professionele joodse bands. Deze banden, samen met Rom (zigeuners) bands, reisde om een brood te verdienen. Gedwongen uit Spanje, Portugal en Centraal-Europa (Duitsland in het bijzonder), 17de eeuw joden gevonden zich verplaatst naar het Ottomaanse Rijk in de Vestigingsgebied.
Er buitenlandse muzikanten reizen op handelsroutes geïnjecteerd joodse muziek met Turkse, Griekse, Armeense en Midden-Oosterse invloeden, wat bijdraagt aan de vorming van de vroege Klezmer. Het werd gekenmerkt door: 1) een extreem hoog niveau van musiceren; 2) unieke instrumentatie; 3) Midden-Oosten polyritmiek.
In eerste instantie beperkt tot de rustigere instrumenten klarinet en viool, Klezmer muzikanten adeptly verkend hun muzikale capaciteiten, het ontwikkelen van een emotionele diepte en expressie patroon na het menselijk zangstem (een prominente karakteristiek nog inherent zijn aan Klezmer vandaag). Met de 18e-eeuwse chassidische traditie (aanbidding door middel van verhoogde emotie) en de vrijlating van de joden die in het tsaristische leger te brengen in meer militaristische instrumenten (trompetten, trombones, concert snare of "kleine" drums ["tshekal"], gemonteerd bass drums ["puk" aka "poik" of "Baraban"], bekkens ["tats"], tamboerijnen, woodblocks, koebellen en andere percussie-effecten) van de geluiden van de moderne Klezmer begon te ontstaan.
Wanneer de 19e eeuw Europese regeringen opgelegd, zelfs nog meer ontberingen op het Vestigingsgebied, emigratie naar de Verenigde Staten werd de logische keuze voor een groot deel van de joodse bevolking. Gedurende de jaren 1880-1924, de Joodse immigratie naar Amerika (met name New York City) overschreden meer dan twee miljoen mensen, waarmee Klezmer naar de Nieuwe Wereld.
Door het begin van de 20e eeuw, een aantal Klezmer muzikanten kwam in bekendheid, een van de meest g