No ano de 1840, Pedro José de Araújo, fugindo da seca, veio de Piancó (Paraíba), e encantou-se com a sombra frondosa dos juremais, onde resolveu repousar. Fascinado com a paisagem, estabeleceu residência no local e lá construiu uma capela dedicada a Nossa Senhora da Conceição, atraindo para o local outras pessoas de Piancó e imigrantes de outras regiões.

Organizou-se então a povoação com o nome de Jurema, que tem origens nos juremais. Em 1928 foi elevada à categoria de cidade.

Administrativamente, o município é formado pelos distritos sede e Santo Antônio das Queimadas.

Anualmente, no dia 11 de setembro Jurema comemora a sua emancipação.