Os espinhos chamados pelos nativos de Yupi, que significa "Espinho Agudo" deram origem ao nome do município.

Jupi como povoado pertenceu ao Brejo da Madre de Deus, na categoria de distrito, passou a pertencer ao município de São Bento do Una, depois ao município de Canhotinho, a seguir, ao município de Palmerina, e por último ao município de Angelim.

Por projeto do então deputado Dr. João Calado Borba, foi apresentado à assembléia estadual a emancipação de Jupi do município de Angelim, aprovado, passou a ser Lei nº 3331 de dezembro de 1958.