La fondazione della chiesa e dell'annesso convento, dove sorge l'attuale conservatorio di musica, risale agli inizi del XIV secolo. La chiesa è dedicata all'eremita Pietro da Morone, eletto Papa col nome di Celestino V nel 1313, famoso perché è colui che fece il gran rifiuto, così come lo indica Dante nella Divina Commedia. Dell'originaria fondazione si possono riconoscere le forme gotiche delle cappelle e i due cicli di affreschi trecenteschi nel transetto. Un secolo dopo cominciarono i lavori di ampliamento della chiesa che terminarono agli inizi del '500. Di questo periodo riscontriamo diverse opere d'arte come il pavimento maiolicato della prima cappella a sinistra, del presbiterio e il coro intarsiato.

Un altro importante periodo di rinnovamento si ebbe col Seicento con gli adeguamenti artistici legati al barocco. Risalgono a questo periodo per esempio le tele di Mattia Preti incassate nel soffitto ligneo. Nel 1799 il convento e la chiesa furono soppressi  e iniziò un lungo periodo di abbandono. I lavori di restauro di fine Ottocento e inizi Novecento valorizzarono la struttura gotica, conservando le tracce artistiche dei secoli successivi.