Na miejscu obecnego kościoła stał niegdyś Kościół św. Filipa i św. Jakuba wzmiankowany w dokumentach w 1373 r. Zniszczył go pożar w 1528 r, po odbudowie ponownego zniszczenia dokonali Szwedzi w 1655 r. Odbudowaną ze zniszczeń wojennych świątynię konsekrował w 1667 r. biskup Mikołaj Oborski. Ten kościół zniszczył kolejny pożar jaki wybuchł w 1755 r, po raz kolejny został odbudowany, przetrwał do końca XVIII wieku, w 1801 r. na polecenie władz austriackich został zburzony. Plac po kościele przez kilka lat był używany jako tymczasowy cmentarz komunalny. W 1861 r. na teren Kleparza sprowadzili się Księża Misjonarze. Dwa lata później stali się właścicielami parceli przy ulicy św. Filipa.

Obecny kościół zbudowano według projektów Filipa Pokutyńskiego w latach 1875-1877 nawiązując do wzorów włoskiego trecenta. Ołtarz główny został sprowadzony z Wiednia. Uroczystej konsekracji kościoła dokonał 2 września 1877 r. arcybiskup Lodovico Jacobini nuncjusz apostolski w Wiedniu.

W latach 1911-1912 kościół został rozbudowany według projektu Jana Sas Zubrzyckiego, przedłużono wówczas prezbiterium, wybudowano nową zakrystię łącząc ją z klasztorem oraz kaplicę Matki Bożej z Lourdes. Ponowna konsekracja odbyła się 1 listopada 1912 r, dokonał jej Kacper Słomiński wizytator Zgromadzenia Księży Misjonarzy. Kościół raz jeszcze w 1936 r. po zmianie wystroju, konsekrował biskup Stanisław Rospond.

W latach 1956-1957 wykonano nową polichromię i nowy wystrój wnętrza. W miejsce starych, drewnianych ołtarzy, postawiono nowe – wykonane z kamienia i marmuru. W roku 1980 kościół został przemalowany, według starych jeszcze przedwojennych projektów. Ostatnie malowanie kościoła było w 2000 rok.