Це єдиний храм Римо-католицької церкви в місті. Ще з 1890 року місцеві парафіяни неодноразово зверталися до влади, аби отримати дозвіл на будівництво храму, але щоразу отримували відмову.
Лише у 1904 році після аудієнції у російського імператора Миколи II, яка збіглася з народженням його хворого сина Олексія, було ухвалено рішення про будівництво костелу, який отримав ім’я Святого Олексія.
Будівництво тривало з 1904 по 1910 рік. У 1937 році, через радянську владу, костел припинив діяльність. Готичну вежу храму з хрестом було знищено, що призвело до загибелі семи робітників.
Під час Другої світової війни храм вдалося відновити. У 1950-х роках він знову був закритий, його використовували як склад. Відродження храму почалося у 1970-х роках.
Сьогодні костел залишається важливою релігійною та історичною пам’яткою Жмеринки.
