Zbudowano go w Zębowicach koło Olesna w 1447 lub 1493 roku. Służył zębowickiej parafii blisko pięć wieków. Z pierwotnego, gotyckiego wyposażenia do dziś ocalała monumentalna figura Chrystusa „Ecce Homo” z 1505 roku, którą można podziwiać w Ośrodku Formacyjno-Edukacyjnym Diecezji Gliwickiej w Rudach. Kościół był kilkakrotnie przebudowywany. Początkowo wieża stała osobno (w obecnej formie funkcjonuje od 1777 roku). Na przełomie XVII i XVIII w. świątynia otrzymała barokowy wystrój w postaci polichromii, ołtarza głównego i bocznych: św. Brygidy i św. Anny, ambony oraz licznych rzeźb i obrazów. W latach 1910–1911 w Zębowicach wzniesiono nową, murowaną świątynię.

Drewniany kościół stał się zbędny i wystawiono go na sprzedaż. W 1925 roku na kupno zdecydowały się Gliwice. Ówczesne władze miasta postanowiły, że będzie on ozdobą tworzonego właśnie Cmentarza Centralnego, uważanego wówczas za jeden z piękniejszych w Europie. Pracami rekonstrukcyjnymi kierował Robert Josefek pod nadzorem architekta miejskiego Schabika. Przeniesienia polichromii ścian i stropu dokonał Karol Platzek. Kościół na nowym miejscu został oddany do użytku 30 października 1926 roku i przez kilkadziesiąt lat służył jako kaplica pogrzebowa i miejsce modlitwy. Niestety, wraz z upływem czasu, z powodu braku odpowiednich działań konserwatorskich, ulegał powolnej dewastacji. Zainicjowana w 1960 roku przez ks. Bronisława Grzesika i władze kościelne próba przekazania kościoła nowo powstałej parafii w Starych Gliwicach zakończyła się niepowodzeniem. W efekcie pod koniec lat 70. kościół zamknięto dla obrzędów liturgicznych, a wyposażenie zostało zdeponowane w pracowniach konserwatorskich. Los świątyni zawisł na włosku na 10 lat. Dopiero w 1989 roku nowe władze samorządowe miasta podjęły decyzję o konieczności ratowania zabytku.