Ceglana bryła położonego w centrum miasta kościoła rzuca się w oczy, gdy jedzie się ulicą Dworcową w kierunku katedry. Jego zawiła historia opisana jest na tablicy w przedsionku przy głównym wejściu. Zaczyna się już przed rokiem 1482, gdy kaplica poświęcona św. Barbarze została wybudowana przy ulicy Bytomskiej, a jej fundatorką miała być żona księcia Cieszyńskiego i Oświęcimskiego. Gdy w 1742 roku Gliwice przeszły pod panowanie pruskie, do miasta zaczęło napływać coraz więcej ludności protestanckiej. 11 lutego 1805 roku kuria wrocławska zmuszona była przez władze państwowe do zezwolenia na wspólne używanie kościoła przez katolików i protestantów, którzy 7 lipca 1815 roku przejęli świątynię. Czterdzieści lat późnej położono kamień węgielny pod nowy kościół protestancki. Na miejscu, gdzie poprzednio stał ołtarz główny dawnego, rozebranego kościółka św.  Barbary, wzniesiono kamienny pomnik. W 1936 roku protestanci dobudowali do obecnego kościoła nowe prezbiterium.

Po II wojnie światowej, w październiku 1945 roku, kościół przeszedł pod zarząd duszpasterstwa wojskowego. Prawomocne przekazanie w zarząd Ministerstwu Obrony Narodowej z przeznaczeniem na kościół garnizonowy do użytku rzymskokatolickiego duszpasterstwa wojskowego nastąpiło w kwietniu 1949 roku. W 1950 rozpoczęto generalny remont, później miały miejsce kolejne prace.

W 1991 roku reaktywowano Ordynariat Polowy Wojska Polskiego, a 21 stycznia 1993 roku biskup polowy WP Sławoj Leszek Głódź przy kościele św. Barbary erygował parafię wojskową. Kościół wyróżnia wiele patriotycznych tablic pamiątkowych, umieszczonych w tylnej części świątyni. Jest ona miejscem codziennego kultu, ale odbywają się tutaj także uroczystości i obchody wydarzeń ważnych dla kraju i lokalnej społeczności.