Początek był bardzo skromny. W 1919 r., z inicjatywy tarnogórskiego proboszcza ks. Ryszarda Rasska, na terenie nowego cmentarza w Tarnowskich Górach przy dzisiejszej ul. Kard. Wyszyńskiego zbudowano tzw. halę cmentarną. Klasycyzujący budynek przez 40 lat jedynie podkreślał wejście do nekropolii; nie pełnił nawet roli kaplicy cmentarnej. Wszystko zmieniło się w 1959 r. Władze kościelne zadecydowały wtedy o zaadaptowaniu hali do funkcji kościoła – zalążka nowej, liczącej ok. 600 osób jednostki duszpasterskiej, wydzielonej z tarnogórskiej parafii Świętych Apostołów Piotra i Pawła. 1 maja 1959 r. po obrzędzie poświęcenia dostojna budowla wkroczyła w nową epokę: zaczęła tętnić życiem parafialnej wspólnoty.

Kościół z hali cmentarnej

Pierwszym rektorem placówki został ks. Franciszek Jastrzębski. Następnie posługę pełnili tu księża z parafii macierzystej, odprawiając Eucharystię tylko w niedzielę. W 1960 r. utworzono stację duszpasterską, a rektorem mianowano ks. Ludwika Październioka. W byłej hali pojawiło się tabernakulum, a Mszę św. sprawowano już każdego dnia.

W 1964 r. rektorem został ks. Franciszek Kałuża. Troszcząc się o rozwój świątyni, ufundował stacje drogi krzyżowej i witraże autorstwa znanego śląskiego artysty Wiktora Ostrzołka, wykonane w zakładzie Żeleńskich w Krakowie. Po 1970 r., za czasów posługi ks. Gustawa Klapucha, dostosowano wnętrze do wymogów liturgii posoborowej. Wreszcie w 1981 r. erygowano parafię św. Józefa Robotnika. To jedna z czterech (obok Bytomia, Taciszowa i Zawady Książęcej) parafii pod tym wezwaniem w diecezji. Kościół czci św. Józefa jako patrona ludzi pracy od 1 maja 1955 r. Papież Pius XII proklamował wtedy święto Józefa Rzemieślnika, doceniając znaczenie pracy w duchowym rozwoju człowieka i dodając religijny wymiar świętu pracy, obchodzonemu w świecie od 1892 r. Trudzący się ciężką, zarobkową pracą dla Maryi i Jezusa, cicho i pokornie pełniący zleconą przez Boga misję, św. Józef wskazuje pokoleniom chrześcijan, że praca nie stanowi przeszkody w kontemplacji, a wręcz przeciwnie – może być drogą do świętości.