Józef Gawlina urodził się w Strzybniku na Śląsku. Uczył się w gimnazjach w Raciborzu i Rybniku. W czasie I wojny światowej służył w armii niemieckiej na froncie zachodnim i na Bliskim Wschodzie. W 1921 r. przyjął święcenie kapłańskie. Pełnił posługę kapłańską m.in. w Dębieńsku, Tychach i Królewskiej Hucie. Był redaktorem naczelnym „Gościa Niedzielnego”. 14 lutego 1933 r. objął stanowisko biskupa polowego Wojska Polskiego. We wrześniu 1939 r. ewakuował się do Rumunii, a następnie przez Węgry i Włochy dotarł do Francji. W trakcie swej służby, jako biskup polowy wizytował m.in. oddziały Wojska Polskiego w ZSRS. Brał udział w kampanii włoskiej, w tym w bitwie i Monte Cassino. Po zakończeniu wojny pozostał na emigracji, gdzie zajmował się opieką nad Polakami pozostającymi poza granicami Polski. Brał udział w Soborze Watykańskim II. Zmarł w 1964 r. Po śmierci spoczął początkowo w Rzymie, a następnie na Polskim Cmentarzu Wojennym pod Monte Cassino.

Odznaczony m.in. Krzyżem Orderu Wojennego Virtuti Militari i Krzyżem Walecznych.