Visuomenės veikėjas, poetas, vertėjas. Gimė 1870 m. spalio 18 d. Jurkšuose (Vilkaviškio r.). Baigė Marijampolės gimnaziją. 1893 m. išvyko į JAV, ten baigė kunigų seminariją, kunigavo, 1894-1898 m. buvo Lietuvininkų susivienijimo Amerikoje pirmininkas, redagavo susivienijimo leidinį „Tėvynė“. Nuo 1908 m. ekskunigas. 1910-1914 m. studijavo Ciūricho ir Berlyno universitetuose. Vėl buvo išvykęs į JAV, aktyviai dalyvavo lietuvių politinėse akcijose dėl Lietuvos nepriklausomybės.
Į Lietuvą grįžo 1921 m. ir apsigyveno Klaipėdoje. Rūpinosi lietuviškumo stiprinimu Klaipėdos krašte, buvo Lietuvos atstovybės Klaipėdoje konsulu.
Apie J. Žiliaus vaidmenį rengiant 1923 m. sukilimą rašoma: „Dėl Sąjungininkų delsimo Klaipėdos klausimą spręsti konsulas Žilius siūlė pasirengti ir užimti Klaipėdą jėga. Jis paprašė Lietuvos vyriausybę atsiųsti konsulatan dirbti strategą karininką, kuris parengtų sukilimo planą.“ Taigi „Lietuvos konsulas Klaipėdoje pasiūlė Klaipėdos bylą sukilimu pagreitintai išspręsti“. (Čepėnas P. Naujųjų laikų Lietuvos istorija. T. II, p. 768, 782).
1925-1926 m. būdamas Klaipėdos krašto gubernatoriumi, J. Žilius ėmėsi tvarkyti tuometinius painius Klaipėdos krašto reikalus, tačiau jo pradėtas lietuviškumo ugdymas buvo sutrukdytas.
1928-1929 m. Klaipėdoje išleido padavimų knygas lietuvių mitologijos tematika: „Palemonas ir jo padermė“, „Lietuviškasis karalius ir jo giminė“, „Brutėnas ir Vaidevutis“, „Gelionas ir Kurkas“.
J. Žilius į lietuvių literatūrą įėjo slapyvarde Jonas Jonila. Išleido poezijos rinkinius „Dainų pynės iš gyvenimo dabartinės gadynės“ (1907), „Veikalai, veikalėliai ir vertimai eilėmis“ (1–3, 1912), paskelbė tautosakos motyvais parašytas poemas „Radynos ir vestuvės“ (~1892-1896). Jo patriotinė lyrika papildė ir paįvairino XIX a. pab.–XX a. pr. lietuvių poeziją. Eiliuota drama „Jono vaikai“ (1914) vaizdavo 1905 m. revoliucijos įvykius Lietuvos kaime. Parengė antologiją „Lietuviški dainiai pradžios XIX šimtmečio“ (1899), keletą istorinių brošiūrų. Išvertė A. Mickevičiaus poezijos, rusų bylinų. Periodikoje išspausdino straipsnių visuomeniniais, politiniais, kultūriniais, religiniais klausimais.
Mirė 1932 m. kovo 2 d. Klaipėdoje. Palaidotas Kopgalio kapinaitėse.