Felsőszopori Szily János 1735. augusztus 30-án nemesi családban született Felsőszoporon, a katolikus nemes Felsőszopori Szily Farkas és az evangélikus Poltinger Erzsébet fiaként. A családja egy Szatmár vármegyében található Felsőszopor nevű településről származik. A gimnáziumot Sopronban végezte a jezsuita rend gimnáziumában. Tizenhét éves korától a győri kisszeminárium növendéke. 1754–1755-ben a teológia első évfolyamát Győrben, 1755-től a második évfolyamot Rómában, a Collegium Germanicum-Hungaricumban végezte. Utolsó egyetemi szigorlatait 1758-ban tette le. Teológiai és filozófiai doktori címet szerzett.
1758. szeptember 3-án Zichy Ferenc püspök pappá szentelte. Udvari káplán, püspöki szertartó, püspöki titkár, majd a vasvári és szombathelyi társaskáptalan kanonokja, Győr kanonokja, drozói címzetes prépost lett. 1770-től 1775-ig győri őrkanonok, majd Mária Terézia királynő a horvátországi Tinnin (ma Knin) püspökévé nevezte ki. Ő irányította a székesegyház átépítését is. 1777-ben jött létre a Szombathelyi Egyházmegye, amelynek ő lett az első püspöke.
Kninben szerzett tapasztalatait a székesegyház, a Püspöki Palota és a Papnevelő Intézet építésénél hasznosította. Soha el nem évülő érdemeket szerzett Vas megye egyházi és kulturális életében, amelyre saját vagyonából is áldozott. Kiadta azt a főpásztori oktatást, amelyben megfogalmazta a lelkipásztori munkákra vonatkozó főbb irányvonalakat, erre sehol az országban addig nem került sor. 1927-ig ez volt az egyházmegye "törvénykönyve". A Keltz-Adelffy Árvaházat kibővíttette Kőszegen. Értékes könyvtárat adományozott a Szemináriumnak és nyilvánossá is tette. 1793-ban megalapította a Királyi Líceumot.
Ő alapította a szombathelyi könyvnyomdát, élénk kapcsolatot tartott fenn a kor magyar irodalmáraival. Schönvisner István, a Pesti Egyetem professzora Szily kérésére írta meg művét az Ókori Savariáról, Szombathely római elődjéről. Az építkezései során megtalált római köveket palotájának földszinti termében a „Sala Terrana"-ban helyeztette el.
Szembehelyezkedett II. József valláspolitikájával, hiszen az uralkodó megszüntette azokat a szerzetesrendeket, amelyek nem tanítottak vagy gyógyítottak. Szily püspöksége korában a város visszaszerezte régi hírét, rangját, Szombathely ismét fejlődésnek indult.
Az általa alapított Papnevelő Intézetben tanították 1952-ig, a kommunista diktatúráig, az egyházmegye kispapjait.
Támogatta a megyében élő németek, horvátok és szlovénok nemzeti fejlődését, iskolák alapításával és anyanyelvi oktatással.
Szily működésével Szombathely az egyházi műveltség és szellemi élet központja lett. Sírhelye a szombathelyi székesegyházban van.
