Przyszły biskup urodził się w 1799 roku w Radzyniu Podlaskim jako syn wieloletniego proboszcza unickiej parafii św. Jerzego, księdza Teodora Kalinowskiego. Wychowywał się w cieniu bardzo skromnej, drewnianej świątyni, stojącej niegdyś w okolicach dzisiejszej ulicy Partyzantów. Był to już czas, kiedy w całym kościele grekokatolickim wcielono już w życie postanowienia synodu w Zamościu z 1720 roku. Postanowiono na nim, że dopuszczalne jest przyjmowanie do unickich cerkwi elementów zaczerpniętych od rzymskich katolików: organów, ławek, obchodów Bożego Ciała, modlitwy różańcowej, Godzinek itp. Rodzina przyszłego biskupa zarówno z języka jak i poczucia tożsamości narodowej była jak najbardziej polską.
Skromny proboszcz znad Buga
Podstawowe wykształcenie Kaliński odebrał w Białej i Łukowie, seminarium duchowne ukończył w Chełmie, w 1822 roku przyjął święcenia kapłańskie. Posługe pełnił najpierw jako proboszcz w Dobratyczach, Choroszczynce oraz Konstantynowie. Przed święceniami obrał drogę duchownego żonatego (u unitów można święcić żonatych) i dochował się sześciu córek i siedmiu synów. Później owdowiał, więc mógł być brany pod uwagę jako kandydat na biskupa.
Nie ograniczał się do obowiązków duszpasterskich. Ukończył zaocznie Uniwersytet Wileński, założył Towarzystwo dla Ubezpieczenia Unii. W 1840 po raz pierwszy został skazany na wywózkę, ale ułaskawił go namiestnik Iwan Paskiewicz.
W obronie wiary i polskości
Zupełnie heroiczną postawą wykazał się po 1862 roku. Wobec choroby biskupa chełmsko - bełzkiego Jana Teraszkiewicza i faktu, że został wdowcem, zostął wyznaczony na następcę. "Kaliński, jeżeli nie nauką ścisłą, to powszechnie znaną prawością życia, czystością katolickiego duch i gotowością do poświęceń w obronie cerkwi unickiej, utorował sobie drogę do godności biskupiej" - pisał o nim kronikarz prześladowań unii ks. Józef Pruszkowski. Od początku miał przeciw sobie część duchownych, zwłaszcza tych związanych z Rosją. Najgłośniejszym z nich był profesor chełmskiego seminarium, ks. Józef Wójcicki. Jedną z pierwszych decyzji biskupa - nominata było zwolnienie go z obowiązków. Jak paskudna była to postać świadczy fakt, że powstańcy styczniowi byli gotowi Wójcickiego powiesić, czego zaniechali dopiero na prośbę biskupa Kalińskiego.
W sporze z tatarskim księciem
Do likwidowania unii zabrał sie tedy znacznie bardziej kwalifikowany kusiciel, kniaź Czerkaski. Zaczął od obiecania młodym duchownym pensji 300 rubli w zamian za oczyszczenie świątyń z wpływów łacińskich, przyrzekał opiekę cara nad unią i przywileje dla dzieci kapłanów. Od samego Kalinowskiego żądał zaś wyrzucenia łąwek, organów, dzwonków z cerkwi, zaś języka polskiego i polskich pieśni z liturgii i zastąpienienm go językiem ruskim. Jednoczeście Czerkaski ściagał na Chełmszczyznę z Galicji tamtejszych księży, jako zupełnie niezwiązanych z polską tradycją. Likwiduje też zakon bazylianów, posiadających silną placówkę m.in w Białej, gdzie spoczywały relikwie patrona unii św. Jozafata Kuncewicza. Główną osią sporu jednak było w jakim języku i czego uczyć się mają klerycy w seminarium w Chełmie. Czerkaski domagał się, by nawet teologii uczono po rosyjsku. Kaliński sprawy wierności tradycji katolickiej broni jak lew, zaskakują tym nawet samego Czerkaskiego, który spodziewał się, że sędziwy już (66 lat w tamtych czasach był to wiek poważny) nie znajdzie w sobie dość energii, by przeciwstawić się naciskom. Zapada decyzja o wywózce. Jego obowiązki powierzono nie mającemu żadnych zahamować ks. Wójcickiemu.
Zapomniany biskup niezłomny
Rosjanie do końca, już na zesłańczym szlaku w Lublinie, próbowali go przekonać do ustępstw. Mamiono go możliwością powrotu na stolicę biskupią, przyjęcia chirotonii (święceń), wysoką, wynoszącą 10.000 rubli pensją. Jedynym warunkiem były wycofanie się z używania języka polskiego w seminarium i cerkwiach oraz odejście od obyczajów i elementów liturgii zaczerpniętych przez unitów od rzymskich katolików. Nie było jednak w carskim imperium mocy, która by złamała syna unickiego proboszcza z Radzynia Podlaskiego. Biskup - nominat Jan Kalinowski został wywieziony do Wiatki (obecnie miasto Kirow), gdzie rychło zmarł. Niektóre źródła podają, że być może został otruty. Po jego śmierci papież Pius IX w liście pasterskim daje go za przykład właściwej postawy, dobrego świadectwa i cierpienia w obronie wiary. Poważnym niedopatrzeniem władz miejskich i kościelnych jest, że do tej pory nie doczekał się w Radzyniu jakiejś formy publicznego upamiętnienia, choćby w postaci ulicy czy placu swojego imienia.