Kiedy były dominikanin, po kasacie zakonu diecezjalny ksiądz Gutkowski zabawiał rubasznymi historyjkami księcia Konstantego, ten widział w nim odpowiednią osobę na kapelana wojska polskiego. To właśnie dziarski Gutkowski udzielał ślubu księciu i Joannie Grudzińskiej. Kiedy więc otrzymał w 1826 sakrę biskupią i nominacje na biskupa podlaskiego w Janowie, Rosjanie nie spodziewali się kłopotów. Nowy biskup okazał się jednak odważnym obrońcą swoich owieczek przed carskim uciskiem.
Czy to w sprawie prawa faworyzującego prawosławnych w zawieraniu małżeństw z katolikami, czy wpisania na indeks ksiąg zakazanych w Imperium niektórych dzieł katolickich czy to wreszcie kiedy szło o - najbardziej chyba dotkliwy - zakaz udzielania przez duchownych rzymskokatolickich Sakramentów Świętych unitom biskup Gutkowski był nieprzejednany. Co więcej: rychło do samego Watykanu carscy ministrowie zaczęli pisać skargi, że pisma wychodzące z kurii w Janowie nie mają w sobie nic z pokory i dyplomacji: słownictwo i ton bardziej oznajmiają szewca niż biskupa, więc jakakolwiek spokojna rozmowa i korespondencja są w zasadzie niemożliwe. Sugerowano nawet niepoczytalność i domagano się od papieża zdymisjonowania krnąbrnego biskupa. Ojciec Święty oczywiście na to nie przystał. Niby oficjalnie Gutkowskiego napomniał, ale cichcem pochwalił! Na polecenie Mikołaja I biskupa porwano przemocą i wywieziono wgłąb Rosji. Po dwóch latach formalnie zrzekł się zarządzania diecezją i został zwolniony z wygnania. Wrócić mógł jednak tylko do zaboru austriackiego, gdzie z tytułem arcybiskua Marcjanopolis osiadł we Lwowie, gdzie zmarł w 1863 roku.