조선크리스도인 회보(1897.11.3.)에는 유제에 대한 글이 이렇게 쓰여 있다.

“…면천 원을 갈린 후에 덕산 한내라 하는 촌에 거하여 하나님을 공경하고 사람을 사랑하는 예수도를 행할 때, 인근에 위치한 읍 사람들이 그 소문을 듣고 찾아와 교회책도 가져가고 교회 이치도 묻는 사람이 있는지라”

때를 같이하여 수촌사람 조원식과 함께 동역했는데 그는 1892년 7월 통훈대부 사헌부 감찰로 임명받아 임기를 마친 후 고향인 덕산 수촌으로 내려온 것이였다.

한편 유제는 덕산 교회공동체를 부흥시켰는데, 1897년 10월 정동교회 전도인이었던 최병헌과 교인 박환규가 덕산에 내려와 복음을 전했다. 그들이 덕산에 오게 된 연유는 유제의 초청과 배재학당 형제들이 여비를 마련해 준 덕분이었다. 그들은 덕산시장에서 십자가를 걸고 전도를 하였다. 당시 덕산은 보부상들의 단체인 ‘예덕상무사’가 설립되어 있어 큰 시장을 이루는 동시에 많은 사람들이 오고 가는 길목이었다. 최병헌의 전도 집회에는 많은 사람들이 은혜를 받고 수일 동안 입교자 100여 명이 나오고 몇 사람들이 세례받는 결실을 맺었다.

그 무렵 유제와 조원식이 세웠던 덕산 지역의 교회는 많은 박해를 당했다. 이 박해를 목격한 사람이 최병헌과 박환규였다.

“박덕칠이라는 불량패류가 서울에서 책을 구입하여 서산, 태안 등지로 팔고 다니며 악행을 했다. 그리고 이 책을 유제한테서 가져왔다고 하면서 유제 이름을 팔고 다니므로 선교에 지장을 주었다.” 그래서 유제는 자기가 파는 책에 표식을 하였다.

더 큰 환난은 관가의 박해였다. 덕산 군수 조종서가 관찰부 비훈이라하여 유제의 하인 원상돈과 덕산 수촌의 조원식의 집사 최응산을 잡아갔다. 그리고 누명을 씌우기를 “교당을 설립하고 양민을 권립하니 동학 여당에 불량패류가 청탁하고 떼를 지어 행악하는 폐가 있다고 잡아 바치라”고 하였다. 또한 홍주 병참소에서 “류제 등이 성교를 청탁하고 도당을 소위하며 성군을 작대하여 부자의 전곡을 억탈하며 양민을 억지로 교에 특립하고 비리의 송사를 천행한다”고 군부에 보고하였다. 그러나 결국 무고함이 소명되었지만 이 일로 이성집이란 사람은 서울로 피신하다가 도중에 객사하는 비운을 겪기도 하였다.

그 후 유제는 1899년 2월경에 고등재판소 검사 함태영에게 검거되어 서울 종로로 압송되었다. 복음을 전하다가 억울하게 검거된 유제의 사역 기록은 더 이상 찾을 수 없다.