Предыстория РКЦВО восходит к принятию католичества философом Владимиром Соловьёвым, которое произошло 18 февраля (1 марта н.ст.) 1896 года в доме у священника Николая Толстого, который присоединился к Римскому Престолу двумя годами ранее. После присоединения Соловьёва во время совершённой им Божественной литургии византийского обряда отец Николай был вынужден уехать из России из-за давления полиции. К этому времени в Санкт-Петербурге уже существовал религиозно-историософский кружок княгини Елизаветы Волконской (перешедшей в 1897 году в католичество и ставшей его апологетом) и философа Владимира Соловьёва.
Важным для истории РКЦВО событием стало то, что православный священник-миссионер Алексей Зерчанинов принял католичество после самостоятельного изучения церковной истории и святоотеческих трудов по вопросам сравнительного православно-католического богословия, а также после знакомства с идеями Соловьёва о христианском единстве. Он был осуждён за свой шаг на длительное заключение в монастырской тюрьме. Действительно, ведь только после издания указа НикоаяII об «укреплении начал веротерпимости» от 17 апреля 1905 года правослвные подданные Российской имприи получили право менять вероисповедание.
Тогда, благодаря стараниям племянницы российского премьера Петра Столыпина Натальи Ушаковой, 57-летний священник Алексей Зерчанинов, бывший благочинный Нижегородской епархии, был освобождён из ссылки, и стал священником католической общины. Было также направлено прошение об утверждении общины и разрешении на открытие церкви. До открытия церкви литургии служились в комнате отца Алексея Зерчанинова.
В то время община католиков византийского обряда включала в себя Наталью Ушакову, князя Белосельского, княжну Елену Долгорукую, Гончарова, Яновскую, Потёмкину и Любовь Дмитриевну Фёдорову, мать будущего экзарха русских католиков Леонида Фёдорова.
В мае 1908 года кардинал Гаспари именем Папы Римского назначил Алексея Зерчанинова главой миссии русских католиков восточного обряда. В документе, датированном 22 мая 1908 года и написанном на латинском языке, Папа Пий X предписывал общине «со всякой строгостью соблюдать греко-славянский обряд в его чистоте, не допуская ни малейшего смешения с латинским или любым другим обрядом». Осенью 1908 года общину посетил митрополит Андрей Шептицкий, найдя при ней также и сестричество милосердия. Под церковь в Санкт-Петербурге решено было отдать мансарду по адресу Полозова улица, дом 12, принадлежавшую одной из прихожанок, которую освятили 28 марта 1909 года отец Алексей Зерчанинов и отец Евстафий Сусалев — старообрядец Белокриницкого согласия, вошедший в полное единство со Святым Престолом в 1908 году.
В марте 1911 года русские католики были переведены под юрисдикцию Могилёвского архиепископа Викентия Ключинского. После этого Департамент духовных дел иностранных вероисповеданий Министерства внутренних дел в июле 1912 года через архиепископа Ключинского передал отцу Иоанну Дейбнеру бумагу, допускающую существование Русской католической церкви и назначающую рукоположённого в 1903 году вышеупомянутого священника её настоятелем. Ему разрешалось заводить метрические книги для записи рождений, крещений, венчаний, отпеваний.
Было решено искать новое помещение для церкви, так как в старом становилось тесно, да к тому же стала протекать крыша. В сентябре 1912 года нашли несколько комнат с отдельным входом на втором этаже дома 48/2 по Бармалеевой улице. Церковь Святого Духа открыли в этом помещении 30 сентября 1912 года. В 1913 году о. Иоанн начал издавать журнал «Слово Истины», где публиковались статьи и католиков, и православных, который выходил до 1918 года.
10 (23) февраля 1913 года в церковь Святого Духа вместе с нарядом полиции вошёл викарный епископ Санкт-Петербургской православной епархии Никандр (Феноменов). Он прервал службу, сказал собравшимся, что их обманывают, и провозгласил анафему тем, кто не выйдет вместе с ним. Но никто не вышел, и о. Иоанн Дейбнер спокойно продолжил службу.
21 февраля (6 марта) 1913 года церковь Святого Духа закрыли и опечатали. Отец Алексей перебрался служить в часовню при соборе св. Екатерины на Невском проспекте. Тем не менее, службы в церкви Святого Духа продолжали тайно совершаться, так как кроме опечатанного входа в неё имелся также вход из соседней квартиры, где жил о. Иоанн. Обычно дверь была заставлена шкафом, поэтому полиция её не заметила. На Пасху 1914 года службы были совершены в опечатанной квартире с завешенными коврами окнами и дверьми. С 1916 года богослужения для католиков византийского обряда стали также совершаться в храме Иоанна Крестителя при Пажеском корпусе на ул. Садовой, д. 26. За их проведение отвечал ещё один священник РКЦВО — отец Глеб Верховский, который служил в северной столице до 1918 года.