Привет, ребята. Давно не появлялся в топике. Смотрю тема живет своей жизнью. Это даже приятно. За это время набралось много всего, так что хочется вставить свои «пять копеек».
Прежде чем начну, хочется напомнить, для чего она вообще открывалась. Лично мне была интересна мысль не о создании какого-то мелкого ИИ или бота, как это сейчас делается. Речь шла о полноценном продукте, с которым можно было бы работать людям. В этом контексте был интересен комментарий Виталича, где он дал ссылку на католический проект:
С развитием темы стало очевидно, что церковь не потянет такой проект. По крайней мере в краткосрочной перспективе. Тем не менее лет через 10-15 она все равно к этому придет. Модели станут еще умнее, простенькие продукты типа Ollama значительно поумнеют, да и железо станет дешевле и мощнее. Это мое глубокое убеждение.
Из чего я делаю такие выводы? Мы помним, как в свое время были дискуссии о необходимости церкви иметь свой голос на телевидении. В 2000 годах появились первые православные каналы. Пока эти каналы только появлялись, Марк Цукерберг работал над бомбой, которая в 2004 году взорвет мир коммуникаций. Речь, конечно, о Facebook и эре социальных сетей. Сегодня церковь не только широко присутствует во всех социальных сетях, но и пробует делать свои. Например, всем известная «Елицы».
Сегодня для такой масштабной работы требуется штат высококвалифицированных специалистов. За 10-15 лет высока вероятность, что с такой задачей сможет справится группа из нескольких высококвалифицированных программистов. Больше денег уйдет на железо. Почему в таком случае от этого отказываться?
Уже сейчас поисковики активно используют поиск с искусственным интеллектом. Вот пример главной страницы Google
Рисунок 1. Поисковик Google. Справа мы видим РежимИИ
А вот простой запрос:
«В чем суть Пресвятой Троицы»?
Рисунок 2. Поиск с ИИ от Google
Сначала идет ответ ИИ, потом ссылка на «Википедию», и только потом начинаются всем знакомые ресурсы. В условиях постоянного отсутствия лишнего времени, человека проще прочитать ответ ИИ на пол странички, чем огромную статью на Азбуке веры или Правмире. Здесь важно себя не обманывать. Самой читающей страной в мире мы уже давно не являемся, а с клиповым мышлением вследствие постоянного использования телефона длинные тексты читать сложнее и сложнее.
Так вот, чтобы защитить паству от этого церкви нужен свой ИИ. Потому что есть вероятность, что через какое-то время на экранах мобильных устройств или ПК мы уже не будем видеть список сайтов, как раньше, а будет только готовый результат, выданный ИИ и все.
Рисунок 3. Ответ ИИ
Конечно, другой вопрос: «Если будет так, как сказано выше, то позволят ли церкви в принципе разместить что-то? Ведь это уже тотальный контроль над информацией, при котором чужое мнение не имеет права на жизнь»
Вообще при полном плюрализме мнений - это концепция суверенного поисковика и ИИ. Допустим, вы заходите на orthodox.ru, и точно знаете, что при поиске ИИ не использовал базу протестантской или католической литературы. Как я уже выше говорил, с развитием AI технологий, стоимость таких проектов в будущем может сильно упасть и стать доступной в том числе и для церкви. Батюшка с амвона сможет сказать, что если не хотите подцепить какую-нибудь протестантскую или католическую заразу в свой ум, пожалуйста все темы по религии изучайте там то.
Тут Максим Игоревич пишет про ИИ:
Соответственно прописан он должен быть так чтобы давать ответы не на себя/ не приводить к себе
Есть такой спикер из сферы IT - Игорь Ашманов. У него несколько интересных интервью на тему AI. В одном из них он рассказал, как в далеком прошлом разрабатывали алгоритмы, которые могли бы общаться с человеком. Речь шла о 80-х., можете представить, какой бред там был. Руководитель одной такой кампании решил провести опыт на своей секретарше. Он дал ей доступ к этому бредогенератору и через некоторое время заметил, что она прекрасно с ним общается.
Куда деваться, человек существо социальное и общение является такой же важной частью его жизни, как еда, особенно на ранних этапах становления психики (дети до 3-х лет). Мне тут сразу вспоминается герой Т. Хэнкса в фильме «Изгой». Оставшись один на необитаемом острове, чтобы не сойти с ума он делает себе воображаемого друга Уилсона. И вот тут у меня возник такой забавный вопрос, который можно даже новым топиком открыть: «Вот такой воображаемы Уилсон – это идол или нет?».
Так вот на себя, по моему мнению, это не про то, что AI будет делать фарш из святых отцов, вот только выглядеть это будет как его умная интерпретация и поэтому люди к нему вернутся. Это про то, что люди сначала спросят у AI как поменять колесо на машине, потом спросят, как пожарить колбасу. И таким образом раз за разом будут к нему обращаться чаще и чаще, пока однажды случайно не прострельнет мысль спросить что-нибудь на религиозную тему. Например, в каком месте библии враги евреев придумали хитрый план убивать их по субботам. Он даст ссылку на книгу, главу, стих и поехало. Т.е. когда человек подошел к этим вопросам на религиозную тематику маховик уже был раскручен. А дальше вопрос: "Есть у нас силы затормозить этот маховик?" Может мы скажем людям, что им нельзя пользоваться ИИ? А что если в перерывах между сменой колеса и жаркой колбасы этот хитрый Google что-нибудь такое ввернет, что не успеете оглянуться, как станете католиками или протестантами.