Примерное время чтения: 6 минут
34

Как запретный плод? Священники рассказали о скрытых опасностях нейросетей

Работу нейросетей можно встретить на каждом шагу – например, с её помощью стилизуют фотографии.
Работу нейросетей можно встретить на каждом шагу – например, с её помощью стилизуют фотографии. / Анна Попова / irk.aif.ru

Ещё недавно мы считали нейросети чем-то сложным, понятным только программистам — а теперь любой может за три секунды создать картинку, написать текст или даже сочинить песню с помощью ИИ. Но так ли этот инструмент безобиден, как кажется на первый взгляд? Своим мнением о том, в чём кроется опасность искусственного интеллекта для человеческой души и как использовать его во благо, поделились священники. Подробности в материале irk.aif.ru.

Ответ без поиска

«ИИ стал частью нашей жизни во многих сферах, и отрицать этого не стоит. Его нужно осваивать и извлекать из этого пользу. Однако каждый подобный технологический прорыв становится вызовом для человека, — считает иерей Иаков Белый-Кругляков. — недавно я узнал, что разработчики одной из популярных нейросетей заявили, что она решила математическую „задачу тысячелетия“. Начался скандал, учёные потребовали разобраться, не использовалась ли их интеллектуальная собственность, их исследования. Но оказалось, что ИИ просто применил тот опыт, который был ему доступен. Один из представителей Ассоциации математиков заявил, что, хоть мы и получили решение, это не обогатило нас, как человечество. Ведь, пока учёные пытались решить эту задачу, их обогащал поиск ответа сам по себе».

Священник отметил, что появление искусственного интеллекта стало испытанием для человека — это искушение привычкой к получению ответа без усилий. Особенно это актуально для школьников и студентов.

«Когда человек получает через ИИ ответы на вопросы, в которых сам не разбирается, он перестаёт самостоятельно постигать окружающий мир — а, значит, перестаёт познавать себя, — отметил Иаков Белый-Кругляков. — Получение знаний без „дозревания“ схоже с историей о грехопадении. Когда Змей предлагает Еве вкусить плод от древа познания добра и зла, он обещает ей: „Вы станете как боги“. Она и Адам вкушают этот плод — но вместо торжества приходит лишь разочарование. И мы часто попадаемся на такие уловки. Не хотим заниматься спортом или правильно питаться, чтобы быть в хорошей форме, а желаем найти „волшебную таблетку“ для похудения без усилий. Но это так не работает. Человек должен становиться лучше только через самосовершенствование и работу над собой».

Когда человек получает через ИИ ответы на вопросы, в которых сам не разбирается, он перестаёт самостоятельно постигать окружающий мир — а, значит, перестаёт познавать себя, считает священник.
Когда человек получает через ИИ ответы на вопросы, в которых сам не разбирается, он перестаёт самостоятельно постигать окружающий мир — а, значит, перестаёт познавать себя, считает священник. Фото: irk.aif.ru/ Анна Попова

Ещё один вызов связан с межличностным общением. Священник отмечает, что трудности в общении и раньше были у многих: диалога не получается, и каждый просто ждёт своей очереди, чтобы выговориться, не вовлекаясь при этом в беседу.

«В этом плане ИИ становится, казалось бы, удобным симулятором собеседника, — говорит Иаков Белый-Кругляков. — К нему можно обратиться в любой момент, он не осудит вас, всегда поддержит и не будет требовать взаимности. Ему без разницы, в каком тоне ты с ним общаешься и что ему говоришь. Предпочитая общение с нейросетью, мы разучимся выстраивать гармоничные отношения с другими. В этом отношении особенно уязвимы подростки, у которых навык общения только формируется».

Не автор, но инструмент

Иерей Стефан Бажков считает, что ИИ — хороший прикладной инструмент, который можно применять в разных сферах. Например, нейросети помогают при литературной обработке текста, составлении таблиц или подборе интернет-ссылок по указанной теме.

«Работа с ИИ — это навык, полезный для любого современного человека — однако стоит помнить, что нейросети нередко „галлюцинируют“, — говорит Стефан Бажков. — Например, как-то в пресс-службе епархии решили сделать статью о 10 известных иркутянах и их вкладе в развитие города. Нашли научную статью, пропустили через ИИ — и, казалось бы, готово. Однако, когда я пробежался по черновику текста, встретил имя некоего священника, который жил в XIX веке. Вот только в реальности его не существовало. Впрочем, нейросеть юлить не стала, написав: „Да, я действительно придумала биографию, создала обобщённый образ — а хотите найду что-нибудь про настоящего священника?“. Как в той шутке, когда нейросеть спрашивают, можно ли есть гриб, и он уверенно отвечает — можно. А потом возле могилы человека ИИ говорит: „Вы действительно правы, он был ядовитым. Хотите, я расскажу больше о съедобных грибах?“»

Священник добавил, что нейросеть при написании текста может подстроиться под нужный стиль и использовать принятые в той или иной сфере термины или названия — вот только содержание на деле будет выдумкой. Поэтому из-за отсутствия исторических знаний легко обмануться. И в таком случае без «естественного» интеллекта и перепроверки никуда.

«Тем не менее, есть ряд узких направлений, в которых ИИ может сослужить хорошую службу, — говорит Стефан Бажков. — Например, у нас есть книга XVIII века на немецком языке, принадлежавшая одному из участников научной экспедиции. На русский перевода нет, читать её сложно — она написана старым готическим шрифтом. Но стоило пропустить её через ИИ — и мы получили вполне внятный и адекватный перевод. Не отрицаю, что через пару лет возможности нейросетей расширятся, и их можно будет применять в большем количестве разных сфер. Сейчас же мы можем видеть их работу преимущественно в виде сгенерированных картинок — которые, кстати, уже начинают вызывать отторжение у молодёжи».

Оцените материал
Оставить комментарий (0)
Подписывайтесь на АиФ в  max MAX
Также вам может быть интересно
Топ-5 читаемых
Самое интересное в регионах