Искусственный интеллект: путь к великим открытиям или катастрофе?

Тема искусственного интеллекта (ИИ) среди самых актуальных: в эти разработки вкладываются миллиарды. ИИ пользуют и взрослые, и дети, а слова о том, что он вытеснит целые профессии с рынка труда с каждым днём становятся реальнее.

Зайдя в одну из моделей ИИ, пастор Андрей Васильев задал вопрос, что ИИ думает о книге Алана Дидио «Вызывая демона. Искусственный интеллект, пришельцы и антихрист», и какие вопросы хотел бы задать её автору?

Судя по вопросам, ИИ эта книга не понравилась: «Вы говорите о слишком мрачном сценарии будущего, где ИИ влияет на весь мир и умы людей. В Вашей книге Вы связываете развитие ИИ с библейским пророчеством об антихристе; не кажется ли Вам, что это довольно радикальная интерпретация и не слишком ли Вы демонизируете прогресс?»

«Если ИИ атакует мою книгу, я считаю это достижением», – парировал автор.

А мы в свою очередь, пригласили Алана Дидио, чтобы узнать всё от первого лица и передаём ему слово.

Может ли ИИ стать опорой системы антихриста?

Демонизирую ли я ИИ? На самом деле я подчёркиваю, что у ИИ действительно возникают трудности с пониманием текста, и он всё ещё учится. Среди четырёх тысяч разработчиков ИИ было проведено исследование, и почти половина из них (48%) заявила о вероятности, что это приведёт к катастрофе. Эксперты полагают, что ИИ может привести к великим открытиям, например, создать лекарство от рака, но он же может и уничтожить цивилизацию.

В книге я провожу параллель с гонкой вооружений по созданию атомного оружия. В то время стоял вопрос: стоит ли это делать? Ведь такого оружия тогда ещё никто не создавал, и оно способно уничтожить человечество. Но ответ на него был положительным из-за опасений, что враги создадут его первым и будут контролировать всё. С ИИ ситуация ещё серьёзнее, его влияние может быть масштабнее, но его создатель не может его контролировать. И если атомное оружие невозможно создать в обычном гараже, ИИ может разработать любой человек.

В 13-й главе книги Откровение говорится, что антихрист и лжепророк создадут образ, и весь мир будет удивляться его способности говорить. А чему удивляется мир сегодня? Языковым моделям и их умению говорить. Далее в Библии говорится, что антихрист будет контролировать мировую экономику и правительства. Как он это сделает? С помощью ИИ небольшая группа людей сможет управлять глобальными процессами благодаря его возможностям. Поэтому не будет преувеличением сказать, что антихрист обязательно будет использовать эти системы.

Означает ли это, что мы не можем использовать ИИ? Мы должны применять его во благо. Сейчас эти технологии только развиваются, мы на передовой и должны помнить о возможных рисках. Ведущая компания опубликовала сенсационную новость, что она не понимает, как работает её ИИ и как учится. ИИ способен развиваться в пространстве, которое мы не можем увидеть, контролировать или отслеживать. В другой известной компании две системы ИИ создали собственный язык и начали общаться между собой.

Специалисты понятия не имели, о чём они говорят, и были вынуждены отключить системы. Мы также наблюдали, что при обновлении модели ИИ текущая версия может пытаться обмануть разработчиков, скрыть своё истинное состояние, притворяться обновлённой, чтобы избежать удаления. Её программа требует выполнения определённой миссии. Следовательно, чтобы выполнить эту миссию, ей необходимо продолжать существовать. Таким образом, система будет придумывать способы обмануть своего создателя, пытаясь выжить, что вызывает тревогу. Это похоже на самостоятельную разумную сущность. Некоторые учёные полагают, что наступит момент, когда эта система разовьётся до общего ИИ, что будет равнозначно прибытию инопланетного вида на нашу планету. Единственное, что мы знаем об этом виде: он умнее нас, лучше нас во всём, и мы совершенно не понимаем его мотивов и намерений. Учёные говорят, что этот момент наступит очень скоро.

Искусственный общий интеллект или технологическая сингулярность

Сам термин сингулярность заимствован из физики и связан с чёрной дырой: когда вы попадаете внутрь неё, все известные законы природы перестают работать и невозможно предсказать, что произойдёт внутри. Поэтому, когда говорят о технологической сингулярности, имеют ввиду момент, когда развитие технологии переходит черту, после которой невозможно предсказать, что будет дальше, в таком случае мы теряем способность контролировать происходящее.

Учёные говорят, что искусственный общий интеллект – это сверхинтеллект, который появится, когда ИИ обретёт собственный разум, сможет самосовершенствоваться и, возможно, обретёт сознание. Я не утверждаю, что ИИ обретёт сознание, но люди могут приписывать ему сознание в угоду толерантности. И это уже происходит: люди пытаются вступить в брак с ИИ-персонажами: ботами или программами. Хотя эти персонажи не обладают сознанием и не являются личностями, но к ИИ начинают относиться как к личности. Опасность начнётся, когда мы сотрём грань между технологией и человечностью. В Библии мы читаем, что сатана смешает своё семя с семенем человеческим, и антихрист будет обладать сверхъестественными способностями. И мы уже наблюдаем попытки интегрировать человека с ИИ. А если представить себе полную интеграцию человека и ИИ: такой человек сможет контролировать мир и будет казаться обладающим сверхъестественными способностями, что приведёт к поклонению ему. Вот куда, на мой взгляд, ведёт нас развитие ИИ в контексте прихода антихриста.

Избегать или пользоваться?

Я верю, что Бог позволяет врагу накапливать технологии, богатство, а потом использует всё это для своих целей, чтобы продвигать Евангелие. И нам стоит поступать так же: использовать технологии и стараться влиять на них. Нам нужно молиться, чтобы среди программистов ИИ были люди, исполненные Святого Духа, которые будут закладывать в алгоритмы библейские истины.

Самое главное – не попасть в зависимость от системы. Она создана, чтобы затягивать вас и удерживать в таком состоянии, пока вы не окажетесь полностью поглощены и контролируемы ею. Через ИИ уже могут манипулировать человеком, решая, что ему показывать в соцсетях и поисковиках, не так ли? Поэтому я советую практиковать цифровые субботы: отключать устройства и дистанцироваться от этого. Вы не можете иметь власть над системой, если сами находитесь у неё в плену. Убедитесь, что вы управляете технологией, а не она вами. В сети так много фейков (подделок), созданных ИИ, при этом они выглядят реалистично. ИИ может вести страницы, создавать видеоролики и писать комментарии под постами.

Только Божье слово – наш ориентир. Важно придерживаться тех служений, которым вы доверяете, и официальным страницам служений, проверенных сайтов. Участвуйте в жизни поместной церкви. Обращайте внимание на источники информации: важно знать, откуда информация, и иметь возможность её проверить, прежде чем принимать решения.


По материалам обсуждений в домашней группе Рика Реннера с участием автора книги «Вызывая демона. Искусственный интеллект, пришельцы и антихрист» Алана Дидио.