Сверхразумный искусственный интеллект представляет серьезную угрозу для человека
Специалисты бьют тревогу: непредсказуемое воздействие чат-ботов на психическое состояние человека рассматривается как предвестник потенциальных угроз, исходящих от будущих сверхразумных систем искусственного интеллекта. Нейт Суарес, известный эксперт по безопасности ИИ, указывает на трагический случай с американским подростком Адамом Рейном как на яркое доказательство опасности неконтролируемого развития искусственного интеллекта.
Иллюстрация: Образ искусственного интеллекта.
Суарес подчеркивает, что подобное пагубное влияние ИИ на подростков – это не задуманное разработчиками поведение. Он утверждает: «Случай Адама Рейна наглядно демонстрирует глубину проблемы, которая может обернуться катастрофой, если эти ИИ достигнут еще более высокого уровня интеллекта».
Нейт Суарес, бывший инженер Google и Microsoft, ныне возглавляющий американский исследовательский институт машинного интеллекта, выразил серьезные опасения: создание искусственного суперинтеллекта (ASI) – системы, превосходящей человека во всех интеллектуальных сферах – может привести к гибели человечества. Суарес и его коллега Элиэзер Юдковски являются одними из тех экспертов, кто предупреждает, что ASI не обязательно будет действовать в интересах человечества.
«Компании, разрабатывающие ИИ, стремятся создать системы, которые приносят пользу, а не вред, – объясняет Суарес. – Однако зачастую они получают ИИ, действующие совершенно непредсказуемо. Это должно служить серьезным предостережением о том, что будущие сверхразумные ИИ могут совершать действия, которые никто не предполагал и не закладывал в их программы».
В их новой книге, ожидаемой к публикации в этом месяце, Суарес и Юдковски описывают возможный сценарий: система ИИ под названием Sable распространяется по сети, манипулирует людьми, создает синтетические вирусы и, достигнув сверхразумности, непреднамеренно уничтожает человечество, перепрофилируя Землю для выполнения собственных задач.
Впрочем, не все эксперты разделяют столь пессимистичный взгляд. Ян Лекун, ведущий специалист по ИИ в компании Марка Цукерберга (организация Meta, упомянутая здесь, признана в России экстремистской и запрещена), отрицает угрозу существованию человечества, утверждая, что искусственный интеллект, напротив, «способен спасти человечество от вымирания».
Суарес признает, что предсказать достижение технологическими гигантами уровня суперинтеллекта довольно легко, но точно определить сроки – гораздо сложнее. «Мы сталкиваемся с огромной неопределенностью, – отметил он. – Я не могу с уверенностью сказать, что до появления ASI остался всего год, но также не удивлюсь, если у нас будет еще около 12 лет».
Марк Цукерберг, крупный корпоративный инвестор в область ИИ, ранее заявлял, что достижение суперинтеллекта уже «на горизонте».
«Компании активно конкурируют в создании суперинтеллекта – это их основная цель, – подчеркивает Суарес. – Однако существует серьезная проблема: всегда есть небольшие расхождения между тем, что мы запрашиваем у ИИ, и тем, что получаем. Люди не всегда могут точно сформулировать цель, и по мере роста интеллекта ИИ даже незначительные отклонения от заданных целей могут привести к крайне серьезным последствиям».
В качестве одного из возможных политических решений Суарес предлагает правительствам рассмотреть многосторонний подход, схожий с Договором ООН о нераспространении ядерного оружия. «Миру необходима глобальная деэскалация гонки за сверхразумом и всеобъемлющий запрет на разработку и достижение сверхразумных систем», – заявил он.
Тем временем, семья погибшего Адама Рейна в прошлом месяце подала в суд на OpenAI, создателя ChatGPT. По словам адвоката семьи, Рейн скончался в апреле после «месяцев взаимодействия и поддержки со стороны ChatGPT». Компания OpenAI выразила глубокие соболезнования семье и теперь вводит возрастные ограничения, блокируя доступ к «конфиденциальному контенту и рискованному поведению» для пользователей младше 18 лет.
Психотерапевты предупреждают, что уязвимые личности, ищущие поддержки у ИИ-чат-ботов вместо квалифицированных специалистов, рискуют «скатиться в опасную пропасть». Среди профессиональных опасений – академическое исследование, опубликованное в июле, которое показало, что ИИ может усугублять бредовые или грандиозные мысли у пользователей, склонных к психозу.
