Проверяй, не доверяй!

Как оказалось, даже масштабные промокампании могут провалиться, если их основу составляет контент, созданный искусственным интеллектом. Один из брендов одежды запустил лимитированную линейку с видео, над которым была проделана колоссальная работа. Однако результат оказался обескураживающим: считанные десятки просмотров и едкие комментарии о «слопе» — низкокачественном цифровом контенте, сгенерированном ИИ. Ирония в том, что зритель не поверил в реальность такого кропотливого труда.

Драматизм ситуации заключается в парадоксальном сдвиге: если совсем недавно главной проблемой считалось наше неумение отличить фейковый контент от подлинного, то теперь, наоборот, мы с подозрением относимся к творчеству живых людей, принимая его за машинную генерацию.

Мы уже выработали целый набор «маркеров» ИИ: длинное тире, фразы вроде «не только, но и...», странные склейки в видео, «мыльная» картинка. Любой из этих признаков может стать поводом отписаться от автора, которого теперь мы воспринимаем как бота. Текст, оформленный в виде списка? Ясно, нейросеть. Письмо от старого знакомого? Тоже бот, сразу в спам. Мы перестали читать поздравления, релизы и рассылки, активно обучаясь игнорировать любой контент, несущий признаки «слопа».

Контент превращается в «слепое пятно», барьер, через который к нам уже невозможно достучаться без особого кода, пароля или почти магической формулы. И вскоре даже это перестанет помогать. Доверие к увиденному и написанному в сети эродировало до такой степени, что даже забор кажется более надежным источником информации. Если раньше соцсети сокращали дистанцию между людьми, создавая иллюзию близости, то теперь мы не уверены, что блогер, на которого мы подписаны, вообще существует. Чем чаще мы подозреваем друг друга в создании искусственного контента, тем сильнее это подрывает общественные связи и разрушает ту социальную ткань мира, что держится на доверии.

Как часто отмечает декан экономфака МГУ, ученый Александр Аузан, доверие является ключевым фактором ускоренного экономического роста. Оно снижает «трение» между людьми, позволяя выдавать кредиты под низкий процент или заключать сделки без юридических проволочек, будучи уверенным в честности партнера. Доверие уменьшает транзакционные издержки — все те расходы, что сопровождают экономические взаимодействия. В условиях, когда большая часть финансовых, производственных и торговых операций переместилась в сеть, а затем и в соцсети, дефицит доверия в интернете почти равнозначен его дефициту в обществе в целом.

Сколько уровней верификации придется пройти каждому из нас, чтобы доказать, что мы не роботы? И в какую сумму обойдется каждая такая проверка для компаний и институтов? Похоже, ускоренный экономический рост в ближайшее время миру не светит. А с другой стороны, наблюдая за происходящим, мы и без объяснений ученых понимаем: до всеобщей гармонии, как экономической, так и социальной, еще очень далеко. Крах доверия, который мы видим в сети, возможно, является лишь одним из симптомов более глубокого разрушения глобальной системы общественных отношений — малым отражением фрактальных изменений в большом.