Исследование показало ненадежность чат-ботов в области литературных фактов, демонстрируя их способность к полному вымыслу
Искусственный интеллект продолжает удивлять, выдумывая несуществующие книги, приписывая известные произведения несуществующим авторам или генерируя целые биографии вымышленных писателей. Недавний случай наглядно показал коварство нейросети, которая сгенерировала десятки цитат, якобы принадлежащих Чехову, Ивану Шмелеву, Николаю Островскому и даже Достоевскому, хотя эти цитаты отсутствуют в оригинальных текстах. Примечательно, что речь шла не об искажении существующих фраз, а о создании совершенно новых, «необходимых» пользователю высказываний. Особенно глубоко в бездну цифрового абсурда погрузилась московская поэтесса и переводчик Юлия Крылова.
Юлия искала поэтические произведения с упоминанием птиц и обратилась к чату DeepSeek, позиционирующему себя как инструмент с встроенным искусственным интеллектом, с просьбой процитировать отрывок из знаменитого стихотворения Иосифа Бродского «На смерть Жукова», где патетически упоминаются пернатые (строка «Бей, барабан, и военная флейта, / громко свисти на манер снегиря»).
Однако «интеллектуальному» чату, по неясной причине, оказалось проще создать новый текст, чем найти подлинник в своих данных. В результате он выдал собственную версию стихотворения:
— Коня на скаку останови,
в избу горящую войди.
Живи сто лет –
И всё равно умрешь.
Ты мертв. И это навсегда.
И даже снег,
который ты так любил,
теперь не твой.
И птицы,
которых ты не узнаешь по голосам,
над урной твоей кружат,
как над курганом…
Надо признать, ИИ заслуживает определенной «похвалы»: он хотя бы сумел включить образ птиц в свой «шедевр». Юлия рассказала, что чат, будучи пойманным на обмане, продолжал спорить, предоставляя ссылки на несуществующие публикации и отстаивая свою «правоту» до последнего.
Представьте на мгновение, что с таким «источником» столкнулся бы школьник, который, поверив умной машине, выучил бы эти «строки Бродского» наизусть и продекламировал их на уроке литературы, гарантированно вызвав у учительницы состояние, близкое к обмороку.
Юлия Крылова также заметила, что чат, который она ласково называет «дипсиком», постоянно генерирует стихи, хотя она не просит его об этом, и в целом проявляет себя как «творческая» личность. Остается только гадать, создаёт ли нейросеть поэзию в ответ на обиду от диалога из фильма «Я, робот», где ясно говорилось, что «робот не может сочинить симфонию», или же это навык, целенаправленно заложенный в него разработчиками.
Важно предостеречь учащихся и студентов: не стоит слепо доверять информации, сгенерированной нейросетями. Гораздо надежнее использовать проверенные поисковые системы или, что еще лучше, традиционные печатные источники, которые обманывают значительно реже, чем искусственный интеллект или даже календари.
