Участники сабреддита r/poisonai решили проверить, насколько легко обмануть поисковые алгоритмы с искусственным интеллектом. Для этого они придумали и распространили в сети вымышленную историю о том, что вице-президент США Джей Ди Вэнс якобы умер от бешенства, а перед смертью успел заразить этой болезнью президента Дональда Трампа, укусив его.
Сама история выглядела как нелепая интернет-шутка и не имела под собой никаких реальных оснований. Тем не менее эксперимент показал уязвимость современных ИИ-поисковиков: часть систем начала пересказывать выдуманный сюжет пользователям так, будто речь идёт о подтверждённом факте.
Как работает «отравление» данных
Суть эксперимента заключалась в целенаправленном распространении заведомо ложной информации таким образом, чтобы она попала в массивы данных, на которые опираются алгоритмы ИИ при формировании ответов. Если фейк написан достаточно уверенно и растиражирован в большом количестве источников, поисковая система может воспринять его как достоверные сведения и транслировать дальше без проверки.
Случай с Вэнсом и Трампом наглядно продемонстрировал, что подобная манипуляция может сработать даже с откровенно абсурдным сюжетом, не требующим сложной подготовки — достаточно было создать видимость массового обсуждения темы в сети.
