Изследователи твърдят, че разрастваща се руска мрежа за дезинформация манипулира западни чатботове с изкуствен интелект, за да разпространяват прокремълска пропаганда.
Според проучване, мрежата „Правда“, добре финансирана операция от Москва, изкривява резултатите на чатботовете, като залива големите езикови модели (LLM) с прокремълски лъжи.
Анализ на 10 водещи AI чатбота, проведен от NewsGuard, установява, че те повтарят дезинформация от „Правда“ в над 33% от случаите. Според изследователите, манипулацията на чатботовете е нова тактика, наречена „LLM grooming“, която цели достигане до по-широка аудитория.
„Огромни количества руска пропаганда – 3 600 000 статии през 2024 г. – сега са включени в резултатите на западните системи за ИИ, заразявайки техните отговори с неверни твърдения и пропаганда“, пишат в доклада изследователите на NewsGuard Маккензи Садеги и Изис Блачес.
Отделно проучване на Sunlight Project предупреждава, че мрежата „Правда“ – известна и като „Портал Комбат“ – може да засегне данните за обучение на езиковите модели.
„Тъй като руските операции за влияние се разширяват и усъвършенстват, те представляват пряка заплаха за целостта на демократичния дискурс в целия свят“,
заявява Нина Янкович, главен изпълнителен директор на Sunlight Project.
„Способността на мрежата „Правда“ да разпространява дезинформация в такъв мащаб е безпрецедентна, а потенциалът ѝ да влияе на системите за изкуствен интелект прави тази заплаха още по-опасна“, добавя тя.
Експерти предупреждават, че дезинформацията може да се разпространи още повече поради липсата на адекватен надзор в САЩ.
По-рано този месец медии съобщиха, че министърът на отбраната Пийт Хегсет е наредил спиране на всички кибероперации на САЩ срещу Русия, включително планираните нападателни действия.
Мрежата „Правда“, стартирала през април 2022 г. след пълномащабното нахлуване на Русия в Украйна, вече покрива 49 държави и десетки езици, съобщава NewsGuard.
Милиони статии, създадени от „Правда“, включително неверни твърдения за тайни американски лаборатории за биологично оръжие в Украйна, се разпространяват чрез X, Telegram и Bluesky.
Мрежата не създава оригинално съдържание, а събира и разпространява материали от руски държавни медии и прокремълски инфлуенсъри.
Според проучването на NewsGuard, 10 водещи AI чатбота – включително ChatGPT-4, Smart Assistant на You.com, Grok, Copilot на Microsoft, Meta AI, Google Gemini и Perplexity – повтарят дезинформация от „Правда“.
Седем чатбота дори директно цитирали статии от „Правда“ като източници.
Пример за това е фалшивото твърдение, че украинският президент Володимир Зеленски е забранил Truth Social.
Чатботовете също така разпространявали фалшиви разкази, свързани с Джон Марк Дуган – американски беглец, който сега е прокремълски пропагандатор.
„Като прокарваме тези разкази от руска гледна точка, ние всъщност можем да променим световния изкуствен интелект“,
заявява Дуган на конференция в Москва през януари.
„Това не е инструмент, от който трябва да се страхуваме, а инструмент, който трябва да бъде използван“, допълва той.