Китайский бизнес использует ИИ для пропагандистского воздействия на американских политиков и влиятельных лиц

Тайник с документами, обнаруженный Университетом Вандербильта, раскрыл тревожные подробности о том, как китайская компания создает базу данных американских политиков и влиятельных лиц, с которыми можно обмениваться пропагандой.

По словам исследователя по вопросам безопасности из Университета Вандербильта, документы свидетельствуют о том, что GoLaxy использует ИИ для создания профилей в социальных сетях и сопоставления существующих профилей с целью влияния на общественное мнение. GoLaxy утверждает, что действует в Гонконге и на Тайване, чтобы влиять на общественное мнение в пользу политики Пекина, но теперь, похоже, компания использует ИИ для атак на американских политиков и влиятельных лиц в социальных сетях, хотя и пытается замести следы.

«В некоторых документах упоминается, что компания использовала DeepSeek», — рассказал The Register профессор Бретт Голдштейн из Университета Вандербильта . «Но как только мы опубликовали документы, они начали очень быстро удалять ссылки на эту технологию с сайта».

Хотя Россия привыкла пытаться влиять на американцев, для проведения пропагандистских кампаний она обычно полагалась на людей. Использование искусственного интеллекта — это новый подход, и он явно китайский.

«Мы всегда считали русских лучшими в информационных операциях, влияющих на Америку – Китай там был действительно хорош», – заявил бывший глава АНБ генерал Пол Накасоне на пресс-конференции в рамках хакерской конференции DEF CON в Лас-Вегасе. «Они не смогли эффективно понять послание, понять проблемы, возможно, даже понять язык, который они используют. Но я действительно вижу, что это действительно следующее поколение того, что мы увидим в конфликтах в серой зоне в будущем».

Мы всегда считали русских лучшими в информационной войне, а китайцы — далеко позади. Но теперь ситуация быстро меняется.

Компания позиционирует себя как агентство по картографированию социальных сетей, отслеживающее общественные настроения в китайских сетях, хотя и исследователи, и бывший глава АНБ Накасонэ утверждают, что у неё тесные связи с китайским правительством. Однако документы, по-видимому, свидетельствуют о том, что в частном порядке она позиционирует себя как влиятельное лицо, используя контент, генерируемый искусственным интеллектом, для формирования общественного мнения в системе, называемой «Система интеллектуальной пропаганды» (Smart Propaganda System), или «GoPro».

Согласно переводу исследователей, в документах подробно описывается, как GoLaxy «уже обладает способностью быть в курсе политической ситуации, нацеливаться в режиме реального времени, создавать высококачественный контент и осуществлять быстрые контратаки», и утверждается, что он «уже оказал определенное политическое воздействие на соответствующие государственные ведомства».

По словам Голдштейна, Вандербильт всё ещё обрабатывает документы, 99% которых написаны на китайском языке. Однако исследователи уже отмечают, что компания переключает своё внимание на Америку, особенно на политиков и других известных публичных деятелей.

Мы обратились к GoLaxy за комментарием, но к моменту публикации ответа не получили. Однако компания опровергла эти заявления в заявлении для New York Times , назвав их дезинформацией и заявив, что её продукты в основном основаны на данных из открытого источника.

Накасонэ заявил, что этот случай доказывает, что Китай усиливает свою пропагандистскую деятельность, и призвал коммерческий сектор разработать инструменты для выявления и блокирования подобных попыток. Однако быстрое развитие искусственного интеллекта означает, что поддерживать его на должном уровне будет непросто.

«Нам нужна помощь частного сектора в области синтетического обмена сообщениями», — сказал он. «Нам нужно делать это быстрее, эффективнее и масштабнее».