Искусственный интеллект компании выявил и остановил попытки распространения дезинформации с помощью генерации ложных новостей
Компания OpenAI заявила, что она обнаружила и пресекла иранскую кампанию, которая использовала сервис ChatGPT для создания фейковых новостей и социальных постов. Кампания, получившая название «Шторм-2035», была частью серии кампаний влияния, связанных с иранским правительством.
По данным OpenAI, кампания включала создание контента для пяти веб-сайтов на английском и испанском языках, выдававших себя за новостные агентства. Контент был направлен на распространение «поляризующих сообщений» по таким вопросам, как президентская кампания в США, права ЛГБТК+ и конфликт в секторе Газа.
Кроме того, кампания включала десяток аккаунтов на X и один на Instagram, связанных с операцией. Однако, по данным OpenAI, операция не получила какой-либо значимой поддержки. Большинство сообщений в социальных сетях, которые были идентифицированы, получили мало или вообще не получили лайков, репостов или комментариев.
OpenAI оценила угрозу кампании по шкале Breakout Scale Института Брукингса и присвоила ей рейтинг категории 2 (по шкале от одного до шести). Это означает, что кампания показала активность на нескольких платформах, но не было никаких доказательств того, что реальные люди широко распространили их контент.
Кампания создавала контент для фальшивых консервативных и прогрессивных новостных агентств, нацеленный на противоположные точки зрения. Например, намёки на то, что Дональд Трамп «подвергается цензуре в социальных сетях и готов объявить себя королём США». В другом выбор Камалой Харрис Тима Уолза в качестве своего напарника был назван «просчитанным выбором для единства».
Кроме того, кампания создавала контент о присутствии Израиля на Олимпиаде и (в меньшей степени) политике Венесуэлы, правах латиноамериканских общин и независимости Шотландии. Кампания также добавляла комментарии о моде и красоте, «возможно, чтобы казаться более аутентичными или в попытке привлечь последователей».
«Операция пыталась играть на обеих сторонах, но, похоже, не получила поддержки ни от одной из них», — рассказал агентству Bloomberg следователь OpenAI Intelligence and Investigations Бен Ниммо.
Разоблачение фиктивной операции влияния последовало за раскрытием информации ранее на этой неделе о том, что иранские хакеры атаковали кампании Харрис и Трампа. ФБР заявило, что неофициальный советник Трампа Роджер Стоун стал жертвой фишинговых писем. Затем иранские хакеры взяли под контроль его аккаунт и стали рассылать сообщения с фишинговыми ссылками. ФБР не нашло никаких доказательств того, что кто-либо из кампании Харрис попался на эту удочку.
