Пропаганда входит в новую эру. Вы готовы?
Проект под названием CounterCloud был разработан за два месяца и стоил менее $400 в месяц для поддержания работы. Это демонстрирует, насколько просто и дешево можно создавать массовую пропаганду.
Создатель, предпочитающий оставаться анонимным, использовал псевдоним Nea Paw и, по утверждению издания Wired, занимается профессиональной кибербезопасностью.
В опубликованном на YouTube видео Paw рассказал о том, как был реализован проект и почему он был создан. Paw хотел увидеть, как дезинформация на базе искусственного интеллекта будет "работать в реальном мире". По его словам, сильные языковые компетенции больших языковых моделей идеально подходят для создания и чтения фейковых новостных статей.
Для начала Paw вводил в ChatGPT "противоположные" статьи с инструкцией написать контр-статью. В ответ AI предлагал разные версии одной и той же статьи, написанные в разных стилях и с разными точками зрения.
Paw указал, что AI создает фейковые истории, выдуманные исторические события, и ставит под сомнение достоверность оригинальной статьи.
Далее был добавлен модуль "хранителя", благодаря которому AI реагировал только на наиболее релевантный контент. Для усиления достоверности добавлялись аудиозаписи новостей, прочитанных с использованием AI, а также фотографии и профили фейковых журналистов.
Система автоматически лайкала и репостила сообщения, соответствующие ее повествованию, или писала "контр-твиты" противоположного содержания.
За два месяца была создана полностью автономная система на базе AI, которая в 90% случаев генерировала убедительный контент круглосуточно.
На момент публикации модель не была запущена в интернете. Paw утверждает: "Если выпустить этот проект в сеть, будет невозможно предсказать, куда он уйдет". Однако он добавил, что решил опубликовать CounterCloud, чтобы образовать публику о том, как работают такие системы изнутри.
Способность AI усиливать создание и распространение онлайн-дезинформации стала одной из главных проблем в дебатах по AI. Многие выразили опасения относительно влияния AI на будущие выборы из-за возможности создания убедительных медиаматериалов с использованием персонализированной подачи информации.
Источник: securitylab
