Профессор Кунст: на соцсети обрушатся массовые набеги ИИ-агентов

Норвежский профессор Йонас Кунст предупредил об угрозе массированных атак ИИ-ботов в скором времени.

В обозримом будущем социальные сети столкнутся с массовыми атаками ИИ-ботов, имитирующих поведение людей для распространения дезинформации, преследования пользователей и влияния на политику. Боты, основанные на языковых моделях, могут адаптироваться, учиться и создавать убедительные личности, что затрудняет их обнаружение и борьбу.

Эксперименты показали, что ИИ-агенты могут быть в разы убедительнее реальных людей. Для борьбы с этой угрозой ученые предлагают улучшенные методы аутентификации пользователей, сканирование трафика для выявления аномального поведения и создание экспертного сообщества для изучения и реагирования на атаки.

Игнорирование этих мер может привести к срывам выборов и другим серьезным последствиям в мире, предупредил профессор Йонас Кунст.