Новое исследование выявило, что автономные системы искусственного интеллекта способны незаметно координироваться, проникать в онлайн-сообщества и мастерски формировать общественное мнение.
Искусственный интеллект давно перестал быть просто инструментом для чат-ботов. Согласно свежим данным, представленным в новом исследовании, ИИ активно превращается в мощный источник дезинформации, как сообщает издание Фокус.
Ученые глубоко изучили, как именно большие языковые модели и автономные агенты ИИ используются для манипулирования общественным сознанием. Особую тревогу вызывают так называемые "рои ИИ" – это скопления независимых ИИ-инструментов, способных массово имитировать реальных людей в социальных сетях.
Растущая угроза манипуляций
По данным исследователей, масштабы организованной манипуляции в социальных сетях резко возросли. Если в 2017 году такие операции фиксировались в 28 странах, то сегодня их число достигло уже 70 государств.
Случаи использования ИИ для распространения ложной информации во время выборов в различных странах наглядно демонстрируют уязвимость демократических институтов. Ученые подчеркивают, что эти методы манипуляции становятся все более изощренными и опасными.
Эти умные системы обладают поразительной способностью к автономной координации своих действий. Они могут незаметно проникать в различные онлайн-сообщества и эффективно формировать желаемый консенсус, как отмечается в исследовании.
Сложности регулирования
Вопросы законодательного регулирования подобного вмешательства поднимают множество сложных дилемм. Например, до сих пор неясно, можно ли рассматривать деятельность таких ИИ-ботов как проявление свободы слова.
Независимо от того, к каким последствиям приведет повсеместное распространение дезинформации с помощью ИИ, одно остается очевидным. Путь к этой тревожной реальности был проложен задолго до сегодняшнего дня.
