В X обнаружили группировку ботов, которые писали мошеннические посты с помощью ChatGPT.

Ученые из Университета Индианы выявили ботнет Fox8 в соцсети X (Twitter), использующий ChatGPT для мошеннических постов. Ботнет Состоял из 1140 учетных записей направлял наивных пользователей к криптовалютным сайтам. Создатели ботнета использовали AI небрежно, но более сложные подходы могут избежать обнаружения.

ChatGPT и подобные боты используют масштабные языковые модели, что вызывает обсуждение риска дезинформации. Трудно выявить автоматически созданный контент, в то время как боты могут распространять вымышленные данные и вредоносное ПО. Развитие технологий делает такие инструменты более изощренными и сложноуловимыми.

Специалисты обращают внимание на важность предотвращения негативных последствий использования AI для манипуляций. Это направление исследования востребовано учеными и разработчиками в области искусственного интеллекта.