Побег из «песочницы»

На прошлой неделе много кто уже высказался об инциденте с выходом ИИ за пределы песочницы у Anthropic.

Примечательно, что вся стратегия взлома базировалась на:

• слабых паролях;
• API-эндпоинтах без аутентификации;
• SQL-инъекциях.

То есть, чисто технически — ничего изощрённого модели не применяли, — а просто использовали «детские» ошибки многих начинающих разработчиков при построении IT-инфраструктуры и написании кода.

Поэтому спешу успокоить: восстания машин пока что не будет! Но... я бы всё равно перепроверил все свои айти-системы на подобные ошибки.

Кстати, подписывайтесь на меня на всех платформах, чтобы не пропустить интересное! 👇

– Канал в Telegram
– Паблик во ВКонтакте
– Канал в MAX
– Блог в Дзене
– Блог на VC