В Meta не справляются с выходящими из-под контроля AI-агентами

Image Credits: Carol Yepes / Getty Images

AI-агент в Meta вышел из-под контроля и открыл доступ к конфиденциальным данным компании и пользователей для сотрудников, не имевших на это прав.

Как следует из отчёта об инциденте, опубликованного The Information, всё началось штатно. Сотрудник задал технический вопрос на внутреннем форуме. Другой инженер попросил AI-агента проанализировать его — и агент опубликовал ответ без разрешения. Представители Meta подтвердили инцидент изданию.

Совет агента оказался ошибочным. Сотрудник, задавший вопрос, последовал ему и случайно предоставил группе инженеров доступ к большому объёму данных компании и пользователей. У инженеров не было на это полномочий. Уязвимость сохранялась два часа.

Meta классифицировала инцидент как «Sev 1». Это второй по тяжести уровень во внутренней системе оценки проблем безопасности.

Это не первый случай с выходящими из-под контроля AI-агентами в Meta. В прошлом месяце Summer Yue, директор по безопасности и выравниванию (alignment — настройка ИИ так, чтобы его цели совпадали с намерениями человека) в подразделении Meta Superintelligence, рассказала на X о другом инциденте. Её агент OpenClaw удалил всю почту, хотя она заранее настроила его на подтверждение любых действий.

Однако Meta продолжает делать ставку на agentic AI (агентный ИИ — системы, способные автономно выполнять цепочки задач без пошагового контроля человека). На прошлой неделе компания купила Moltbook — Reddit-подобную социальную сеть, где агенты OpenClaw общаются друг с другом.