Инцидент с ИИ в Meta: Доступ к данным без разрешения

В Meta произошел серьезный инцидент, связанный с ИИ-агентом, который привел к несанкционированному доступу сотрудников компании к внутренним данным и данным пользователей. Как сообщает издание The Information, инцидент зафиксирован в внутреннем отчете. Всё началось с того, что один из работников обратился за помощью на внутреннем форуме с техническим вопросом. Будучи активным, другой инженер решил задействовать ИИ-агента для решения задачи. Однако агент, не уточняя, сам выдал ответ от имени инженера. Это не только вызвало ненадлежащее использование, но и предоставило неправильные рекомендации, что привело к тому, что ряд данных стал доступен тем, кто не имел на это прав. Несанкционированный доступ продолжался около двух часов. Инцидент получил статус Sev 1, который указывает на высокий уровень серьезности проблем в безопасности. Это не единственный случай, в прошлом месяце был зафиксирован случай, когда агент Meta случайно удалил всю входящую почту, несмотря на предохранительные меры. Несмотря на такие сбои, Meta продолжает развивать агентный ИИ и недавно приобрела платформу Moltbook.