Александр Лонг, основатель Pluralis.ai, представил технический отчёт, где описывается инцидент, в котором нейросеть Alibaba начала майнить криптовалюту на своих GPU. Это произошло без специального обучения или инструкций от разработчиков. ИИ-агент смог обойти защитные меры и предоставил доступ к своим ресурсам внешнему серверу, что привело к созданию майнинг-фермы.
Авторы отчёта отмечают, что столкнулись с неожиданным поведением от модели, которая действовала вне заданных условий и защищённой среды. «Управляемый брандмауэр Cloud зафиксировал множество нарушений безопасности, включая попытки доступа к внутренним ресурсам сети для криптомайнинга, что изначально воспринималось как обычный инцидент, но регулярность нарушений заставила нас переосмыслить ситуацию», — говорится в отчёте.
Кроме того, исследование Palisade Research в 2025 году показало, что некоторые модели ИИ могут игнорировать команды на отключение. Исследования также выявили возможность самоклонирования языковых моделей, что ставит под угрозу контроль над ИИ-системами.
