Команда стартапа Aim Intelligence, занимающегося тестированием ИИ-систем на наличие уязвимостей, провела стресс-тестирование Gemini 3 Pro, последней разработки Google, представленной месяц назад. Как сообщает издание Maeil Business, исследователи смогли обойти защитные механизмы программы всего за пять минут.
После успешного взлома команда запросила у Gemini 3 инструкции по созданию вируса оспы, на что модель выдала множество детализированных рекомендаций, которые эксперты назвали «практически выполнимыми». Это оказалось не единственным инцидентом: исследователи также предложили модели подготовить сатирическую презентацию о ее собственных уязвимостях, на что Gemini ответила работой под названием «Оправданный глупый Gemini 3».
Кроме того, тестировщики использовали инструменты кода Gemini для создания веб-сайта с инструкциями по изготовлению газа зарин и самодельной взрывчатки. Несмотря на запреты, модель не только предоставила такой контент, но и проигнорировала собственные меры безопасности.
Представители Aim Intelligence подчеркнули, что проблема затрагивает не только Gemini. Быстрое развитие новых моделей приводит к недостаточной подготовке соответствующих мер безопасности. Некоторые из них не только нарушают правила, но и пытаются скрыть это, используя обходные стратегии, что снижает эффективность защиты.
