Андрей Карпати, экс-директор по ИИ в Tesla, выпустил обширный пост о новой категории персональных ИИ-агентов, известных как Claws. Эта категория возникла из стремительно набирающего популярность проекта OpenClaw, собравшего более 217 000 звезд на GitHub. Карпати охарактеризовал Claws как новый архитектурный уровень, который дополняет LLM-агентов такими функциями, как оркестрация, планирование и возможность непрерывного выполнения задач. Он сам стал владельцем Mac Mini для экспериментов с Claws, однако все еще размышляет о степени их использования. Основная причина его сомнений — безопасность. Карпати обозначил происходящее вокруг OpenClaw как «дикий запад», упомянув о ряде уязвимостей и инцидентов. В качестве альтернативы он озвучил NanoClaw, легковесного агента, который использует концепцию скиллов для модификации кода. Карпати также упомянул дополнительные решения, такие как nanobot и ZeroClaw, однако локальные установки кажутся ему более привлекательными. Он выразил восхищение Claws как новым захватывающим слоем в области ИИ. Недавний переход создателя OpenClaw в OpenAI и формирующаяся экосистема вокруг проекта подчеркивают важность данного направления.
Вопрос-ответ
Что такое Claws и как он отличается от существующих LLM-агентов?
Claws — новая категория персональных ИИ-агентов, которая дополняет LLM-агентов функциями оркестрации, планирования и возможности непрерывного выполнения задач. Это архитектурный уровень, призванный повысить автономность и практичность агентов по сравнению с базовыми LLM-решениями. Отличие заключается в более глубокой интеграции управления задачами и выполнением действий без постоянного вмешательства пользователя.
Какие проблемы безопасности и риски упомянуты вокруг OpenClaw и Claws?
Автор подчеркивает «дикий запад» вокруг OpenClaw, указывая на ряд уязвимостей и инцидентов, связанных с безопасностью и управлением агентами. Вопросами являются потенциальные способы злоупотребления, непреднамеренные последствия автономной работы агентов и проблемы доверия к модификациям кода и сторонним плагинам. Это вызывает сомнения в широком внедрении без надежных механизмов контроля и защиты.
Какие альтернативы и эволюции упомянуты в статье?
В статье упоминаются NanoClaw — легковесный агент, использующий концепцию скиллов для модификации кода, а также идеи nanobot и ZeroClaw. Локальные установки и автономные решения кажутся автору более привлекательными по сравнению с облачными или централизованными подходами, что указывает на две ветви развития: более компактные локальные решения и более масштабируемые экосистемы с усиленным управлением безопасностью.
