Компания Integral AI, созданная Джадом Тарифи, ранее работавшим в Google, представила новую систему, которую он считает значительным шагом к искусственному общему интеллекту (AGI). По информации компании, данная модель отвечает трем ключевым критериям AGI: она может самостоятельно осваивать новые навыки без предварительно подготовленных данных, делает это безопасно и надежно, а также отличается энергоэффективностью, сопоставимой с человеческой. Уже проведены испытания системы на роботах в Токио. В то же время, в индустрии существует скептицизм по поводу подобных заявлений, напоминая о прежних спорах о «квантовом превосходстве». На данный момент независимые подтверждения или научные публикации, подробно описывающие архитектуру и методы тестирования модели, отсутствуют.
Вопрос-ответ
Какова основная идея новой системы Integral AI и в чем она отличается от существующих подходов к ИИ?
Компания Integral AI заявляет, что их система может самостоятельно осваивать новые навыки без использования заранее подготовленных данных, работает безопасно и надежно, и обладает энергоэффективностью, сопоставимой с человеческой. В отличие от многих нынешних моделей, которые нуждаются в обширном датасете и обучении, их подход предполагает автономное обучение в реальном времени, что потенциально может приблизить путь к AGI. Однако конкретные детали архитектуры, методики обучения и меры безопасности остаются неопубликованными и не подтверждены независимыми источниками.
Почему отрасль сомневается в заявленных возможностях и что именно вызывает скептицизм?
Скептицизм обусловлен отсутствием независимых подтверждений, научных публикаций или подробной документации по архитектуре и тестированию модели. В прошлом аналогичные заявления о радикальных достижениях сталкивались с критикой из-за нехватки прозрачности и воспроизводимости. Без публикаций и внешних верификаций трудно оценить реальные возможности обучения без данных, безопасность и энергоэффективность, а также повторяемость результатов на разных задачах и роботах.
Где и как проводились испытания системы, и что известно о текущем статусе проверки?
По сообщениям, испытания проводились на роботах в Токио. Однако подробности экспериментов, набор тестов, условия и показатели не опубликованы, а независимые отзывы не подтверждают результаты. На данный момент нет научной статьи или технического доклада, описывающего архитектуру, методики тестирования или сравнение с альтернативными подходами.
Что значит заявленная энергоэффективность, сопоставимая с человеческой, и какие риски связаны с подобными заявлениями?
Заявленная энергоэффективность подразумевает меньшие энергетические затраты на обучение и выполнение задач по сравнению с крупными языковыми моделями. Однако без репликационных тестов и конкретных метрик трудно проверить, насколько эта эффективность сохраняется в реальных условиях и на разных задачах. Риск состоит в том, что без прозрачности можно недооценить затраты на вычисления, безопасность и долгосрочную устойчивость, или переоценить потенциал для перехода к истинному AGI.
