Создание искусственного интеллекта общего назначения (AGI) стало предметом активных обсуждений и исследований в научном сообществе. Несмотря на то что исследователи выделяют огромные финансовые ресурсы — Gartner оценивает российские затраты в 1,5 трлн долларов — успех остаётся под вопросом. Более того, лишь 6% проектов в этой области приносят реальную прибыль. Частный бизнес активно инвестирует в AI, стремясь улучшать существующие языковые модели. Однако многих специалистов беспокоит, приведёт ли эта работа к AGI или же потребуется иной подход.
Недавние изменения в OpenAI, такие как расформирование команд Mission Alignment и Superalignment, знаменуют собой изменение стратегии. Тем не менее, остаётся неясным, как достигнутый прогресс обеспечит безопасность и пользу, которые обещаются в этих технологиях.
Эти вопросы не теряют актуальности, и специалисты, такие как Илья Суцкевер, поднимают всё больше сомнений относительно эффективности текущих моделей, утверждая, что они недостаточно адаптированы к реальному миру. Новый подход, основанный на ценностном обучении, может стать ключом к успешному агрегированию знаний и достижению AGI, который мог бы взаимодействовать с человеческим сознанием на равных.
