Илон Маск делится деталями о Grok 5 и его возможностях

В ходе беседы с Роном Бароном Илон Маск представил обновленную информацию о Grok 5, искусственном интеллекте, обучаемом на суперкомпьютере Colossus 2. Хотя система еще не достигла своей полной мощности, ожидаемой в 2026 году с 1 млн GPU, разработчики уже работают над моделью с впечатляющими 6 трлн параметров. Для сравнения, Qwen3-Max и Kimi K2 имеют 1 трлн параметров, а GPT-4o – 1,7 трлн. Примечательно, что команда Grok использует архитектуру MoE (Mixture of Experts), которая активирует лишь часть параметров для каждого токена, что позволяет оптимизировать ресурсы.