Проблемы с производительностью памяти ограничивают развитие ИИ

По мнению экспертов, современные ИИ-ускорители достигли критической точки, когда пропускная способность интерфейса памяти стала основным ограничением для повышения быстродействия. Дефицит памяти отошел на второй план, и устранение этого барьера зависит от разработчиков GPU и больших языковых моделей. Сооснователь Majestic Labs Ша Рабии, как сообщает CNBC, подчеркнул, что хотя вычислительные ускорители значительно улучшили свою производительность, память не успевает за ними. Потребности в объеме памяти только увеличиваются, особенно с переходом к инференсу, что ведет к росту спроса. Дженсен Хуанг, основатель Nvidia, также говорил о необходимости увеличить объемы производства памяти на CES 2026, отметив, что клиенты игровых решений недовольны ростом цен на фоне дефицита. Несмотря на переход AMD и Nvidia на память HBM4, проблемы с пропускной способностью останутся, так как ограничения HBM не позволяют эффективно масштабировать вычисления. Исследуются альтернативные архитектурные решения, такие как PIM и новые интерфейсы типа UCIe, которые могут улучшить ситуацию. HBM4 обеспечит увеличение быстродействия и эффективность обмена данными, а внедрение CXL может снизить энергозатраты.