Поиски дешёвых AI-ресурсов: как мы нашли решение в Китае

Привет, читатели! Я, Михаил, CTO компании VizoGEN, делюсь нашим опытом поиска доступных AI-мощностей. Изначально мы использовали 3080 TI, но вскоре наши потребности возросли, и мы столкнулись с необходимостью в Nvidia Tesla. Тестирование H100 от одного из провайдеров обернулось шокирующими затратами — $18-19K в месяц только на R&D. В поисках альтернативы мы обратились к Китаю, где нашли урезанную H20 по более низкой цене. Однако нас ждали трудности: медленная загрузка образа из-за Великого Фаервола, отсутствие доступа к GitHub и Pip, а также проблемы с совместимостью драйверов. Благодаря помощи сотрудников Tencent Cloud и упорству, мы смогли настроить окружение за четыре дня, что значительно снизило наши затраты. Рекомендуем другим быть готовыми к языковому барьеру и тщательно проверять зависимости. Наш выбор — Китай, так как это позволило нам избежать больших расходов. Делитесь своими историями!