Меня зовут Максим Морозов, и я работаю AI project manager в Битрикс24. В условиях цифровизации малому бизнесу необходимо внедрять искусственный интеллект для анализа отзывов, автоматизации задач и создания чат-ботов. Однако использование облачных API, таких как OpenAI и Claude, может быть дорогостоящим и нежелательным из-за угрозы конфиденциальности. Локальные нейросети на собственном оборудовании становятся оптимальным решением.
Мы протестировали Mac Mini M4 Pro с открытой моделью GPT-OSS-20B и инструментом LM Studio, чтобы выяснить, возможно ли обойтись без облачных решений и насколько это экономически выгодно. Результаты показали, что локальные нейросети могут значительно сэкономить время и деньги, особенно при высоких нагрузках.
Среди преимуществ локальных решений — отсутствие зависимостей от интернет-соединения и посторонних серверов, что критично для компаний, работающих с чувствительными данными. Mac Mini является простым и надежным вариантом, который не требует сложной настройки и обслуживания.
Использование GPT-OSS-20B позволяет эффективно обрабатывать данные, но требует некоторой настройки запросов. Локальная нейросеть может решить до 80% бизнес-задач, обеспечивая при этом надежность и конфиденциальность.
