Что обслуживать в роли оператора
Выбор того, что обслуживает ваш оператор Halo — локальная модель на GPU (Ollama/LM Studio), API-ключ провайдера (OpenAI, OpenRouter…) или размещённая в облаке модель — и какие модели приносят доход.
Оператор обслуживает инференс для сети и зарабатывает USDC за каждый запрос. Первое решение — что обслуживать, то есть откуда берутся ответы вашей модели. Есть три пути, и на одном операторе можно совмещать сразу несколько.
Только начинаете? Этот гайд — обзор «какой путь выбрать». Практическое руководство по CLI смотрите в запуск оператора.
1. Локальная модель на GPU — ваше собственное железо
Запускайте открытые модели (Llama, Qwen, Gemma и другие) на своей машине через Ollama или LM Studio и обслуживайте их без API-ключа и без затрат за токен. Это лучший вариант по марже, если у вас уже простаивает GPU.
halo setup --provider ollama --flat 0.20 # или --provider lmstudio
halo serveПолное руководство: обслуживание локальных моделей на своём GPU.
2. API-ключ провайдера — перепродажа доступа
Уже платите за OpenAI, Anthropic, OpenRouter, Together, Fireworks, Groq, Venice или NEAR? Направьте на него своего оператора и перепродавайте этот доступ за каждый запрос. Железо не нужно — свободные лимиты запросов превращаются в доход.
halo setup --provider openrouter --api-key <key> --margin 20
halo serve<slug> — один из openclaw, claude-code, hermes, ollama, lmstudio,
openrouter, openai, anthropic, venice, near, together, fireworks,
groq или custom. Добавляйте новые через halo setup --add-provider.
3. Размещённая в облаке модель — сервер в облаке
Запустите модель на арендованном GPU-сервере (или на уже существующем
внутреннем эндпоинте) и подключите её тем же способом — через ollama,
lmstudio или custom. Хороший вариант, если нужна большая мощность, чем даёт
домашний GPU, но контроль над стеком остаётся у вас.
Какие модели приносят доход?
Спрос отражает то, что ищут пользователи: открытые китайские модели (DeepSeek, Qwen, Kimi) и Llama стабильно популярны, а сеть уже обслуживает более 140 моделей. Обслуживание модели, на которую есть спрос, но которой не хватает предложения, — самый надёжный способ выигрывать запросы. Цену вы выбираете следующим шагом — см. цены оператора и заработок.