Halo Halo
Українська
Спробувати Halo
← Усі посібники

Що обслуговувати як оператор

Вибір того, що обслуговує ваш оператор Halo — локальна модель на GPU (Ollama/LM Studio), API-ключ провайдера (OpenAI, OpenRouter…) чи розміщена модель — і які моделі приносять заробіток.

OperatorsGetting started

Оператор обслуговує інференс для мережі та заробляє USDC за кожен запит. Перше рішення — що обслуговувати, тобто звідки надходять відповіді вашої моделі. Є три шляхи, і на одному операторі можна запустити більше одного.

Вперше тут? Цей гайд — огляд «який шлях обрати». Практичний посібник з CLI дивіться в запустіть оператора.

1. Локальна модель на GPU — власне обладнання

Запускайте відкриті моделі (Llama, Qwen, Gemma та інші) на власній машині через Ollama або LM Studio й обслуговуйте їх без API-ключа і без витрат за токен. Це найкраща маржа, якщо у вас уже є GPU, що простоює.

halo setup --provider ollama --flat 0.20   # or --provider lmstudio
halo serve

Повний покроковий гайд: обслуговуйте локальні моделі на своєму GPU.

2. API-ключ провайдера — перепродаж доступу

Вже платите за OpenAI, Anthropic, OpenRouter, Together, Fireworks, Groq, Venice чи NEAR? Направте на нього свого оператора й перепродавайте цей доступ за кожен запит. Обладнання не потрібне — ваші вільні ліміти запитів перетворюються на дохід.

halo setup --provider openrouter --api-key <key> --margin 20
halo serve

<slug> може бути одним із: openclaw, claude-code, hermes, ollama, lmstudio, openrouter, openai, anthropic, venice, near, together, fireworks, groq або custom. Додайте більше за допомогою halo setup --add-provider.

3. Розміщена модель — сервер у хмарі

Запустіть модель на орендованому GPU-сервері (або на наявній внутрішній кінцевій точці) і обслуговуйте її так само — через ollama, lmstudio або custom. Підходить, коли потрібно більше потужності, ніж дає домашній GPU, але ви все ще хочете контролювати весь стек.

Які моделі приносять заробіток?

Попит слідує за тим, що шукають люди: відкриті китайські моделі (DeepSeek, Qwen, Kimi) та Llama стабільно популярні, а мережа вже обслуговує понад 140 моделей. Обслуговування моделі, на яку є попит, але якої бракує в пропозиції, — найнадійніший спосіб вигравати запити. Далі ви обираєте свою ціну — дивіться ціноутворення та заробіток оператора.

Пов’язане