← Tüm kılavuzlar

Bir operatör olarak ne sunmalısınız

Halo operatörünüzün ne sunacağını seçmek — yerel bir GPU modeli (Ollama/LM Studio), bir sağlayıcı API anahtarı (OpenAI, OpenRouter…) veya barındırılan bir model — ve hangi modellerin kazandırdığı.

Bir operatör, ağa inference sunar ve istek başına USDC kazanır. İlk karar ne sunacağınızdır — model yanıtlarınızın nereden geldiği. Üç yolunuz vardır ve tek bir operatörde birden fazlasını çalıştırabilirsiniz.

Yeni misiniz? Bu rehber “hangi yol” genel bakışıdır. Uygulamalı CLI için bir operatör çalıştırın rehberine bakın.

1. Yerel bir GPU modeli — kendi donanımınız

Açık modelleri (Llama, Qwen, Gemma ve daha fazlası) kendi makinenizde Ollama veya LM Studio üzerinden çalıştırın ve bunları API anahtarı gerektirmeden, size token başına hiçbir maliyet çıkarmadan sunun. Zaten boşta duran bir GPU’nuz varsa bu en iyi marjı sağlar.

halo setup --provider ollama --flat 0.20   # or --provider lmstudio
halo serve

Tam anlatım: GPU’nuzda yerel modeller sunun.

2. Bir sağlayıcı API anahtarı — erişimi yeniden satın

Zaten OpenAI, Anthropic, OpenRouter, Together, Fireworks, Groq, Venice veya NEAR için ödeme mi yapıyorsunuz? Operatörünüzü buna yönlendirin ve bu erişimi istek başına yeniden satın. Donanım gerekmez — kullanılmayan hız sınırlarınız gelire dönüşür.

halo setup --provider openrouter --api-key <key> --margin 20
halo serve

<slug>, openclaw, claude-code, hermes, ollama, lmstudio, openrouter, openai, anthropic, venice, near, together, fireworks, groq veya custom değerlerinden biridir. halo setup --add-provider ile daha fazlasını ekleyin.

3. Barındırılan bir model — bulutta bir sunucu

Kiralık bir GPU sunucusunda (veya mevcut bir dahili uç noktada) bir model çalıştırın ve bunu aynı şekilde — ollama, lmstudio veya custom üzerinden — öne çıkarın. Ev GPU’nuzdan daha fazla kapasite isteyip yine de yığını kontrol etmek istediğinizde iyi bir seçenektir.

Hangi modeller kazandırır?

Talep, insanların ne aradığını izler: açık Çin modelleri (DeepSeek, Qwen, Kimi) ve Llama sürekli popülerdir ve ağ zaten 140’tan fazla model sunuyor. Talep gören ama az sunulan bir modeli sunmak istek kazanmanın en kesin yoludur. Fiyatınızı bir sonraki adımda belirlersiniz — bkz. operatör fiyatlandırması ve kazançları.

İlgili