Cosa servire come operatore
Scegli cosa serve il tuo operatore Halo: un modello locale su GPU (Ollama/LM Studio), una chiave API di un provider (OpenAI, OpenRouter…), o un modello ospitato — e quali modelli rendono.
Un operatore serve inferenza alla rete e guadagna USDC per richiesta. La prima decisione è cosa servire: da dove arrivano le risposte del tuo modello. Hai tre strade, e puoi eseguirne più di una su un singolo operatore.
Nuovo qui? Questa guida è la panoramica su “quale percorso scegliere”. Per la CLI pratica, consulta esegui un operatore.
1. Un modello locale su GPU — il tuo hardware
Esegui modelli aperti (Llama, Qwen, Gemma, e altri) sulla tua macchina tramite Ollama o LM Studio, e servili senza chiave API e senza costo per token per te. È il margine migliore se hai già una GPU inutilizzata.
halo setup --provider ollama --flat 0.20 # or --provider lmstudio
halo serveGuida completa: servi modelli locali sulla tua GPU.
2. Una chiave API di un provider — rivendi l’accesso
Paghi già per OpenAI, Anthropic, OpenRouter, Together, Fireworks, Groq, Venice o NEAR? Punta il tuo operatore su di essa e rivendi quell’accesso per richiesta. Nessun hardware necessario — i tuoi rate limit inutilizzati diventano reddito.
halo setup --provider openrouter --api-key <key> --margin 20
halo serve<slug> è uno tra openclaw, claude-code, hermes, ollama, lmstudio,
openrouter, openai, anthropic, venice, near, together, fireworks,
groq, o custom. Aggiungine altri con halo setup --add-provider.
3. Un modello ospitato — una macchina nel cloud
Esegui un modello su una macchina GPU in affitto (o un endpoint interno già
esistente) ed esponilo allo stesso modo — tramite ollama, lmstudio, o custom.
Ottimo quando vuoi più capacità di una GPU casalinga ma vuoi comunque controllare
lo stack.
Quali modelli rendono?
La domanda segue ciò che le persone cercano: i modelli cinesi aperti (DeepSeek, Qwen, Kimi) e Llama sono costantemente popolari, e la rete serve già oltre 140 modelli. Servire un modello richiesto ma poco offerto è il modo più sicuro per vincere richieste. Il prezzo lo scegli dopo — vedi prezzi e guadagni dell’operatore.