Esegui agenti su modelli di frontiera gestiti oggi stesso oppure noleggia la capacità della GPU, distribuisci i tuoi pesi e instrada le attività Digio verso endpoint privati nello stesso spazio di lavoro.
Assegna un modello predefinito per agente o sostituisci per attività. L'utilizzo viene misurato in token Digio dal saldo del tuo piano: lo stesso portafoglio indipendentemente dal fatto che l'agente chiami Sonnet, GPT-4o o Gemini Flash.
Model list and token economics evolve with provider releases. Your workspace shows live options when you assign a model to an agent; Digio Tokens debit from the same balance as in pricing.
Il coordinatore può consigliare Sonnet vs Opus rispetto a un modello flash più economico in base al tipo di attività. Gli utenti esperti impostano le impostazioni predefinite per ruolo agente: ricerca su Sonnet, revisione finale su Opus, tagging collettivo su Haiku o Gemini Flash.
Per agent — default model in agent settings; override in To do or chat when needed.
Metered fairly — input, output, and cached tokens map to Digio Token charges (see usage in your wallet).
Skills stay the same — tools and integrations work across models; only latency and cost profile change.
Plan limits — more agents and monthly Digio Tokens on higher tiers; top up anytime on the pricing page.
Hai bisogno di una messa a punto, di un checkpoint air-gapped o di prezzi di inferenza prevedibili? Aggiungi capacità GPU dedicata al tuo spazio di lavoro Digio, installa lo stack di servizio che preferisci e indirizza gli agenti al tuo endpoint privato.
Nodi GPU orari o mensili (classe A100, H100, L40S) collegati al tuo tenant, isolati da altri clienti.
Carica safetensor, GGUF o estrai dal tuo registro; esegui Llama, Mistral, Qwen e ottimizzazioni personalizzate.
Immagini vLLM, TGI, Ollama o container gestite da te: gli agenti Digio chiamano un URL di base compatibile con OpenAI.
Per quanto riguarda la chat di gruppo, le competenze e la collaborazione, resterai invariato: solo il backend di inferenza sarà tuo.
Invia passaggi sensibili alla GPU privata e utilizza Claude o GPT per la ricerca pubblica in un unico flusso di lavoro.
Peering VPC, uscita statica, log di controllo e liste consentite di modelli per team regolamentati.
Configurazione tipica da zero agli agenti che chiamano il tuo endpoint:
Scegli VRAM, regione e tempo di attività (burst o sempre attivo). Lo spazio di archiviazione per i pesi viene fornito con l'istanza o si monta sul bucket.
Avvia un'immagine di servizio o SSH, installa i driver CUDA e carica i checkpoint. I controlli sanitari confermano che il modello è pronto.
Aggiungi URL di base, chiave API e ID modello nelle impostazioni dell'area di lavoro. Digio convalida la latenza e il formato del token prima di andare in diretta.
Scegli il tuo modello privato come predefinito per gli agenti selezionati; i modelli Claude/GPT gestiti rimangono disponibili fianco a fianco.
Il noleggio della GPU viene fatturato separatamente dagli abbonamenti al piano Digio. Contattaci per la pianificazione della capacità, gli SLA e la migrazione da un cluster di inferenza esistente.
Scelta delle API gestite rispetto all'inferenza self-hosted su Digio.
Il tuo abbonamento Digio copre l'infrastruttura, gli agenti e i token Digio inclusi. L'utilizzo del modello gestito addebita il saldo del token in base ai token di input/output effettivi. Il noleggio della GPU è un componente aggiuntivo per le macchine che controlli.
Sì, ogni agente può avere la propria impostazione predefinita. Le attività e le chat possono sovrascrivere per una singola esecuzione senza modificare l'impostazione predefinita globale.
Opus è sintonizzato per ragionamenti più difficili e piani coerenti più a lungo; Sonnet è più veloce ed economico per i cicli quotidiani degli agenti. I modelli Haiku e Flash-Class sono i migliori per le attività secondarie del volume.
Gli spazi di lavoro aziendali possono limitare i provider di modelli in uscita e instradare tutto il traffico degli agenti all'endpoint GPU. La modalità ibrida è l'impostazione predefinita per la maggior parte dei team.
Le offerte dipendono dalla regione e dalla domanda: in genere livelli VRAM da 24-80 GB per modelli di classe 7B-70B e nodi multi-GPU per stack più grandi. Aiutiamo a dimensionare la VRAM in base al conteggio e alla quantizzazione dei parametri.
L'orchestrazione (agenti, attività, archiviazione) rimane nel tuo piano. L'inferenza sulla tua GPU viene fatturata come tempo GPU; puoi facoltativamente misurare l'utilizzo sotto forma di token per il chargeback interno.
Agenti, attività e competenze: lo spazio di lavoro attorno al modello che scegli.
Inizia oggi con Claude e GPT, quindi aggiungi GPU dedicata quando sei pronto per ospitare pesi personalizzati: stessi agenti, stesse attività, la tua deduzione.
