Self-host LLM open source o API a consumo? Guida 2025
A luglio 2025, i modelli open-source eguagliano GPT-4. La scelta è tra self-hosting e API: valuta costi, sensibilità dei dati e capacità di gestione interna.
LLM open source 2025: self-hosted o API a consumo?
A luglio 2025 tre modelli linguistici a pesi aperti, cioè modelli di cui il produttore rilascia liberamente i parametri addestrati, raggiungono le prestazioni di GPT-4 su codice e matematica. Le licenze costano zero. La domanda non è più “funzionano?” ma “conviene gestirli in casa o pagare a consumo?”
In sintesi
- Tre modelli open weight (a pesi aperti, scaricabili e usabili liberamente) pareggiano GPT-4 su generazione di codice e ragionamento matematico a luglio 2025.
- Una bolletta API, il costo del servizio pagato a consumo a un fornitore esterno, arriva facilmente a 200 dollari al mese per un uso aziendale medio.
- Un deployment (messa in produzione) self-hosted dello stesso modello ha costo calcolabile: hardware, energia, manutenzione.
- La scelta non è ideologica. Dipende da volume di richieste, sensibilità dei dati e capacità di gestire l’infrastruttura.
- Sotto le 30.000-40.000 richieste mensili, le API a consumo restano spesso più convenienti. Sopra quella soglia, il self-hosted diventa razionale.
Il contesto: cosa è successo davvero
Per anni la differenza era netta. I modelli proprietari costavano di più ma funzionavano meglio su compiti complessi. Quelli aperti erano economici ma deludevano sui lavori che contano davvero per un’azienda: analisi di documenti, generazione di testi strutturati, automazione di processi.
Quell’equilibrio si è chiuso.
I tre modelli di riferimento a luglio 2025 appartengono alle famiglie rilasciate da Meta (Llama), Mistral e da un consorzio europeo-asiatico. Tutti superano o pareggiano GPT-4 nei test standard su codice e ragionamento matematico, che restano i due ambiti dove le aziende li usano più intensamente. Pensate a uno studio commercialista che automatizza la preparazione delle bozze di bilancio, o a un e-commerce che genera schede prodotto in serie: entrambi i casi richiedono precisione, non creatività.
Il punto che tocca direttamente chi gestisce un’attività: questi modelli sono gratuiti da scaricare e distribuire. Zero licenze. Si paga solo l’infrastruttura per farli girare.
Questo cambia il calcolo economico in modo sostanziale, ma non lo semplifica. Anzi.
Il calcolo che molti non fanno
Quando un’azienda usa un LLM, sigla inglese per Large Language Model, ovvero modello linguistico di grandi dimensioni, tramite API, paga ogni singola richiesta. L’unità di misura è il token, il frammento minimo di testo che il modello elabora: in media una parola corrisponde a circa 1,3 token. Una richiesta tipica di un assistente interno, domanda più risposta, consuma tra 500 e 2.000 token.
Con uso moderato, cinquantamila richieste al mese per uno studio professionale o un hotel con chatbot (assistente conversazionale automatico) al front desk, la bolletta API con i principali modelli proprietari oscilla tra 150 e 400 dollari al mese. Non è una cifra che spaventa. Ma scala in modo lineare: raddoppi l’uso, raddoppi il costo. Sempre.
Un modello self-hosted richiede invece un server con GPU, la scheda grafica ad alte prestazioni su cui il modello viene caricato, con almeno 24 GB di VRAM (la memoria della scheda grafica). Un server cloud con quella configurazione costa tra 400 e 800 euro al mese. Un server fisico in sede si ammortizza in 18-24 mesi.
Il breakeven, cioè il punto di pareggio tra le due opzioni, dipende dal volume. Sotto le 30.000-40.000 richieste mensili, le API a consumo sono spesso più convenienti, anche considerando la semplicità gestionale. Sopra quella soglia, e soprattutto se i dati trattati sono sensibili, il self-hosted diventa la scelta razionale.
Un esempio concreto: una clinica privata con otto medici che usa un assistente AI per la gestione delle cartelle cliniche e la preparazione delle lettere di dimissione genera facilmente 80.000-100.000 richieste al mese. A quel volume, tenere i dati dei pazienti fuori dai server di un fornitore straniero non è solo una questione di costo. È buon senso rispetto al GDPR, il Regolamento Generale sulla Protezione dei Dati europeo.
Cosa cambia per chi gestisce dati sensibili
La residenza dei dati, cioè dove fisicamente vengono elaborati e conservati, è il fattore che sposta la bilancia indipendentemente dal costo. Questo vale per più settori di quanto si pensi.
Uno studio legale che usa un’API esterna per analizzare contratti sta inviando testo potenzialmente riservato a un server fuori dal proprio controllo. I termini di servizio dei principali fornitori escludono l’uso dei dati per addestrare i propri modelli, ma la responsabilità del trattamento resta un punto da chiarire con il proprio consulente e con il DPO, il Responsabile della Protezione dei Dati (in inglese Data Protection Officer), se presente in azienda.
Con un modello self-hosted, i dati non escono dall’infrastruttura aziendale. Punto.
Un ristorante che usa l’AI per gestire le prenotazioni non ha questo problema. Una società immobiliare che elabora atti di compravendita e documenti catastali sì, almeno in parte. Una struttura sanitaria privata, sempre. La distinzione non è tecnica: è operativa, e va fatta prima di scegliere il fornitore.
La capacità interna che serve davvero
Molte valutazioni si fermano troppo presto qui. Il self-hosted non è “scarico il modello e parte”. Richiede tre cose concrete.
Qualcuno che gestisce il server. Aggiornamenti, configurazione, interventi quando qualcosa non va. Può essere una persona interna o un fornitore esterno affidabile, ma non può essere nessuno.
Un processo di monitoraggio. I modelli possono dare risposte degradate se il contesto cambia o se il prompt, l’istruzione testuale che guida il modello, non è calibrato correttamente. Un hotel che usa un assistente AI per rispondere alle richieste degli ospiti deve sapere quando il modello sta rispondendo male, non scoprirlo dalle recensioni.
Un piano di continuità. Se il server va giù, l’assistente smette di funzionare. Le API a consumo spostano questo rischio sul fornitore. Paghi anche per la gestione, non solo per i token.
La domanda concreta per un imprenditore non è “preferisco open source o proprietario?”. È più semplice e più difficile: ho qualcuno, interno o esterno, che gestisce l’infrastruttura in modo affidabile? Se la risposta è no, le API a consumo restano la scelta più prudente anche a volumi alti, almeno finché non si struttura quella capacità.
Cosa fare oggi
Il mercato si è stabilizzato abbastanza da permettere una valutazione seria. Tre passi, in ordine.
Misura il volume reale. Non stimare. Fai un pilota di 30 giorni con un’API a consumo e leggi la dashboard di utilizzo. Sapere quante richieste generi davvero vale più di qualsiasi proiezione teorica.
Valuta la sensibilità dei dati. Se l’AI tratta dati di clienti, pazienti, fascicoli legali o informazioni finanziarie, la residenza dei dati non è un dettaglio tecnico. Coinvolgi chi si occupa di compliance nella valutazione, prima di firmare qualsiasi contratto con un fornitore cloud.
Calcola il breakeven con i numeri tuoi. Prendi il costo mensile dell’API che stai usando o valuteresti. Confrontalo con il costo di un server cloud dedicato con GPU adeguata. Aggiungi il costo di gestione, interno o esterno. Il punto di pareggio è lì: sopra, il self-hosted ha senso economico; sotto, non ancora.
La novità di luglio 2025 non è che i modelli aperti esistono. È che le prestazioni non sono più una scusa per rimandare la valutazione. Chi usa volumi significativi e non ha ancora fatto questo calcolo sta probabilmente lasciando soldi sul tavolo, o peggio, esponendo dati senza una ragione tecnica valida.
Domande correlate
Quali settori beneficiano di più dal self-hosted?
Settori con dati sensibili e volumi alti: sanità, studi legali, immobiliare con gestione documentale, risorse umane. In questi casi la combinazione di costo e controllo dei dati rende il self-hosted razionale già a volumi medi, indipendentemente dal risparmio sulla bolletta API.
Quanto costa davvero un server per modelli open weight?
Un server cloud con GPU adeguata parte da 400-800 euro al mese. Un server fisico in sede richiede un investimento iniziale tra 3.000 e 8.000 euro e si ammortizza in 18-24 mesi con uso costante.
I modelli open weight sono sicuri quanto quelli proprietari?
Dipende da come vengono configurati. Un modello self-hosted mal configurato è meno sicuro di un’API proprietaria ben gestita. La sicurezza dipende dall’implementazione, non dalla natura del modello.
Serve un tecnico dedicato per gestire un modello in casa?
Sì, o un fornitore esterno affidabile. La gestione include aggiornamenti, monitoraggio delle prestazioni e continuità del servizio. Senza questa figura, le API a consumo restano la scelta più prudente.
Posso usare un modello open weight senza infrastruttura propria?
Sì. Diversi fornitori cloud offrono API su modelli open weight a costi inferiori rispetto ai modelli proprietari. È una via di mezzo utile per chi vuole ridurre i costi senza gestire infrastruttura diretta.
Fonti:
- https://techsy.io/it/blog/migliori-llm-open-source-2026 (accesso luglio 2025)
Vuoi capire come applicarlo alla tua azienda?