Quando un'azienda ci chiede "dovremmo usare l'AI?", la conversazione finisce quasi sempre sullo stesso bivio: installiamo qualcosa sui nostri server, oppure usiamo un servizio online come ChatGPT o Claude?
La risposta onesta è: dipende. Ma non "dipende" nel senso generico — dipende da tre cose molto concrete: che dati ci metti dentro, quante volte lo usi, e cosa ci devi fare. Tutto il resto è contorno.
In questo articolo proviamo a dare una bussola pratica. Niente rassegna di tutti i modelli disponibili, niente benchmark astratti. Solo i criteri che contano quando sei un'azienda con budget finito e bisogno di risultati.
LLM in locale (con strumenti come Ollama) significa scaricare un modello di intelligenza artificiale e farlo girare su un tuo computer o server. I dati non escono mai dalla tua rete. Hai il controllo totale, ma ti servono hardware adeguato e qualcuno che lo gestisca.
LLM in cloud (OpenAI, Anthropic, Google) significa usare un servizio esterno via internet. Mandi una richiesta, ricevi una risposta. Non devi installare nulla, ma i tuoi dati transitano sui server del fornitore, e paghi a consumo.
Nessuna delle due opzioni è migliore dell'altra. Sono strumenti diversi per situazioni diverse.
Abbiamo sintetizzato il confronto nei criteri che, nella nostra esperienza con aziende italiane, fanno davvero la differenza nella scelta.
| Criterio | LLM locale (Ollama) | LLM cloud (OpenAI, Anthropic) |
|---|---|---|
| Privacy dei dati | I dati restano nella tua rete. Nessun dato esce. Ideale per documenti riservati, dati legali, proprietà intellettuale. | I dati transitano su server esterni. I provider offrono garanzie contrattuali, ma il dato esce dal tuo perimetro. |
| Qualità delle risposte | Buona e in miglioramento rapido, ma ancora un gradino sotto i modelli cloud di punta per compiti complessi o creativi. | Generalmente superiore, specialmente su ragionamento articolato, scrittura e analisi. I modelli migliori sono ancora qui. |
| Costi nel primo mese | Più alti: serve hardware e configurazione. Costo indicativo: da 1.000€ a 5.000€ per una configurazione base. | Più bassi: si paga solo l'uso. Per volumi iniziali di test, poche decine di euro al mese. |
| Costi dopo 12 mesi | Diventa conveniente se l'uso è intensivo e costante. Hardware ammortizzato, costo marginale quasi zero. | Cresce con l'uso. Se l'AI entra nei processi quotidiani, la bolletta sale. Su volumi alti può superare il costo del locale. |
| Velocità di avvio | Più lenta. Servono giorni o settimane per configurare, testare, integrare. | Più rapida. In un pomeriggio puoi avere un prototipo funzionante. |
| Competenze necessarie | Servono competenze tecniche interne o un partner che gestisca lo stack. Non è "installa e dimentica". | Minime per iniziare. API ben documentate e molti strumenti offrono interfacce senza codice. |
| Integrazioni aziendali | Massima flessibilità: puoi collegare l'AI a qualsiasi sistema interno. Ma devi costruire tu i collegamenti. | Integrazioni pre-costruite con molti strumenti (CRM, email, ticketing). Meno flessibilità, più velocità. |
| Dipendenza dal fornitore | Nessuna. Puoi cambiare modello in qualsiasi momento. Il codice e i dati sono tuoi. | Presente. Cambiare provider richiede adattamento. Sei legato a prezzi, modelli e policy del fornitore. |
| Affidabilità | Dipende dalla tua infrastruttura. Se il server si rompe, l'AI si ferma. | Alta. I grandi provider garantiscono uptime elevati e gestiscono tutto loro. |
Invece di ragionare in astratto, vediamo tre situazioni reali che incontriamo spesso.
Un chatbot sul sito web che risponde a domande sui prodotti, orari, politiche di reso. I dati coinvolti sono pubblici: catalogo, FAQ, informazioni generali.
La scelta giusta: cloud. Non ci sono dati sensibili in gioco, il volume iniziale è basso, e serve un modello che scriva bene in italiano e sia convincente con i clienti. Un servizio cloud si attiva in pochi giorni, costa poco all'inizio, e la qualità delle risposte è immediatamente buona. Complicarsi la vita con un'installazione locale per questo caso d'uso non ha senso.
Un assistente interno che legge documenti legali, contratti, corrispondenza commerciale riservata. I dati sono sensibili e soggetti a riservatezza.
La scelta giusta: locale. Qui i dati non possono uscire dall'azienda — punto. Anche se i provider cloud offrono garanzie, il rischio reputazionale e legale di far transitare contratti riservati su server esterni non è giustificabile per la maggior parte delle aziende. Un modello locale con Ollama, collegato ai tuoi archivi documentali, ti dà risposte contestualizzate senza esporre nulla all'esterno. Serve un investimento iniziale, ma la tranquillità vale il costo.
Automazioni che collegano gestionale, email, documenti e generazione di report. I dati sono un mix: alcuni sensibili (fatture, dati clienti), altri no (template, strutture di report).
La scelta giusta: ibrido. Usa il cloud per le parti non sensibili — generare testi, riassumere email generiche, creare bozze di report. Usa il locale per tutto ciò che tocca dati finanziari, anagrafiche clienti o informazioni riservate. Questa separazione richiede un po' più di architettura, ma è l'approccio più equilibrato tra protezione, costi e qualità.
Parti dal problema, non dalla tecnologia. Non chiederti "quale LLM uso?". Chiediti "quale processo mi fa perdere più tempo o più soldi?". L'AI è uno strumento: prima devi sapere cosa ci devi costruire.
Fai un test di 4-6 settimane. Scegli un caso d'uso, provalo, misura il risultato. Non serve un progetto da 50.000€ — serve un esperimento controllato che ti dica se l'AI fa la differenza su quel processo specifico.
Non decidere da solo. La scelta tra locale e cloud coinvolge IT, direzione, e spesso anche il legale. È una decisione di business, non solo tecnica.
Rivedi la scelta ogni 6 mesi. Il mondo AI si muove velocemente. Quello che oggi ha senso in cloud, tra sei mesi potrebbe convenire in locale — e viceversa. Costruisci in modo da poter cambiare rotta senza ricominciare da zero.
Aiutiamo aziende italiane a capire dove l'AI può fare la differenza e a implementarla nel modo giusto — in locale, in cloud, o entrambi. Se vuoi capire quale approccio ha senso per la tua realtà, prenota una consulenza gratuita con noi.
