Corso sugli LLM: come funzionano i grandi modelli linguistici
Gli LLM non capiscono il testo: predicono il token più probabile. Capire questo meccanismo è la chiave per usarli bene, tra prompt, RAG e allucinazioni.
In breve
Un grande modello linguistico predice il token successivo; da qui nascono i suoi poteri e i suoi limiti, che un buon corso spiega senza promesse.
Indice · 17 sezioni
- Cosa sono gli LLM e come funzionano i grandi modelli linguistici
- L'addestramento: come un LLM impara prima di sapere
- La context window: quanta memoria ha davvero un LLM
- Il prompt: come si parla a un modello linguistico
- RAG: dare documenti aggiornati al modello
- Le allucinazioni: perché un LLM inventa con sicurezza
- Tabella dei concetti chiave di un corso sugli LLM
- A chi serve studiare come funzionano gli LLM
- Cosa copre un buon corso sugli LLM
- Applicazioni reali degli LLM in azienda
- Costi e limiti degli LLM, detti con onestà
- Attenzione e transformer: un'intuizione più precisa
- Agenti e strumenti: quando un LLM agisce, non solo risponde
- Scegliere il modello: aperto o chiuso, locale o in cloud
- Valutare un sistema basato su LLM
- Come studiare gli LLM senza perdersi
- Dove approfondire: percorsi sugli LLM e sull'AI generativa
Un corso sugli LLM parte da una domanda tanto semplice quanto fraintesa: come funzionano i grandi modelli linguistici? La risposta breve è che un modello linguistico non comprende il testo come farebbe una persona. Calcola, pezzo dopo pezzo, quale continuazione del testo che ha letto è la più probabile. Tutto il resto (le risposte articolate, il codice scritto a richiesta, i riassunti) nasce da questa singola operazione ripetuta milioni di volte al secondo.
Capire questo meccanismo cambia il modo in cui si usano questi strumenti. Chi sa cosa succede sotto il cofano smette di stupirsi quando il modello inventa una citazione, e smette anche di chiedergli cose che per costruzione non può fare. Questo testo ricostruisce i concetti fondamentali in modo accessibile ma corretto: token, addestramento, fine-tuning, RAG, prompt, finestra di contesto, allucinazioni. Poi guarda a chi serve davvero studiarli, cosa dovrebbe coprire un percorso serio, dove vengono usati in azienda e quanto costano.
Niente scorciatoie magiche. Gli LLM sono strumenti potenti e pieni di spigoli, e il valore di un buon corso sta esattamente nel mostrare entrambe le cose.
Cosa sono gli LLM e come funzionano i grandi modelli linguistici
LLM è l'acronimo di Large Language Model, grande modello linguistico. La parola chiave è "grande": questi sistemi hanno miliardi di parametri, cioè i numeri interni che vengono regolati durante l'addestramento. Un modello di piccole dimensioni può avere qualche miliardo di parametri, i più grandi arrivano a centinaia di miliardi. Questi numeri non contengono fatti scritti in chiaro, come in un'enciclopedia. Contengono una rappresentazione statistica del linguaggio: quali parole tendono a seguire quali altre, in quali contesti, con quali sfumature.
Il cuore dell'architettura moderna si chiama transformer, introdotto nel 2017 con il lavoro "Attention Is All You Need". La sua idea centrale è il meccanismo di attenzione: ogni parola del testo viene messa in relazione con tutte le altre, così il modello pesa quali termini contano di più per decidere cosa viene dopo. Quando leggi "la chiave è sul tavolo in cucina, prendila", il sistema collega "prendila" a "chiave" anche se le due parole sono distanti. Questa capacità di gestire relazioni a distanza è ciò che ha reso i transformer superiori ai modelli precedenti.
Il token: l'unità di misura del linguaggio
Un modello non lavora con le parole intere, né con le lettere. Lavora con i token, frammenti di testo che possono essere una parola corta, una parte di parola o un segno di punteggiatura. In italiano, come regola spannometrica, una parola equivale in media a circa 1,3-2 token, perché l'italiano ha parole lunghe e molte desinenze. La parola "intelligenza" può diventare due o tre token; "cane" di solito è un token solo.
Perché conta? Perché quasi tutto, nel pratico, si misura in token. La lunghezza massima di una conversazione, il prezzo che si paga a un fornitore di API, la velocità di risposta: tutto è espresso in token, non in parole o caratteri. Un corso che parte dalle parole e salta i token lascia lo studente senza la bussola per capire i costi e i limiti. La conversione da testo a token si chiama tokenizzazione ed è il primissimo passo di qualsiasi interazione.
La predizione della parola successiva
Il compito base di un LLM è banale a parole, profondo nei fatti: dato un testo, predire il token successivo. Il modello produce una distribuzione di probabilità su tutto il vocabolario, sceglie un token, lo aggiunge al testo e ripete. Questa ripetizione si chiama generazione autoregressiva. La "creatività" apparente nasce qui: a ogni passo c'è un margine di scelta, regolato da un parametro chiamato temperatura. Con temperatura bassa il modello sceglie quasi sempre il token più probabile e risulta prevedibile e ripetitivo; con temperatura alta diventa più vario e, a volte, meno coerente.
Questa è anche la radice di un malinteso diffuso. Il modello non "sa" di dire la verità: ottimizza la plausibilità, non l'accuratezza. Una frase falsa ma ben formata può essere, per il modello, più probabile di una frase vera ma espressa in modo strano. Tenere a mente questo spiega metà dei problemi che si incontrano nell'uso reale.
L'addestramento: come un LLM impara prima di sapere
L'addestramento di un grande modello linguistico avviene in fasi distinte, e confonderle è uno degli errori più comuni di chi ne parla senza averle studiate.
La prima fase è il pre-training. Il modello legge enormi quantità di testo (libri, pagine web, codice, documentazione) e impara a predire la parola successiva su quel materiale. Qui non c'è nessun insegnamento esplicito su "cosa è giusto rispondere": c'è solo esposizione a tanto linguaggio. È la fase più costosa, quella che richiede migliaia di schede grafiche specializzate che lavorano per settimane. Il risultato è un modello "base" che completa testo ma non sa ancora comportarsi da assistente.
La seconda fase è l'addestramento su istruzioni, l'instruction tuning. Al modello vengono mostrati esempi di richieste e risposte ben fatte, così impara il formato "domanda e risposta utile" invece del semplice completamento. È questo passaggio a trasformare un completatore di testo in qualcosa con cui si può conversare.
La terza fase riguarda l'allineamento, spesso realizzato con una tecnica chiamata RLHF, apprendimento per rinforzo da feedback umano. Persone reali confrontano coppie di risposte e indicano quale preferiscono; questi giudizi allenano un secondo modello (detto modello di ricompensa) che a sua volta guida il modello principale verso risposte giudicate più utili, più sicure, meno tossiche. È il motivo per cui gli assistenti moderni rifiutano certe richieste e mantengono un tono collaborativo. Negli ultimi anni sono comparse varianti come il DPO, che semplificano questo processo, ma l'idea di fondo resta: usare preferenze umane per orientare il comportamento.
Il fine-tuning: specializzare un modello già addestrato
Il fine-tuning è la messa a punto di un modello esistente su un compito o un dominio specifico. Invece di addestrare da zero (impensabile per quasi tutte le aziende), si prende un modello pre-addestrato e lo si rifinisce su un insieme di esempi mirati: le email dell'assistenza di una certa azienda, i referti di un certo settore, lo stile editoriale di una redazione.
Oggi raramente si rifiniscono tutti i parametri. Si usano tecniche efficienti come LoRA, che aggiornano solo un piccolo insieme di pesi aggiuntivi lasciando intatto il modello di base. Questo riduce i costi di ordini di grandezza e permette di avere molte versioni specializzate dello stesso modello. Un buon corso insegna a riconoscere quando il fine-tuning serve davvero e quando è uno spreco. La regola pratica: il fine-tuning è ottimo per insegnare uno stile, un formato o un comportamento ricorrente; è lo strumento sbagliato per iniettare conoscenza fattuale aggiornata, perché i fatti invecchiano e non si vuole riaddestrare ogni settimana.
La context window: quanta memoria ha davvero un LLM
La context window, o finestra di contesto, è la quantità massima di token che il modello può considerare in una singola richiesta: comprende sia ciò che gli scrivi sia ciò che genera. Se la finestra è di 128.000 token, l'input e l'output insieme devono starci dentro. Quando si supera il limite, le parti più vecchie vengono tagliate e il modello smette di "vedere" l'inizio della conversazione.
È qui che si chiarisce un punto fondamentale: un LLM, di base, non ha memoria tra una richiesta e l'altra. Non ricorda la conversazione di ieri a meno che qualcuno non gliela reinvii nel contesto. L'illusione della memoria nelle app di chat è un trucco di ingegneria: a ogni messaggio viene rimandata al modello una parte della cronologia. Chi lo capisce smette di chiedersi "perché si è dimenticato cosa gli ho detto prima" e inizia a progettare bene cosa tenere nel contesto.
Le finestre si sono allargate molto, da poche migliaia di token a centinaia di migliaia. Ma più contesto non è a costo zero sul piano della qualità: molti modelli soffrono del fenomeno "perso nel mezzo", cioè prestano meno attenzione alle informazioni collocate a metà di un testo molto lungo rispetto a quelle all'inizio e alla fine. Riempire la finestra fino all'orlo non equivale a usarla bene.
Il prompt: come si parla a un modello linguistico
Il prompt è il testo che si fornisce al modello. Sembra banale, ma la qualità della risposta dipende in modo sproporzionato da come è formulata la richiesta, perché il prompt è l'unica leva immediata che quasi tutti hanno. Non serve riaddestrare nulla: si cambia il testo e cambia il risultato.
Alcune tecniche hanno nomi precisi che un percorso serio spiega e fa provare. Il zero-shot è chiedere qualcosa senza esempi. Il few-shot è includere alcuni esempi di input e output desiderati, così il modello capisce il formato per imitazione. Il chain-of-thought è invitare il modello a ragionare passo per passo prima di dare la risposta finale, utile su problemi logici e matematici. Separare istruzioni, contesto e dati con delimitatori chiari riduce la confusione. Assegnare un ruolo ("sei un revisore legale che controlla clausole") orienta tono e profondità.
Prompt engineering: artigianato, non magia
Il prompt engineering è l'insieme di queste pratiche. Non è una disciplina esoterica e non sostituisce la competenza di dominio: amplifica quella che già c'è. Un avvocato scrive prompt migliori sui contratti di un ingegnere, e viceversa sulle specifiche tecniche. Il valore di un corso sta nel passare dalla fase "indovino finché non funziona" alla fase "so perché questo prompt rende meglio di quell'altro e lo so replicare".
C'è anche un lato di sicurezza che si impara qui: la prompt injection. Se un modello legge contenuti esterni (una pagina web, un documento caricato dall'utente), quei contenuti possono contenere istruzioni nascoste che tentano di dirottare il comportamento. Chi costruisce applicazioni deve trattare il testo esterno come potenzialmente ostile, esattamente come si fa con l'input utente in qualsiasi software.
RAG: dare documenti aggiornati al modello
Il RAG, Retrieval-Augmented Generation, è una delle tecniche più usate in azienda e merita attenzione perché risolve due limiti strutturali in un colpo solo: la conoscenza ferma alla data di addestramento e la tendenza a inventare. L'idea è semplice. Prima di rispondere, il sistema cerca i documenti rilevanti in una base di conoscenza aziendale, li inserisce nel contesto e chiede al modello di rispondere usando quel materiale.
Il meccanismo tecnico passa per gli embedding: ogni documento viene convertito in un vettore di numeri che ne cattura il significato, e questi vettori finiscono in un database vettoriale. Quando arriva una domanda, anche la domanda diventa un vettore e il sistema recupera i documenti con i vettori più vicini, cioè semanticamente simili. Non si cerca per parola esatta ma per senso: una domanda su "rimborsi" trova un documento che parla di "restituzione del denaro" anche senza la parola "rimborso".
Perché il RAG è così popolare? Perché permette a un'azienda di avere un assistente che risponde sui propri manuali, sulle proprie procedure, sui propri prodotti, senza riaddestrare il modello e aggiornando semplicemente i documenti. Quando una procedura cambia, si aggiorna il documento e la risposta cambia il giorno stesso. È il motivo per cui RAG e fine-tuning non sono rivali: il fine-tuning insegna lo stile e il comportamento, il RAG fornisce i fatti aggiornati. I sistemi più robusti usano entrambi.
Le allucinazioni: perché un LLM inventa con sicurezza
Le allucinazioni sono risposte sbagliate presentate con tono sicuro: una citazione mai scritta, una sentenza inesistente, un dato numerico plausibile ma falso. Non sono un difetto occasionale, sono una conseguenza diretta di come funziona la predizione del token successivo. Il modello ottimizza la plausibilità linguistica, e una bugia ben formata è linguisticamente plausibile. Quando non ha l'informazione, il percorso di minor resistenza è produrre qualcosa che "suona giusto" invece di ammettere il vuoto.
Un percorso onesto non promette di eliminare le allucinazioni, perché nessuno sa farlo del tutto. Insegna a ridurle e a gestirle. Le leve principali sono tre. Primo, ancorare le risposte a fonti verificabili con il RAG, così il modello risponde su un testo dato invece che dalla memoria. Secondo, chiedere esplicitamente di dichiarare l'incertezza e di citare da dove viene ogni affermazione. Terzo, costruire controlli a valle: un secondo modello o una regola che verifica se la risposta è coerente con le fonti. Nei contesti ad alto rischio (sanità, diritto, finanza) resta indispensabile la revisione umana. Un LLM è un ottimo primo passaggio, non l'ultima parola.
Regola operativa da tenere a mente: un grande modello linguistico è bravissimo con il linguaggio e inaffidabile con i fatti che non gli metti sotto gli occhi. Progetta i sistemi di conseguenza.
Tabella dei concetti chiave di un corso sugli LLM
Questi sono i termini che ricorrono in qualsiasi percorso serio sui grandi modelli linguistici. Tenerli a portata di mano aiuta a seguire sia i corsi sia la documentazione tecnica, che li dà per scontati.
| Concetto | Cosa indica | Perché conta nella pratica |
|---|---|---|
| Token | Frammento di testo, unità minima elaborata dal modello | Determina lunghezza massima, costo e velocità |
| Parametri | I numeri interni regolati durante l'addestramento | Indicano la scala del modello, non la sua "intelligenza" diretta |
| Pre-training | Prima fase: leggere tanto testo e predire la parola successiva | Costruisce la competenza linguistica di base |
| Fine-tuning | Specializzazione di un modello già addestrato su dati mirati | Ottimo per stile e formato, pessimo per fatti aggiornati |
| RLHF | Allineamento tramite preferenze umane | Rende l'assistente utile, sicuro e conversazionale |
| Context window | Token massimi considerati in una singola richiesta | Oltre il limite il modello "dimentica" l'inizio |
| Prompt | Il testo fornito in ingresso al modello | Leva immediata e più economica sulla qualità della risposta |
| Embedding | Rappresentazione numerica del significato di un testo | Base della ricerca semantica e del RAG |
| RAG | Recupero di documenti rilevanti prima di rispondere | Aggiorna la conoscenza e riduce le invenzioni |
| Temperatura | Parametro che regola la casualità in generazione | Bassa per precisione, alta per varietà |
| Allucinazione | Risposta errata ma espressa con sicurezza | Impone verifica umana nei contesti critici |
A chi serve studiare come funzionano gli LLM
Non tutti hanno bisogno della stessa profondità. Un percorso ben progettato distingue i pubblici invece di trattare tutti come aspiranti ricercatori.
Gli sviluppatori sono il pubblico più ovvio. A loro serve capire le API, la gestione del contesto, come costruire un sistema RAG, come integrare un modello in un'applicazione senza farla esplodere di costi, come gestire errori e latenza. Per chi programma, la parte interessante non è "chiedere alla chat", ma trasformare un modello in un componente affidabile dentro un software reale, con test, limiti di spesa e piani di riserva quando il fornitore ha un disservizio.
Le figure di prodotto (product manager, designer, chi decide cosa costruire) hanno bisogno di un modello mentale corretto per prendere decisioni sensate. Devono sapere cosa è realistico chiedere a un LLM, dove sta il rischio di allucinazione, quanto costa una funzione a regime, perché una certa idea che sembra semplice in demo diventa fragile con utenti veri. Senza queste nozioni si promettono funzioni impossibili e si bruciano mesi di sviluppo.
Poi ci sono i curiosi e i professionisti non tecnici: analisti, avvocati, insegnanti, persone del marketing, chiunque voglia usare bene questi strumenti nel proprio lavoro. A loro non serve scrivere codice, serve capire il meccanismo abbastanza da non fidarsi ciecamente, da scrivere prompt efficaci e da riconoscere quando il modello sta bluffando. È la differenza tra chi usa uno strumento e chi ne è usato.
- Sviluppatori: integrazione, API, RAG, controllo dei costi, robustezza.
- Product e design: fattibilità, rischi, costo a regime, esperienza utente.
- Professionisti non tecnici: uso critico, prompt efficaci, riconoscere i limiti.
- Dirigenti e decisori: dove conviene investire, dove l'entusiasmo supera la realtà.
Cosa copre un buon corso sugli LLM
La qualità di un corso si misura dall'equilibrio tra intuizione e pratica. Troppa teoria astratta annoia e non lascia competenze; troppi "clicca qui" senza spiegazione lasciano studenti che sanno ripetere ma non adattare. Un percorso valido tiene insieme le due cose.
Sul piano dei concetti, deve spiegare in modo onesto i transformer e l'attenzione, la tokenizzazione, le fasi di addestramento, il significato di temperatura e degli altri parametri di generazione. Non servono le derivate, serve l'intuizione giusta. Sul piano pratico, deve far costruire qualcosa: un assistente con RAG su documenti propri, un piccolo sistema che chiama le API, esperimenti di prompt engineering con confronti misurabili. Si impara facendo, non guardando.
Ci sono poi tre aree che distinguono un corso superficiale da uno completo. La valutazione: come si misura se un sistema basato su LLM funziona, con metriche e set di test, invece di affidarsi all'impressione "mi sembra che risponda bene". La sicurezza: prompt injection, trattamento dei dati sensibili, cosa non mandare mai a un fornitore esterno. E i costi: come stimarli prima di partire ed evitare la sorpresa a fine mese.
| Modulo | Cosa dovrebbe insegnare | Pubblico principale |
|---|---|---|
| Fondamenti | Token, transformer, predizione, parametri di generazione | Tutti |
| Prompting | Zero/few-shot, ragionamento guidato, delimitatori, ruoli | Tutti |
| RAG | Embedding, database vettoriale, recupero e citazione | Sviluppatori e product |
| Fine-tuning | Quando serve, LoRA, preparazione dei dati | Sviluppatori |
| Valutazione | Metriche, set di test, monitoraggio in produzione | Sviluppatori e product |
| Costi e limiti | Stima dei token, latenza, rischi, allucinazioni | Tutti |
Applicazioni reali degli LLM in azienda
Gli usi concreti sono più prosaici di quanto la narrazione suggerisca, e proprio per questo funzionano. L'assistenza clienti è l'applicazione più diffusa: un sistema con RAG sui manuali e sulle procedure risponde alle domande ricorrenti e passa a un operatore umano i casi complessi. La ricerca interna sui documenti aziendali è un'altra: trovare la clausola giusta in migliaia di contratti, o la risposta sepolta in un wiki tecnico, usando la ricerca semantica invece delle parole esatte.
Poi c'è la generazione e la trasformazione di testo: bozze di email, riassunti di riunioni e documenti lunghi, estrazione di dati strutturati da testo libero (prendere un ordine scritto in linguaggio naturale e trasformarlo in campi di database). Per chi programma, l'assistenza alla scrittura di codice è diventata parte del flusso di lavoro quotidiano. In tutti questi casi il modello non sostituisce la persona: le toglie il lavoro meccanico e le lascia la decisione.
Il filo comune ai progetti che riescono è che partono da un problema circoscritto e misurabile, non da "vogliamo l'intelligenza artificiale". Chi parte dalla tecnologia in cerca di un problema di solito spende e non conclude. Chi parte da un collo di bottiglia concreto (troppe email di assistenza uguali, troppo tempo a cercare documenti) ha già il metro per capire se ha funzionato.
Un esempio numerico di costo, passo per passo
Questo è un esempio costruito a mano, con prezzi ipotetici e arrotondati, solo per mostrare il ragionamento: i numeri reali dipendono dal modello e dal fornitore scelto, e cambiano spesso. Immaginiamo un assistente di supporto che gestisce 1.000 richieste al giorno. Ogni richiesta porta nel contesto la domanda dell'utente più alcuni documenti recuperati dal RAG, diciamo circa 2.000 token di input, e produce una risposta di circa 500 token.
Supponiamo un prezzo ipotetico di 1 euro ogni milione di token in ingresso e 3 euro ogni milione di token in uscita. L'input giornaliero è 1.000 × 2.000 = 2.000.000 di token, cioè 2 euro. L'output è 1.000 × 500 = 500.000 token, cioè 500.000 ÷ 1.000.000 × 3 = 1,5 euro. Totale circa 3,5 euro al giorno, intorno a 105 euro al mese per il solo consumo del modello.
Il punto didattico non è la cifra, che è inventata, ma il metodo. Noti subito due cose. Primo: l'output costa di più per token, quindi risposte prolisse pesano in modo sproporzionato. Secondo: se per migliorare la qualità raddoppi i documenti nel contesto, raddoppi anche l'input e quindi la spesa. Un corso che insegna a fare questo conto prima di lanciare un prodotto evita la classica doccia fredda quando il volume cresce. A questi costi vanno poi aggiunti il database vettoriale, l'infrastruttura e il tempo delle persone, che spesso superano la bolletta del modello.
Costi e limiti degli LLM, detti con onestà
Un percorso che vende solo entusiasmo fa un cattivo servizio. I grandi modelli linguistici hanno limiti strutturali che nessun prompt elimina. Non hanno un modello del mondo coerente: possono sbagliare calcoli semplici o contraddirsi nella stessa risposta. La loro conoscenza si ferma alla data di addestramento, salvo strumenti esterni come il RAG o la ricerca in tempo reale. Dipendono da fornitori esterni, con tutto ciò che comporta in termini di privacy dei dati, continuità del servizio e variazioni di prezzo decise da altri.
C'è anche il tema ambientale ed economico dell'addestramento, concentrato in poche mani per via dei costi enormi. E c'è il rischio, già citato, delle allucinazioni, che impone revisione umana ovunque ci siano conseguenze serie. Conoscere questi limiti non è pessimismo: è la condizione per usare bene lo strumento ed evitare promesse che poi non si mantengono.
| Aspetto | Lato a favore | Lato critico |
|---|---|---|
| Produttività | ✔ Toglie lavoro ripetitivo e accelera bozze e ricerche | ✘ Richiede sempre una verifica umana sui risultati |
| Accesso | ✔ Si usa via API senza addestrare nulla da zero | ✘ Dipendenza da fornitori esterni e dalle loro scelte |
| Costi | ✔ Spesa iniziale bassa, si paga a consumo | ✘ I costi crescono con il volume e vanno stimati prima |
| Affidabilità | ✔ Il RAG ancora le risposte a fonti verificabili | ✘ Le allucinazioni non spariscono del tutto |
| Privacy | ✔ Esistono opzioni locali e accordi sul trattamento dati | ✘ Mandare dati sensibili a terzi va valutato con attenzione |
| Competenze | ✔ Le basi si imparano in poche settimane di studio serio | ✘ Il campo cambia in fretta e impone aggiornamento continuo |
Attenzione e transformer: un'intuizione più precisa
Conviene tornare sul meccanismo di attenzione, perché è il cuore tecnico e perché viene spesso spiegato male. Immagina che ogni token, mentre viene elaborato, ponga una domanda al resto del testo: "a quali altri token devo guardare per capire cosa sono qui?". L'attenzione calcola un punteggio di rilevanza tra quel token e tutti gli altri, poi costruisce una rappresentazione che pesa di più le parole importanti. Questo accade non una volta, ma in parallelo su molte "teste" di attenzione diverse, ciascuna specializzata su un tipo di relazione: una può seguire i legami grammaticali, un'altra i riferimenti a distanza, un'altra ancora il significato.
Il modello impila decine di questi strati uno sopra l'altro. Gli strati bassi colgono pattern locali e sintattici, quelli alti combinano informazioni in concetti più astratti. Non c'è un punto in cui "capisce": c'è una trasformazione progressiva del testo in rappresentazioni sempre più ricche, al termine della quale esce la probabilità del token successivo. Capire questo spiega perché i modelli sono bravissimi a cogliere il tono e lo stile (sono pattern diffusi nel testo) e perché faticano con il ragionamento preciso a più passaggi, dove un singolo errore iniziale si propaga fino alla fine.
Un corso non deve trasformare lo studente in un ricercatore di machine learning. Deve però lasciargli questa immagine mentale, perché è la differenza tra "funziona per magia" e "funziona così, quindi ecco dove si rompe". La seconda frase è quella che permette di progettare sistemi che reggono.
Agenti e strumenti: quando un LLM agisce, non solo risponde
Una delle evoluzioni più importanti recenti riguarda gli agenti: sistemi in cui l'LLM non si limita a produrre testo, ma decide di usare strumenti esterni. Può chiamare una funzione per cercare sul web, eseguire codice, interrogare un database, inviare una richiesta a un servizio. Il modello genera, in pratica, l'intenzione di usare uno strumento; un software attorno a lui esegue l'azione e gli restituisce il risultato, che entra nel contesto e guida il passo successivo.
Questo sblocca compiti che il solo testo non copre. Un assistente che risponde "non conosco il meteo di domani" diventa un assistente che chiama un servizio meteo e risponde con il dato vero. Un modello che sbaglia i calcoli complessi può invece scrivere ed eseguire una riga di codice e riportare il risultato esatto. Il principio è sano: dove il modello è debole (fatti aggiornati, calcolo preciso, azioni nel mondo), si delega a strumenti affidabili e si usa l'LLM per orchestrare.
Con la potenza arrivano i rischi, e un corso onesto li nomina. Un agente che può eseguire azioni può anche eseguire quelle sbagliate, e la prompt injection diventa più pericolosa quando il modello ha le mani sui comandi e non solo sulle parole. Le pratiche sensate sono chiare: permessi minimi, conferma umana sulle azioni irreversibili, limiti di spesa e di numero di passi, registrazione di tutto ciò che l'agente fa. L'entusiasmo per gli agenti autonomi è comprensibile, ma i sistemi che funzionano in produzione tengono quasi sempre una persona nel ciclo sulle decisioni che contano.
Scegliere il modello: aperto o chiuso, locale o in cloud
Una domanda che torna in ogni progetto è quale modello usare. Non esiste una risposta unica, esistono compromessi che un percorso serio insegna a leggere. La prima scelta è tra modelli ad accesso chiuso, usati tramite le API di un fornitore, e modelli ad accesso aperto, i cui pesi si possono scaricare ed eseguire su infrastruttura propria. I primi offrono qualità di punta e zero gestione dell'infrastruttura, al prezzo della dipendenza e dell'invio dei dati a terzi. I secondi danno controllo, privacy e costi prevedibili su grandi volumi, ma richiedono competenze e hardware.
La seconda scelta riguarda la dimensione. Un modello enorme risponde meglio sui compiti difficili ma costa di più ed è più lento; un modello piccolo, magari rifinito sul proprio dominio, può battere un gigante generico sul compito specifico, a una frazione del costo. Qui entra in gioco la quantizzazione, una tecnica che riduce la precisione numerica dei pesi per far girare modelli grandi su hardware modesto, con una piccola perdita di qualità. Molte applicazioni reali non hanno bisogno del modello più potente del momento: hanno bisogno del modello più piccolo che supera la soglia di qualità richiesta.
| Opzione | Punti di forza | Punti deboli | Quando preferirla |
|---|---|---|---|
| Modello chiuso via API | Qualità di punta, nessuna gestione server | Dipendenza, dati a terzi, prezzo deciso dal fornitore | Prototipi rapidi, volumi medi, nessun hardware dedicato |
| Modello aperto in cloud | Controllo e personalizzazione | Serve gestire l'infrastruttura | Volumi alti, esigenze di messa a punto |
| Modello aperto in locale | Privacy massima, dati che non escono | Richiede hardware e competenze | Dati sensibili, vincoli normativi |
| Modello piccolo rifinito | Veloce ed economico sul compito | Meno versatile fuori dal dominio | Compito ripetitivo e ben definito |
Valutare un sistema basato su LLM
Il passaggio più trascurato dai principianti è la valutazione. Senza un modo per misurare, non si sa se una modifica al prompt ha migliorato o peggiorato le cose: si procede a sensazione e si gira in tondo. Un percorso maturo insegna a costruire un piccolo set di casi di prova, con domande realistiche e risposte attese, e a far girare il sistema su quel set ogni volta che si cambia qualcosa. È l'equivalente dei test automatici nel software.
Le metriche dipendono dal compito. Per un'estrazione di dati si misura quante volte i campi sono corretti. Per un assistente con recupero di documenti si controlla se la risposta è fondata sulle fonti fornite e se le cita in modo verificabile. Per compiti più aperti si usa spesso un secondo modello come giudice, che valuta la risposta secondo criteri dati: utile come primo filtro, da tarare con controlli umani a campione perché anche il giudice sbaglia. L'errore da evitare è affidarsi a un unico esempio che "sembra funzionare": basta un caso fortunato per ingannarsi.
In produzione, la valutazione non finisce al lancio. Serve monitorare le risposte reali, raccogliere i casi in cui gli utenti si lamentano o correggono, e usarli per ampliare il set di prova. I sistemi che reggono nel tempo sono quelli che imparano dai propri errori in modo strutturato, non quelli che sono stati "sistemati una volta".
Come studiare gli LLM senza perdersi
Il campo è vasto e cambia in fretta, e questo spaventa chi inizia. La buona notizia è che le fondamenta si muovono lentamente: token, attenzione, contesto, prompt e recupero di documenti restano validi anche quando esce il modello nuovo. Conviene costruire prima quelle, e solo dopo inseguire le novità. Un ordine di studio sensato riduce la dispersione.
- Prima l'intuizione del meccanismo: cosa succede quando scrivi a un modello, perché risponde così.
- Poi il prompting, perché è la leva che dà risultati visibili fin da subito e su cui si impara sperimentando.
- Quindi un primo progetto concreto con recupero di documenti sui propri materiali, per toccare con mano contesto, costi e limiti.
- Infine i temi avanzati (fine-tuning, agenti, valutazione, scelta del modello) in base a ciò che serve davvero al proprio obiettivo.
Il metodo che funziona è sempre lo stesso: studiare un concetto, provarlo su un caso proprio, osservare dove si rompe, aggiustare. La teoria senza pratica scivola via dopo una settimana; la pratica senza teoria produce persone che sanno ripetere ma non adattare. Un buon percorso alterna le due cose in continuazione, e lascia strumenti per continuare da soli quando il corso finisce, perché il campo non aspetta.
Dove approfondire: percorsi sugli LLM e sull'AI generativa
Chi vuole passare dalla comprensione alla pratica trova sulla piattaforma due percorsi complementari dedicati a questi temi. La Masterclass su LLM affronta nel concreto i grandi modelli linguistici: come interrogarli, come integrarli, come costruirci sopra applicazioni ragionate. È la scelta naturale per chi ha capito la teoria di questo testo e vuole mettere le mani in pasta su token, contesto, prompt e sistemi di recupero.
Per chi parte più indietro e vuole un quadro generale dell'AI generativa prima di specializzarsi, il corso Generative AI costruisce le fondamenta: cosa sono i modelli generativi, dove si applicano, quale logica li accomuna. È un buon primo gradino che rende poi molto più digeribile la masterclass dedicata agli LLM.
Attorno a questi due, chi programma può guardare a percorsi più mirati come AI per Sviluppatori o OpenAI Agents SDK per il tema degli agenti, mentre chi vuole solo usare bene gli strumenti quotidiani può orientarsi su Intelligenza Artificiale per Tutti o ChatGPT: il corso completo. L'importante è scegliere in base al proprio punto di partenza, non al titolo più altisonante. Altri titoli affini sono raccolti nella categoria Tecnologia e AI e nell'elenco completo dei corsi.
Un'ultima avvertenza di metodo: nessun corso trasforma in esperti in un pomeriggio, e qualsiasi promessa in tal senso è un segnale da leggere con diffidenza. La competenza sugli LLM si costruisce studiando il meccanismo, provando sui propri dati e sbagliando in un contesto controllato. Un buon percorso accorcia la strada e la rende meno accidentata; il tragitto resta a chi lo percorre.
Masterclass su LLM per chi vuole lavorare davvero con i grandi modelli linguistici, con Generative AI come base di partenza per inquadrare l'intero campo.
Domande frequenti
Che cos'è un LLM?
LLM sta per Large Language Model, grande modello linguistico. È un sistema con miliardi di parametri addestrato a predire la parola successiva in un testo. Non contiene fatti scritti in chiaro, ma una rappresentazione statistica del linguaggio.
Da dove iniziare per capire come funzionano gli LLM?
Chi cerca un corso LLM come funzionano i grandi modelli linguistici dovrebbe partire dai fondamenti: token, finestra di contesto e prompt. Un buon percorso spiega il meccanismo anche a chi non programma, perché l'intuizione serve per scrivere richieste efficaci e riconoscere i limiti.
Cosa sono le allucinazioni di un modello linguistico?
Sono risposte sbagliate presentate con tono sicuro, come una citazione o un dato inesistenti. Nascono dal fatto che il modello ottimizza la plausibilità, non la verità. Si riducono con il RAG e la verifica delle fonti, ma non spariscono del tutto.
A cosa serve il RAG?
Il RAG recupera i documenti rilevanti da una base di conoscenza e li mette nel contesto prima che il modello risponda. Serve ad aggiornare la conoscenza senza riaddestrare e a ridurre le invenzioni, ancorando le risposte a fonti verificabili.
Serve il fine-tuning per usare gli LLM in azienda?
Spesso no. Il fine-tuning è ottimo per insegnare uno stile o un formato ricorrente, ma è lo strumento sbagliato per i fatti aggiornati. Per quelli conviene il RAG. Molti progetti aziendali partono bene con solo prompting e recupero di documenti.
Continua a leggere
-
Corso su Claude AI: cosa impari e a cosa serve
Cos'è Claude, l'assistente AI di Anthropic, e cosa dovrebbe insegnarti un buon corso: contesto lungo, scrittura e codice, differenze con...
-
AI automation con n8n e Make: automatizzare senza codice
Cosa sono n8n e Make, come ci metti dentro i modelli AI, dove conviene l'uno e dove l'altro. Casi d'uso, un flusso raccontato passo...
-
Matematica per il machine learning: quella che serve davvero
Non serve una laurea in matematica per fare machine learning, ma le basi sì. Ecco quali aree contano davvero, a che profondità studiarle e cosa...
-
Corso su Google Gemini: usarlo bene per lavoro e studio
Cos'è Google Gemini e come si integra con Gmail, Documenti e Fogli, dove rende di più per la produttività, in cosa differisce da ChatGPT e...
Newsletter
Le nuove guide, per email
Ti scriviamo quando esce una guida nuova o entrano in catalogo corsi che vale la pena segnalare. Ogni email ha il link per cancellarti.
Controlla la posta: ti abbiamo mandato il link per confermare l'iscrizione.