Un Language Model è un sistema di intelligenza artificiale che ha lo scopo di analizzare un input espresso in linguaggio naturale e, riconoscendo le regolarità statistiche della lingua, grazie ad un addestramento basato su grandi quantità di testi, è in grado di restituire un output coerente con quanto ricevuto, fornendo un nuovo testo in linguaggio naturale. Senza alcun dubbio, è corretto dire che gli LLMs sono una sottocategoria degli LMs. Un Large Language Model, come suggerisce il nome, è un Language Model di grandi dimensioni; solitamente ci riferiamo a sistemi che lavorano grazie a svariati miliardi di parametri interni e che, pur necessitando un addestramento estremamente dispendioso, garantiscono performance inaccessibili ad un semplice LM. Citando il “linguaggio naturale”, ci stiamo riferendo qui a qualsiasi lingua utilizzata dall’uomo a fini comunicativi, come l’italiano, l’inglese o il giapponese. Il linguaggio naturale è caratterizzato da sfumature e ambiguità siccome, a differenza di altre tipologie di linguaggio, come quello matematico, è molto meno rigido ed il suo significato può dipendere fortemente dal contesto della comunicazione.
Tra le fasi più importanti degli addestramenti di questi modelli, troviamo le operazioni Masked Language Modeling, in cui al sistema è richiesto il riempimento di frasi incomplete con le parole adeguate; Autoregressive Prediction, in cui il compito richiesto è quello di prevedere una parola in relazione alle precedenti; e Instruction Tuning, fase in cui l’algoritmo acquisisce la capacità di individuare la presenza di istruzioni all’interno di un input e seguirle fedelmente. Quest’ultima parte di addestramento è di cruciale importanza per tutti i chatbot AI che sono ormai parte della nostra vita quotidiana, basati su Large Language Models come GPT, Gemini e Claude. Rispetto ad un comune LM, un LLM di qualità ha una capacità di comprensione dei testi inseriti nettamente maggiore, in particolare per ciò che riguarda il riconoscimento del contesto, e ciò consente al modello, successivamente, di garantire una risposta molto coerente con l’input. Le risposte date dai Large Language Models, infatti, sono contraddistinte da una notevole fluidità e da una somiglianza stilistica molto forte con testi prodotti da esseri umani in generale o, se richiesto, da esperti in uno specifico settore. La coerenza è un’altra caratteristica fondamentale degli LLM dato che, se un Language Model piccolo è in grado di scrivere un testo grammaticalmente corretto, ma poco coerente, uno di grandi dimensioni è in grado di non perdere la propria coerenza nemmeno durante la stesura di lunghi paragrafi o in un’intera conversazione. La qualità degli output dei Large Language Models, per questi due motivi, è chiaramente ed inconfutabilmente superiore rispetto a quella ottenibile da un Language Model semplice e piuttosto robusto, ma la caratteristica che forse contraddistingue maggiormente questi algoritmi risiede nell’eccellente capacità di seguire le istruzioni ricevute che, come già detto, viene acquisita grazie alla fase di addestramento detta Instruction Tuning.
Gli LMs tradizionali sono costruiti al fine di generare linguaggio naturale e, in generale, non sono pensati per l’interazione con utenti, mentre gli LLMs hanno un’eccellente capacità di adeguarsi all’input che ricevono e quindi, ad esempio, non solo sono in grado di rispondere correttamente ad una domanda che gli viene posta, ma riescono anche a sviluppare la risposta secondo le richieste. Un Large Language Model a cui viene chiesta una risposta sintetica, infatti, si focalizzerà sui principali punti chiave dell’argomento, mentre lo stesso modello, se dovesse ricevere una richiesta di approfondimento, opterà per un output più lungo e dettagliato.
Gli LLMs sono strumenti che possono risultare notevolmente utili, ma la loro potenza, se usata con le intenzioni sbagliate, può essere un serio pericolo per la sicurezza informatica. Attacchi ai software, ai sistemi operativi o ad altre infrastrutture informatiche tramite lo sfruttamento di Large Language Models sono problemi estremamente attuali e preoccupanti, ma il tema certamente più dibattuto al giorno d’oggi è l’utilizzo di questi algoritmi per attaccare direttamente gli utenti. Gli LLMs sono in grado di generare contenuti estremamente realistici e convincenti che possono, certamente, risultare utili anche per scopi truffaldini e disinformativi. Un esempio molto comune è relativo al campo del social engineering, ovvero l’insieme di tecniche utilizzate per manipolare un individuo e convincerlo a rivelare dati personali o a effettuare transazioni in maniera spontanea. L’intervento di un Large Language Model all’interno di questa pratica può essere determinante perché il sistema può fornire al truffatore informazioni relative ad un individuo in particolare e, successivamente, implementare queste informazioni all’interno di un messaggio personalizzato e molto credibile, rendendo più difficile il riconoscimento dell’inganno da parte della vittima.
Giorgio Fumagalli