Innovazione nella formazione professionale insegnare con gli strumenti di intelligenza artificiale
Materiale didattico interattivo · M1-T1-MLC2
Apprendimento profondo
Reti neurali
Autore
Mária HartyányiiTStudy Hungary Training and Research Centre
Revisore
Zsolt LengyeliTStudy Hungary Training and Research Centre
Un modello matematico ispirato alla rete neurale naturale.
Obiettivo di apprendimento
Per utilizzare l’intelligenza artificiale in modo responsabile, è importante comprenderne i meccanismi di funzionamento. Questo materiale presenta in modo chiaro i principi alla base dei sistemi avanzati di IA, senza richiedere conoscenze approfondite di matematica o programmazione.
Al termine del modulo saprai
comprendere e spiegare i concetti di rete neurale artificiale, apprendimento profondo, dati di addestramento e parametri;
spiegare come una rete neurale passa dall’input all’output e come apprende dagli errori;
distinguere i modelli in base alle prestazioni e alle risorse necessarie;
riconoscere i limiti dei modelli e verificare consapevolmente le loro risposte.
L’idea nasce dallo studio del cervello
Lo sviluppo di alcuni dei metodi più efficaci di apprendimento automatico si è ispirato allo studio del funzionamento del cervello umano. I neuroscienziati hanno osservato che, durante l’apprendimento, le connessioni tra i neuroni si modificano: alcune diventano più forti, mentre altre si indeboliscono.
Questa intuizione ha portato allo sviluppo delle reti neurali artificiali. Il loro nome inglese è Artificial Neural Networks, abbreviato in ANN.
La rete artificiale è un modello matematico molto semplificato.
Dall’apprendimento automatico a quello profondo
Intelligenza artificiale (IA, in inglese AI): un concetto ampio, che comprende soluzioni informatiche in grado di imitare una capacità associata all’intelligenza umana.
Apprendimento automatico (ML): un sottocampo dell’IA in cui il sistema riconosce schemi a partire dai dati, anziché funzionare soltanto in base a regole predefinite.
Apprendimento profondo (DL): un sottocampo più ristretto dell’apprendimento automatico, basato su reti neurali artificiali con più strati di elaborazione.
Ogni sistema di apprendimento profondo è anche una soluzione di apprendimento automatico e di intelligenza artificiale. Non tutti i metodi di apprendimento automatico utilizzano una rete neurale.
AI = intelligenza artificiale (IA) · ML = apprendimento automatico · DL = apprendimento profondo.
I moderni modelli linguistici apprendono schemi del linguaggio attraverso l’apprendimento profondo. Questo ci permette di comunicare con le applicazioni di IA nel linguaggio umano quotidiano.
Il percettrone: una tappa fondamentale
Una delle prime tappe fondamentali nella storia delle reti neurali è stata il percettrone, una macchina analogica capace di apprendere, presentata nel 1958 negli Stati Uniti da Frank Rosenblatt, professore alla Cornell University.
L’immagine mostra una parte della macchina elettromeccanica di Rosenblatt, il Mark I Perceptron, che funzionava con una matrice di 20 × 20 fotocellule. Durante l’apprendimento, l’intensità delle connessioni veniva memorizzata e regolata da dispositivi elettromeccanici.
In condizioni controllate, il sistema era in grado di distinguere forme semplici e lettere standard. Utilizzava un algoritmo di apprendimento supervisionato: l’operatore forniva la categoria corretta per ogni input. Il percettrone confrontava il proprio output con la risposta corretta e, in caso di errore, modificava i pesi delle connessioni.
Il Mark I Perceptron di Rosenblatt, una macchina analogica che funzionava con una matrice di 20×20 fotocellule (Fonte: Computer History Museum)
Che cosa calcola un neurone artificiale?
A ogni valore di input (x) è associato un peso (w). Il neurone moltiplica gli input per i rispettivi pesi, li somma e poi produce un output mediante una funzione di attivazione.
I pesi regolano il contributo degli input all’output. Durante l’apprendimento vengono modificati questi e altri valori numerici apprendibili, come i bias: li chiamiamo parametri.
L’output 0 o 1 del percettrone indica una delle due categorie. Il confronto con l’etichetta corretta permette di capire se la previsione era esatta.
Input → somma ponderata → attivazione → output.
Prova!
Come cambia la decisione al variare dei pesi?
In questo semplice esempio x₁ = 1 e x₂ = 1. Se la somma ponderata è almeno 1, l’output è 1; altrimenti è 0. Muovi i cursori!
Output:
L’esempio illustra il calcolo. Modificare manualmente i cursori non equivale a un apprendimento automatico.
Le reti neurali multistrato e i loro parametri
Con la comparsa di una maggiore capacità di calcolo negli anni Ottanta, lo sviluppo delle reti neurali ricevette un nuovo impulso. La svolta arrivò collegando più neuroni in sequenza ed eseguendo l’elaborazione non in uno, ma in più strati.
Tra lo strato di input e quello di output si trovano gli strati nascosti: il primo riconosce caratteristiche semplici, mentre gli strati successivi costruiscono a partire da queste schemi sempre più complessi.
Gli algoritmi che operano con più di uno strato sono noti come apprendimento profondo. Il termine “profondo” indica i diversi strati di elaborazione. Il funzionamento si basa sempre su operazioni matematiche e parametri apprendibili. L’IA non pensa come un essere umano: elabora informazioni attraverso processi matematici e statistici.
Rete neurale artificiale multistratoStrato di input - Strati nascosti - Strato di output
01
Input
I dati da elaborare, ad esempio i valori dei pixel di un’immagine.
02
Strati nascosti
Trasformazioni successive dei dati, basate sui pesi appresi.
03
Output
Il risultato del compito, ad esempio la stima di una categoria.
Dai bordi al riconoscimento di un volto
Un sistema di riconoscimento delle immagini può distinguere prima i bordi, poi le forme e infine gli oggetti. Gli strati iniziali elaborano caratteristiche semplici; quelli successivi costruiscono schemi più complessi di oggetti o volti.
La rete non “guarda” l’immagine con occhi umani. Trasforma valori numerici e utilizza le relazioni apprese durante l’addestramento.
Caratteristiche successive in un esempio di riconoscimento facciale. Fonte: NVIDIA.
Apprendere dagli errori
L’addestramento efficace delle reti multistrato è diventato ampiamente utilizzabile grazie alla retropropagazione, in inglese backpropagation.
Durante l’addestramento confrontiamo la risposta della rete con il risultato desiderato. Procedendo a ritroso dall’errore in output, la retropropagazione calcola come l’errore dipenda dai singoli parametri. L’algoritmo di ottimizzazione modifica i pesi sulla base di questi calcoli.
Ripetere l’addestramento serve a ridurre l’errore. Il modello finito può poi essere provato su dati nuovi, non presenti nell’addestramento.
Nell’animazione cane–gatto, lo spessore delle linee blu indica i pesi delle connessioni; il valore in output rappresenta la probabilità stimata dal modello che l’immagine sia un gatto.
01
Propagazione in avanti
L’immagine di input attraversa la rete e viene prodotta una stima.
02
Calcolo dell’errore
Confrontiamo la stima con l’etichetta corretta dei dati di addestramento.
03
Modifica dei pesi
Calcoliamo a ritroso la sensibilità dell’errore e poi modifichiamo i parametri.
Che cosa indica il numero di parametri?
Le dimensioni dei modelli sono spesso descritte dal numero di parametri e di strati nascosti. Questi valori, da soli, non bastano a descrivere le prestazioni. Conta anche l’ampiezza degli strati, cioè il numero di neuroni presenti.
Un numero maggiore di parametri significa più valori numerici apprendibili, ma non dimostra da solo che il modello risolva meglio un determinato compito.
Contano anche l’ampiezza degli strati, il numero di input, il tipo di architettura, la quantità e la qualità dei dati di addestramento, le funzioni di attivazione e gli algoritmi di addestramento.
Anche le dimensioni di un sistema che distingue cani e gatti dipendono dall’architettura scelta. Non esiste un minimo obbligatorio di un milione di parametri valido per tutti questi modelli.
Compiti diversi, reti diverse
Nella pratica, le reti neurali possono avere strutture molto diverse a seconda del problema da risolvere. Alcuni modelli lavorano con sequenze e dati temporali, mentre esistono reti specializzate per l’elaborazione delle immagini, la compressione e il riconoscimento di schemi. Dopo la comparsa del percettrone si sono sviluppate numerose architetture di reti neurali diverse e i moderni sistemi di intelligenza artificiale di oggi si basano su loro versioni evolute.
Esempi di reti e strutture delle connessioni. L’SVM nella figura è un metodo di apprendimento automatico, non una rete neurale. Fonte indicata nel documento: deep-learning-site.com.
01
Elaborazione delle immagini
Riconoscimento di caratteristiche visive, forme e oggetti.
02
Sequenze
Elaborazione di dati linguistici o temporali collegati tra loro.
03
Trasformazione
Compressione, riconoscimento di schemi e creazione di nuovi contenuti.
Quale “motore” utilizzare?
La maggior parte delle applicazioni di IA offre la possibilità di scegliere tra più modelli, e i diversi modelli sono ottimizzati per capacità, velocità e tipi di compito differenti. Un modello può rispondere più rapidamente alla stessa domanda, mentre un altro può dare risultati migliori in compiti logici complessi, nella programmazione, nell’analisi di documenti lunghi o nella pianificazione dettagliata. È come scegliere tra diversi “motori” all’interno della stessa applicazione.
Precisione
Ragionamento
un modello di ragionamento più avanzato può risolvere in modo più affidabile problemi articolati in più passaggi.
Tempo di risposta
Velocità
per domande semplici può essere più pratico un modello più veloce.
Ambito
Codice e matematica
alcuni modelli sono particolarmente forti nella scrittura di codice, nel debugging o nei calcoli.
Contesto
Comprensione del testo
nell’elaborazione di documenti lunghi, contratti o materiali didattici, i modelli possono differire nella capacità di seguire il contesto di fondo.
Creazione
Creatività
anche la qualità e lo stile delle risposte possono variare nella scrittura, nel brainstorming o nella creazione di materiali didattici.
Configurazione
Uso di strumenti
alcune funzioni, come la ricerca sul web, l’analisi di file o l’uso di altri strumenti, possono dipendere anche dalla configurazione attuale.
Il fabbisogno di risorse dell’apprendimento profondo
Dal semplice neurone artificiale che gestiva pochi input siamo arrivati a sistemi con molti miliardi di connessioni, che elaborano testo, immagini e suoni. Le forti aspettative attuali si basano sui successi ottenuti con l’algoritmo di apprendimento profondo.
Addestramento
Creare il modello
L’addestramento dei modelli di apprendimento profondo comporta costi enormi. Richiede processori grafici ad alte prestazioni, tempi di elaborazione lunghi e un consumo energetico significativo. Anche la raccolta, la pulizia e la preparazione dei dati sono costose.
La durata dipende dalle dimensioni del modello, dalla quantità di dati e dall’hardware disponibile; per i modelli più grandi possono essere necessari diversi mesi.
Utilizzo · inferenza
Eseguire il modello finito
Utilizzare un modello finito costa in genere molto meno che addestrarlo. Con un volume elevato di richieste, anche il costo complessivo dell’utilizzo può essere significativo.
Il costo dipende dal modello scelto, dalla lunghezza dell’input e dell’output, dall’uso di strumenti e dalle tariffe dell’applicazione.
La scelta del modello conta
Compito semplice
“Qual è la capitale della Francia?”
Per una domanda breve su un fatto noto, spesso basta un modello veloce che richiede meno risorse.
Usare sempre il modello più grande per compiti semplici può aumentare inutilmente i tempi di attesa e il consumo di risorse.
Compito complesso
“Analizza questa proposta progettuale di ottanta pagine, individua le contraddizioni e poi suggerisci dei miglioramenti in base ai criteri di valutazione dell’UE.”
Individuare contraddizioni e proporre miglioramenti secondo i criteri dell’UE richiede più passaggi, la gestione di un testo lungo e un ragionamento accurato.
Contano le capacità del modello, la precisione dei criteri forniti e la verifica umana del risultato.
Anche una risposta sicura può essere sbagliata
L’incertezza dei modelli dipende anche dal loro funzionamento. Sebbene gli algoritmi migliorino continuamente, poiché l’incertezza nasce dal loro principio di funzionamento fondamentale, può soltanto essere ridotta, mai eliminata del tutto. Nelle applicazioni di riconoscimento degli oggetti, il sistema spesso mostra anche valori di confidenza in percentuale.
Le applicazioni di riconoscimento degli oggetti spesso mostrano un valore numerico accanto alla categoria. È il punteggio di confidenza del modello; non coincide necessariamente con la probabilità effettiva che il risultato sia corretto.
Anche le risposte scritte possono essere sbagliate, pur senza mostrare un valore di confidenza. Una formulazione fluida non dimostra che la risposta sia corretta.
Il riconoscimento degli oggetti associa categorie e punteggi alle parti dell’immagine. Fonte: Arteries.
Utilizzala come uno strumento rapido e utile in molti compiti, verificandone i risultati in base all’importanza della decisione. Chiedi le fonti, controlla i riferimenti, esegui i calcoli o il codice e distingui i fatti dalle interpretazioni. Verifica anche che le fonti indicate dall’IA esistano.
Quando e come verificare?
Domanda a ChatGPT
Come possiamo fidarci delle risposte dell’IA, se sbaglia spesso?
Risposta
Non dobbiamo fidarci ciecamente dell’IA, ma possiamo comunque considerarla uno strumento molto utile. È preferibile utilizzarla come un assistente rapido e preparato, capace di fornire spesso buone risposte, ma che può anche commettere errori presentandoli con grande sicurezza.
Il livello di fiducia dipende anche dal tipo di domanda.
01
Affidabilità alta
matematica (se non ci sono errori di calcolo), programmazione, grammatica, conoscenze scientifiche generali, spiegazione di concetti.
02
Affidabilità media
dettagli storici, fatti poco noti, sintesi specialistiche.
03
Affidabilità più bassa senza verifica esterna
notizie dell’ultima ora, normativa vigente, dati di borsa, statistiche rare, citazioni specifiche, riferimenti bibliografici esatti.
Test di autovalutazione
Verifica ciò che hai imparato!
Scegli una risposta per ogni domanda, poi leggi il risultato e le spiegazioni.
Autori e allegati
Crediti e copyright
Autore
Mária HartyányiiTStudy Hungary Training and Research Centre
Revisore
Zsolt LengyeliTStudy Hungary Training and Research Centre
Finanziato dall'Unione europea. Le opinioni espresse sono esclusivamente quelle degli autori e non riflettono necessariamente quelle dell'Unione europea o dell'Agenzia nazionale.
