Vai al contenuto
← Intelligenza artificiale avanzata · Lezione 6

Modulo 2 · Lezione 2.2

Come il gradiente indica che cosa correggere

Il gradiente descrive la sensibilità della perdita a piccoli cambiamenti dei parametri. Serve a capire in quale direzione modificarli durante l’addestramento.

Partire da un solo parametro

Supponiamo che una previsione sia il numero w e il risultato desiderato sia 3. La perdita quadratica è L(w) = (w − 3)². Quando w = 5 vale 4; quando w = 4 vale 1. Ridurre w in quel punto aiuta.

La derivata di L è 2(w − 3): misura la pendenza locale. In w = 5 vale 4, quindi un piccolo aumento di w fa crescere la perdita. Muovendoci nella direzione opposta possiamo diminuirla. In w = 3 la derivata è zero e, per questa funzione, siamo al minimo.

Schema ed esempio

Leggere la pendenza prima di fare un passo

Parametro θPerdita L-3-1135Pendenza +4Minimo

Scorri il disegno in orizzontale per leggerlo tutto.

Come leggerla. Su L(θ) = (θ − 1)², in θ = 3 la pendenza è +4. Muoversi nel verso opposto, verso sinistra, riduce inizialmente la perdita. Nel minimo θ = 1 la pendenza è zero.

Passare a molti parametri

Il gradiente è il vettore delle derivate rispetto a ciascun parametro: un elenco di sensibilità, una per peso. Non coincide con l’errore della previsione.

La Jacobiana raccoglie le derivate quando anche l’uscita è un vettore. La Hessiana raccoglie le derivate seconde di una funzione scalare e descrive la curvatura, cioè quanto cambiano le pendenze. Per seguire inizialmente il ciclo di addestramento basta il gradiente; le due matrici servono ad analizzarlo più a fondo.

Collegare i calcoli di una rete

Se un’uscita dipende da un calcolo che dipende da un altro, le derivate si combinano con la regola della catena. La backpropagation usa questa regola per riportare l’effetto dell’errore verso i parametri degli strati precedenti.

L’autodifferenziazione combina le derivate delle operazioni del programma. Non sceglie l’obiettivo al nostro posto: se scriviamo una loss sbagliata, calcola il gradiente di quella loss.

Esempio svolto: correggere due parametri separatamente

Immagina una perdita L(m, b) = (m − 2)² + 4(b − 1)². È un esempio costruito con minimo noto in m = 2, b = 1. Partiamo da m = 3, b = 2: la perdita vale 1 + 4 = 5.

Il gradiente raccoglie due derivate: ∂L/∂m = 2(m − 2), ∂L/∂b = 8(b − 1). Nel punto iniziale è quindi (2, 8). Il secondo parametro richiede più cautela: nella sua direzione la perdita cambia più rapidamente. Con passo 0,1 aggiorniamo m a 2,8 e b a 1,2; la nuova perdita è 0,8² + 4 × 0,2² = 0,8.

La parabola nella figura mostra una sola coordinata; con due parametri devi immaginare una superficie. Il gradiente indica il verso di massima crescita locale e il suo opposto quello di discesa locale. La Hessiana descrive come cambia questa pendenza: qui è diagonale, con valori 2 e 8. Per un vettore di più uscite rispetto a più ingressi, la raccolta delle derivate si chiama invece Jacobiana.

Controlla il segno prima del codice

In m = 1 la derivata rispetto a m è −2. Con passo 0,1 il parametro deve aumentare o diminuire?

Soluzione: Aumenta: 1 − 0,1 × (−2) = 1,2. Sottrarre una derivata negativa muove a destra. “Scendere” descrive la perdita, non significa diminuire sempre il valore di ogni parametro.

Pratica guidata

Esegui il secondo aggiornamento. Riparti dal punto (m, b) = (2,8; 1,2) raggiunto nell’esempio per L = (m − 2)² + 4(b − 1)². Calcola gradiente, nuovo punto con passo 0,1 e nuova perdita. Prima del conto indica quale coordinata è più vicina al proprio minimo.

Come procedere

  1. Le derivate restano 2(m − 2) e 8(b − 1); cambiano i valori in cui le valuti.

  2. Il gradiente è (1,6; 1,6). Sottrai 0,16 a entrambe le coordinate, poi ricalcola la loss: il gradiente da solo non è la nuova loss.

Confronta la soluzione

Il nuovo punto è (2,64; 1,04), con perdita 0,64² + 4 × 0,04² = 0,416. Prima dell’aggiornamento b era già più vicino a 1 di quanto m fosse a 2, ma la maggiore curvatura nella direzione b rendeva uguali le due derivate. Distanza dal minimo e pendenza non sono la stessa quantità. La Hessiana diagonale (2, 8) descrive proprio questa diversa curvatura.

Prova su un caso nuovo

Per una funzione che riceve due parametri e restituisce tre previsioni, disegna la forma della Jacobiana e spiega che cosa rappresenta una sua colonna. Non servono valori numerici.

Controllo del tuo elaborato: Sai passare da funzione a derivata, da derivata ad aggiornamento e da aggiornamento a un controllo della perdita.

Dalla pratica al laboratorio

L’approfondimento aggiunge una piccola rete: la Jacobiana collega più uscite e ingressi, poi le differenze finite controllano le derivate. Il caso a due parametri appena risolto è il riferimento con cui capire che cosa controllare.

Controlla il ragionamento

Scegli una risposta e leggi la spiegazione.

In un punto la derivata rispetto a w è −4. Con discesa del gradiente e passo 0,1, quale modifica fai a w?

L’aggiornamento è w nuovo = w vecchio − passo × derivata. Il segno determina la direzione; la stabilità dipende anche dalla dimensione del passo.

Rileggi la spiegazione

Approfondimento tecnico facoltativo

Derivazioni e laboratorio

Lezione 2.2 · Modulo Derivare e controllare l’ottimizzazione. Prerequisiti: minimi quadrati, derivata di una funzione composta e prodotti matriciali.

Un gradiente sbagliato può produrre una curva di training che scende. Un fattore due mancante, per esempio, equivale spesso a cambiare il passo: il programma sembra funzionare, ma confronti, regolarizzazione e diagnosi diventano incoerenti. Per questo il controllo deve confrontare la derivata con la funzione dichiarata, usando un calcolo indipendente da quello da verificare.

Partiremo dai sei punti della lezione precedente e passeremo a una piccola rete non lineare. Scriveremo le derivate a mano, le confronteremo con differenze finite e vedremo perché una matrice JᵀJ positiva non garantisce che la Hessiana della rete sia positiva.

Derivata parziale e gradiente

Una derivata parziale varia una coordinata tenendo ferme le altre. Per L(m,b) = (1/n)Σᵢ(mxᵢ+b−yᵢ)², la regola della catena dà:

rᵢ = m xᵢ + b − yᵢ
∂L/∂m = (2/n) Σᵢ rᵢ xᵢ
∂L/∂b = (2/n) Σᵢ rᵢ
∇L = [∂L/∂m, ∂L/∂b]ᵀ = (2/n) Aᵀ(Aθ − y).

Il gradiente raccoglie tutte le derivate parziali in un vettore colonna. Per una direzione d, il prodotto ∇Lᵀd è la derivata direzionale: la variazione al primo ordine che otteniamo muovendoci lungo d. Con norma euclidea fissata, −∇L dà la direzione di discesa più rapida al primo ordine; una trasformazione delle coordinate cambia questa geometria.

Nei sei punti, all’origine θ = [0,0], i residui sono −y:

L(0,0) = 259/12 ≈ 21,583333
∂L/∂m = −215/6 ≈ −35,833333
∂L/∂b = −26/3 ≈ −8,666667.

Con passo η = 0,02, un aggiornamento simultaneo produce:

θ_nuova = θ − η∇L(θ)
m_nuovo = 43/60 ≈ 0,716667
b_nuovo = 13/75 ≈ 0,173333
L(θ_nuova) = 1668559/540000 ≈ 3,089924.

Le due componenti devono provenire dallo stesso θ. Aggiornare m e poi calcolare la derivata rispetto a b usando m già cambiato implementa un altro algoritmo. Non è l’aggiornamento simultaneo appena derivato.

La Jacobiana: più uscite, più ingressi

Il modello restituisce n previsioni a partire da p parametri: f: Rᵖ → Rⁿ. La sua Jacobiana contiene una riga per uscita e una colonna per parametro:

Jᵢⱼ = ∂fᵢ/∂θⱼ           J: n × p
df ≈ J dθ               df: n × 1
∇θ L = Jᵀ ∇f L.

Per la MSE, ∇f L = 2(f−y)/n: prima trovi quanto ciascuna uscita contribuisce alla perdita, poi moltiplichi per la sensibilità di quell’uscita ai parametri. Nel modello lineare J è A, e ritrovi il gradiente precedente.

Questa è la struttura della retropropagazione. Per una composizione f = g(h(θ)), la Jacobiana completa è J_g J_h; applicando la trasposta al gradiente si procede nell’ordine inverso, J_hᵀ(J_gᵀ∇f L). Un sistema di differenziazione automatica può calcolare questi prodotti senza materializzare ogni grande Jacobiana. Qui li scriviamo per vedere forme e significato, prima di affidarli a un framework nei moduli sulle reti.

La Jacobiana non è la Hessiana. La prima deriva un vettore di uscite una volta; la seconda deriva una funzione scalare due volte. Coincidenze nelle dimensioni, in un particolare esempio, non rendono intercambiabili i due oggetti.

La Hessiana e la curvatura

Per una funzione scalare due volte differenziabile, Hⱼₖ = ∂²L/(∂θⱼ∂θₖ). Nel problema lineare:

H = (2/n) AᵀA = [91/3  7]
                    [  7   2].

L(θ + d) = L(θ) + ∇L(θ)ᵀd + (1/2)dᵀH d.

L’espansione è esatta perché L è quadratica. Per una funzione generale è invece un’approssimazione locale, con termini di ordine superiore. Un vettore v è autovettore di H se Hv = λv: lungo quella direzione la curvatura è descritta da λ, quando v ha norma uno.

Qui gli autovalori sono circa 0,364944 e 31,968389. Sono entrambi positivi: il minimo è unico e la superficie è molto più curva in una direzione che nell’altra. La lezione successiva ricaverà il passo stabile da questi due numeri.

Per un problema quadratico, il passo di Newton risolve H d = −∇L. Se H è positiva definita, un aggiornamento θ + d raggiunge il minimo unico in aritmetica esatta. La sola invertibilità garantisce di raggiungere il punto stazionario, che potrebbe essere una sella o un massimo. Per esempio, L(u,v)=u²−v² ha Hessiana invertibile diag(2,−2): Newton porta all’origine, ma lungo v la funzione continua a scendere. Il passo si calcola risolvendo il sistema, senza costruire un’inversa esplicita. Per una rete, Hessiana variabile e possibile curvatura negativa rendono impropria questa garanzia di un solo passo.

Una rete con quattro parametri

Cambiamo dataset e modello per verificare una vera composizione non lineare. Questi tre punti sono un secondo esperimento sintetico, distinto dalla regressione a sei punti:

x = [−1, 0, 2]
y = [−0,5, 0,2, 1]
fᵢ(θ) = a tanh(w xᵢ + b) + c
θ = [a, w, b, c] = [1,2; 0,7; −0,3; 0,1].

La notazione italiana separa qui i parametri con punto e virgola; nel codice Python il vettore è [1.2, 0.7, -0.3, 0.1]. È un neurone nascosto con attivazione tanh e un’uscita affine. La tanh restituisce valori fra −1 e 1; la sua derivata è 1 − tanh²(z).

Definisci zᵢ = wxᵢ+b, hᵢ = tanh(zᵢ) e dᵢ = 1−hᵢ². La riga i della Jacobiana è:

Jᵢ = [ hᵢ,   a dᵢ xᵢ,   a dᵢ,   1 ]
        ↑         ↑          ↑     ↑
        a         w          b     c

∇L = (2/3) Jᵀ(f − y).

Ogni fattore ha un’origine. Per w, l’effetto passa da x alla preattivazione, dalla derivata della tanh all’attivazione, e da a all’uscita. Dimenticare a produce una formula corretta soltanto in casi particolari, come a = 1: un motivo per non verificare sempre nello stesso punto comodo.

Nel punto indicato il laboratorio restituisce:

MSE ≈ 0,1014437944
gradiente ≈ [0,2790336697; 0,1402958050; −0,4171928361; −0,4685928640].

La perdita è piccola, ma il gradiente non è zero. Questi numeri descrivono una valutazione della funzione, non l’esito di un addestramento della rete.

La parte della Hessiana che è facile perdere

Derivando ancora il gradiente della MSE si ottengono due termini:

H = (2/n) JᵀJ + (2/n) Σᵢ rᵢ ∇²fᵢ.

Il primo è sempre semidefinito positivo: per ogni d, dᵀJᵀJd = ‖Jd‖² ≥ 0. Il secondo pesa la curvatura del modello con i residui. Nel modello lineare ∇²fᵢ = 0, quindi sparisce. Nella rete tanh in generale rimane.

Puoi costruire ∇²fᵢ usando d tanh(z)/dz = dᵢ e d dᵢ/dz = −2hᵢdᵢ. Gli elementi non nulli sono:

∂²fᵢ/(∂a∂w) = dᵢ xᵢ       ∂²fᵢ/(∂a∂b) = dᵢ
∂²fᵢ/∂w² = −2a hᵢ dᵢ xᵢ²
∂²fᵢ/(∂w∂b) = −2a hᵢ dᵢ xᵢ
∂²fᵢ/∂b² = −2a hᵢ dᵢ.

Gli elementi simmetrici coincidono; tutte le derivate seconde che coinvolgono c sono zero. L’approssimazione di Gauss–Newton conserva 2JᵀJ/n e trascura il secondo termine. Può essere utile quando quel termine è piccolo, per esempio vicino a residui piccoli con derivate seconde controllate, ma non è l’identità generale della Hessiana.

Nel nostro punto, gli autovalori della Hessiana completa sono circa −0,528014, 0,012718, 1,529490, 2,965753. Compare una direzione di curvatura negativa. La matrice di Gauss–Newton ha invece autovalori non negativi, salvo arrotondamenti vicini a zero. Il suo rango è al massimo tre perché J ha tre righe e quattro colonne.

Questo non dimostra che il punto sia una sella: per quella classificazione servirebbe anche stazionarietà, e qui il gradiente non è zero. Dimostra che la MSE della rete non è globalmente convessa in questi parametri. Non possiamo trasferire automaticamente le garanzie del quadratico.

Differenze finite: un controllo indipendente

Per la coordinata j, la differenza centrale è:

g_FD,j = [L(θ + h eⱼ) − L(θ − h eⱼ)] / (2h).

Non usa la formula del gradiente. Usa due valutazioni della funzione per parametro, dunque costa 2p valutazioni: adatta a un controllo su un caso piccolo, troppo costosa come normale algoritmo per milioni di parametri.

Per funzioni sufficientemente regolari l’errore di troncamento centrale è di ordine h². Diminuire h riduce quel termine, ma rende più pesante la sottrazione fra valori quasi uguali, con errore di arrotondamento indicativamente proporzionale a ε_macchina/h, a scale fissate. Perciò «h più piccolo» non equivale sempre a «controllo migliore».

Il laboratorio misura lo scarto con ‖g−g_FD‖ / max(1, ‖g‖, ‖g_FD‖). È un errore normalizzato: sotto norma uno funziona come errore assoluto. Questa scelta evita divisioni quasi nulle, ma richiede comunque di leggere le singole componenti se una derivata piccola è importante.

h Errore normalizzato, regressione Errore normalizzato, rete
10⁻¹ 3,40·10⁻¹⁶ 9,21·10⁻³
10⁻³ 1,25·10⁻¹⁴ 9,13·10⁻⁷
10⁻⁵ 1,75·10⁻¹² 9,25·10⁻¹¹
10⁻⁷ 7,96·10⁻¹⁰ 1,43·10⁻¹⁰
10⁻⁹ 4,28·10⁻⁸ 4,20·10⁻⁸
10⁻¹¹ 8,27·10⁻⁸ 1,16·10⁻⁶

Questi valori sono registrati in float64 e possono cambiare nelle ultime cifre. La regressione ha errore di troncamento centrale nullo in aritmetica esatta: essendo quadratica, la sottrazione cancella esattamente i termini pari. La rete mostra invece prima il beneficio di ridurre h, poi l’effetto dell’arrotondamento.

Per scale diverse dei parametri si può usare un passo per coordinata, per esempio hⱼ = h_base max(1, |θⱼ|), mantenendo il denominatore corrispondente. Non esiste una tolleranza assoluta adatta a ogni funzione, scala e precisione.

Dal gradiente al prodotto Hessiana-vettore

Per controllare la Hessiana senza confrontare ogni suo elemento, scegli un vettore v di norma uno:

H(θ)v ≈ [∇L(θ + h v) − ∇L(θ − h v)] / (2h).

Il laboratorio usa la direzione proporzionale a [1, −2, 0,5, 1] e ottiene errore normalizzato circa 2,17·10⁻¹⁰ con h = 10⁻⁵. Ripete poi gradienti e prodotti Hessiana-vettore su dodici punti e direzioni pseudocasuali con seed fissato. Un solo punto può nascondere un fattore mancante; più punti ben scelti riducono questa possibilità senza costituire una prova formale di correttezza.

Nei modelli grandi anche il prodotto Hessiana-vettore può essere calcolato con autodifferenziazione senza conservare la matrice completa p × p. Qui ne impariamo il significato attraverso un oggetto abbastanza piccolo da poter controllare interamente.

Laboratorio e difetti da diagnosticare

Esegui il laboratorio completo:

python laboratori/controllo_gradienti.py

Il codice espone rete(theta), che restituisce perdita, gradiente, Hessiana, Jacobiana e matrice di Gauss–Newton. Modifica una derivata alla volta in una copia del file, osserva quale controllo fallisce e spiega perché. Il controllo già incluso dimezza deliberatamente il gradiente: lo scarto sale a circa 0,350418, pur restando quella una direzione di discesa.

Prima di confrontare derivate, fissa dati e stato della funzione. Dropout, nuovi batch o rumore diverso nelle due valutazioni contaminerebbero la differenza. Per una funzione non differenziabile, come ReLU nel punto zero, la differenza centrale non certifica una derivata che lì non esiste; servono punti lontani dalla discontinuità della derivata o un controllo coerente con la convenzione adottata.

Controlla anche le forme. In NumPy un target (n,1) sottratto a previsioni (n,) può produrre per broadcasting una matrice (n,n): la media risultante è un numero valido, ma descrive un’altra funzione. La funzione comune del laboratorio rifiuta questa combinazione e richiede target (n,). Un controllo del gradiente, se applicato coerentemente alla funzione sbagliata, potrebbe comunque passare: serve anche un caso manuale che verifichi la funzione stessa.

Esercizi con soluzione

Una convenzione cambiata

Un collega usa L_mezza = Σr²/(2n) e copia il nostro gradiente. Che cosa non torna? Come confrontare il suo passo con il nostro?

Soluzione: il suo gradiente corretto è metà del nostro; la copia non deriva la funzione dichiarata. Se usa il gradiente corretto e vuole lo stesso aggiornamento del nostro algoritmo, deve usare un passo doppio. La Hessiana si dimezza e il limite teorico sul passo raddoppia. Se aggiunge regolarizzazione, anche la convenzione della penalità va confrontata esplicitamente.

Forme della retropropagazione

Per un batch di 8 osservazioni e 5 parametri, indica le forme di J, del gradiente rispetto alle previsioni e del gradiente rispetto ai parametri.

Soluzione: J è 8 × 5, il gradiente rispetto alle previsioni è 8 × 1; Jᵀ è 5 × 8 e produce un gradiente 5 × 1. Nel codice vettoriale NumPy gli ultimi due possono essere array (8,) e (5,), mantenendo coerenti tutte le operazioni.

Una Hessiana incompleta

Uno script usa 2JᵀJ/n per la rete tanh e conclude che la loss è convessa. Individua il passaggio mancante.

Soluzione: ha omesso 2Σrᵢ∇²fᵢ/n. La sua matrice è l’approssimazione di Gauss–Newton, semidefinita positiva per costruzione. La Hessiana completa del punto analizzato ha un autovalore negativo. Neppure una Hessiana positiva in un solo punto proverebbe la convessità globale.

Un controllo troppo comodo

Il controllo passa in a = 1, w = b = c = 0. Basta per validare la derivata rispetto a w?

Soluzione: no. Un fattore a dimenticato è invisibile quando a vale uno; altri termini possono annullarsi nel punto scelto. Usa parametri non simmetrici, più dati e più punti, poi controlla separatamente funzione, gradiente e forme. Il laboratorio adotta proprio questa strategia.

Passaggio alla lezione successiva

Adesso possiamo distinguere una derivata sbagliata da un passo sbagliato. Nella lezione sugli ottimizzatori useremo il gradiente verificato e cambieremo scala, batch e aggiornamento. La domanda sarà quanto possiamo muoverci senza perdere stabilità, e quanto rumore rimane quando il gradiente usa soltanto una parte dei dati.

Tengo corsi di programmazione, analisi dati e intelligenza artificiale per aziende ed enti di formazione, in aula e da remoto. Scopri come insegno e quali materiali uso a lezione.