(Lezione 06.05 · 20 minuti · Il tuo modello · Il tuo modello)

Un'app che funziona senza rete.

Un modello utile deve arrivare in tasca e funzionare anche in campagna. Qui vedi come una pagina diventa un'app che lavora senza rete, come si aggiorna il modello e come può continuare a imparare senza spedire i tuoi dati.

Cosa impari

Cos'è una PWA e come funziona senza rete
Perché la privacy è il vantaggio più solido dei modelli in locale
Come si aggiorna un modello già installato
Cosa sono l'addestramento sul dispositivo e il federated learning

Ti serve sapere

Se non ti ricordi una di queste cose, il link ti porta al capitolo che la spiega.

Come vuoi seguirla

Preparo la scena…

01 Installabile
Una pagina che si installa come un'app.

Il laboratorio di questo corso è una pagina web, ma si può aggiungere alla schermata home. Si apre a tutto schermo, senza la barra del browser, e funziona anche senza rete. Questo tipo di pagina si chiama PWA, progressive web app. Non passa dagli store, e si aggiorna da sola quando c'è connessione.

In pratica. Su Android usa Aggiungi a schermata Home dal menu del browser. Su iPhone l'app della schermata Home ha una memoria sua, quindi addestra lì i modelli che vuoi usare dall'app.
02 Senza rete
La pagina e il modello restano nel telefono.

Una PWA ha un piccolo programma che lavora dietro le quinte, il service worker. Salva le pagine e i file in una memoria del browser. La prima volta scarica tutto, compreso il modello. Dalla seconda li prende da lì, anche in modalità aereo. Il modello che hai addestrato resta salvato nel telefono, in una piccola base dati del browser.

In pratica. Prova sempre l'app in modalità aereo prima di consegnarla. È il modo più rapido per scoprire un file che si carica ancora dalla rete.
03 La privacy
I dati che non partono non si perdono.

Se foto, suoni e misure restano nel telefono, non c'è un server da proteggere né un archivio da cui possano uscire. È il vantaggio più solido dell'Edge AI^01.01. In Europa il GDPR chiede di raccogliere solo i dati necessari, e un modello che lavora in locale spesso non ne raccoglie nessuno.

In pratica. Scrivi nell'app, in una frase, cosa resta nel telefono e cosa no. Le persone si fidano di più di una promessa chiara che di una lunga informativa.
04 Gli aggiornamenti
Un modello nuovo arriva come un file.

Prima o poi vorrai un modello migliore. Con una PWA basta pubblicare il file nuovo. Il service worker lo scarica quando c'è rete e lo usa dalla volta dopo. Conviene dare un numero di versione a ogni modello e salvarlo insieme a ogni risposta. Così, quando qualcosa va storto, sai quale modello ha sbagliato.

In pratica. Non pubblicare un modello nuovo senza misurarlo sul telefono di riferimento. Un modello più preciso sul computer può essere più lento o più pesante in tasca.
05 Imparare in tasca
Il modello può migliorare dentro il telefono.

Alcune app fanno un passo in più e continuano ad addestrare il modello sul telefono, con i dati di chi lo usa. La tastiera impara le tue parole, la galleria impara i volti delle persone che fotografi. Di solito si addestrano solo gli ultimi strati, pochi pesi, di notte e sotto carica. Si chiama addestramento sul dispositivo.

In pratica. Chi usa l'app deve poter cancellare quello che il modello ha imparato su di lui. Prevedi un pulsante che riporta il modello alla versione di partenza.
06 Imparare insieme
Tanti telefoni migliorano lo stesso modello.

Con il federated learning tanti telefoni migliorano un modello comune senza spedire i dati. Ognuno impara un po' in locale e manda solo le correzioni dei pesi. Un server le mette insieme e rimanda a tutti il modello nuovo. Google lo usa dal 2017 per i suggerimenti della tastiera Gboard.

In pratica. Anche le sole correzioni dei pesi possono rivelare qualcosa dei dati. Nei sistemi seri si aggiunge un po' di rumore e si mescolano i contributi di tanti telefoni.
07 Il passo finale
Dal modello del laboratorio all'app in tasca.

Nel laboratorio il tuo modello ha un ultimo passo. Lo quantizzi a 8 bit, confronti peso e accuratezza, e lo provi dal vivo in modalità aereo. Poi puoi esportarlo, per usarlo in un'app tua o in un altro progetto. È lo stesso percorso di tutte le app di questo corso, in piccolo.

In pratica. Prima di esportare scrivi una scheda del modello. A cosa serve, con quali dati è stato addestrato, quanto sbaglia e dove non va usato.

01 / 07

(Approfondisci)

Qualche numero in più.

(01)

Come lavora un service worker

Il service worker è un file JavaScript che il browser installa accanto alla pagina. Si mette in mezzo a ogni richiesta che la pagina fa e decide se rispondere dalla rete o dalla memoria salvata. Funziona solo sulle pagine https, o su localhost mentre si sviluppa.

Questo corso ne usa uno con tre regole. Le pagine si chiedono prima alla rete e poi alla memoria, così un testo corretto arriva subito. Gli altri file si prendono prima dalla memoria. I modelli stanno in una memoria a parte, che resta anche quando esce una nuova versione del sito, così non si riscaricano ogni volta.

(02)

Dove si salvano i dati nel browser

Il browser offre più memorie. localStorage è piccola e semplice, adatta alle impostazioni e all'avanzamento nel corso. IndexedDB è una vera base dati e regge centinaia di MB, adatta a dataset e modelli addestrati. Cache Storage è quella del service worker, per le pagine e i file scaricati.

Quando il telefono è pieno, il browser può cancellare questi dati. Con navigator.storage.persist una pagina chiede di tenerli al sicuro, e molti browser lo concedono alle app installate. È un passaggio da non dimenticare se nel telefono c'è il dataset che hai raccolto per un'ora.

if (navigator.storage && navigator.storage.persist) {
  const tenuti = await navigator.storage.persist();   // true: il browser non li cancella da solo
}

(03)

Il federated learning della tastiera

Nel 2017 Brendan McMahan e Daniel Ramage di Google hanno raccontato il primo uso su larga scala. La tastiera Gboard impara quali parole suggerire sui telefoni delle persone, di notte, sotto carica e con il Wi-Fi. Arrivano al server solo le correzioni, mescolate con quelle di tanti altri telefoni.

Negli anni dopo Google ha aggiunto la privacy differenziale, un modo matematico di aggiungere rumore che garantisce quanto poco si può scoprire di una singola persona. Nel 2023 ha scritto che tutti i modelli di lingua di Gboard vengono addestrati così.

(Prova sul telefono)

Il passo finale

Riprendi uno dei modelli che hai addestrato nel laboratorio, per esempio quello della tazza e delle chiavi, e portalo fino in fondo. Servono dieci minuti.

Apri il laboratorio e scegli un modello già addestrato, dall'elenco I tuoi modelli.
Nel passo Alleggerisci premi Alleggerisci a 8 bit. Vedi il peso e il risultato sulle prove, prima e dopo. Se il risultato tiene, spunta la versione a 8 bit.
Su Android aggiungi il corso alla schermata home, dal menu del browser. Su iPhone resta in Safari. L'app aggiunta alla schermata Home ha una memoria sua, e lì il modello addestrato in Safari non c'è.
Metti il telefono in modalità aereo. Su Android apri l'app dalla schermata home, su iPhone riapri il laboratorio in Safari. Dall'elenco I tuoi modelli riapri il modello e prova dal vivo.
Scrivi la scheda del modello ed esportalo, se vuoi usarlo altrove.

Apri il laboratorio →

(Verifica)

4 domande per chiudere la lezione.

Quando rispondi a tutte, la lezione risulta fatta e sulla mappa la sua pietra diventa gialla. Conta rispondere, non il punteggio.

(01)

Cosa permette a una pagina web di funzionare in modalità aereo?
(02)

Qual è il vantaggio più solido di un modello che lavora nel telefono?
(03)

Nel federated learning, cosa arriva al server?
(04)

Pubblichi un modello nuovo. Cosa conviene salvare con ogni risposta?

Parole nuove, e dove sono spiegate

PWAcapitolo 1
Service workercapitolo 2
Addestramento sul dispositivocapitolo 5
Federated learningcapitolo 6

Fonti e letture

Per chiudere la lezione rispondi alla verifica

← Formati e motori Torna alla mappa

(Prossima lezione · 06.06) L'AI responsabile