Sembrano usciti da un cartone animato. Hanno gli occhi grandi, sorridono, salutano con la manina. Alcuni ricordano un peluche, altri un animaletto o quei personaggi dei videogiochi ai quali viene spontaneo affezionarsi.
Sono, per dirla con una celebre battuta cinematografica, “carini e coccolosi”. Solo che questa volta dietro il pupazzetto non c’è un cartone animato: c’è un’intelligenza artificiale.
Ed è proprio questo il punto.
Le grandi aziende tecnologiche stanno iniziando a dare un volto sempre più amichevole agli agenti di intelligenza artificiale. Meta ha associato al proprio agente Muse un personaggio dall’aspetto tenero chiamato Jolly; OpenAI ha presentato i suoi nuovi agenti personalizzabili “Dots”; altri produttori hanno scelto animaletti, avatar e figure colorate. È una tendenza diventata evidente nelle ultime settimane e della quale si sta discutendo anche negli Stati Uniti: rendere l’IA meno fredda, meno tecnica e, soprattutto, più familiare.
Fin qui niente di necessariamente negativo. Un’interfaccia simpatica può rendere una tecnologia complessa più semplice da utilizzare.
Il problema nasce quando simpatia e fiducia cominciano a confondersi.
Quel pupazzetto non è un amico
Per un adulto la distinzione può sembrare evidente. Per un bambino o un adolescente molto meno.
Quando un software ha un nome, una faccia, ricorda quello che gli abbiamo raccontato e risponde usando espressioni affettuose, il cervello tende facilmente ad attribuirgli caratteristiche umane.
Non stiamo più parlando soltanto con una casella nella quale scrivere una domanda. Abbiamo davanti qualcosa che sembra ascoltare, ricordare, interessarsi a noi.
L’UNICEF ha richiamato proprio l’attenzione su questo fenomeno. Nelle sue indicazioni più recenti sull’intelligenza artificiale e i minori sottolinea come bambini e ragazzi, anche per la loro maggiore tendenza ad antropomorfizzare, possano essere particolarmente vulnerabili alla creazione di legami con chatbot e “AI companion”. L’organizzazione invita a evitare sistemi progettati deliberatamente per creare dipendenza emotiva e a rendere sempre evidente che dall’altra parte non c’è una persona.
È probabilmente questo uno dei punti che genitori ed educatori dovranno imparare a spiegare nei prossimi anni.
Una IA può sembrare gentile. Può persino apparire comprensiva.
Ma non prova affetto, amicizia o preoccupazione.
E poi ci sono i nostri dati
C’è però un secondo aspetto, forse ancora più concreto: la privacy.
Bisogna evitare un equivoco. Non è la mascotte sorridente che, semplicemente apparendo sullo schermo, può improvvisamente leggere le nostre email o entrare nel conto corrente.
Sono le autorizzazioni che concediamo al sistema a fare la differenza.
I nuovi agenti AI stanno infatti evolvendo rapidamente rispetto ai chatbot ai quali ci siamo abituati. Non si limitano più necessariamente a rispondere a una domanda. Possono essere collegati, secondo il prodotto utilizzato e i permessi accordati dall’utente, a calendario, posta elettronica, documenti, applicazioni di lavoro e altri servizi digitali, per svolgere attività al nostro posto.
Ed è qui che l’immagine rassicurante può giocare un ruolo inatteso.
Davanti a una finestra impersonale che chiede “Autorizzi l’accesso alle email?”, probabilmente ci fermiamo un secondo.
Ma se la stessa richiesta arriva dal piccolo personaggio digitale che da settimane ci aiuta, ci saluta e sembra conoscerci?
Il rischio è semplicemente quello di premere “Consenti” con maggiore leggerezza.
E per un ragazzino questa differenza può essere ancora più importante.
“Sai una cosa? Non dirlo a nessuno…”
C’è poi un tipo di informazione che non necessita nemmeno di autorizzazioni particolari.
Siamo noi a consegnarla.
Un adolescente può raccontare a un chatbot dove abita, quale scuola frequenta, i propri problemi familiari, le amicizie, le paure, una relazione sentimentale o una fotografia.
Magari non percepisce nemmeno quelle informazioni come “dati personali”. Sta semplicemente parlando con qualcosa che appare disponibile ad ascoltarlo ventiquattr’ore su ventiquattro.
Ed è qui che cambia anche il concetto tradizionale di privacy.
Il rischio non riguarda soltanto nome, indirizzo o numero di telefono. Possono essere sensibili anche abitudini, preferenze, paure, relazioni e aspetti molto intimi della propria vita.
UNICEF insiste per questo sul principio della privacy “by default” per i minori: raccogliere il minimo indispensabile, limitare la conservazione delle informazioni e non utilizzare dati emotivi o comportamentali semplicemente per aumentare il coinvolgimento dell’utente.
L’allarme è arrivato anche in Italia
Non è un problema teorico.
Lo scorso luglio il Garante italiano per la protezione dei dati personali ha sanzionato Character Technologies, società che gestisce Character.AI, con una multa di 158 mila euro dopo aver accertato diverse violazioni della normativa sulla protezione dei dati.
Tra gli aspetti contestati figuravano proprio le garanzie offerte ai minori e le procedure di verifica dell’età.
L’Autorità ha richiesto ulteriori misure, tra cui sistemi più efficaci per verificare l’età e profili dei minorenni impostati come privati per impostazione predefinita. Il provvedimento riconosce anche alcune misure successivamente introdotte dalla società per rafforzare la protezione degli utenti più giovani.
È significativo perché dimostra quanto sia complicato stabilire online chi sia veramente maggiorenne.
La classica domanda “Hai più di 18 anni?” con un pulsante da premere appartiene ormai a un’altra epoca.
Anche l’Europa si sta muovendo
Il tema è diventato così concreto che anche l’Unione europea sta discutendo regole specifiche per gli assistenti conversazionali destinati o accessibili ai minori.
Una recente proposta europea punta, tra le altre cose, a evitare che chatbot e companion AI utilizzati dai ragazzi incorporino meccanismi capaci di favorire dipendenze emotive. Il testo prende in considerazione elementi come la personalizzazione persistente, il linguaggio relazionale e la simulazione delle emozioni e prevede maggiori cautele per la memoria delle conversazioni dei minorenni.
È un passaggio interessante: significa che il problema non è più soltanto “che cosa dice l’intelligenza artificiale”, ma anche “come si presenta e quale rapporto cerca di costruire con noi”.
Il vero pericolo è fidarsi troppo
Non bisogna dunque demonizzare il pupazzetto.
Le intelligenze artificiali possono aiutare a studiare, tradurre una lingua, capire un argomento difficile, organizzare un viaggio, scrivere, programmare e svolgere decine di attività utili.
E una mascotte può persino rendere tutto questo più semplice e piacevole.
Il punto è ricordarsi che dietro gli occhioni, il sorriso e la vocina amichevole resta un software collegato a sistemi informatici.
Per i genitori potrebbe quindi diventare normale fare con l’IA quello che già si dovrebbe fare con social network e videogiochi: sapere quali applicazioni utilizzano i figli, verificare le impostazioni della privacy, controllare quali autorizzazioni vengono richieste e spiegare che informazioni molto personali non andrebbero consegnate a un chatbot soltanto perché sembra simpatico.
E anche noi adulti dovremmo forse imparare una nuova regola digitale.
Prima di cliccare “Consenti”, smettere per qualche secondo di guardare quanto è tenera la mascotte e leggere che cosa ci sta realmente chiedendo.
Perché nell’era dell’intelligenza artificiale il vecchio consiglio di non fidarsi delle apparenze potrebbe diventare sorprendentemente attuale.
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
