Sistemi di intelligenza artificiale e nuove vulnerabilità del consumatore

Gabriele Carapezza Figlia è professore ordinario di Diritto civile all'Università Lumsa

Nell’era dell’intelligenza artificiale e della connessione costante, la vulnerabilità dell’individuo assume forme e connotazioni del tutto inedite. Non si tratta più soltanto di tutelare categorie fragili per condizione fisica, sociale o economica: nel mondo digitale, chiunque può diventare vulnerabile.

La vita “onlife”, dove il confine tra reale e virtuale è sempre più labile, genera ogni giorno un’enorme quantità di dati. Questi alimentano la cosiddetta data economy: un’economia fondata su raccolta, analisi e sfruttamento dei dati personali. Grazie ad algoritmi avanzati, le nostre abitudini, preferenze e fragilità sono studiate con precisione, dando forma a profili dettagliati utilizzati per influenzare decisioni, comportamenti e consumi.

Discorrere di pubblicità mirata è riduttivo. Le piattaforme digitali e i sistemi di intelligenza artificiale sfruttano meccanismi psicologici ed emotivi – talvolta inconsci – per orientare le scelte dell’utente, spesso senza che questi se ne accorga. È il cosiddetto nudging, una spinta gentile che può trasformarsi in vera e propria manipolazione. L’interfaccia diventa un labirinto: design accattivanti, notifiche, scelte preimpostate e percorsi obbligati che sfruttano i nostri automatismi cognitivi.

Il rischio è che le tecnologie non si limitino a condizionare, ma alterino la nostra capacità di scegliere consapevolmente. Nel diritto europeo, la direttiva sulle pratiche commerciali sleali vieta, ormai da venti anni, le cosiddette material distortions of behaviour nei rapporti tra imprese e consumatori. Ma oggi l’attenzione normativa si sposta sulle nuove vulnerabilità dell’individuo nell’ambiente digitale. L’Artificial Intelligence Act e il Digital Services Act considerano pratiche inammissibili le tecniche manipolative e identificano come ad alto rischio quei sistemi di IA che minacciano i diritti fondamentali delle persone.

La vulnerabilità digitale, pur essendo universale, non colpisce tutti allo stesso modo. Esistono gruppi di persone – come i bambini o gli anziani – per i quali l’esposizione al rischio è maggiore. Per questo, il diritto europeo prevede tutele rafforzate a favore di chi, per “età”, “disabilità” o “una specifica situazione sociale o economica”, è più facilmente manipolabile. Non si tratta, tuttavia, di un ritorno alla logica degli “status”: si riconosce piuttosto che certe condizioni – anche temporanee – espongono più di altre al potere delle tecnologie.

Questa consapevolezza ha conseguenze profonde. Il diritto dei consumatori – tradizionalmente costruito attorno alla figura del “consumatore medio” razionale e informato – appare inadeguato alle sfide poste dagli ambienti digitali. Le distorsioni comportamentali non sono più legate a semplici asimmetrie informative: incidono sulla libertà stessa di autodeterminarsi, sì che non è sufficiente correggere i fallimenti del mercato con l’introduzione di obblighi di trasparenza o informazione.

Oggi, il consumatore reale è un soggetto esposto a bias cognitivi, fragilità emotive, impulsi irrazionali. La sua vulnerabilità è situazionale, dinamica, non catalogabile in schemi fissi. Ecco perché il diritto europeo sta ampliando il proprio raggio d’azione oltre l’e-commerce e i rapporti B2C: i rischi si annidano anche nei social-media, nei videogiochi, negli assistenti vocali, che si arricchiscono in modo subdolo di contenuti commerciali.

Manipolare le scelte non significa semplicemente indurre ad acquistare un prodotto, ma anche indirizzare idee, opinioni, comportamenti. Le tecniche di persuasione si spingono fino all’inconscio, rendendo difficile tracciare una linea tra libertà e condizionamento. E spesso chi esercita questa influenza non rientra nella tradizionale figura del “professionista” o “venditore”, come nel caso di molti prestatori di servizi intermediari o degli influencer.

La tutela della persona nell’ambiente digitale non può, pertanto, limitarsi alla sfera patrimoniale del consumatore, dal momento che, in qualsiasi contesto di comunicazione digitale o utilizzo di contenuti digitali, si presenta un rischio di violazione dei diritti fondamentali o di altri interessi giuridicamente rilevanti. La vulnerabilità, lungi dal discendere da una precisa categorizzazione socio-economica, diventa una condizione diffusa, che impone un radicale cambio di paradigma di un diritto tenuto a garantire l’integrità e l’autonomia di ogni individuo nella sua complessiva interazione con le tecnologie.

Il futuro della regolazione digitale passa, dunque, per una visione nuova del soggetto assunto a modello normativo: non più homo oeconomicus perfettamente razionale nell’assunzione delle proprie decisioni, ma persona concreta, immersa in un ecosistema tecnologico che può annichilire ogni possibilità di autodeterminazione consapevole e interazione paritaria. Ed è in questa tensione tra libertà e controllo che si gioca la partita dei diritti nell’era digitale.