La fiducia nell'intelligenza artificiale è al contempo l'obiettivo e la soluzione

01.10.2019
Contributo di Marisa Tschopp, Marc Ruef
Pubblicato sotto:   intelligenza artificiale, fiducia
Versione originale: tedesco

Si dice che l'intelligenza artificiale (IA) abbia il potenziale di trasformare positivamente quasi tutti i settori, dalla medicina all'urbanistica. Ma ha anche conseguenze problematiche, si pensi ai video manipolati che mettono in bocca a presidenti parole diffamanti; o alla cultura della sorveglianza che attraverso l'IA assume nuove proporzioni, ad esempio quando l'IA decide se un buon cittadino meriti o meno di ottenere un credito o un aumento di stipendio. Il problema della sfera privata e della sicurezza dei dati è ampiamente discusso, come lo dimostra attualmente l'applicazione Faceapp, divenuta ormai virale: 150 milioni di utenti hanno caricato immagini dei propri volti su quest'applicazione russa per scoprire che aspetto avranno fra 50 anni, senza però sapere che ne sarà di tali immagini e a cosa serviranno in futuro questi algoritmi. È infatti assolutamente possibile che i gestori di Faceapp li mettano ad esempio a disposizione di militari allo scopo di sviluppare sistemi di armi autonome. Corrisponderebbe quasi all'apocalisse dei robot, che vorremmo vedere soltanto in televisione. Sarebbe un po' paradossale non essere perplessi di fronte a tale prospettiva, giusto?

Occorre però fare una distinzione: cos'è e cosa può fare l'IA? Chi riceve una risposta chiara deve accoglierla con scetticismo, l'IA è infatti studiata da varie discipline ed impiegata con un grado di complessità variabile in un gran numero di sottosettori assai diversificati: si pensi al riconoscimento vocale, ai veicoli a guida autonoma, o ancora a giochi come ad esempio quello degli scacchi o Jeopardy! che sono già riusciti a battere alcuni campioni del mondo, per citare solo alcuni esempi. Sistemi di suggerimento, come quelli di Netflix o Youtube, rappresentano anch'essi una forma di IA, in questi casi intesa ad aiutare a prendere delle decisioni. Perlomeno in questi casi l'automatizzazione ha un ruolo soltanto parziale, in quanto alla fine è ancora l'essere umano ad avere l'ultima parola.

Nel contesto dell'IA non vi sono risposte chiare. Vale la pena gettare uno sguardo alla sua storia, che è iniziata attorno al 1950 ed è stata segnata dal susseguirsi di manifestazioni di grande entusiasmo e aspettative elevate che si sono però scontrate con una dura realtà. Negli anni '80 infatti, quando le grandi attese non poterono essere soddisfatte, sono state numerose le imprese a caderne vittima. Ci stiamo dirigendo verso un'altra serie di delusioni? Secondo gli esperti la risposta è tendenzialmente negativa: stavolta l'IA è tornata per restare.

Oggi l'intelligenza artificiale sta infatti vivendo una nuova primavera, ne danno prova i miliardi investiti. La fiducia è però minata. Voci critiche, esperti di etica e attivisti mettono giustamente un freno all'entusiasmo: problemi tecnici come la mancanza di prevedibilità e di informazione, il battage mediatico, il monopolio dei giganti della tecnologia, nonché interpretazioni errate o fraintendimenti, generano sfiducia.

Se vogliamo sfruttare tutto il potenziale dell'intelligenza artificiale non bastano la tecnologia e le leggi in materia di protezione dei dati: occorre conquistare la fiducia della gente. Si tratta però di un fenomeno psicologico che non si può percepire e nemmeno misurare. La fiducia rende possibili le interazioni, che si tratti di esseri umani o di macchine. Le leggi e la sicurezza tecnologica sono sì condizioni necessarie, ma non bastano per instillare fiducia nell'IA (nei suoi fornitori, programmatori, programmi e processi) a livello umano. È a questo livello che occorre agire imperativamente: che cosa fa l'IA a noi in quanto individui? Come influenza il nostro modo di comunicare o di stare insieme? Di risposte non ce ne sono, solo domande che dobbiamo porci ora per capire in che misura possiamo e siamo disposti a fidarci dell'intelligenza artificiale e dove dobbiamo fissare dei limiti chiari.

Marisa Tschopp
Marisa Tschopp
scip S.p.A.
Marc Ruef
Marc Ruef
scip S.p.A.