Geoffrey Hinton lascia Google. Una scelta “per poter parlare dei pericoli” dell’IA

Non conosciamo ancora i limiti d’azione dell’intelligenza artificiale. Meglio, ne conosciamo quelli attuali, ma dovremmo preoccuparci che non siano definitivi. Torniamo sull’argomento dopo qualche settimana per approfondirlo in seguito a un’importante notizia.

Geoffrey Hinton, il “padrino dell’IA”, ha scelto di lasciare le fila di Google. Il motivo? «Per poter parlare liberamente dei pericoli» dell’intelligenza artificiale. Pericoli che lui stesso si è pentito di aver creato.

Chi è Geoffrey Hinton? Perché sarebbe il “Padrino dell’IA”?

Geoffrey Hilton, 75 anni, è un informatico britannico naturalizzato canadese. È noto per i suoi contributi di ricerca sullo sviluppo dell’apprendimento profondo, per cui nel 2018, insieme a Yoshua Bengio e Yann LeCu, ha ricevuto il Premio Turing.

Grazie al suo lavoro pionieristico sulle reti neurali ha modellato i sistemi di intelligenza artificiale che alimentano molti dei prodotti odierni. Insegna all’Università di Toronto e ha lavorato part-time presso Google per un decennio, operando particolarmente nell’elaborazione dell’IA del grande motore di ricerca.

Oggi, come già scritto, ha scelto di ritirarsi da quest’ultima mansione, nutrendo preoccupazione per la tecnologia e per il suo progresso.

La nuova missione di Hinton: informare, prevenire, proteggere

Il potenziale umano è finito, lo impongono la nostra anatomia e la nostra fisiologia. Per questo l’uomo, bramando maggiori facoltà (matematiche, logiche, etc.), sfrutta le macchine, e i sistemi informatici, come prolungamenti del proprio corpo. Così in qualche modo vivifica la parte aggiunta, dotandola di una propria “umanità”, maturando il rischio che diventi autonoma, unica, incontrollabile. E qui si schiude il dubbio etico-pragmatico: c’è un punto in cui dovremmo accontentarci e fermarci?

Secondo Hinton sì. E il punto sarebbe solo da identificare, dopo che lui, e gli altri esperti del tema come lui, avranno chiarito cosa già si può chiarire. In ciò consisterebbe la sua nuova missione: costruire una nuova consapevolezza sulle minacce dell’IA per riadattarci nel mondo.

Il futuro della tecnologia: l’entità più spaventosa e i rischi peggiori

Riportano le informazioni Il Corriere della Sera e l’Ansa.

L’informatico, dopo la notizia del suo addio a Google, ha subito fatto scudo sull’azienda. Ha discolpato il colosso da ogni possibile colpa scrivendo su Twitter che «Google ha agito in modo responsabile».

Diversamente, per sé stesso ha deciso di fare una parziale mea culpa. Ai microfoni del New York Times, parlando del progresso tecnologico a lui accreditato, ha infatti dichiarato: «Se non l’avessi fatto io, l’avrebbe fatto qualcun altro». Salvo poi aggiungere:

Se siete diventati dipendenti dai like è colpa mia: sappiate che ho contribuito a crearli. Se mentre navigate in rete e parlate di un oggetto venite bombardati dalla pubblicità su quella cosa, prendetevela con me: vorrei non aver sviluppato quelle tecniche di microtargeting.

In un altro momento, alla Bbc ha spiegato qual è oggi l’entità informatica più spaventosa e perché dovremmo temere questa e altre del suo tipo:

In questo momento, quello che stiamo vedendo è che cose come GPT-4 oscurano una persona nella quantità di conoscenza generale che ha e la oscura di gran lunga. In termini di ragionamento, non è così buono, ma fa già un semplice ragionamento. E dato il ritmo dei progressi, ci aspettiamo che le cose migliorino abbastanza velocemente. Quindi dobbiamo preoccuparcene.

Infine, ragionando sui valori negativi dell’intelligenza artificiale ha identificato i due rischi peggiori da essa provenienti:

È quasi impossibile individuare e neutralizzare gli “attori maligni” che la useranno. E potrebbe prendere decisioni non previste.

Gabriele Nostro