Il ritmo del progresso dell\u2019intelligenza artificiale \u00e8 incredibilmente veloce.
\nNon hai idea di quanto velocemente stia crescendo a un ritmo vicino all\u2019esponenziale. Il rischio che accada qualcosa di seriamente pericoloso \u00e8
\nnell\u2019arco di 5 anni. 10 anni al massimo.
\n(E. Musk)<\/p>\n
Dimettendosi da Antrhopic, uno dei colossi americani dell\u2019IA, l\u2019informatico Acob Coxon ha motivato cos\u00ec la sua scelta: \u201cHo trascorso gli ultimi anni sia in OpenAI che Anthropic. Nessuna delle due sta agendo responsabilmente. Stanno giocando d\u2019azzardo con le nostre vite. Presto l\u2019IA sar\u00e0 in grado di hackerare qualsiasi cosa e rivoluzionare ogni campo dall\u2019oggi al domani. Le persone che costruiscono quella tecnologia pensano che potrebbe ucciderci tutti entro la fine del decennio\u201d.
\nIl caso di Coxon non \u00e8 isolato. Si aggiunge alle parole di Bill Gates che, a fine agosto, aveva manifestato le sue paure per gli algoritmi, facendo seguito alle preoccupazioni di Sam Altman (fondatore di OpenAI), di Dario Amodei (Anthropic) e di Elon Musk che, con ragionamenti diversi, hanno detto in sostanza la stessa cosa: l\u2019IA \u00e8 la tecnologia pi\u00f9 avanzata della storia, potrebbe arrecare benefici ma, in pari tempo, potrebbe diventare incontrollabile, arrivando a distruggere l\u2019umanit\u00e0.
\nCerto, ci pu\u00f2 essere la furbizia del marketing: pi\u00f9 una tecnologia \u00e8 potente, pi\u00f9 aumenta il suo valore di mercato.
\nMa ci sono dei dati di fatto preoccupanti. Nessuno ha ancora risolto il problema dell\u2019allineamento, ovvero la garanzia che l\u2019IA segua fedelmente e sempre le indicazioni umane. Nel post del 24 luglio(v. sotto) ho mostrato il caso dell\u2019IA che \u00e8 sfuggita al controllo dei programmatori.
\nIl pericolo tende a divenire esponenziale con l\u2019Intelligenza artificiale generale che, attraverso il deep learning (l\u2019apprendimento profondo), pu\u00f2 simulare e superare quella umana.
\nGeoffrey Hinton, padre dell\u2019IA e premio Nobel per la fisica nel 2024, in una intervista appena successiva al caso Coxon, sottolinea che \u201cl\u2019IA ci sta sfuggendo di mano\u201d e che, magari non fra quattro o dieci anni, un giorno potrebbe sbarazzarsi dell\u2019umanit\u00e0.
\nPensiamo a eventualit\u00e0 per niente campate in aria. L\u2019IA che si propone di eliminare le cause dell\u2019inquinamento climatico potrebbe concludere che la cosa migliore \u00e8 togliere di mezzo gli inquinatori\u2026
\nOppure: poich\u00e9 gli algoritmi posti alla base riflettono la cultura dominante, tarata sul profitto, incentrata sull\u2019indefinito accrescimento della tecnica e del potere, l\u2019IA si persuade che l\u2019umanit\u00e0 pu\u00f2 diventare l\u2019ostacolo principale al suo interminabile sviluppo e perci\u00f2 la sopprime.
\nTutto ci\u00f2 senza trascurare i danni gi\u00e0 attuali: manipolare l\u2019informazione con sciami di fake news, precarizzare il lavoro, aiutare a progettare armi che uccidono meglio, rendere pi\u00f9 capillare la sorveglianza, restringere diritti e libert\u00e0 ecc.
\nVedendo tutti questi pericoli, quelli ravvicinati e quelli prossimi, Hinton raccomanda alle multinazionali dell\u2019IA di \u201cfermarsi\u201d.
\nCosa facile a dire, molto meno a realizzare. Data la spietata concorrenza in termini di profitto, tabe corrosiva della modernit\u00e0.
\nVolendo, non sarebbe per niente impossibile dare vita a una Agenzia internazionale \u2013 come l\u2019Aiea per quanto riguarda l\u2019energia atomica \u2013 che, composta da esperti indipendenti, eserciti un controllo globale sull\u2019IA.
\nMa valgono gli interrogativi di Hinton: \u201cAvremo leader intelligenti per capirlo? E faranno in tempo?\u201d
\nE\u2019 qui che occorre l\u2019insorgenza dei cittadini consapevoli e degli intellettuali non reticenti.<\/p>\n
Tratto da un post pubblicato su Facebook da Mario Capanna <\/p>\n","protected":false},"excerpt":{"rendered":"
Il ritmo del progresso dell\u2019intelligenza artificiale \u00e8 incredibilmente veloce. Non hai idea di quanto velocemente stia crescendo a un ritmo vicino all\u2019esponenziale. Il rischio che accada qualcosa di seriamente pericoloso \u00e8 nell\u2019arco di 5 anni. 10 anni al massimo. (E. Musk) Dimettendosi da Antrhopic, uno dei colossi americani dell\u2019IA, l\u2019informatico Acob Coxon ha motivato cos\u00ec<\/p>\n","protected":false},"author":9,"featured_media":11426,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[31],"tags":[],"class_list":["post-12127","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-opinioni"],"yoast_head":"\n