Punti chiave

• La critica di Hinton mette in discussione l’etica dell’investimento in AI: Il “padrino dell’AI” avverte che le tendenze attuali privilegiano l’automazione e il taglio dei costi anziché il potenziamento della creatività e dell’autonomia umana.
• La sostituzione del lavoro umano è al centro del dibattito: Hinton prevede che, senza correttivi, l’effetto principale dell’AI aziendale sarà l’obsolescenza di molti lavori, più che l’ausilio alle competenze umane.
• Le preoccupazioni etiche richiedono un dialogo pubblico: Hinton invita cittadini e policy maker a interrogarsi sugli interessi che l’AI realmente serve e sulle modalità delle sue scelte progettuali.
• Sfida filosofica all’ottimismo tecnologico: Le sue osservazioni sollecitano una riflessione su cosa significhi “intelligenza” nelle macchine e se sia un’estensione dell’ingegno umano o una forza con logiche proprie.
• Prossimi passi: dialoghi e indagini normative in corso: Vertici tecnologici globali e commissioni governative prevedono audizioni e approfondimenti sulle responsabilità sociali degli investitori in AI.

Introduzione

Durante un recente vertice globale, Geoffrey Hinton ha scosso il mondo tecnologico interrogando il senso degli investimenti crescenti nell’intelligenza artificiale. Mirano davvero a potenziare le persone o a sostituirle? Criticando l’etica dominante dell’automazione e della riduzione dei costi, Hinton chiede una riflessione etica profonda sul futuro dell’AI e su chi davvero ne guidi la traiettoria.

La critica di Hinton: un bivio etico nello sviluppo dell’AI

Geoffrey Hinton, spesso definito il “padrino dell’AI” per i suoi contributi fondamentali alle reti neurali e al deep learning, ha intensificato il suo allarme riguardo alle scelte d’investimento e sviluppo nell’intelligenza artificiale.

Il premio Turing, che ha lasciato Google a maggio 2023 per poter parlare più liberamente dei rischi dell’AI, sostiene che il flusso attuale degli investimenti segnali una priorità inquietante: sostituire il lavoro umano, più che amplificarne le capacità.

Secondo Hinton, “l’economia ci spinge a creare macchine che replicano tutto ciò che fanno gli esseri umani“. La creazione di sistemi puntati sulla sostituzione, più che sull’ausilio, apre interrogativi profondi sul destino collettivo della società.

La sua analisi arriva mentre gli investimenti globali in AI superano i 200 miliardi di dollari all’anno, con una fetta preponderante destinata all’automazione volta a ridurre i costi del lavoro.

La tensione filosofica: potenziamento contro sostituzione

Al centro dell’argomentazione di Hinton c’è il contrasto tra due visioni: una AI che amplia le capacità umane e una che mira invece alla loro completa sostituzione.

La visione del potenziamento considera l’AI come alleato complementare, in grado di rafforzare le specificità dell’intelligenza e creatività umana, mantenendo ruoli significativi e autonomia decisionale.

L’approccio orientato alla sostituzione, invece, persegue l’obiettivo di replicare e, in prospettiva, rimpiazzare il contributo umano. Come sottolinea Hinton, il panorama degli investimenti rivela una tendenza verso sistemi progettati per fare ciò che fanno le persone, ma a costi minori e su larga scala, piuttosto che per ampliare ciò che ancora non siamo in grado di realizzare.

Questo dualismo richiama domande più profonde su quale valore diamo al contributo umano in economie sempre più automatizzate. Scegliere tra potenziamento e sostituzione significa rivelare, in filigrana, ipotesi implicite sul valore della persona oltre all’utilità economica.

Flussi di capitale e dimensione etica

Le scelte di investimento nell’AI riflettono priorità sociali e cornici etiche ben oltre le logiche di mercato.

I fondi di venture capital e le grandi aziende favoriscono in modo schiacciante applicazioni che promettono la sostituzione diretta del lavoro umano: dai sistemi autonomi ai modelli linguistici che sostituiscono scrittori e piattaforme di customer service automatizzate. Secondo analisi recenti, oltre il 70% degli investimenti major in AI dà priorità alla riduzione dei costi tramite sostituzione, non all’espansione delle capacità umane.

Per Hinton, “seguire i soldi rivela i nostri veri valori“. Se miliardi di risorse puntano a sostituire il giudizio umano invece di potenziarlo, la società prende una posizione chiara su ciò che ritiene prezioso.

Questa sproporzione crea una “dipendenza di percorso”: scelte iniziali di investimento tracciano traiettorie tecnologiche sempre più difficili da correggere in futuro.

Il modello etico delle capacità, promosso dalla filosofa Martha Nussbaum, propone invece che le tecnologie vadano valutate in base al loro contributo al fiorire umano, anziché alla mera efficienza.

Evoluzione del pensiero di Hinton sui rischi dell’AI

La posizione attuale di Hinton rappresenta un’evoluzione rilevante rispetto al suo percorso originario.

Per decenni, Hinton si è concentrato sulle sfide tecniche legate allo sviluppo di sistemi più avanzati, contribuendo agli algoritmi di backpropagation e alle architetture deep learning. Il passaggio verso temi etici segnala la gravità delle preoccupazioni attuali.

“Ho cambiato idea“, ha riconosciuto Hinton. In passato pensava che i benefici dell’AI superassero chiaramente i rischi, ma la rapida accelerazione delle sue capacità e gli incentivi economici lo hanno indotto a rivedere i presupposti.

Questa evoluzione di pensiero riflette un movimento più ampio nella ricerca AI, dove le conquiste tecniche lasciano spazio a una crescente attenzione per la governance e la responsabilità etica.

Le paure di Hinton spaziano oltre la perdita di posti di lavoro per toccare interrogativi esistenziali su sistemi artificiali che superano progressivamente le abilità umane. Per lui, la questione cruciale è cosa accade quando la sostituzione funzionale dell’uomo da parte della macchina arriva al punto di non ritorno.

Mercato del lavoro e valore umano nell’economia AI

La traiettoria basata sulla sostituzione impone interrogativi urgenti sul significato del lavoro e sulla centralità della persona in economie sempre più automatizzate.

I dati mostrano già trasformazioni significative in settori del lavoro intellettuale fino a poco tempo fa ritenuti immuni. I modelli linguistici assumono compiti di professionisti altamente qualificati, mentre sistemi visivi AI generano immagini una volta appannaggio di artisti e designer.

Hinton osserva che il legame tra il livello di istruzione e la sicurezza lavorativa si sta indebolendo, coinvolgendo non solo autisti o operai, ma anche avvocati, medici, programmatori e, potenzialmente, ogni categoria.

Questo cambiamento spinge a riconsiderare le fondamenta stesse dell’economia: se la capacità produttiva non dipende più dal lavoro umano, come distribuire i benefici? Cos’è un “contributo significativo” quando le macchine possono acquisire competenze cognitive?

Soluzioni alternative stanno emergendo. Il reddito di base universale riconosce il distacco tra impiego e sostentamento, mentre l’approccio human-centered punta a progettare tecnologie che mantengano ruoli umani vivi e significativi.

Prospettiva delle scienze cognitive: cosa resta umano?

La critica di Hinton apre anche riflessioni sul senso dell’esperienza e delle capacità cognitive che distinguono ancora, almeno parzialmente, l’essere umano dall’intelligenza artificiale.

Da studioso di scienze cognitive, Hinton coglie l’ironia. Sistemi ispirati alla mente umana rischiano di rimpiazzare proprio la specie che li ha generati. “Abbiamo costruito queste tecnologie decodificando parti della cognizione umana”, osserva, “ma il loro impiego spesso impoverisce, anziché arricchire, l’impegno cognitivo delle persone.”

Qui prendono forma interrogativi su quali capacità resteranno irriducibilmente umane. Coscienza, intelligenza emotiva, corpo e cultura rappresentano aree dove la distanza persiste, anche se il divario si restringe.

Per alcuni filosofi della mente, la prima persona dell’esperienza cosciente (quella dimensione che Thomas Nagel definisce “cosa significa essere qualcosa”) costituisce un limite insuperabile per l’AI, al di là delle funzioni riproducibili.

Per altri, anche se le macchine replicassero tutte le funzioni cognitive, il valore dell’esperienza umana sarebbe dato dalla sua storia evolutiva e culturale, più che dalla pura unicità funzionale.

Thomas Nagel

Immaginare percorsi alternativi di sviluppo

Nonostante la traiettoria dominante, percorsi alternativi di sviluppo AI restano possibili e fondamentali da esplorare.

Le metodologie di progettazione human-centered mettono al centro il potenziamento: interfacce e capacità che amplificano i punti di forza umani e automatizzano solo gli aspetti ripetitivi. Si rifiuta così la falsa dicotomia tra uomo e macchina per abbracciare sistemi collaborativi.

Per Hinton, la sostituzione non è un destino inevitabile. È il risultato di precise decisioni di investimento e progettazione. Cambiarle significa rendere possibili altri esiti.

Alcuni istituti di ricerca, come il Human-Centered Artificial Intelligence di Stanford, puntano esplicitamente sull’AI di potenziamento. Anche la Partnership on AI promuove principi di design che valorizzano l’autonomia e il controllo umano.

Sul fronte regolatorio, interventi come la tassazione dell’automazione o il finanziamento pubblico di tecnologie orientate all’augmentazione potrebbero riequilibrare gli incentivi verso esiti più umani.

Cosa succede ora: ridefinire il dibattito

Nel prossimo futuro si prevedono discussioni sempre più intense sugli aspetti etici degli investimenti AI, sia in ambito accademico che istituzionale.

L’International Conference on Machine Learning ospiterà una sessione dedicata agli effetti etici delle scelte di finanziamento, dove Hinton interverrà con una keynote focalizzata su nuove priorità di investimento.

Alcune grandi aziende tecnologiche hanno annunciato iniziative per valutare i propri sviluppi AI secondo logiche di augmentazione anziché sostituzione, anche se i critici dubitano che possano cambiare davvero rotta senza incentivi economici diversi.

Sul fronte politico, l’Unione Europea ha inserito nel proprio AI Act riferimenti espliciti alla preservazione di ruoli umani significativi. Negli Stati Uniti, la National AI Advisory Committee sta valutando misure per incentivare lo sviluppo orientato al potenziamento.

AI Act

Per Hinton, tuttavia, il dibattito più importante va affrontato fuori dai circuiti tecnici e regolatori. “Non si tratta solo di una questione tecnica o normativa”, insiste, “ma di quale società intendiamo costruire e quale spazio immaginiamo per l’essere umano.”

Conclusione

L’appello di Hinton a riconsiderare gli scopi dell’investimento in AI invita tutti i soggetti coinvolti a interrogarsi non solo sul progresso tecnico, ma anche su come intendiamo definire il valore umano in una società automatizzata. Il dibattito in corso evidenzia la responsabilità collettiva di orientare lo sviluppo AI oltre l’efficienza e la sostituzione. Da tenere d’occhio: la keynote di Hinton all’International Conference on Machine Learning e l’evoluzione delle normative e delle prassi aziendali per una AI orientata al potenziamento umano.

intelligenza artificiale

potenziamento