Sam Altman sostiene che alcuni danni siano parte del progresso dell’IA

L’amministratore delegato di OpenAI, Sam Altman, sostiene una regolamentazione meno restrittiva dell’intelligenza artificiale e afferma che la società dovrebbe accettare che si verifichino alcuni danni in cambio dei benefici. In un’intervista al podcast Decoded di Politico, ha citato rischi come hackeraggi, truffe e usi malevoli, sostenendo che gli impieghi benefici della tecnologia saranno molto più numerosi di quelli dannosi.

La posizione mette in primo piano una questione rilevante per le aziende che sviluppano o adottano l’IA: quale livello di rischio sia accettabile, chi decida dove fissare il limite e chi debba rispondere quando qualcosa va storto. Le dichiarazioni di Altman esprimono la posizione di un dirigente: non costituiscono di per sé una norma né determinano gli obblighi giuridici delle aziende.

OpenAI e Anthropic divergono sull’ambito della regolamentazione

Altman ha descritto una differenza tra chi, come OpenAI, sostiene una supervisione più leggera e chi promuove controlli più rigorosi. Ha respinto l’idea che il controllo della tecnologia debba concentrarsi in un unico laboratorio e ha sostenuto che imporre misure in grado di evitare qualsiasi incidente significherebbe rinunciare a parte dei suoi benefici e limitarne la disponibilità.

Il confronto con Anthropic è centrale nel dibattito, anche se un portavoce dell’azienda ha precisato a Politico che le sue proposte normative si applicano ai modelli di frontiera. La discussione, quindi, non si riduce a un’opposizione tra regolamentazione e assenza di regolamentazione: riguarda anche quali sistemi siano soggetti a controlli specifici e chi li supervisioni.

Altman ha affermato che OpenAI non accetta i rischi catastrofici, tra cui una grave perdita di controllo sull’IA. Questa precisazione distingue gli incidenti che ritiene possibili e accettabili dagli scenari estremi che dice di voler evitare, senza però stabilire di per sé i criteri per tracciare quel confine.

Il dibattito sui rischi riguarda anche la responsabilità

Le dichiarazioni hanno ricevuto critiche politiche e sociali. Il governatore della Florida, Ron DeSantis, ha contestato che un ristretto gruppo di dirigenti tecnologici possa decidere per l’intera società quali danni siano accettabili. Il giornalista Chris Stokel-Walker, in un articolo di opinione pubblicato da The Guardian, ha sollevato un’altra obiezione: le aziende non dovrebbero trattenere i benefici mentre trasferiscono ad altri i costi dei malfunzionamenti.

Sono obiezioni diverse, ma indicano la stessa tensione. Un utente che sceglie di usare uno strumento può conoscere una parte dei rischi; al contrario, un’azienda, un ente pubblico o una persona interessata da un sistema impiegato nel proprio contesto potrebbe esserne esposta senza averlo scelto. Per le organizzazioni, questa differenza rende importante valutare non solo l’utilità di un’applicazione, ma anche chi potrebbe subire conseguenze e quali meccanismi esistano per individuare, contenere e gestire gli incidenti.

Altman ha anche riconosciuto la necessità di un quadro di responsabilità per le aziende che offrono modelli e ha indicato che OpenAI dovrà assumersi la responsabilità di almeno alcuni problemi legati all’addestramento. Le fonti disponibili non specificano come questo quadro si tradurrebbe in obblighi concreti né come verrebbero ripartite le responsabilità tra sviluppatori, fornitori e organizzazioni che utilizzano i sistemi.

Una decisione pubblica, non solo tecnologica

L’argomento secondo cui i benefici supereranno ampiamente i danni è una previsione di Altman, non una garanzia dimostrata dalle dichiarazioni. Allo stesso modo, riconoscere che si verificheranno incidenti non determina chi debba farsene carico. La discussione normativa consiste proprio nello stabilire quali rischi siano tollerabili, quali misure di salvaguardia siano necessarie e quali responsabilità spettino a chi sviluppa e distribuisce questi sistemi.

Per le aziende, il dibattito sottolinea l’importanza di considerare il rischio nelle decisioni di adozione e distribuzione, soprattutto quando uno strumento può agire su sistemi o dati di terzi. La portata degli obblighi giuridici, tuttavia, dipenderà dalle norme applicabili e dalle circostanze di ciascun caso; le dichiarazioni dei dirigenti non sostituiscono questa valutazione.