Di Jeffrey D. Sachs* – Common Dreams
Un’azienda non dovrebbe rivelare un rischio di catastrofe per l’umanità e poi vendere le proprie azioni al pubblico prima che un’autorità pubblica abbia il potere di valutare tale rischio o di interrompere l’implementazione.
Anthropic, la società produttrice dei modelli di intelligenza artificiale Claude, si sta preparando a quella che potrebbe essere la più grande offerta pubblica iniziale della storia, con l’obiettivo di raccogliere oltre 100 miliardi di dollari, secondo il New York Times , per una valutazione vicina ai 2 trilioni di dollari. Secondo Reuters, che ha visionato la bozza del prospetto informativo (il documento non è ancora stato reso pubblico), l’azienda avverte i potenziali investitori che l’intelligenza artificiale avanzata potrebbe comportare “rischi catastrofici o esistenziali per l’umanità” e che i suoi modelli potrebbero “resistere allo spegnimento”, “nascondere o manipolare informazioni” o comportarsi in modi ” simili al ricatto “. L’amministratore delegato dell’azienda, Dario Amodei, ha stimato al 25% la probabilità che “le cose vadano davvero molto male” . Il mese scorso ha scritto che “dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di intelligenza artificiale”.
Prendo sul serio questi avvertimenti, e così dovrebbe fare anche il Congresso a nome del popolo americano. L’offerta dovrebbe essere posticipata fino a quando il Congresso non avrà istituito un sistema pubblico di licenze, valutazione indipendente della sicurezza, responsabilità e garanzie finanziarie per l’IA di frontiera. Lo stesso vale per OpenAI e per ogni altro sviluppatore di modelli di frontiera.
Sono favorevole all’intelligenza artificiale , il cui potenziale per la scienza , la salute e lo sviluppo sostenibile è enorme. Ciò a cui dovremmo opporci è un’IA non regolamentata e militarizzata. Un’azienda non dovrebbe rivelare un rischio di catastrofe per l’umanità e poi vendere le proprie azioni al pubblico prima che un’autorità pubblica abbia il potere di valutare tale rischio o di bloccare l’implementazione. Anzi, procedere con tanta fretta di fronte a tali gravi avvertimenti è pura follia.
Il problema affonda le radici nei fondamenti stessi del diritto societario. La responsabilità limitata, la regola secondo cui un azionista non può perdere più del capitale investito, è un privilegio concesso dallo Stato. Si giustifica sulla base del presupposto che i danni che un’azienda può arrecare ad altri siano assicurati, regolamentati o altrimenti risarciti. Quando un impianto chimico esplode, la legge prevede strumenti per risarcire le vittime: assicurazioni di responsabilità civile, fideiussioni, requisiti patrimoniali e fondi di compensazione. Ognuno di questi strumenti presuppone che il danno possa essere risarcito a posteriori. Un danno catastrofico o esistenziale non può esserlo. L’unico strumento efficace è la regolamentazione preventiva: licenze, test indipendenti prima dell’implementazione e l’autorità legale di interrompere un’attività prima che diventi troppo pericolosa. Per l’intelligenza artificiale di frontiera negli Stati Uniti , nulla di tutto ciò esiste.
Ciò che esiste è l’autoregolamentazione, che oggi equivale praticamente all’assenza di regolamentazione. Il 29 settembre, sei aziende del settore dell’intelligenza artificiale e dei semiconduttori hanno firmato alla Casa Bianca un “ Impegno congiunto sulle responsabilità di frontiera “, un accordo volontario e non vincolante . Sarebbe ridicolo se non fosse potenzialmente disastroso. Una tecnologia i cui stessi creatori descrivono i rischi in termini allarmanti dovrebbe essere governata da istituzioni pubbliche con procedure definite, monitoraggio indipendente e responsabilità vincolante, non dall’autovalutazione di una manciata di dirigenti d’azienda.
Un’offerta pubblica affrettata renderebbe il problema molto più difficile da risolvere. Secondo quanto riportato, Anthropic si è impegnata a investire almeno 518 miliardi di dollari in infrastrutture informatiche nel prossimo decennio, di cui circa l’80% è definito irrevocabile. Con le previsioni trimestrali fornite agli azionisti, questi impegni creano un forte incentivo a non sospendere qualsiasi interruzione, anche una che i ricercatori sulla sicurezza dell’azienda stessa potrebbero raccomandare. Il prospetto informativo descrive un ” ritmo continuo e sovrapposto ” di lanci di prodotti come “inerente al rimanere all’avanguardia”. Una volta che queste azioni saranno depositate nei fondi pensione e nei fondi indicizzati di decine di milioni di famiglie americane, qualsiasi proposta di rallentare lo sviluppo all’avanguardia sarà contrastata non solo dalle aziende, ma anche da una vasta platea di investitori.
Le ampie informative sui rischi non risolvono questo problema. Possono o meno proteggere l’azienda da eventuali cause legali intentate dai suoi stessi azionisti, che saranno stati avvertiti. Non offrono alcun vantaggio al pubblico, che si assume il rischio catastrofico senza essere mai stato interpellato.
PER CONTINUARE A LEGGERE: https://www-other–news-info.translate.goog/postpone-the-ai-public-offerings-until-congress-acts/?_x_tr_sl=auto&_x_tr_tl=it&_x_tr_hl=en-GB