New York approva una legge per prevenire i disastri causati dall'intelligenza artificiale

Giovedì i legislatori dello Stato di New York hanno approvato un disegno di legge che mira a impedire che i modelli di intelligenza artificiale all'avanguardia di OpenAI, Google e Anthropic contribuiscano a scenari disastri, tra cui la morte o il ferimento di più di 100 persone o danni per più di 1 miliardo di dollari.

L'approvazione del RAISE Act rappresenta una vittoria per il movimento per la sicurezza dell'IA, che ha perso terreno negli ultimi anni , poiché la Silicon Valley e l'amministrazione Trump hanno dato priorità a velocità e innovazione. Sostenitori della sicurezza, tra cui il premio Nobel Geoffrey Hinton e il pioniere della ricerca sull'IA Yoshua Bengio, hanno sostenuto il RAISE Act. Se dovesse diventare legge, il disegno di legge stabilirebbe il primo insieme di standard di trasparenza legalmente obbligatori negli Stati Uniti per i laboratori di IA di frontiera.

Il RAISE Act presenta alcune delle stesse disposizioni e obiettivi del controverso disegno di legge californiano sulla sicurezza dell'intelligenza artificiale, la SB 1047, che alla fine è stato posto il veto . Tuttavia, il co-firmatario del disegno di legge, il senatore dello Stato di New York Andrew Gounardes, ha dichiarato a TechCrunch in un'intervista di aver deliberatamente progettato il RAISE Act in modo da non ostacolare l'innovazione tra startup o ricercatori accademici – una critica comune alla SB 1047.

"La finestra temporale per mettere in atto misure di protezione si sta rapidamente riducendo, data la rapidità con cui questa tecnologia si sta evolvendo", ha affermato il senatore Gounardes. "Chi conosce meglio l'IA afferma che questi rischi sono incredibilmente probabili [...]. È allarmante".

Il RAISE Act è ora diretto sulla scrivania del governatore di New York Kathy Hochul, che potrebbe decidere se firmarlo, restituirlo per gli emendamenti o porre il veto.

Se approvata, la legge sulla sicurezza dell'IA di New York obbligherebbe i più grandi laboratori di IA al mondo a pubblicare report approfonditi sulla sicurezza e la protezione dei loro modelli di IA all'avanguardia. La legge impone inoltre ai laboratori di IA di segnalare eventuali incidenti di sicurezza, come comportamenti preoccupanti dei modelli di IA o furti di modelli di IA da parte di malintenzionati. Se le aziende tecnologiche non rispettano questi standard, il RAISE Act autorizza il procuratore generale di New York a imporre sanzioni civili fino a 30 milioni di dollari.

Il RAISE Act mira a regolamentare in modo restrittivo le più grandi aziende del mondo, che abbiano sede in California (come OpenAI e Google) o in Cina (come DeepSeek e Alibaba). I requisiti di trasparenza previsti dal disegno di legge si applicano alle aziende i cui modelli di intelligenza artificiale sono stati addestrati utilizzando risorse di calcolo superiori a 100 milioni di dollari (a quanto pare, più di qualsiasi modello di intelligenza artificiale disponibile oggi) e sono resi disponibili ai residenti di New York.

Sebbene simile per certi versi alla SB 1047, il RAISE Act è stato concepito per rispondere alle critiche sollevate dai precedenti progetti di legge sulla sicurezza dell'IA, secondo Nathan Calvin, vicepresidente degli Affari di Stato e consulente legale di Encode, che ha lavorato a questo progetto di legge e alla SB 1047. In particolare, il RAISE Act non impone agli sviluppatori di modelli di IA di includere un "kill switch" nei loro modelli, né ritiene responsabili le aziende che post-addestrano modelli di IA di frontiera per eventuali danni critici.

Ciononostante, la Silicon Valley ha resistito significativamente alla legge sulla sicurezza dell'IA di New York, ha dichiarato a TechCrunch Alex Bores, membro dell'Assemblea dello Stato di New York e co-sponsor del RAISE Act. Bores ha definito la resistenza del settore non sorprendente, ma ha affermato che il RAISE Act non limiterà in alcun modo l'innovazione delle aziende tecnologiche.

"Il NY RAISE Act è l'ennesimo stupido, stupido disegno di legge sull'intelligenza artificiale a livello statale che danneggerà solo gli Stati Uniti in un momento in cui i nostri avversari sono in vantaggio", ha affermato Anjney Midha, socio accomandatario di Andreessen Horowitz, in un post di venerdì su X. Andreessen Horowitz e l'incubatore di startup Y Combinator sono stati tra i più accaniti oppositori della SB 1047.

Discussione sulla politica del baseball: ieri sera, New York ha approvato il RAISE Act, che stabilirebbe alcuni requisiti di trasparenza per i modelli di frontiera. Noi di @anthropicai non abbiamo ancora preso posizione su questo disegno di legge. Ma ho pensato che sarebbe stato utile fornire un contesto più ampio:

— Jack Clark (@jackclarkSF) 13 giugno 2025

Anthropic, il laboratorio di intelligenza artificiale incentrato sulla sicurezza che all'inizio di questo mese ha chiesto standard federali di trasparenza per le aziende di intelligenza artificiale , non ha ancora raggiunto una posizione ufficiale sul disegno di legge, ha affermato il co-fondatore Jack Clark in un post di venerdì su X. Tuttavia, Clark ha espresso alcune lamentele sull'ampiezza del RAISE Act, osservando che potrebbe rappresentare un rischio per le "aziende più piccole".

Interpellato sulle critiche di Anthropic, il senatore dello stato Gounardes ha dichiarato a TechCrunch che secondo lui "non coglie nel segno", sottolineando di aver concepito il disegno di legge in modo che non si applicasse alle piccole aziende.

OpenAI, Google e Meta non hanno risposto alla richiesta di commento di TechCrunch.

Un'altra critica comune al RAISE Act è che gli sviluppatori di modelli di intelligenza artificiale semplicemente non offrirebbero i loro modelli di intelligenza artificiale più avanzati nello Stato di New York. Questa critica era simile a quella rivolta alla legge SB 1047, ed è in gran parte la stessa che si sta verificando in Europa, grazie alle rigide normative europee in materia di tecnologia.

Il deputato Bores ha dichiarato a TechCrunch che l'onere normativo del RAISE Act è relativamente leggero e, pertanto, non dovrebbe obbligare le aziende tecnologiche a interrompere la produzione dei loro prodotti a New York. Dato che New York ha il terzo PIL più alto degli Stati Uniti, il ritiro dallo Stato non è qualcosa che la maggior parte delle aziende prenderebbe alla leggera.

"Non voglio sottovalutare la meschinità politica che potrebbe verificarsi, ma sono fermamente convinto che non ci siano ragioni economiche per cui [le aziende di intelligenza artificiale] non debbano rendere disponibili i loro modelli a New York", ha affermato il deputato Bores.