Blog

Aug 19, 2023

Biden

Tecnologia Per l’amministrazione Biden, una domanda incombe sul più grande sviluppo tecnologico degli ultimi anni: quanto è grande una minaccia alla sicurezza? Mentre il Congresso fatica a definire quali nuove leggi approvare sull’intelligenza artificiale,

Tecnologia

Per l’amministrazione Biden, una domanda incombe sul più grande sviluppo tecnologico degli ultimi anni: quanto è grande una minaccia alla sicurezza?

Mentre il Congresso fatica a definire quali nuove leggi approvare sull’intelligenza artificiale e le agenzie federali esercitano le loro autorità esistenti su una tecnologia emergente, la Casa Bianca di Biden è emersa come l’attore più attivo sulla politica dell’intelligenza artificiale. | Olivier Douliery/AFP/Getty Images

Di Mohar Chatterjee

10/08/2023 16:45 EDT

Aggiornato: 11/08/2023 08:24 EDT

Collegamento copiato

Venerdì, negli hotel di Las Vegas, alcuni dei sistemi di intelligenza artificiale più potenti del mondo verranno attaccati simultaneamente da un piccolo esercito di hacker che cercheranno di scovarne i difetti nascosti.

La Casa Bianca non solo è consapevole dell’aggressione pubblica, ma la sta appoggiando.

A maggio, l’amministrazione Biden ha offerto il suo sostegno a un attacco di prova deliberato e coordinato ai sistemi di intelligenza artificiale, chiamato red-teaming, che si svolgerà nell’arco di tre giorni durante una convention annuale di hacker questo fine settimana. Diverse aziende leader nel settore dell’intelligenza artificiale, tra cui OpenAI, Google e Meta, hanno accettato di far attaccare alcuni dei loro sistemi di intelligenza artificiale più recenti e potenti per l’esercitazione.

L'attacco hacker evidenzia quella che è diventata una delle principali preoccupazioni della Casa Bianca riguardo ai nuovi modelli di intelligenza artificiale potenti e in rapida crescita: quanto sono realmente sicuri e se potrebbero rappresentare una minaccia per i cittadini americani o per la sicurezza nazionale a livello globale. palcoscenico.

“Il nostro quadro – e questo viene dal presidente – è che per sfruttare le opportunità dell’intelligenza artificiale, dobbiamo prima gestire anche i rischi”, ha affermato Alan Mislove, un alto funzionario dell’Ufficio per le politiche scientifiche e tecnologiche della Casa Bianca che ha aiutato gli organizzatori della sfida di hacking a sviluppare gli esercizi di red teaming di questo fine settimana. “Per cose come i grandi modelli linguistici, questi rischi sono piuttosto ampi, in molti casi possono essere meno chiari rispetto ad altri sistemi” e “coprono la nostra società, la nostra economia, la sicurezza nazionale”, ha affermato.

Mentre il Congresso fatica a definire quali nuove leggi approvare sull’intelligenza artificiale e le agenzie federali esercitano le loro autorità esistenti su una tecnologia emergente, la Casa Bianca di Biden è emersa come l’attore più attivo sulla politica dell’intelligenza artificiale. Ha redatto un quadro della Carta dei diritti sull’intelligenza artificiale, ha convocato gli amministratori delegati del settore tecnologico e ha tenuto una serie di conferenze stampa sull’ampia gamma di minacce e opportunità presentate dalla tecnologia.

Sebbene queste minacce si estendano a tutta la società, dalla perdita di posti di lavoro alla discriminazione fino alla disinformazione, molti dei passi più tangibili della Casa Bianca si sono concentrati sulla questione della sicurezza. Il suo nuovo consigliere speciale per l’IA, Ben Buchanan, ha un background di sicurezza nazionale piuttosto che tecnico. Quando il mese scorso la Casa Bianca ha convocato i leader dell’intelligenza artificiale per annunciare una serie di impegni volontari, la “sicurezza” era in cima alla lista e la sicurezza ha svolto un ruolo chiave attraverso il documento.

L’alta priorità data alla sicurezza riflette l’ansia – tra gli esperti, i regolatori e l’industria stessa – che i nuovi e complessi sistemi di intelligenza artificiale presentino una serie di nuove questioni non del tutto comprese, dalla loro possibilità di essere hackerati e indirizzati erroneamente da un avversario, all’idea che potrebbero esporre i dati degli utenti a usi più oscuri come la costruzione di armi biologiche.

“È possibile fare in modo che questi modelli facciano cose che i loro progettisti e fornitori non prevedono o non vogliono che siano in grado di fare. Quindi sì, penso che ci siano reali considerazioni sulla sicurezza”, ha affermato Arati Prabhakar, direttore dell'Ufficio per le politiche scientifiche e tecnologiche della Casa Bianca.

L’intelligenza artificiale può anche essere uno strumento per migliorare la sicurezza: questa settimana il Pentagono ha annunciato una sfida di due anni per gli sviluppatori affinché utilizzino l’intelligenza artificiale per rafforzare la sicurezza informatica americana.

Per la sfida di squadra rossa di questo fine settimana, la Casa Bianca ha collaborato con l'AI Village al DEF CON, una convention annuale in cui gli organizzatori mettono in scena wargame di hacking e i professionisti della sicurezza informatica rivelano le ultime falle nelle tecnologie onnipresenti. Agenzie governative come il Pentagono si sono già rivolte alla comunità degli hacker per individuare le vulnerabilità della sicurezza informatica: durante una sfida di hacking DEF CON l'anno scorso, un partecipante ha trovato un difetto disabilitante nella microrete elettrica dell'esercito dopo aver fornito dati meteorologici falsi.