Notizia

Sep 25, 2023

White Hat Hacker presso l'Idaho State University salvaguardano i futuri sistemi di intelligenza artificiale dei reattori nucleari dagli attacchi informatici

June 5, 2023 Helping to secure the automated systems that will operate the

5 giugno 2023

Contribuire a proteggere i sistemi automatizzati che gestiranno i reattori nucleari del futuro ricade sulle spalle di un gruppo di hacker white hat dell'Idaho State University.

Recentemente, Leslie Kerby, professore associato di informatica, e i ricercatori che lavorano nel laboratorio di ingegneria computazionale e scienza dei dati di Kerby stanno lavorando per creare buchi digitali nei sistemi di intelligenza artificiale testati per la loro capacità di far funzionare in modo autonomo reattori modulari avanzati e piccoli.

"I dati sono la chiave di qualsiasi sistema di intelligenza artificiale, indipendentemente dallo scopo per cui viene utilizzato, perché questi sistemi funzionano apprendendo modelli e tendenze all'interno dei dati", spiega Pedro "Pepo" Mena, un ricercatore post-dottorato che lavora nel laboratorio di Kerby. "Il modo in cui apprendono è forse la ragione principale per cui i sistemi di intelligenza artificiale possono essere vulnerabili a un attacco informatico. Manipolando i dati utilizzati dal sistema, un malintenzionato può influenzare l'output del sistema e, per estensione, influenzare le decisioni prese dal sistema. mentre cerchiamo di proteggere i nostri dati personali, i data scientist devono adottare misure per proteggere le informazioni utilizzate da questi sistemi per evitare che vengano compromesse."

Lavorando nel loro laboratorio con sede a Idaho Falls, Kerby e lei stimolano l'intelligenza artificiale da tre angolazioni: attacchi di inferenza, riprogrammazione avversaria e attacchi trojan. Partendo dall'attacco per inferenza, effettuano il reverse engineering del sistema e si fanno un'idea di ciò con cui stanno lavorando. Da lì, possono corrompere i dati, costringendo il sistema a "pensare" in modo diverso ed eseguire azioni per eventi che non stanno accadendo nella realtà. L'ultimo modo in cui testano il sistema è attraverso un attacco trojan. Il team sostituirà il sistema con una versione che assomiglia e si comporta per lo più come la versione corretta, ma presenta alcune modifiche al codice che portano a conseguenze disastrose.

"I sistemi di intelligenza artificiale vengono implementati in molti campi, spesso senza comprendere appieno i rischi per la sicurezza che potrebbero comportare", ha affermato Kerby. "Molti sistemi di intelligenza artificiale sono un sistema a scatola nera, il che significa che producono un output ma non rivelano come funzionano. Puoi indurre questi sistemi a fornire output errati apportando piccole modifiche ai dati che il sistema sta utilizzando."

"Quando sono arrivato all'ISU, non avevo idea di cosa ci fosse in serbo per me", ha detto Kallie McLaren, un senior di Idaho Falls, Idaho. "Ho sempre saputo che l'intelligenza artificiale è un campo molto interessante e in crescita, ma non avevo mai veramente pensato ai potenziali rischi per l'intelligenza artificiale o pensato di fare ricerca per reattori nucleari autonomi prima di questo progetto. Questo progetto è stato molto illuminante per i progressi nel campo dell'intelligenza artificiale. nel mondo reale ed è affascinante vedere come piccoli cambiamenti nei dati possano produrre un grande cambiamento nei sistemi di intelligenza artificiale. È emozionante far parte di uno dei campi in più rapida crescita e mi è piaciuto far parte di questo gruppo di ricerca. "

Il team dell’Idaho State sta anche collaborando con i ricercatori dell’Idaho National Laboratory e della Georgia Tech. La ricerca nello stato dell'Idaho è stata finanziata con quasi 250.000 dollari dall'Idaho National Laboratory e dall'Ufficio per l'energia nucleare del Dipartimento dell'Energia degli Stati Uniti.

"Una volta terminato questo progetto, il nostro team dovrebbe essere in grado di dimostrare i rischi per la sicurezza che questi sistemi devono affrontare e fornire alcune migliori pratiche per aiutare a implementare sistemi di intelligenza artificiale più sicuri, in particolare nel campo dell'ingegneria nucleare", ha affermato Kerby. "A livello personale, gli studenti che lavorano a questo progetto apprenderanno competenze preziose e stabiliranno legami con leader del settore che avranno un impatto positivo sulla loro carriera."

"Non sapevo cosa volevo studiare quando sono arrivato all'ISU, ma sapevo che volevo fare qualcosa in un campo STEM", ha detto Eric Hill, un senior laureando in ingegneria meccanica con un minore in informatica da Idaho Falls . "Ho scelto ingegneria meccanica come specializzazione, ma ho seguito anche diversi altri corsi che hanno stuzzicato il mio interesse, tra cui diversi corsi di informatica tenuti dal Dr. Kerby. È così che sono stato coinvolto in questo gruppo di ricerca e lavorare a questo progetto è stato un'eccellente esperienza." un'opportunità per me di saperne di più sui campi dell'informatica e dell'intelligenza artificiale. Ha consolidato il mio interesse nel continuare questo tipo di ricerca e sono onorato e grato di poter lavorare a questo progetto."