Simon Burton: Affidabilità e sicurezza dell’Intelligenza Artificiale

Prof. Simon Burton: “Sicurezza nell’incertezza: Standard automobilistici per la sicurezza dell’IA e prospettive di ricerca“.

Siamo lieti di pubblicare il link al Canale youtube del CNR-IEIIT e le diapositive del seminario che il Prof. Simon Burton ha tenuto per i “Giovedì del CNR” il 16 giugno 2024. Sono seminari organizzati, con frequenza bisettimanale, dal CNR-IEIIT (Istituto di elettronica e di ingegneria dell’informazione e delle telecomunicazioni del Consiglio nazionale delle ricerche) in cui sono affrontate con il supporto di relatori di rilievo nell’ambito della ricerca scientifica, accademica ed industriale le tematiche caratterizzanti l’Istituto stesso, con una visione trasversale ai domini applicativi ed agli ambiti tecnologici ed uno sguardo rivolto alla loro evoluzione.

Il seminario del Prof. Burton è stato dedicato a presentare le sfide di affidabilità dell’impiego della Intelligenza Artificiale  legate all’uso dell’IA nelle applicazioni automobilistiche critiche per la sicurezza (ad esempio, la guida automatizzata). Simon Burton è un’autorità nel campo, anche quale presidente del gruppo di lavoro ISO sulla sicurezza e l’intelligenza artificiale per i veicoli stradali

La presentazione fornisce una panoramica dell’imminente standard ISO PAS 8800 Road Vehicles – Safety and AI e del contesto più ampio degli standard di sicurezza in questo settore. La presentazione illustra la struttura e i concetti chiave della norma ISO PAS 8800 e presenta come gli approcci esistenti alla sicurezza dei sistemi E/E (Electrical/Electronic) automobilistici siano estesi alle funzioni basate su IA e Machine Learning. Come sintesi e conclusione, il relatore presenta le sfide di ricerca aperte. In particolare, la necessità di affrontare l’incertezza negli aspetti di garanzia per tali sistemi e il modo in cui tale incertezza possa essere valutata e ridotta.

Il seminario qui 

In allegato le relative diapositive  Burton (1)

Prof. Simon Burton

Dopo aver trascorso un periodo di tempo a sviluppare software per le telecomunicazioni, sono tornato a York come ricercatore associato all’interno del gruppo di ingegneria dei sistemi ad alta integrità. Durante questo periodo ho anche completato il mio dottorato di ricerca sul tema della generazione automatica di suite di test ad alta integrità da specifiche grafiche. Ho poi trascorso diversi decenni a gestire organizzazioni di ricerca, sviluppo e consulenza nell’industria, tra cui DaimlerChrysler (Mercedes) e Bosch. Più recentemente sono stato direttore scientifico per la sicurezza presso l’Istituto Fraunhofer per i sistemi cognitivi e  presidente del gruppo di lavoro ISO (ISO TC22/SC32/WG14) sulla sicurezza e l’intelligenza artificiale per i veicoli stradali. Questo lavoro ha incluso la guida dello sviluppo dello standard ISO PAS 8800 Road vehicles – Safety and artificial intelligence.