SMILE III Säkerhetsanalys och verifiering/validering av system baserade på maskininlärning

Viktiga resultat som projektet gav

Nya metoder krävs för att kvalitetssäkra fordonssystem som förlitar sig på djupinlärning. SMILE3 byggde på de två tidigare SMILE-projekten genom att vidareutveckla säkerhetsmekanismen ”safety cage” för hantering av osäkra indata. Genom att komplettera perceptionssystem med denna mekanism var målsättningen att påvisa hur man kan argumentera för att ett maskininlärningsbaserat system är funktionssäkert. En vidare målsättning var att utveckla verifiering & validering av ML-baserade system.

Långsiktiga effekter som förväntas

SMILE3 har utvecklat ett maskininlärningsbaserat förarassistanssystem i simulatorn ESI Pro-SiVIC, nödbromssystemet SMIRK, fritt tillgängligt på GitHub som öppen källkod. För en begränsad operativ miljö finns en komplett säkerhetsargumentation för maskininlärningskomponenten baserad på ramverket AMLAS finns tillgänglig för vidareutveckling. All data för träning och test av modellerna erbjuds fritt. Vi förväntar oss att SMIRK kommer att bidra till vidare forskning inom ML och funktionssäkerhet.

Upplägg och genomförande

SMILE3 innebar en blandning av forskning och praktisk utveckling. Vi utvecklade SMIRK genom att följa den iterativa processen i ISO/PAS 21448 Safety of the Intended Functionality (SOTIF). Säkerhetsargumentationen följde AMLAS och stöttades av workshops med samtliga arbetspaket representerade. Att samverka kring det öppna projektet SMIRK hjälpte projektet att utforska relevanta forskningsfrågor trots att Covid19-pandemin till stora delar tvingade fram arbete hemifrån.

Externa länkar

SMILE III Project page SMIRK github