31. marts 2020
Kunstig intelligens må ikke gå ud over maskinsikkerheden
En teknisk rapport, som forventes udgivet i 2020, får formentlig betydning for den kommende nye maskinforordning. Rapporten bliver relevant for alle tiltag med kunstig intelligens i forbindelse med maskinsikkerhed og risikovurdering og -nedsættelse på maskiner.
På foranledning af EU-Kommissionen har en arbejdsgruppe under standardiseringsorganisationen ISO fået til ansvar at udarbejde en teknisk rapport, der skal bidrage til, at kunstig intelligens (AI) kan blive udnyttet optimalt i maskiner på europæiske betingelser. Inden for maskinsikkerhed handler det om, at kunstig intelligens i maskiner ikke må kunne skade personer.
Arbejdsgruppen under ISO, TC 199/WG 5 Maskinsikkerhed, er ansvarlig for standarderne EN ISO 12100 Maskinsikkerhed – Risikovurdering samt EN ISO 20607 Maskiners brugsanvisning mv. og arbejder normalt med generel maskinsikkerhed, risikovurdering, brugsanvisninger osv. Derfor bad EU-Kommissionen om arbejdsgruppens vurdering i forhold maskinsikkerhed ved implementering af kunstig intelligens i maskiner.
EN ISO 12100 Maskinsikkerhed og kunstig intelligens
Hans Morten Henriksen, direktør i Maskinsikkerhed ApS og repræsentant for Dansk Standard i arbejdsgruppen, fortæller:
- Den umiddelbare konklusion var hurtigt klaret, da EU-Kommissionen bad ISO/TC 199/WG 5 om en vurdering: AI i maskiner er ikke noget problem, da maskinfabrikanten skal angive sikre rammer for sikker brug af maskinen. Og AI skal blot blive inden for de rammer: Dvs. at fx en svejserobot må bruge al den AI den vil, bare det er inden for de sikre rammer, som fabrikanten har designet: det kan være hegnet, men det kan også være inden for de rammer, en fabrikant har givet en kollaborativ svejserobot, der jo ikke har noget fysisk hegn.
Men for at bl.a. maskinfabrikanterne har noget konkret at forholde sig til, bliver emnet uddybet og beskrevet i den kommende rapport. Allerede nu ligger der et udkast klar, som arbejdsgruppen skal arbejde videre med i det kommende år.
Teknisk rapport uddyber maskinsikkerhed i forhold til kunstig intelligens
Dokumentet tager udgangspunkt i tre cases: En marksprøjte, der optimerer pesticid-forbruget efter mængde og type af ukrudt, en laserskærer, der optimerer frigørelsen af udskårne emner fra den plade, der skæres fra, og endelig en AGV-løsning.
- En AGV er en ubemandet vogn/truck, der kan hente og bringe varer/produkter fra fastlagte steder. I mange år kørte AGV’er udelukkende på fastlagte ruter, der fx var styret af kabler i gulvet eller senere ud fra spejle på væggen. I dag laves de fleste AGV’er med styring via GPS (lokal form), og AGV’en kan selv finde ud af at kortlægge sine omgivelser og på det grundlag optimere sin kørevej og -hastighed, fortæller Hans Morten Henriksen og uddyber:
- AGV’en opsamler for så vidt selv sine erfaringer og kan derfor korrigere sin kørevej uden menneskelig indblanding. Og det er der sådan set ikke noget maskinsikkerhedsproblem i: Den fabrikant, der installerer et AGV-projekt, har jo ansvaret, og han har indtænkt alle mulige problemer i sin løsning. Så hovedkonklusionen i den kommende ISO/TR 22100-5, som er rapportens tekniske navn, er, at de principper for risikovurdering, der er angivet i EN ISO 12100, er fuldt tilstrækkeligt til at håndtere AI. Det var egentlig også den første konklusion, men nu bliver det uddybet på skrift. Dog skal vi lige have diskuteret dokumentet i detaljer, men det forventes udgivet som en teknisk rapport i løbet af 2020.
