Artificiële intelligentie, een bondgenoot... om goed in de gaten te houden...
Artificiële intelligentie, een bondgenoot... om goed in de gaten te houden...
Benoît Stockbroeckx, directeur van de Anpi-laboratoria belast met de controle van de prestaties van beveiligingssystemen.
“AI kan plaatsen, objecten, topografie herkennen die in haar geheugen zitten en onmiddellijk een plaats in een normale situatie vergelijken met de gegevens in een brandsituatie”, aldus Florian Vandecasteele, data-wetenschapper bij d-sides en brandweerman.
“Op het gebied van vaststelling van verantwoordelijkheden zullen de regels moeten evolueren”, benadrukt Hervé Jacquemin, advocaat en hoogleraar bij Unamur.
Artificiële intelligentie, die veelbelovend is maar ook vragen oproept, breidt zich uit naar alle activiteitengebieden. De Nationale vereniging van bescherming tegen brand en inbraak (Anpi) heeft er een interessante studieochtend aan gewijd. Centraal in de presentaties stond de potentiële impact van die nieuwe en spannende technologie op de sector en de praktische, ethische, juridische en zelfs technische vragen die moeten worden opgelost om die technologie goed te kunnen beheersen.
Die technologie heeft een zeer groot potentieel, is turbulent en soms geheimzinnig, biedt verslindende informatie, wil graag leren, reproduceren en helpen dankzij de exponentiële intelligentie... Maar zij moet absoluut onder controle van mensen blijven om elk risico van onverantwoordelijk gedrag door het jonge karakter ervan te vermijden... Die waardering zou onder het eindrapport van een kind kunnen staan. Die waardering past perfect bij artificiële intelligentie, het enfant terrible van de nieuwe digitale (r)evolutie die al begonnen is en zoals geschetst is tijdens een sessie van vijf conferenties die eind 2019 door het Anpi in Namen werd gepresenteerd.
Het was voor een publiek bestaande uit beveiligingsmanagers in bedrijven, technische beheerders en beheerders van gebouwen, leveranciers van apparatuur en veel verzekeraars, dat de sprekers de aanpak rond het thema deelden: “Wat is de plaats van beveiligingssystemen voor artificiële intelligentie?” Aan het einde van de leerzame ochtend kwamen enkele mogelijke antwoorden naar voren die een beter beeld geven van de toekomst van brand- en diefstalpreventie/bescherming, waarvan AI zeker een noodzakelijke bondgenoot zal zijn.
Wat is AI?
De vraag kwam naar voren. Het is niet geheel duidelijk wat artificiële intelligentie is en wat er precies onder valt. De definitie ervan wisselt naar gelang het betrokken gebied (juridisch, normatief, technologisch of ethisch). We geven de definitie van de Europese Commissie: “AI verwijst naar systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met een zekere mate van autonomie – actie te ondernemen om specifieke doelstellingen te bereiken”. We wijzen erop dat AI niet beperkt is tot hardware, zoals robots, drones, zelfrijdende auto’s of intelligente objecten, maar ook bestaat in de vorm van pure software, spelers in de virtuele wereld (beeldanalyse, herkenningssystemen, enz.). Ten slotte wordt AI, zoals de robotica-specialist Yannick Gillet zegt, “gekenmerkt door een automatische leervermogen waardoor een actie kan worden voorspeld op basis van wat zij heeft geleerd van miljoenen gegevens”. En in het geval van brand/diefstalbeveiliging, van miljoenen beelden.
De onderzoeker wijst al op een eerste valkuil: “AI stelt alleen algoritmen samen en handelt alleen op basis van gegevens die haar worden verstrekt. Dit betekent dat de effectiviteit nooit 100% gegarandeerd is. Er blijft altijd een risico bestaan dat ernstig kan blijken te zijn (vooral in het geval van brand). Het is duidelijk dat het altijd noodzakelijk is achter KI-toepassingen menselijke intelligentie en controle in te voegen.” Vooral omdat artificiële intelligentie wordt gekenmerkt door een ‘blackbox’, een zelflerende activiteitenzone met een ondoorzichtig proces waarbij interne rekenmechanismes en een autonome algoritme-ontwikkeling plaatsvinden. Het feit dat AI geheimen kan cultiveren die beschermd worden door menselijk toezicht kan leiden tot storingen of schadelijke effecten bij het beheer van brandalarmen. Gespecialiseerde bewakers moeten toezicht kunnen houden op de blackbox en de algoritmes ervan valideren.
Wat zijn de aansprakelijkheidsregelingen?
Op juridisch gebied onderzoeken specialisten nu al hoe aansprakelijkheidskwesties kunnen worden behandeld in situaties waarin sprake is van artificiële intelligentie. Hervé Jacquemin, advocaat en hoogleraar bij UNamur, geeft in dat verband duidelijk een aanzet tot het debat: “Brand- en diefstalbeveiliging bestaat vooral uit apparatuur gevormd uit camera’s, sensoren, etc., gekoppeld aan een computersysteem waarin veel gegevens worden verwerkt. Tegenwoordig bestaat er ook de nieuwe dimensie van AI en de algoritmen ervan. De verschillende elementen van het apparaat kunnen afkomstig zijn van verschillende aanbieders. Wat te denken als er uiteindelijk storingen of zelfs rampen plaatsvinden? Wie is daar verantwoordelijk voor? De hardwareleverancier? De ontwerper van de AI-component? De programmeur (ook al heeft het systeem een autonoom werkingsgebied)? … “Op het gebied van vaststelling van verantwoordelijkheden zullen de regels moeten evolueren”, geeft de specialist aan. “Een van de opties zou zijn om een centrale exploitant van het beveiligingssysteem aan te wijzen als verantwoordelijke, die dan een aan zijn AI-activiteit gekoppelde verzekering moet afsluiten om eventuele slachtoffers schadeloos te kunnen stellen.”
De advocaat geeft ook nog een advies aan alle medewerkers die betrokken zijn bij brand- en diefstalbeveiliging en met AI werken: “Wees transparant als u contracten met een klant afsluit. Het moet voor de klant volkomen duidelijk zijn dat het AI-systeem dat hij koopt, met de huidige stand van de techniek, slechts voor 80, 90 of 95% betrouwbaar is. Hij moet zich bewust zijn van dit risiconiveau.” Hervé Jacquemin is van mening dat een adequate aansprakelijkheidsregeling voor AI niet een regeling is gebaseerd op “schuld” is, maar op “verantwoordelijk is voor het gebeurde” (een fout die schade veroorzaakt) of “defecte producten”. AI opent een breed gebied van juridische aanpassing en interpretatie.
Vuur en vlam
Ver van juridische overwegingen, van fouten en risico’s, nam Florian Vandecasteele het publiek mee naar de echte wereld van brandbeveiliging en interventie, waarbij hij wees op de toegevoegde waarde en het toekomstige potentieel van AI in veel situaties. Als datawetenschapper bij d-sides en... brandweerman weet de adviseur waar hij het over heeft. “Bij een interventie hebben brandweerlui snel veel informatie nodig. Hier kan het geïnstalleerde brand/diefstalbeveiligingssysteem (camera’s, sensoren) cruciaal zijn en nog meer als het over een optimale AI-dimensie beschikt. Het systeem bevat heel veel databronnen die de keuzes van evacuatie en de actie van brandweerlui te midden van rook en vlammen kunnen vergemakkelijken. AI kan plaatsen, objecten, topografie herkennen die in haar geheugen zitten en onmiddellijk een plaats in een normale situatie vergelijken met de gegevens in een brandsituatie. We moeten ook niet vergeten dat brandweerlui in actie zelf vaak zijn uitgerust met lichaamscamera’s en dat de toekomst ligt in intelligente kleding en de integratie van augmented reality in hun helmen.”
Florian Vandecasteele breidt zijn optimistische visie uit tot de opneming van grote hoeveelheid data van BIM (3D-gegevens van gebouwen) in de analyse van voorkoming en/of optreden van schade. Hij ziet ook een grote toekomst voor drones, robots... Op één voorwaarde: AI kan alleen effectief zijn, voor beveiliging en voor interventie, als de gegevens voortdurend worden bijgewerkt en toegankelijk zijn.
Benoît Stockbroeckx, directeur van de Anpi-laboratoria belast met de controle van de prestaties van beveiligingssystemen, gelooft ook in de voorspellende kracht van de AI-algoritmen om bosbranden te begrijpen en te controleren zodat ze beter kunnen worden voorkomen en de evacuatie van de bevolking kan worden beheerst en georganiseerd. “Het doel is om een stochastisch (niet-deterministisch) model te hanteren dat het soms onvoorspelbare beslissingsgedrag van personen in gevaarlijke situaties simuleert. Door zoveel mogelijk gegevens te verzamelen kan worden geanticipeerd op vluchtscenario’s voor grote massa’s mensen en de gevolgen daarvan. Algoritmische cartografische simulaties hebben al geleid tot een aanzienlijke vermindering van het aantal bosbranden.” In termen van conventionele branddetectie gelooft de onderzoeker in “het compenseren van risico’s door verfijnde diagnoses te maken van brandsituaties. Maar we hebben pas echt een AI-beveiligingssysteem als dit over een leerfunctie beschikt.”
Door Fernand Letist
