Waar moet je op letten bij Responsible AI?
Responsible AI is een continu proces en vraagt om een fundamenteel andere manier van denken en werken. De volgende vijf toepassingstips gaan je daarbij helpen.
Whitepaper
Responsible AI voor langdurig succes met Smart Maintenance stelt productiebedrijven in staat op verantwoorde wijze succesvol te zijn.
27 sep, 2021
Aan de toegevoegde waarde van Artificial Intelligence (AI) in de industriesector twijfelt niemand meer. Zo blijkt uit onderzoek dat Smart Maintenance kan leiden tot een verlaging van de onderhoudskosten en downtime van respectievelijk 10 en 20 procent. Machine Learning (ML) kan de kwaliteit van producten tot wel 35% verbeteren.
Tegelijkertijd komt er steeds meer bewijs dat bedrijven die langdurig succesvol zijn met AI verder kijken dan alleen die business case. Niet alleen wat de oplossing doet is van belang, maar juist wat het zou moeten doen.
In dit blog lees je hoe je verantwoord met uitermate krachtige technologieën als AI en ML omgaat. En waarom dit zo belangrijk is.
Lange termijn succes
De snelle groei van zowel computerkracht als beschikbare data, zet bedrijven ertoe aan om AI-oplossingen steeds sneller te adopteren. Het vroegtijdig inzetten van slimme technologie en intelligente apparaten wordt gezien als dé manier om de concurrentie voor te blijven. Vaak ligt de focus op de kansen die AI met zich meebrengt en de snelheid van implementatie, maar wordt de bredere impact van een oplossing onvoldoende meegenomen.
Denk aan een AI-oplossing die voorspelt wanneer een machine onderhoud of reparaties nodig heeft. In de business case staan alle seinen op groen. Maar wat gebeurt er als de data wordt bevuild door bijvoorbeeld een cyberaanval? Is daar een beveiligingsmechanisme voor ingebouwd? En is er een goede risicoanalyse gedaan met betrekking tot product- en veiligheidsaansprakelijkheid voor als een oplossing disfunctioneert?
Een ander goed voorbeeld is een algoritme dat het werk van medewerkers makkelijker moet maken door processen efficiënter in te richten. Denk aan het verlenen van toegang tot bepaalde (beveiligde) faciliteiten, met bijvoorbeeld gezichtsherkenning of andere biometrische technologie. Een mooie oplossing, maar het brengt wel uitdagingen met zich mee op het gebied van privacy en security. Bovendien kunnen er biases ontstaan als het development-team werkte vanuit een onbewust (voor)oordeel. Nog te vaak is technologie een afspiegeling van hoe het geprogrammeerd is. Deze subjectieve parameters leiden tot vertekende datasets. Dit kan leiden tot onbetrouwbare inzichten of risico op discriminatie.
AI vraagt dus meer en meer om een volledige en goed doordachte aanpak. De oplossing moet niet alleen effectief zijn, maar ook veilig en compliant. Ethische afwegingen moeten worden meegenomen in besluitvorming over AI. En mechanismen moeten worden ingebouwd om potentiële vormen van bias, discriminatie en slecht presteren vroegtijdig te signaleren. Met Responsible AI zorg je ervoor dat dergelijke zaken goed zijn ingeregeld.
Nog te vaak is technologie een afspiegeling van hoe het geprogrammeerd is. Deze subjectieve parameters leiden tot vertekende datasets. Dit kan leiden tot onbetrouwbare inzichten of risico op discriminatie.
Aandachtspunten
- 1
Definieer wat AI voor jullie betekent
De eerste en belangrijkste stap is te bepalen wat AI betekent voor jullie organisatie. Bediscussieer de waarde die AI moet toevoegen en onderzoek wat mogelijke risico’s zijn. Daag elkaar uit om kritisch na te denken over de impact van de oplossing op de werkvloer, doelgroep en merkreputatie. En hoe deze aansluit bij de missie, visie en kernwaarden van de organisatie. Werk toe naar een set aan principes die richting geven aan het ontwerp en de inzet van de oplossing. Toets eerste uitkomsten bij de doelgroep en schaaf je principes bij op basis van deze inzichten.
- 2
Ontwikkel een AI-gedreven cultuur
Democratiseer de aanpak en faciliteer een interdisciplinaire samenwerking. Mogelijke risico’s van AI zijn vaak contextueel, waarbij verschillende teams een andere risicoperceptie hebben. Goede afstemming voorkomt blinde vlekken. Daarnaast leiden zelflerende systemen vaak tot nieuw gedrag. Dit betekent dat sommige risico’s moeten worden afgedekt terwijl het systeem in werking is. Nauwe samenwerking is van cruciaal belang om hier adequaat en vroegtijdig op te anticiperen.
- 3
Hanteer een bredere set aan metrics
De oplossing is succesvol als deze voldoet aan de geformuleerde principes voor Responsible AI (zie tip 1). Dit vraagt om een bredere set aan metrics. Niet alleen de waarde in termen van toegenomen efficiëntie of kostenreductie is van belang, maar ook de betrouwbaarheid, veiligheid en compliancy van de oplossing. Denk aan mogelijke bias, userfeedback en het percentage false positives. Responsible AI vraagt een meer holistische benadering voor het stellen van metrics.
- 4
Begrijp de grenzen van data en technologie
Smart Maintenance is geen wondermiddel. De effectiviteit is afhankelijk van de data. Het trainen van modellen met verkeerde of vervuilde data, resulteert in onjuiste uitkomsten en onnauwkeurige voorspellingen. Denk niet alleen goed na over de kwaliteit van de data, maar ook in hoeverre deze geschikt is voor het doel dat je wilt bereiken. Stel je wilt met Computer Vision defecten detecteren, classificeren en lokaliseren en traint het model met externe data. De kans is aanwezig dat de oplossing later in de fabriek moeite heeft de onderdelen goed te herkennen, omdat de afstand tot de producten of de belichtingsomstandigheden afwijken van de trainingsdata.
- 5
Test, test, test.
Bouw voldoende tests en kwaliteitscontroles in om mogelijke fouten en storingen vroegtijdig te signaleren en elimineren. Schrijf unit tests om ieder onderdeel van de oplossing afzonderlijk te testen. Voer integratietests uit om erop toe te zien dat de nieuwe componenten betrouwbaar samenwerken met andere applicaties en het complete systeem. Werk je testsets regelmatig bij naar aanleiding van veranderende use cases of eindgebruikers.
Starten met Responsible AI
Voor langdurig succes met AI moet over meer worden nagedacht dan alleen het werkend krijgen van de oplossing. Als trusted advisor en implementatiespecialist helpt HSO daarbij. We realiseren een oplossing die bewezen werkt, maar ook veilig en verantwoord is. Binnen de grenzen van wet- en regelgeving en passend bij de missie, visie en kernwaarden van jouw bedrijf. Neem voor meer informatie contact met ons op.