Experts roepen in de BMJ op tot de stopzetting van de ontwikkeling van artificiële intelligentie totdat regelgeving is ingevoerd.
Artificiële intelligentie heeft het potentieel om een revolutie teweeg te brengen in de gezondheidszorg door de diagnose van ziekten te verbeteren, betere manieren te vinden om patiënten te behandelen en de zorg toegankelijker te maken voor meer mensen, aldus experts in de BMJ Global Health.
Maar de ontwikkeling van kunstmatige intelligentie kan ook negatieve gevolgen hebben voor de gezondheid, zo schrijven de professoren en onderzoekers uit het VK, de VS, Australië, Costa Rica en Maleisië in de publicatie.
“De risico's in de geneeskunde en de gezondheidszorg zijn de mogelijkheid dat AI-fouten schade toebrengen aan patiënten, problemen met de privacy en veiligheid van gegevens en het gebruik van AI op manieren die sociale en gezondheidsongelijkheden zullen verergeren”, aldus de experts.
Het merendeel van de gezondheidsliteratuur over AI is gericht op de potentiële voordelen ervan, en discussies over de potentiële schade zijn meestal gericht op de verkeerde toepassing van AI in klinische omgevingen.
"Effectieve regulering van de ontwikkeling en het gebruik van kunstmatige intelligentie is nodig om schade te voorkomen. Zolang die effectieve regulering er niet is, moet er een moratorium op de ontwikkeling van artificiële intelligentie worden ingesteld."
Veel van de bedreigingen vloeien voort uit het opzettelijke, toevallige of onzorgvuldige misbruik van AI door mensen. Zelfs het risico en de dreiging die uitgaan van een vorm van AI die onafhankelijk van menselijke controle bestaat en functioneert, zijn momenteel nog in handen van de mens. De meningen lopen echter uiteen over de mate van risico van AI en over de relatieve afweging tussen risico en potentiële beloning, en tussen schade en voordelen.
“Door de exponentiële groei van AI-onderzoek en -ontwikkeling, wordt de kans om ernstige en mogelijk existentiële schade te voorkomen steeds kleiner. De toekomstige resultaten van de ontwikkeling van AI zullen afhangen van de beleidsbeslissingen die nu worden genomen en van de doeltreffendheid van de regelgevende instellingen om risico's en schade tot een minimum te beperken en de voordelen te maximaliseren. Cruciaal is dat, net als bij andere technologieën, het voorkomen of minimaliseren van de bedreigingen van AI internationale overeenstemming en samenwerking vereist en het vermijden van een wederzijds destructieve AI-‘wapenwedloop’. Ook moet de besluitvorming vrij zijn van belangenconflicten en worden beschermd tegen het gelobby van machtige actoren. Verontrustend is dat grote particuliere bedrijven met gevestigde financiële belangen en weinig democratisch en publiek toezicht de leiding nemen in het AGI-onderzoek”, zo besluiten de auteurs.
