Politieagenten gebruiken een app voor gezichtsherkenning tijdens een voertuigcontrole in Coimbatore.|Fotocredits: SIVA SARAVANAN S.Kunstmatige intelligentie (AI) is meer dan ooit aanwezig in ons leven.Van het voorspellen wat we willen zien terwijl we door sociale media scrollen tot het helpen begrijpen van weerpatronen om de landbouw te beheren, AI is alomtegenwoordig.AI-algoritmen kunnen ook gedeeltelijk worden toegeschreven aan de snelheid waarmee vaccins werden ontwikkeld om COVID-19 aan te pakken.De algoritmen verwerkten complexe gegevens van klinische onderzoeken die in alle uithoeken van de wereld werden uitgevoerd, en creëerden wereldwijde samenwerkingen die zelfs tien jaar geleden niet voor mogelijk waren gehouden.Maar AI-gerelateerde technologie kan niet altijd als nuttig worden beschouwd.De gegevens die worden gebruikt om AI in te voeren, zijn vaak niet representatief voor de diversiteit van onze samenlevingen, wat resulteert in resultaten waarvan kan worden gezegd dat ze bevooroordeeld of discriminerend zijn.Terwijl India en China bijvoorbeeld samen ongeveer een derde van de wereldbevolking uitmaken, schat Google Brain dat ze slechts 3% vormen van de afbeeldingen die worden gebruikt in ImageNet, een veelgebruikte dataset.Evenzo doen zich problemen voor met gezichtsherkenningstechnologieën, die worden gebruikt om toegang te krijgen tot onze telefoons, bankrekeningen en appartementen, en die in toenemende mate worden gebruikt door wetshandhavingsinstanties bij het identificeren van vrouwen en mensen met een donkere huidskleur.Voor drie van dergelijke programma's die zijn uitgebracht door grote technologiebedrijven, was het foutenpercentage 1% voor mannen met een lichte huid, maar 19% voor mannen met een donkere huid en tot 35% voor vrouwen met een donkere huidskleur.Vooroordelen in gezichtsherkenningstechnologieën hebben geleid tot onterechte arrestaties.Deze uitdagingen zijn niet verrassend als we kijken naar hoe AI wordt ontwikkeld.Slechts één op de tien softwareontwikkelaars wereldwijd is een vrouw.Deze vrouwen komen overwegend uit westerse landen.Deze kwesties zijn van bijzonder belang voor India, dat een van 's werelds grootste markten voor AI-gerelateerde technologieën is, met een waarde van meer dan $ 7,8 miljard in 2021. Inderdaad, de National Strategy on Artificial Intelligence die in 2018 door NITI Aayog werd gepubliceerd, benadrukt het enorme potentieel van AI bij het oplossen van complexe sociale uitdagingen waarmee Indiase burgers worden geconfronteerd in gebieden zoals landbouw, gezondheid en onderwijs, naast het aanzienlijke economische rendement dat AI-gerelateerde technologieën al creëren.Om ervoor te zorgen dat het volledige potentieel van deze technologieën wordt bereikt, moeten de juiste prikkels voor ethische AI-governance worden vastgelegd in nationaal en subnationaal beleid.India heeft grote vooruitgang geboekt in de ontwikkeling van verantwoorde en ethische AI-governance, te beginnen met de #AIForAll-campagne van NITI Aayog tot de vele bedrijfsstrategieën die zijn aangenomen om ervoor te zorgen dat AI wordt ontwikkeld met gemeenschappelijke, humanistische waarden als kern.Tot voor kort was er echter geen gemeenschappelijke wereldwijde strategie om deze belangrijke agenda voort te zetten.Dit veranderde afgelopen november toen 193 landen bij UNESCO een baanbrekend akkoord bereikten over hoe AI moet worden ontworpen en gebruikt door overheden en technologiebedrijven.UNESCO's Aanbeveling over de ethiek van kunstmatige intelligentie duurde twee jaar om samen te stellen en omvatte duizenden online consultaties met mensen uit een breed scala van sociale groepen.Het heeft tot doel de machtsverhoudingen tussen mensen en de bedrijven en overheden die AI ontwikkelen fundamenteel te verschuiven.Als het bedrijfsmodel van de manier waarop deze technologieën worden ontwikkeld niet verandert om de menselijke belangen voorop te stellen, zullen de ongelijkheden groeien tot een omvang die nog nooit eerder in de geschiedenis is waargenomen;toegang tot de grondstof data is essentieel.Landen die lid zijn van UNESCO zijn overeengekomen deze aanbeveling uit te voeren door maatregelen te nemen om de volledige levenscyclus van AI-systemen te reguleren, variërend van onderzoek, ontwerp en ontwikkeling tot implementatie en gebruik.Dit betekent dat ze positieve actie moeten gebruiken om ervoor te zorgen dat vrouwen en minderheidsgroepen eerlijk vertegenwoordigd zijn in AI-ontwerpteams.Dit kan de vorm aannemen van quotasystemen die ervoor zorgen dat deze teams divers zijn, of de vorm van specifieke middelen uit hun overheidsbegrotingen om dergelijke inclusieprogramma's te ondersteunen.De aanbeveling onderstreept ook het belang van een goed beheer van gegevens, privacy en toegang tot informatie.Het stelt de noodzaak vast om de controle over gegevens in handen van gebruikers te houden, zodat ze informatie kunnen openen en verwijderen als dat nodig is.Het roept de lidstaten ook op ervoor te zorgen dat er passende waarborgen worden ontwikkeld voor de verwerking van gevoelige gegevens en dat er effectieve verantwoording wordt afgelegd, en dat er verhaalmechanismen worden geboden in geval van schade.Dit alles tilt de handhaving naar een hoger niveau.Daarnaast worden ook de bredere sociaal-culturele effecten van KI-gerelateerde technologieën aangepakt, waarbij in de aanbeveling een krachtig standpunt wordt ingenomen dat KI-systemen niet mogen worden gebruikt voor sociale scores of massale surveillance;dat bijzondere aandacht moet worden besteed aan de psychologische en cognitieve impact die deze systemen op kinderen en jongeren kunnen hebben;en dat de lidstaten niet alleen moeten investeren in digitale, media- en informatievaardigheden, maar ook in sociaal-emotionele en AI-ethische vaardigheden om kritisch denken en competenties in het digitale tijdperk te versterken.Dit is allemaal van cruciaal belang voor het waarborgen van verantwoordingsplicht en transparantie van AI-gerelateerde technologieën, ter ondersteuning van een sterke rechtsstaat die zich aanpast aan nieuwe digitale grenzen.In een aantal landen worden de principes van de aanbeveling al gebruikt in regelgeving en beleid op het gebied van AI, wat hun praktische haalbaarheid aantoont.Finland geeft een voorbeeld van goede praktijken op dit gebied, met zijn AI-strategie van 2017.Dit was de eerste in zijn soort in een Europees land en toonde aan hoe overheden ethisch AI-gebruik effectief kunnen promoten zonder afbreuk te doen aan de wens om voorop te lopen op het gebied van nieuwe technologieën.De nieuwe overeenkomst is breed en ambitieus.Het is een erkenning dat AI-gerelateerde technologieën niet kunnen blijven werken zonder een gemeenschappelijk rulebook.In de komende maanden en jaren zal de aanbeveling dienen als een kompas om regeringen en bedrijven te begeleiden, om vrijwillig AI-technologieën te ontwikkelen en in te zetten die voldoen aan de algemeen overeengekomen principes die erin zijn vastgelegd - soortgelijke stappen vonden plaats nadat de UNESCO-verklaring over het menselijk genoom normen had vastgesteld voor genetisch onderzoek.Ten tweede is het te hopen dat regeringen zelf de aanbeveling zullen gebruiken als een kader om wetgeving, regelgevende kaders en beleid vast te stellen en bij te werken om humanistische principes te verankeren in afdwingbare verantwoordingsmechanismen.Om landen te begeleiden bij de realisatie van het volledige potentieel van AI en met als doel de institutionele capaciteit van landen en alle relevante belanghebbenden op te bouwen, is UNESCO bezig met het ontwikkelen van instrumenten om hen te helpen beoordelen in hoeverre ze klaar zijn voor de implementatie van de aanbeveling en identificeren, bewaken en beoordelen van de voordelen, zorgen en risico's van het AI-systeem.Met deze overeenkomst zijn we ervan overtuigd dat we AI kunnen inzetten waar het de meeste impact kan hebben: honger, milieucrises, ongelijkheden en pandemieën.We zijn optimistisch dat we het momentum voor echte verandering hebben opgebouwd.Gabriela Ramos is de adjunct-directeur-generaal voor sociale en menselijke wetenschappen, UNESCO, en Ritva Koukku-Ronde is de ambassadeur van Finland in India en BangladeshOnze code van redactionele waardenAfdrukbare versie |22 juni 2022 13:03:13 |https://www.thehindu.com/opinion/op-ed/a-new-global-standard-for-ai-ethics/article65548955.ece