Dit artikel is een vervolg op typen. Zes maanden geleden braken we het nieuws dat Microsoft werkte aan een oplossing voor gezichtsherkenningssoftware die raciaal vooringenomen werd geacht. Nu eist het bedrijf zelf dat gezichtsherkenning wordt gereguleerd om vooringenomenheid te voorkomen. Dus het was ingesteld met bevooroordeelde software, en nu willen ze dat de hele industrie wordt gereguleerd om te voorkomen dat iemand anders raciaal bevooroordeelde software krijgt.
Snelle links
Primair probleem
Zoals we in juni meldden, werd de gebruikersinterface-API van Microsoft, die is gebaseerd op Azure, bekritiseerd in een onderzoekspaper. Het programma had moeite met het herkennen van donkere mensen of vrouwen. Het foutenpercentage was maar liefst 20.8%, maar met "lichtere mannelijke gezichten" was het foutenpercentage nul procent.
De reden achter dit verschil in herkenning is dat AI door mensen moet worden geprogrammeerd. De resultaten zullen alleen zo goed zijn als de mensen die de programmering hebben gedaan. Microsoft-programmeurs gebruikten niet genoeg mensen met een donkere huidskleur of genoeg vrouwen.
Microsoft loste dit op door zijn trainingsgegevens te diversifiëren en begon zijn systemen intern te testen voorafgaand aan de implementatie. Ze waren in staat om het foutenpercentage voor mensen met een donkere huidskleur tot twintig keer te verlagen en het foutenpercentage voor vrouwen tot negen keer.
Betalen voor wetgeving
Zes maanden later vroeg ik: Microsoft van regeringen om wetgeving aan te nemen die vereist dat gezichtsherkenningstechnologie wordt getest onafhankelijk om ervoor te zorgen dat het nauwkeurig is, om vooringenomenheid te voorkomen en om de rechten van gebruikers te beschermen.
"De geest van gezichtsherkenning kwam bij wijze van spreken net uit de fles", zegt Brad Smith, senior consultant bij Microsoft, in een blogpost.
“Tenzij we iets doen, lopen we het risico over vijf jaar wakker te worden en te ontdekken dat gezichtsherkenningsdiensten zich hebben uitgebreid op manieren die sociale problemen verergeren. Tegen die tijd zullen deze uitdagingen veel moeilijker zijn.
Het bedrijf vraagt dat gezichtsherkenningsresultaten door mensen worden beoordeeld in plaats van aan computers te worden overgelaten.
"Dit omvat plaatsen waar beslissingen kunnen leiden tot risico's van fysieke of emotionele schade voor de consument, waar er gevolgen kunnen zijn voor mensenrechten of grondrechten, en waar de persoonlijke vrijheid of persoonlijke privacy van de consument kan worden geschonden."
Bovendien suggereerde Smith dat degenen die gezichtsherkenning gebruiken, "moeten erkennen dat ze niet zijn ontheven van hun verplichting om te voldoen aan wetten die discriminatie van individuele consumenten of consumentengroepen verbieden".
Hij wilde er ook voor zorgen dat het gebruik van gezichtsherkenning door de regering niet neerkwam op de democratische vrijheden en mensenrechten van mensen.
"We moeten ervoor zorgen dat het jaar 2024 er niet uitziet als een pagina uit de roman 1984", besloot hij.
Verder is het
Microsoft heeft natuurlijk gelijk. Het is interessant dat ze zes maanden geleden de noodzaak niet erkenden om ervoor te zorgen dat hun programma's geen onderscheid maakten, en nu beseffen ze dit niet alleen, maar willen ze er ook voor zorgen dat niemand anders dezelfde fouten kan maken. Dat deden ze.
Heeft Microsoft, ongeacht hun eerdere status, gelijk om wetgeving en controle van gezichtsherkenningsopties te eisen? Vertel ons uw mening over de bestelling van Microsoft in de opmerkingen hieronder.
