Hoe slimme luidspreker-AI's zoals Alexa en Siri gendervooroordelen versterken
Unesco dringt er bij technologiebedrijven op aan om genderneutrale versies van hun stemassistenten aan te bieden
Apple's HomePod wordt aangedreven door de Siri-spraakassistent
Justin Sullivan/Getty Images
Slimme luidsprekers aangedreven door kunstmatige intelligentie (AI) stemassistenten die vrouwelijk klinken, versterken de gendervooroordelen, volgens een nieuw VN-rapport.
Onderzoek door Unesco (United Nations Educational, Scientific and Cultural Organization) heeft uitgewezen dat AI-assistenten zoals Amazon's Alexa en Apple's Siri het idee bestendigen dat vrouwen onderdanig en tolerant moeten zijn ten opzichte van slechte behandeling, omdat de systemen gedienstig en enthousiast zijn om te behagen, De Daily Telegraph rapporten.
Het rapport - genaamd I'd blush if I kon, verwijzend naar een zin geuit door Siri na een seksuele opmerking - zegt dat technologiebedrijven die hun stemassistenten standaard vrouwelijk maken, suggereren dat vrouwen volgzame helpers zijn die beschikbaar kunnen zijn bij de aanraking van een knop, voegt de krant eraan toe.
Het bureau beschuldigt technologiebedrijven ook van het niet inbouwen van goede waarborgen tegen vijandig, beledigend en gendergerelateerd taalgebruik. De rand .
In plaats daarvan reageren de meeste AI's op agressieve opmerkingen met een sluwe grap, merkt de technische nieuwssite op. Als Siri wordt gevraagd om bijvoorbeeld een broodje te maken, zegt Siri: dat kan ik niet. Ik heb geen specerijen.
Bedrijven als Apple en Amazon, bemand door overwegend mannelijke technische teams, hebben AI-systemen gebouwd die ervoor zorgen dat hun gefeminiseerde digitale assistenten verbaal geweld begroeten met een catch-me-if-you-can-flirt, zegt het Unesco-rapport.
Wat heeft ander onderzoek opgeleverd?
Het Unesco-rapport citeert een groot aantal onderzoeken, waaronder onderzoek van het in de VS gevestigde technologiebedrijf Robin Labs, dat suggereert dat ten minste 5% van de interacties met stemassistenten ondubbelzinnig seksueel expliciet zijn.
En het bedrijf, dat digitale assistenten ontwikkelt, denkt dat het cijfer waarschijnlijk veel hoger zal zijn vanwege problemen met het detecteren van seksueel suggestieve spraak, de bewaker rapporten.
Het VN-agentschap wijst ook op een onderzoek van onderzoeksbureau Gartner, dat voorspelt dat mensen in 2020 meer gesprekken zullen voeren met de stemassistent in hun slimme speaker dan hun echtgenoten.
Stemassistenten beheren nu al naar schatting een miljard taken per maand, variërend van het afspelen van liedjes tot het contacteren van de hulpdiensten.
Hoewel sommige systemen gebruikers in staat stellen om het geslacht van hun stemassistent te veranderen, activeert de meerderheid uiteraard standaard vrouwenstemmen, de BBC rapporten.
Het Unesco-rapport concludeert dat deze schijnbare gendervooroordelen dringend aandacht verdienen.
Hoe zouden technologiebedrijven het probleem kunnen aanpakken?
Unesco pleit ervoor dat bedrijven verplicht moeten worden om hun stemassistenten te laten aankondigen dat ze geen mensen zijn wanneer ze met mensen omgaan, meldt Unesco. The Sunday Times .
Het bureau stelt ook voor dat gebruikers de mogelijkheid moeten krijgen om het geslacht van hun stemassistent te selecteren wanneer ze een nieuw apparaat krijgen en dat er een genderneutrale optie beschikbaar moet zijn, voegt de krant eraan toe.
Bovendien zouden technologiebedrijven stemassistenten moeten programmeren om verbaal geweld of seksuele intimidatie te veroordelen met antwoorden als nee of dat is niet gepast, zegt Unesco.
Techbedrijven hebben nog niet gereageerd op het onderzoek.
