De mens-imiterende Duplex AI van Google zal mensen vertellen dat het een robot is
Maar technische experts hebben hun bezorgdheid geuit over de ethische kwesties eromheen
De Duplex stemassistent maakt een overtuigende indruk van menselijke spraak
Leon Neal/Getty Images
Google heeft gezworen mensen te waarschuwen die interactie hebben met zijn nieuwe, door mensen bedrieglijke Duplex kunstmatige intelligentie (AI) stemassistent, na een protest over ethiek.
De zoekmachine-gigant verbaasde fans toen het debuteerde met zijn nieuwe AI-systeem - die in staat is om via de telefoon met mensen te praten door een menselijke stem na te bootsen - op zijn jaarlijkse technische conferentie in Mountain View, Californië, op dinsdag.
Google demonstreerde Duplex door een gesprek tussen het AI-systeem en een kapper te demonstreren. Het systeem, dat namens een persoon een haarafspraak boekte, kon met succes telefonisch communiceren met de nietsvermoedende kapper.
Hoewel de technologie geprezen wordt vanwege de overtuigende indruk van menselijke spraak, De Daily Telegraph zegt dat sommige waarnemers denken dat het onethisch is om mensen aan de andere kant van de lijn voor de gek te houden.
Een tech-expert, Zeynep Tufekci van de New York Times, zei in een Tweet dat ze de demonstratie gruwelijk vond.
Silicon Valley is ethisch verloren, stuurloos en heeft niets geleerd, zei ze.
Google Assistent belt alsof hij een mens is, niet alleen zonder te onthullen dat het een bot is, maar voegt 'ummm' en 'aaah' toe om de mens aan de andere kant te misleiden terwijl de kamer hem toejuicht... afschuwelijk. Silicon Valley is ethisch verloren, stuurloos en heeft niets geleerd.
- zeynep tufekci (@zeynep) 9 mei 2018
In reactie op zijn critici, vertelde een Google-woordvoerder: De rand dat het bedrijf van plan is om mensen die de stemassistent tegenkomen te informeren dat ze met een geautomatiseerd systeem praten in plaats van met een echt persoon.
Duplex bevindt zich nog in een vroege ontwikkelingsfase. Dit geeft de zoekgigant de tijd om de ethische problemen van het AI-systeem aan te pakken voordat het officieel wordt gelanceerd.
Uiteindelijk hoopt het bedrijf dat Duplex zich zal ontwikkelen tot een systeem dat ooit toegankelijkheidsproblemen zou kunnen oplossen, de bewaker zegt. Dit kan betekenen dat slechthorende mobiele gebruikers bijvoorbeeld telefonisch afspraken kunnen maken.
Google is van plan deze zomer een klein testprogramma uit te voeren, zegt de krant. Hierdoor kunnen gebruikers restaurantreserveringen maken en haarafspraken boeken met behulp van de virtuele assistent.
