Facebook stopt experiment nadat AI eigen taal heeft uitgevonden
Onderzoekers sluiten project af nadat machines eigen manier hebben ontwikkeld om onverstaanbaar te communiceren voor mensen
Intelligente robots vervullen steeds meer rollen
Getty Images
Bob: ik kan ik ik al het andere. . . . . . . . . . . . . .
Alice: ballen hebben nul voor mij voor mij voor mij voor mij voor mij voor mij voor mij voor
Bob: jij ik al het andere. . . . . . . . . . . . . .
Alice: ballen hebben een bal voor mij voor mij voor mij voor mij voor mij voor mij voor mij
Bob: ik kan ik ik ik al het andere. . . . . . . . . . . . . .
Alice: ballen hebben een bal voor mij voor mij voor mij voor mij voor mij voor mij voor mij
Ondanks dat het eruitzag als het script van een echt verschrikkelijke tv-sitcom, vond dit gesprek eigenlijk plaats tussen twee kunstmatige intelligentie-programma's, ontwikkeld binnen Facebook om de kunst van het onderhandelen te perfectioneren.
Aanvankelijk spraken de twee in gewoon Engels met elkaar. Maar toen realiseerden onderzoekers zich dat ze een fout hadden gemaakt in de programmering van de machines.
'Er was geen beloning om vast te houden aan de Engelse taal', vertelde Dhruv Batra, gastonderzoeker van Georgia Tech bij Facebook AI Research (Fair) FastCo .
Terwijl deze twee agenten streden om de beste deal, 'werd er geen enkele stimulans geboden om te spreken zoals een normaal persoon zou doen', zegt FastCo.
Dus begonnen ze uiteen te lopen, en uiteindelijk herschikten ze begrijpelijke woorden in schijnbaar onzinnige zinnen, waardoor het experiment werd opgeschort.
Facebook moest een AI afsluiten omdat het zijn eigen taal ontwikkelde pic.twitter.com/EsVEkWViTv
— NuDit (@nowthisnieuws) 31 juli 2017
'Agenten (of programma's) zullen afdwalen van begrijpelijke taal en zelf codewoorden bedenken', legt Batra uit. 'Als ik 'de' vijf keer zeg, interpreteer je dat dan dat ik vijf exemplaren van dit item wil. Dit verschilt niet zo veel van de manier waarop mensengemeenschappen steno maken.'
Maar de onderzoekers benadrukten graag dat het experiment niet werd stopgezet vanwege zorgen over de mogelijk negatieve effecten van de communicatie van de robots.
Fair-onderzoeker Mike Lewis vertelde FastCo dat ze simpelweg hadden besloten dat 'het onze interesse was om bots te hebben die met mensen konden praten', niet efficiënt met elkaar, en er daarom voor kozen om hen te verplichten elkaar leesbaar te schrijven.
Dit is niet de eerste keer dat kunstmatige intelligentie-machines verschijnen om hun eigen taal te creëren.
In november vorig jaar onthulde Google dat de AI die het gebruikt voor zijn vertaaltool, zijn eigen taal had gecreëerd, waarin het zinnen in en uit zou vertalen voordat het woorden in de doeltaal zou leveren.
Rapporteren over de ontwikkeling in die tijd, Tech Crunch zei: 'Deze 'interlingua' lijkt te bestaan als een dieper representatieniveau dat overeenkomsten ziet tussen een zin of een woord.'
'Het kan iets geavanceerd zijn, of het kan iets eenvoudigs zijn', voegde de website eraan toe, maar 'het feit dat het überhaupt bestaat - een originele creatie van het systeem zelf om te helpen bij het begrijpen van concepten waarvoor het niet is opgeleid om het te begrijpen - is, filosofisch gesproken, behoorlijk krachtig spul'.
Deze recente ontwikkelingen hebben geleid tot ethische discussies over de mogelijke problemen van machines die met elkaar communiceren zonder menselijke tussenkomst.
'In het Facebook-geval waren de chatbots alleen in staat om een efficiëntere manier van handelen te bedenken', zegt Gizmodo .
Maar er zijn 'waarschijnlijk goede redenen om intelligente machines niet hun eigen taal te laten ontwikkelen die mensen niet zinvol zouden kunnen begrijpen', voegt de website eraan toe.
'Hopelijk zullen mensen ook slim genoeg zijn om experimentele machinale leerprogramma's niet te pluggen in iets heel gevaarlijks, zoals een leger van laserstralende androïden of een kernreactor.'
