Stephen Hawking: de mensheid kan worden vernietigd door AI
Ontwikkelaars en wetgevers moeten zich richten op het 'maximaliseren' van de voordelen van de technologie voor de samenleving

Op deze inhoud rust copyright.
Stephen Hawking heeft gewaarschuwd dat kunstmatige intelligentie (AI) de mensheid kan vernietigen, tenzij we actie ondernemen om de risico's die het met zich meebrengt te vermijden.
Tijdens de Web Summit van dit jaar in Portugal zei de natuurkundige dat de technologie niet alleen voordelen met zich meebrengt, maar ook gevaren met zich meebrengt, zoals krachtige autonome wapens of nieuwe manieren voor enkelen om de velen te onderdrukken.
Tussen aanhalingstekens gerapporteerd door Forbes , vervolgde hij: Succes bij het creëren van effectieve AI zou wel eens de grootste gebeurtenis in de geschiedenis van onze beschaving kunnen zijn. Of het ergste. We weten het gewoon niet.
Hawking stelde voor dat de mensheid zou kunnen voorkomen dat AI ons bestaan bedreigt door de ontwikkeling ervan te reguleren.
Misschien moeten we allemaal even stoppen en ons niet alleen concentreren op het beter en succesvoller maken van onze AI, maar ook op het welzijn van de mensheid, voegde hij eraan toe.
Zijn opmerkingen komen minder dan drie maanden nadat Elon Musk, oprichter van Tesla en SpaceX, zei dat AI veel riskanter was dan de dreiging van een nucleaire aanval vanuit Noord-Korea.
Musk vertelde eerder aan een panel van Amerikaanse staatspolitici dat totdat mensen robots op straat zien gaan die mensen doden, ze niet weten hoe ze moeten reageren, omdat het zo etherisch lijkt.
Hawking prees stappen in Europa om nieuwe technologieën te reguleren, meldt CNBC , met name voorstellen die eerder dit jaar door wetgevers zijn gedaan om nieuwe regels rond AI en robotica vast te stellen.
Elon Musk zegt dat kunstmatige intelligentie gevaarlijker is dan oorlog met Noord-Korea
15 augustus
Tesla en SpaceX-oprichter Elon Musk zegt dat kunstmatige intelligentie (AI) 'enorm riskanter' is dan de dreiging van een aanval vanuit Noord-Korea.
In het kielzog van toenemende spanningen tussen Noord-Korea en de VS, zei Musk in een tweet: 'Als je je geen zorgen maakt over AI-veiligheid, zou je dat moeten zijn.'
Als u zich geen zorgen maakt over AI-veiligheid, zou u dat wel moeten zijn. Veel meer risico dan Noord-Korea. pic.twitter.com/2z0tiid0lc
— Elon Musk (@elonmusk) 12 augustus 2017
Dit is niet de eerste keer dat de in Zuid-Afrika geboren uitvinder zijn bezorgdheid uit over AI-technologie.
In een toespraak tot een publiek van Amerikaanse staatspolitici in Rhode Island vorige maand, zei Musk: 'Totdat mensen robots over straat zien gaan die mensen vermoorden, weten ze niet hoe ze moeten reageren omdat het zo etherisch lijkt.'
Om te voorkomen dat AI een bedreiging voor de mensheid wordt, zegt hij dat de Amerikaanse regering 'zoveel mogelijk moet leren' en 'inzicht moet krijgen' in hoe de technologie werkt. Het moet ook regelgeving invoeren om ervoor te zorgen dat bedrijven AI veilig ontwikkelen.
Terwijl de uitvinder toegeeft dat 'niemand graag gereguleerd wordt', zegt hij dat al het andere dat 'een gevaar voor het publiek vormt, wordt gereguleerd' en dat AI 'dat ook zou moeten zijn'.
Niemand vindt het leuk om gereguleerd te worden, maar alles (auto's, vliegtuigen, eten, drugs, etc) dat een gevaar vormt voor het publiek is gereguleerd. AI zou dat ook moeten zijn.
— Elon Musk (@elonmusk) 12 augustus 2017
De opmerkingen van Musk komen op hetzelfde moment dat kunstmatige intelligentie, ontwikkeld door zijn OpenAI-bedrijf, met succes enkele van 's werelds beste spelers versloeg in het computerspel Dota 2, meldt de bewaker .
Het systeem 'slaagde erin om al zijn 1-v-1-games te winnen op de International Dota 2-kampioenschappen tegen veel van 's werelds beste spelers die strijden om een prijzengeld van $ 24,8 miljoen.'
Elon Musk roept op tot AI-regulering voordat 'het te laat is'
18 juli
SpaceX en Tesla-oprichter Elon Musk hebben opgeroepen om de ontwikkeling van kunstmatige intelligentie (AI) te reguleren voordat 'het te laat is'.
Tijdens een bijeenkomst van Amerikaanse staatspolitici in Rhode Island afgelopen weekend, zei de in Zuid-Afrika geboren uitvinder: 'AI is een zeldzaam geval waarin ik denk dat we proactief moeten zijn in de regelgeving in plaats van reactief.
'Totdat mensen robots over straat zien gaan die mensen vermoorden, weten ze niet hoe ze moeten reageren omdat het zo etherisch lijkt.'
Hij voegde eraan toe: 'AI is een fundamenteel risico voor het voortbestaan van de menselijke beschaving.'
Hij zei ook dat AI een substantiële impact zou hebben op banen omdat 'robots alles beter kunnen doen dan wij', eraan toevoegend dat de transportsector, die volgens hem 12 procent van de banen in de VS vertegenwoordigt, 'een van de de eerste dingen volledig autonoom gaan'.
Musk sprak ook over zijn 'wens om interplanetaire kolonies op Mars te stichten' om als veilige havens te dienen als robots de aarde zouden overnemen. CleanTechnica rapporten.
Om dat in de eerste plaats te voorkomen, riep hij de overheid op om 'zoveel mogelijk te leren' en 'inzicht te krijgen' hoe AI veilig kan worden ontwikkeld.
Critici zeggen echter dat de opmerkingen van Musk 'afleiden van meer dringende zorgen', schrijft Tim Simonite op Bedrade .
Ryan Calo, een cyberrechtexpert aan de Universiteit van Washington, vertelde de website: 'Kunstmatige intelligentie is iets waar beleidsmakers aandacht aan moeten besteden.
'Maar focussen op de existentiële dreiging leidt dubbel af van het potentieel voor het goede en de echte problemen die het vandaag en op de korte termijn veroorzaakt.'