Niels Hagen, een persoonlijk filosofisch weblog

Over: duurzaamheid, film, kunst, liefde, literatuur, muziek, politiek, sport en wetenschap

Transcendence en nadenken over zelflerende computers

Een computerprogramma dat de mens vervangt, is dat mogelijk? In Transcendence, een film met Johnny Depp in de hoofdrol, is dat het uitgangspunt voor het verhaal. Een wetenschapper die onderzoek doet naar artificiële intelligentie wordt getroffen door een ongeneeslijke ziekte en besluit zijn project naar een nieuw hoogtepunt te brengen. Zijn brein omgezet in bits en bytes, zodat hij na zijn fysieke dood toch verder kan leven. Om het droomdoel te verwezenlijken van zijn vrouw te verwezenlijken, namelijk zorgen voor een beter leefbare wereld. Science fiction, vooralsnog, maar wie de wetenschap volgt, weet dat deze gedachten niet nieuw zijn.

Paperclips

Nick Bostrom, als filosoof verbonden aan de Universiteit van Oxford, kwam in 2003 met een gedachte experiment. Stel dat we een zelflerend programma uitvinden, dat we de opdracht geven om zoveel mogelijk paperclips te produceren. Hoe zou zo’n programma kunnen werken? Ten eerste zal het programma zorgen dat het nooit uitgezet kan worden. Want alleen zonder uit te zetten, kan het programma doen waarvoor het gemaakt is. En dus kan het programma besluiten de mens uit de weg te ruimen. Ook zal het programma zoveel mogelijk grondstoffen nodig hebben om zijn paperclips te kunnen maken. Aangezien niet gezegd is uit welk materiaal paperclips moeten bestaan, kan de mens wellicht goed als grondstof dienen.

Zelflerend vermogen

Die toekomst is misschien al dichterbij dan wij zelf denken. Zo laat de Correspondent enkele voorbeelden de revue passeren. Google gebruikt een autonoom rijdende auto. dat een zelflerend vermogen heeft. Zo kan de auto snel reageren in een veranderende omgeving, bijvoorbeeld wanneer een auto voor hem plotseling remt. Gevechtsdrones zijn al uitgerust met programma’s om zelf keuzes te maken wie de vijand is en of zij deze moeten doden. En dichter bij ons zelf is de mobiele telefoon die spraakopdrachten kan herkennen en uitvoeren. Veel systemen zijn al zelflerend en gericht op bepaalde doelen om ons in onze handelingen te helpen. Het probleem dat onderzoekers als Nick Bostrom aanstippen is dat we niet weten hoe een zelflerend vermogen de menselijke opdracht zal interpreteren. Hoe kunnen we veilig omgaan met programma’s die zelf leren?

Onzekerheid

Het is belangrijk om over die onzekerheid na te denken. De opkomst van zelflerende machines is niet iets dat we kunnen tegenhouden. De vraag is of dat zo blijft wanneer we ze abstractere opdrachten geven. Het paperclip gedachte experiment is wat dat betreft een ogenschijnlijk verkeerd voorbeeld. Stel je echter voor dat je een programma de opdracht geeft alle mensen op aarde gelukkig te maken. In ons taalgebruik en in onze interpretatie is een symbool voor geluk de smilie. Om de mens gelukkig te maken, kan het programma er voor kiezen iedereen een lachend gezicht te geven. Wat nu als het als ultieme oplossing plastisch chirurgie ziet, waardoor niemand meer niet-lachend door het leven kan gaan?

Menselijke waarden

Daarom moeten we in de opdrachten die we machines geven, menselijke waarden die we delen en belangrijk vinden programmeren. Maar wat we aan waarden delen, dat is nog niet zo makkelijk bepaald. De verschillende oorlogen over de wereld, maar ook discussies zoals die rondom de figuur van Zwarte Piet laten zien dat we misschien wel teveel verschillen van elkaar. Kunnen we daarom wel zorgen dat zelflerende machines geen mens zal kwetsen, pijn doen of doden? Die vraag moeten we ons blijven stellen, wanneer we nieuwe zelflerende technieken willen invoeren om ons leven op het eerste oog een beetje beter te maken.

Advertenties

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit / Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit / Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit / Bijwerken )

Google+ photo

Je reageert onder je Google+ account. Log uit / Bijwerken )

Verbinden met %s

Informatie

Dit bericht was geplaatst op 18 november 2014 door in Film en TV, Filosofie en getagd als , , , , .
%d bloggers liken dit: