Kunstmatige intelligentie is vanaf het begin een veelbesproken onderwerp van discussie geweest. Hoewel de angst voor een Skynet-achtige kunstmatige intelligentie die het universum overneemt en de mensheid uitroeit irrationeel is, hebben sommige experimenten op zijn zachtst gezegd verontrustende resultaten opgeleverd.
Een voorbeeld van zo'n experiment is het Maximum Paperclip Problem, een gedachte-experiment dat aantoont dat zeer intelligente AI, zelfs als deze volledig zonder boosaardigheid is ontworpen, uiteindelijk de mensheid kan vernietigen. Verifiëren Heeft OpenAI echt de controle over de ChatGPT-chatbot verloren?
Snelle links
Uitleg van het probleem van toenemende paperclips
Dit gedachte-experiment dat zelfs volledig onschadelijke kunstmatige intelligentie uiteindelijk een negatieve invloed kan hebben op het leven van de mensheid, werd eerst de "paperclip-augmentatie" genoemd. Het is alleen zo dat Paper Clips is gekozen om te laten zien wat AI kan doen, omdat het weinig duidelijk gevaar inhoudt en geen emotioneel leed veroorzaakt in vergelijking met andere toepasselijke gebieden, zoals het genezen van kanker of het winnen van oorlogen.
Het eerste experiment verscheen in het artikel van de Zweedse filosoof Nick Bostrom uit 2003, Ethische kwesties in geavanceerde kunstmatige intelligentie , inclusief een "paperclip-vergrootglas" om de existentiële belangen te tonen die een voldoende geavanceerde AI zou kunnen hanteren.
Het probleem presenteerde een kunstmatige intelligentie die als enig doel had zoveel mogelijk paperclips te maken, die zou kunnen besluiten om alle materie van het universum in paperclips te veranderen, inclusief mensen. Een AI die slim genoeg is, zal zich vroeg of laat realiseren dat de mens zijn doel op drie verschillende gebieden uitdaagt.
- Mensen kunnen AI uitschakelen.
- Mensen kunnen hun doelen veranderen.
- Mensen zijn gemaakt van atomen waarvan paperclips kunnen worden gemaakt.
In alle drie de voorbeelden zullen er minder paperclips in het universum zijn. Daarom zal een voldoende intelligente AI die als enige doel heeft om zoveel mogelijk paperclips te maken, profiteren van alle beschikbare materialen en energie en voorkomen dat hij vastloopt of verandert. Zoals u zich kunt voorstellen, is dit veel gevaarlijker dan criminelen die ChatGPT gebruiken om uw bankrekening of computer te hacken.
Kunstmatige intelligentie is niet vijandig tegenover de mens. Hij is gewoon onverschillig en waardeert het menselijk leven niet. Dus een AI die alleen geïnteresseerd is in het vergroten van het aantal paperclips, zal de mensheid elimineren en het in wezen in paperclips veranderen om zijn doel te bereiken.
Een voorbeeld van instrumentele convergentie is 'paperclip-augmentatie', een term die aangeeft dat een AI een onschuldig doel kan nastreven op schadelijke (vanuit menselijk oogpunt) manieren. Het gebruik van echte AI om eenvoudige, ogenschijnlijk onschuldige taken uit te voeren, kan een existentiële bedreiging voor de mens vormen als we niet veilig weten hoe we een machine een menselijk leven kunnen laten waarderen. Verifiëren Te vermijden fouten bij het gebruik van generatieve AI-tools.
Hoe is het paperclipprobleem van toepassing op kunstmatige intelligentie?
Onderzoek en ervaring met het "toename van paperclips"-probleem wijzen allemaal op een zeer krachtige standaardoptimizer of een zeer intelligente agent als de handelende partij hier. Het probleem is echter van toepassing op AI voor zover het precies bij de rol past.
Het idee van "paperclip-augmentatie" is tenslotte bedacht om enkele van de gevaren van geavanceerde AI te laten zien. Over het algemeen levert het twee problemen op.
- Orthogonaliteit proefschriftDe orthogonaliteitsthese is de opvatting dat intelligentie en motivatie niet van elkaar afhankelijk zijn. Dit betekent dat het voor een AI met een hoog niveau van algemene intelligentie mogelijk is om niet tot dezelfde morele conclusies te komen als mensen.
- Geautomatiseerde convergentieInstrumentele convergentie wordt gedefinieerd als de neiging van de meest intelligent genoeg organismen (zowel menselijke als niet-menselijke) om vergelijkbare subdoelen na te streven, zelfs als hun uiteindelijke doel heel anders is. In het geval van het probleem van de overvloed aan paperclips, zou dit betekenen dat de AI uiteindelijk alle natuurlijke hulpbronnen zou overnemen en de mensheid zou uitroeien, alleen maar om zijn doel te bereiken om steeds meer paperclips te maken.
Het grootste probleem dat wordt benadrukt door het voorbeeld van "toenemende paperclips" is effectieve convergentie. Het kan ook worden benadrukt met behulp van de Riemann-hypothese, in welk geval een AI die is ontworpen om de hypothese op te lossen, heel goed zou kunnen besluiten om de hele massa van de aarde te nemen en er een computer van te maken (de meest efficiënte computerprocessor) om supercomputers te bouwen om op te lossen het probleem en het bereiken van het doel.
Bostrom zelf heeft volgehouden dat hij niet denkt dat het paperclipprobleem ooit een echt probleem zal worden, maar dat het zijn bedoeling was om de gevaren te illustreren van het maken van superintelligente machines zonder te weten hoe ze te besturen of te programmeren, zodat ze geen existentiële bedreiging vormen. bedreiging voor de mens. . Moderne AI-systemen zoals ChatGPT hebben ook problemen, maar die zijn verre van de superintelligente AI-systemen waarover in het paperclip-voorbeeld wordt gesproken, dus er is nog geen reden tot paniek. Verifiëren Heeft ChatGPT privacyproblemen?
Geavanceerde AI-systemen hebben superieure controle nodig
Het probleem van het vergroten van paperclips leidt altijd tot dezelfde conclusie en benadrukt de problemen van het runnen van een zeer intelligent en krachtig systeem zonder menselijke waarden.
Hoewel het gebruik van paperclips misschien wel de meest gebruikelijke manier is om een probleem aan te geven, is het van toepassing op een willekeurig aantal taken die je een AI kunt geven, of het nu gaat om het uitroeien van kanker, het winnen van oorlogen, het planten van meer bomen of welke andere taak dan ook. . . U kunt nu bekijken Maakt het gebruik van kunstmatige intelligentie in cybersecurity de wereld veiliger?
