ChatGPT is een nieuwe AI-chatbot die krachtig en snel werkt, maar veel mensen hebben erop gewezen dat deze een aantal ernstige tekortkomingen heeft. Vraag hem wat je maar wilt, en je krijgt een antwoord dat eruitziet alsof het door een mens is gemaakt, nadat hij de kennis en schrijfvaardigheid heeft gekregen van training op grote hoeveelheden online gegevens.
Maar net als internet is de grens tussen feit en fictie zeker vloeiend, en ChatGPT maakt zich meer dan eens schuldig aan het maken van een fout. Met ChatGPT klaar om onze toekomst te veranderen, zijn hier enkele van onze grootste zorgen hierover. Verifiëren Heeft ChatGPT privacyproblemen?
Snelle links
Wat is ChatGPT?
ChatGPT is een natuurlijke taalparadigma dat is ontworpen om reacties te produceren die sterk lijken op menselijke gesprekken. Net als bij ruzie met iemand, kun je met ChatGPT praten, en het onthoudt dingen die je in het verleden hebt gezegd, terwijl het ook in staat is om zijn antwoorden te corrigeren wanneer hij wordt uitgedaagd.
Het is getraind op allerlei soorten teksten van internet, je kunt hierbij denken aan Wikipedia, blogposts, boeken en wetenschappelijke artikelen. Dit betekent dat het niet alleen op een mensachtige manier op u reageert, maar ook informatie over onze huidige wereld kan oproepen en historische informatie uit ons verleden kan halen.
ChatGPT leren gebruiken is eenvoudig en het is gemakkelijk om voor de gek gehouden te worden door te denken dat het AI-systeem probleemloos werkt. In de maanden sinds de lancering hebben gebruikers over de hele wereld de AI-chatbot echter tot het uiterste gedreven, waardoor enkele grote problemen aan het licht kwamen.
1. ChatGPT genereert verkeerde antwoorden
ChatGPT slaagt niet voor elementaire wiskunde, lijkt geen eenvoudige logische vragen te beantwoorden en gaat zelfs zo ver dat het feiten bespreekt die niet helemaal waar zijn. Zoals mensen op sociale media zullen beamen, kan ChatGPT meer dan eens fout gaan.
bedrijf kennen OpenAI Over deze beperking schreef ik het volgende: "ChatGPT schrijft soms antwoorden die redelijk lijken, maar onjuist zijn of nergens op slaan." Deze 'hallucinaties' van feit en fictie, zoals ik ze noem, zijn bijzonder gevaarlijk als het gaat om zaken als medisch advies of het juist krijgen van de feiten over belangrijke historische gebeurtenissen.
In tegenstelling tot andere AI-assistenten zoals Siri of Alexa, gebruikt ChatGPT geen internet om antwoorden te selecteren. In plaats daarvan bouwt het woord voor woord een zin op en kiest het meest waarschijnlijke "token" dat daarna zou moeten komen, op basis van zijn eigen training. Met andere woorden, ChatGPT komt tot een antwoord door een reeks gissingen te doen, wat een deel van de reden is waarom het verkeerde antwoorden argumenteert alsof ze precies goed waren.
Hoewel hij geweldig is in het uitleggen van complexe concepten, waardoor hij een krachtig leermiddel is, is het belangrijk om niet alles te geloven wat hij zegt. ChatGPT heeft niet altijd gelijk - althans nog niet. Verifiëren ChatGPT kan grappen maken, maar kan AI ons echt aan het lachen maken?
2. ChatGPT heeft een vooroordeel in zijn model
ChatGPT is getraind op de collectieve teksten die zijn geschreven door veel mensen over de hele wereld, vroeger en nu. Helaas betekent dit dat dezelfde vooroordelen die in de echte wereld bestaan, ook in het model kunnen verschijnen.
Van ChatGPT is aangetoond dat het een aantal vreselijke antwoorden oplevert die discrimineren tegen geslacht, etniciteit en minderheden, iets wat het bedrijf probeert te verminderen.
Een manier om dit probleem uit te leggen, is door gegevens als het probleem aan te wijzen en de mensheid de schuld te geven van de vooroordelen die online en daarbuiten zijn. Maar een deel van de verantwoordelijkheid ligt ook bij OpenAI, wiens onderzoekers en ontwikkelaars de data selecteren die worden gebruikt om ChatGPT te trainen.
Nogmaals, OpenAI erkent dat dit een probleem is en heeft gezegd dat het aanpakt wat zij "bevooroordeeld gedrag" noemen door feedback te verzamelen van gebruikers die worden aangemoedigd om slechte ChatGPT-uitvoer te markeren.
Met het potentieel om mensen te schaden, zou je kunnen stellen dat ChatGPT niet openbaar moet worden gemaakt voordat deze problemen zijn bestudeerd en opgelost. Maar de race om als eerste de krachtigste AI-tools te lanceren, zou genoeg kunnen zijn voor OpenAI om dergelijke voorzichtigheid in de wind te slaan.
Daarentegen werd in september 2022 een vergelijkbare AI-chatbot genaamd Sparrow gelanceerd, eigendom van het moederbedrijf van Google, Alphabet. Deze werd echter opzettelijk achter gesloten deuren gehouden vanwege soortgelijke veiligheidsoverwegingen.
Rond dezelfde tijd bracht Facebook een AI-taalmodel uit genaamd Galactica, bedoeld om academisch onderzoek te ondersteunen. Het werd snel teruggeroepen nadat veel gebruikers het hadden bekritiseerd vanwege het produceren van valse en bevooroordeelde resultaten met betrekking tot wetenschappelijk onderzoek.
3. ChatGPT kan functies van mensen overnemen
De hype rond de snelle ontwikkeling en implementatie van ChatGPT is nog niet voorbij, maar u zult merken dat deze kerntechnologie al is geïntegreerd in een aantal commerciële toepassingen. Onder de apps die GPT-4 hebben geïntegreerd, zijn Duolingo en Khan Academy. Verifiëren Applicaties die het GPT-4-model in hun kern hebben geïntegreerd, maar hoe werken ze?
De eerste is een app die is bedoeld om een nieuwe taal te leren, terwijl de laatste een veelzijdige leertool is die tal van cursussen biedt. Beide bieden wat in wezen een AI-leraar is, ofwel in de vorm van een door AI aangedreven personage waarmee je kunt praten in de taal die je aan het leren bent. Of als AI-docent die je gepersonaliseerde feedback kan geven over je leerproces en je voortgang.
Aan de ene kant kan het de manier waarop we leren veranderen, waardoor lesgeven toegankelijker wordt en het beheersen van vaardigheden een beetje gemakkelijker wordt. De keerzijde is echter dat dit banen wegneemt die mensen al lang hebben vervuld.
Technologische vooruitgang heeft altijd geleid tot banenverlies, maar de snelheid van de vooruitgang van kunstmatige intelligentie betekent dat veel industrieën met hetzelfde probleem worden geconfronteerd. Van onderwijs tot illustratie tot klantenservice, ChatGPT en de onderliggende technologie zullen onze moderne wereld radicaal hervormen. Verifiëren De manieren waarop generatieve AI de arbeidsmarkt zal veranderen.
4. ChatGPT kan de taal die op school wordt gebruikt, uitdagen
U kunt ChatGPT vragen uw schrijven te proeflezen of aangeven hoe u een alinea kunt verbeteren. Of u kunt uzelf volledig uit de vergelijking verwijderen en ChatGPT alles voor u laten schrijven.
Docenten hebben geëxperimenteerd met het invoeren van Engelse opdrachten in ChatGPT en kregen betere antwoorden dan veel van hun leerlingen. Van het schrijven van inleidende brieven tot het beschrijven van de belangrijkste onderwerpen in een beroemd literair werk, ChatGPT kan het allemaal zonder aarzelen.
Dit roept de vraag op: als ChatGPT ons kan schrijven, moeten studenten dan in de toekomst leren schrijven? Het lijkt misschien een existentiële vraag, maar wanneer studenten ChatGPT gaan gebruiken om hun essays te schrijven, zullen scholen snel een antwoord moeten bedenken. De snelle verspreiding van kunstmatige intelligentie in de afgelopen jaren zal veel bedrijfstakken schokken, en het onderwijs is daar slechts één van.
5. ChatGPT kan echte schade aanrichten
Eerder hebben we vermeld hoe onjuiste informatie van ChatGPT in de echte wereld schade kan aanrichten, met als voorbeeld verkeerd medisch advies. Maar er zijn ook andere zorgen.
De snelheid waarmee natuurlijk ogende tekst kan worden gegenereerd, maakt het voor een fraudeur heel gemakkelijk om zich op sociale media voor te doen als iemand die je kent. Evenzo zal het detecteren van een phishing-e-mail die is ontworpen om gevoelige details van u te extraheren, moeilijker zijn, met als bijkomend voordeel dat ChatGPT tekst kan produceren zonder grammaticale fouten, wat voorheen een duidelijk waarschuwingssignaal was.
Het verspreiden van valse informatie is ook een ernstige zorg. De schaal waarop ChatGPT tekst kan produceren, in combinatie met de mogelijkheid om onjuiste informatie overtuigend waar te laten lijken, zal informatie op internet zeker twijfelachtiger maken.
De snelheid waarmee ChatGPT informatie kan produceren, heeft al problemen veroorzaakt voor Stack Exchange, een website die zich toelegt op het geven van correcte antwoorden op alledaagse vragen. Kort nadat ChatGPT was gelanceerd, begonnen gebruikers de site te overspoelen met antwoorden die ChatGPT vroegen om het te genereren.
Zonder voldoende menselijke vrijwilligers om de achterstand weg te werken, zou het onmogelijk zijn om een hoog niveau van antwoorden van hoge kwaliteit te behouden. Om nog maar te zwijgen van het feit dat veel van de antwoorden gewoonweg onjuist waren. Om schade aan de website te voorkomen, zijn alle antwoorden gegenereerd met ChatGPT verbannen. Verifiëren Manieren waarop kinderen ChatGPT veilig kunnen gebruiken.
6. OpenAI heeft veel kracht
Met grote kracht komt grote verantwoordelijkheid, en OpenAI heeft veel kracht. Het is een van de eerste AI-bedrijven die de wereld echt opschudden met niet één, maar meerdere AI-modellen, waaronder Dall-E 2, GPT-3 en GPT-4.
OpenAI selecteert de gegevens die worden gebruikt om ChatGPT te trainen, maar deze informatie is niet openbaar beschikbaar. We weten simpelweg niet de details van hoe ChatGPT is getraind, welke gegevens zijn gebruikt, waar de gegevens vandaan komen of hoe de systeemarchitectuur er in detail uitziet.
Hoewel OpenAI veiligheid als een hoge prioriteit beschouwt, weten we veel niet over hoe de modellen zelf zullen werken, in voor- en tegenspoed. Of je nu vindt dat code open source moet zijn, of dat je het ermee eens bent dat het delen ervan geheim moet houden, we kunnen er niet veel aan doen.
Uiteindelijk moeten we blindelings vertrouwen op OpenAI om ChatGPT op verantwoorde wijze te onderzoeken, ontwikkelen en gebruiken. Of we het nu eens zijn met de methoden of niet, OpenAI zal ChatGPT blijven ontwikkelen volgens zijn eigen doelen en ethische normen. Verifiëren Heeft OpenAI echt de controle over de ChatGPT-chatbot verloren?
Pak de grootste problemen van kunstmatige intelligentie aan
Er is veel om enthousiast over te worden met ChatGPT, maar afgezien van het directe gebruik ervan, zijn er enkele serieuze problemen die het waard zijn om te begrijpen. OpenAI erkent dat ChatGPT kwaadaardige en bevooroordeelde antwoorden kan produceren, in de hoop het probleem te verminderen door gebruikersfeedback te verzamelen. Maar zijn vermogen om overtuigende tekst te produceren, zelfs wanneer de feiten niet waar zijn, kan gemakkelijk worden gebruikt door mensen met kwade bedoelingen.
Met volledig nieuwe technologie is het moeilijk te voorspellen welke problemen zich in de toekomst zullen voordoen. Dus hoewel het misschien leuk is om te gebruiken, moet u niet alles geloven wat ChatGPT zegt. U kunt nu bekijken Kan ChatGPT betrouwbare gezondheidsinformatie verstrekken?
