Google's AI Overzicht schuwt het niet om zo nu en dan enkele "AI-hallucinaties" te noemen, en de nieuwste is wederom een klassieke toevoeging aan de lijst. Deze hallucinaties zijn volgens AI-experts simpelweg fouten in de informatie die intelligente systemen verstrekken.
AI-overzicht Je denkt dat alles een term is, en dat is geweldig.
Kortom, als u naar Google Zoeken gaat en een willekeurige zin invoert die vaag klinkt als een idioom of spreekwoord, doet AI Overview zijn best om uw lege woorden te interpreteren.
Het werd voor het eerst gezien op Threads, hoewel het mijn aandacht trok via Greg Jenner's Bluesky-accountDeze AI-hallucinaties behoren tot mijn favorieten. Er zijn een aantal opmerkelijke voorbeelden van hoe ver de AI van Google zal gaan om uit te leggen hoe iets logisch is of past bij zijn visie op de invoer. Een bijzonder favoriet voorbeeld kwam van Ben Stegner, hoofdredacteur van MakeUseOf: "Er is geen ironie zo ironisch als een natte golfbaan."
Waarop AI Overview uitgebreid antwoordde: "Het gezegde 'er is geen ironie als een natte golfbaan' is gebaseerd op het algemene begrip dat golf, een sport die vaak wordt geassocieerd met zonnige, goed onderhouden greens, verrassend moeilijk en frustrerend kan zijn als de omstandigheden nat zijn."
Een ander voorbeeld dat ik probeerde, was "Giant Pandas Always Fall Over Twice", waarin het AI-overzicht details gaf over hoe panda's onhandig zijn en liever rollen dan lopen. Maar ze stopte daar niet en begon zich te verdiepen in het metabolisme en de energiebesparende maatregelen van panda's.
Laatste AI-overzicht: waarom u AI-aangedreven chatbots niet kunt vertrouwen
Hoewel deze vreemde en wonderlijke verklaringen grappig zijn, benadrukken ze het reële probleem van AI-gestuurde chatbots (en niet alleen van AI in het algemeen). AI-hallucinaties bestaan echt en vormen een groot probleem, vooral als de gevolgen ervan serieus worden genomen.
Toen AI-hallucinaties beperkt bleven tot mensen die specifiek AI-gestuurde chatbots zoals ChatGPT, Claude, Gemini, etc. gebruikten, was het potentiële risico redelijk beperkt. Zeker, de AI kletste wat, en dat was een probleem, maar deze mensen waren specifiek op zoek naar AI-gestuurde chatbots.
Overzicht van Google's AI en de volgende release, AI-modus, de regels. Iedereen die via Google een normale zoekopdracht wil uitvoeren, loopt het risico dat hij of zij te maken krijgt met valse en onjuiste AI-antwoorden, die worden weergegeven alsof ze echt zijn. Als er geen serieus onderzoek wordt gedaan, is Google Zoeken zoals wij dat kennen op weg naar de ondergang. Het wordt vervangen door iets dat veel erger is en nog grotere cognitieve vaardigheden vereist dan voorheen.
Deze laatste ronde van AI-hallucinaties is daar een perfect voorbeeld van. In één voorbeeld uit De goochelaarHet AI-overzicht ging zelfs zo ver dat er enkele zinnen en woorden uit boeken werden geciteerd.
