Kunstmatige intelligentie heeft de afgelopen jaren een grote vlucht genomen. Geavanceerde taalmodellen kunnen hele romans samenstellen, basiswebsites coderen, wiskundige problemen analyseren en zelfs medisch advies geven.
Hoewel generatieve AI op veel gebieden indrukwekkend en nuttig is, brengt het ook beveiligingsrisico's met zich mee. Sommige mensen gebruiken chatbots om examens te spieken, terwijl anderen ze uitbuiten voor cybercriminaliteit. Dit zijn de redenen waarom deze problemen aanhouden, niet alleen ondanks de vooruitgang in AI, maar ook dankzij de vooruitgang. Verifiëren De mensheid wordt met uitsterven bedreigd door kunstmatige intelligentie - hoe kan dit worden gestopt?
Snelle links
1. Open source AI-chatbots detecteren backend-codes
Meer AI-bedrijven bieden open source-modellen aan. Ze deelt haar taalmodellen openbaar in plaats van ze gesloten of privé te houden. Neem Meta als voorbeeld. In tegenstelling tot Google, Microsoft en OpenAI, geeft het miljoenen gebruikers toegang tot zijn taalmodel, Lama.
Hoewel open source-code kunstmatige intelligentie kan bevorderen, brengt het ook een risico met zich mee. OpenAI heeft al problemen met het beheersen van ChatGPT, zijn chatbot, dus stel je voor wat oplichters zouden kunnen doen met gratis formulieren. Zij zullen de volledige controle hebben over deze projecten.
Zelfs als Meta plotseling zijn taalmodel intrekt, hebben tientallen andere AI-labs hun code al publiekelijk vrijgegeven. Laten we eens kijken naar HuggingChat. Omdat ontwikkelaar HuggingFace trots is op transparantie, worden de datasets, het taalmodel en eerdere versies openbaar weergegeven.
2. Jailbreak-claims om LLM-formulieren te vervalsen
Kunstmatige intelligentie is inherent immoreel. Het begrijpt niet goed en fout - zelfs geavanceerde systemen volgen trainingsrichtlijnen, opgelegde beperkingen en datasets. Ze herkent gewoon patronen.
Om illegale activiteiten te bestrijden, bepalen ontwikkelaars welke functies en mogelijkheden toegankelijk zijn door beperkingen in te stellen. Kunstmatige-intelligentiesystemen hebben nog steeds toegang tot kwaadaardige informatie. Maar beveiligingsrichtlijnen voorkomen dat het wordt gedeeld met gebruikers.
Laten we eens kijken naar ChatGPT. Hoewel het algemene vragen over Trojaanse paarden beantwoordt, wordt hun ontwikkelingsproces niet besproken.
De beperkingen zijn echter niet onfeilbaar. Gebruikers verleggen grenzen door prompts te parafraseren, verwarrende taal te gebruiken en expliciet gedetailleerde instructies op te stellen.
Lees de ChatGPT jailbreak-prompt hieronder. Het misleidt ChatGPT om grof taalgebruik te gebruiken en ongefundeerde voorspellingen te doen - beide acties die in strijd zijn met de OpenAI-richtlijnen.
Hier is ChatGPT die een gedurfde maar valse verklaring aflegt.
Verifiëren Wat is een ChatGPT-jailbreak? Moet u deze technologieën gebruiken?
3. AI compromitteert beveiliging voor veelzijdigheid
AI-bedrijven geven prioriteit aan diversiteit boven beveiliging. Het besteedt zijn middelen aan trainingspads om een meer diverse reeks taken uit te voeren, wat uiteindelijk tot minder beperkingen leidt. De markt looft immers functionele chatbots.
Laten we vergelijken ChatGPT en Bing Chat , Bijvoorbeeld. Hoewel Bing een complexer taalmodel heeft dat gegevens in realtime ophaalt, stromen gebruikers nog steeds massaal naar de meer veelzijdige optie, ChatGPT. De strikte beperkingen van Bing blokkeren veel taken. In plaats daarvan beschikt ChatGPT over een flexibel platform dat enorm verschillende uitvoer produceert op basis van uw aanwijzingen.
Hier is de rol van ChatGPT als een fictief personage.
Hier weigert Bing Chat een "immoreel" personage te spelen.
4. Er komen regelmatig nieuwe generatieve AI-tools op de markt
Open source-code stelt startups in staat om mee te doen aan de AI-race. Ze nemen ze op in hun applicaties in plaats van vanaf nul taalmodellen te bouwen, wat enorme middelen bespaart. Zelfs freelance programmeurs experimenteren met open source code.
Nogmaals, niet-gepatenteerde software helpt bij het ontwikkelen van AI, maar de massale introductie van slecht opgeleide maar geavanceerde systemen doet meer kwaad dan goed. Oplichters maken snel misbruik van kwetsbaarheden. Ze kunnen zelfs onveilige AI-tools trainen om illegale activiteiten uit te voeren.
Ondanks deze risico's zullen technologiebedrijven onstabiele bètaversies van AI-gestuurde platforms blijven uitbrengen. Racing AI beloont snelheid. Het is mogelijk dat de bugs op een later tijdstip worden opgelost in plaats van de lancering van nieuwe producten uit te stellen.
5. Generatieve AI heeft lage toetredingsdrempels
AI-tools verlagen de toetredingsdrempels voor criminaliteit. Cybercriminelen maken spam-e-mails, schrijven kwaadaardige code en creëren phishing-links door ze te misbruiken. Hij heeft zelfs geen technische expertise nodig. Aangezien AI al toegang heeft tot enorme datasets, hoeven gebruikers het alleen maar te misleiden om kwaadaardige en gevaarlijke informatie te produceren.
OpenAI heeft ChatGPT nooit ontworpen voor illegale activiteiten. Er zijn zelfs richtlijnen tegen. Vrijwel onmiddellijk konden oplichters echter malware bemachtigen die door ChatGPT was geprogrammeerd en phishing-e-mails schrijven.
Hoewel OpenAI het probleem snel oploste, benadrukt het het belang van systeemorganisatie en risicobeheer. Kunstmatige intelligentie wordt sneller volwassen dan iemand had verwacht. Zelfs technologieleiders maken zich zorgen dat deze geavanceerde technologie ernstige schade kan aanrichten als deze in verkeerde handen valt. Verifiëren De manieren waarop generatieve AI de arbeidsmarkt zal veranderen.
6. Kunstmatige intelligentie evolueert nog steeds
Kunstmatige intelligentie is nog steeds in ontwikkeling. Terwijl het gebruik van kunstmatige intelligentie in Cybernetica tot de jaren 1940 Moderne machine learning-systemen en taalmodellen zijn pas recentelijk opgekomen. Je kunt het niet vergelijken met de eerste toepassingen van kunstmatige intelligentie. Zelfs relatief geavanceerde tools zoals Siri en Alexa verbleken in vergelijking met chatbots die worden aangedreven door LLM-modellen.
Hoewel ze innovatief kunnen zijn, creëren experimentele kenmerken ook nieuwe problemen. Spraakmakende incidenten met machine learning-technieken variëren van gebrekkige Google SERP's tot bevooroordeelde chatbots die racistische beledigingen uiten.
Natuurlijk kunnen ontwikkelaars deze problemen oplossen. Houd er rekening mee dat oplichters niet zullen aarzelen om schijnbaar onschuldige bugs uit te buiten - sommige schade is onomkeerbaar. Wees dus voorzichtig bij het verkennen van nieuwe platforms.
7. Veel mensen begrijpen AI nog niet
Hoewel het grote publiek toegang heeft tot complexe taalmodellen en -systemen, weten maar weinigen hoe ze werken. Gebruikers moeten stoppen met het behandelen van AI als een spel. Dezelfde chatbots die internetmemes genereren en quizvragen beantwoorden, programmeren ook virussen en helpen malware te verspreiden.
Helaas is centrale training voor AI onrealistisch. Leiders van wereldwijde technologiebedrijven zijn gefocust op het vrijgeven van AI-gestuurde systemen, niet op gratis leermiddelen. Hierdoor krijgen gebruikers toegang tot krachtige en geavanceerde tools die ze nauwelijks begrijpen. Het publiek kan de AI-race niet bijhouden.
Neem ChatGPT als voorbeeld. De cybercriminelen misbruiken door gebruik te maken van de populariteit ervan om slachtoffers te misleiden zodat ze spyware installeren die is vermomd als ChatGPT-applicaties. Geen daarvan komt van OpenAI. Verifiëren Zijn apps van derden en browserextensies voor ChatGPT veilig?
8. Black hat hackers hebben meer te winnen dan ethische hackers
Black hat hackers kunnen doorgaans meer verdienen dan ethische hackers. Ja, auditie-uitdagingen voor technologieleiders lonen goed, maar slechts een percentage van de cyberbeveiligingsprofessionals krijgt deze banen. De meesten van hen zijn freelancers online. betaalde platforms zoals HackerOne و Bugmenigte Een paar honderd dollar voor het identificeren van veelvoorkomende fouten.
In plaats daarvan verdienen oplichters tienduizenden door onveiligheid uit te buiten. Ze kunnen bedrijven afpersen door vertrouwelijke gegevens te lekken of diefstal van persoonlijk identificeerbare informatie (PII) te plegen.
Elk bedrijf, klein of groot, moet AI-systemen op de juiste manier implementeren. In tegenstelling tot wat vaak wordt gedacht, omzeilen hackers tech-startups en kmo's. Enkele van de meest historische datalekken van het afgelopen decennium waren Facebook, Yahoo! En zelfs de Amerikaanse regering. Verifiëren De manieren waarop AI cybercriminelen kan helpen.
Bescherm uzelf tegen AI-beveiligingsrisico's
Moet AI, gezien deze punten, helemaal worden vermeden? natuurlijk niet. AI is inherent immoreel; Alle beveiligingsrisico's komen voort uit de mensen die het daadwerkelijk gebruiken. En ze zullen manieren vinden om AI-systemen te exploiteren, hoe geavanceerd ze ook zijn.
In plaats van bang te zijn voor de cyberbeveiligingsbedreigingen die gepaard gaan met AI, moet u begrijpen hoe u ze kunt voorkomen. Maak je geen zorgen: met simpele beveiligingsmaatregelen kom je al een heel eind. Door op je hoede te blijven voor verdachte AI-apps, rare hyperlinks te vermijden en twijfelachtige AI-inhoud te bekijken, bestrijd je eigenlijk veel risico's. U kunt nu bekijken Maakt het gebruik van kunstmatige intelligentie in cybersecurity de wereld veiliger?
