Gå til indhold
ChatGPT truer virksomheders sikkerhed – men der findes modsvar

Pressemeddelelse -

ChatGPT truer virksomheders sikkerhed – men der findes modsvar

En ny bølge af AI-baserede phishing-angreb står for døren med den øgede brug af chatbots som ChatGPT og andre AI-genererede tekster, da de er et stærkt og nemt værktøj til at producere troværdigt indhold. Dog kan ny teknologi også være med til at forhindre de nye trusler online.

ChatGPT, som er udviklet af non-profit forskningsvirksomheden OpenAI, forventes at udløse en ny bølge af AI-baserede phishing-angreb. Chatbots som ChatGPT har ændret spillereglerne ved at kunne skrive velskrevne tekster på kort tid. Det har dog også ført til udviklingen af værktøjer, der kan identificere og advare mod AI-genereret indhold, og som skal inkorporeres i platforme for at modvirke phishing.

Et eksempel på en ny teknologi, der stadig er under udvikling, som skal modstå den nye bølge af angreb, er GPT-2 Output Detector. I en online demo af GPT-2 Output Detector kan brugeren indsætte en tekst i en boks og straks udregne sandsynligheden for, at teksten er skrevet af AI. Ifølge forskning fra OpenAI har værktøjet en relativt høj detektionsrate, men værktøjet skal kombineres med metadatabaserede metoder og menneskelig dømmekraft for at være mest mulig effektiv.

“Hvis OpenAI-ingeniører har haft held med at skabe en bot, der kan skrive lige så godt eller bedre end det gennemsnitlige menneske, så er det naturligt, at de også kan skabe en bot, der er bedre end det gennemsnitlige menneske til at registrere, når en tekst er blevet genereret af AI,” siger Peter Graymon, ansvarlig for Barracuda Networks i Norden.

Vandmærker kan være en løsning

En anden måde at løse problemet på er ved at vandmærke alle ChatGPT-tekster. Ifølge OpenAI-forsker, Scott Aaronson, har ingeniører allerede bygget en fungerende prototype, der vandmærker al tekst genereret af OpenAI. Det sker via det, han kalder en "kryptografisk pseudo-random funktion". Og det er kun OpenAI, der har adgang til nøglen.

“Lige nu må vi antage, at phishing-angrebene snart vil stige i både antal og troværdighed. Mange digitale processer vil sandsynligvis skulle revurderes, fordi det nuværende niveau af tillid ikke kan opretholdes, når AI-genererede tekster og e-mails for alvor bliver et værktøj for cyberkriminelle,” siger Peter Graymon.

Læs mere om, hvordan ChatGPT øger risikoen for flere phishing-angreb her

Læs mere om værktøjerne, der afslører AI-genererede tekst her

Hvis du overvåger sikkerhedsproblemer og vil tale mere om, hvordan AI er brugt i IT-sikkerhed, er du velkommen til at kontakte Peter Graymon fra Barracuda Networks på telefon: 0709-17 80 14 eller via e-mail: pgraymon@barracuda.com

Relaterede links

https://www.barracuda.com/

Emner

Kategorier


Om Barracuda

Barracuda Networks tilbyder industriledende og omkostningseffektive it-løsninger inden for netværks- og applikationssikkerhed, e-mail-beskyttelse, informationssikkerhed, backup og arkivering med direkte kundesupport 24/7. Den prisbelønnede portefølje af sikkerhed- og databeskyttelsesløsninger understøtter hardware-baserede, virtuelle og cloud-baserede it-miljøer. Det gør det nemt for organisationer i alle størrelser at arbejde med en overordnet sikkerhedsstrategi, som håndterer alle aspekter af deres netværk, applikationer og e-mails.

Blandt de over 150.000 virksomheder og organisationer, der anvender Barracudas løsninger, findes Boeing, BT, Microsoft, IKEA, MIT, FN, Volvo og SAS samt små og mellemstore virksomheder i over 100 lande. Barracuda arbejder med en klar kanalstrategi og forhandler sine løsninger gennem mere end 5.000 partnere. Hovedkontoret ligger i Campbell, Californien (Silicon Valley) og ejes af det private investeringsselskab Thoma Bravo.

For mere information, besøg www.barracuda.com.

Kontakt

  • jonathan-kemper-UF3vfhV04SA-unsplash
    jonathan-kemper-UF3vfhV04SA-unsplash
    Licens:
    Alle rettigheder forbeholdt
    Filformat:
    .jpg
    Størrelse:
    5101 x 3401, 1,37 MB

Relateret materiale

  • Cybertruslerne stiger markant i ferieperioder, viser ny statistik

    Cybertruslerne stiger markant i ferieperioder, viser ny statistik

    Data fra IT-sikkerhedsfirmaet Barracuda Networks viser, at cybertruslen fra IT-kriminelle varierer betydeligt i løbet af året. Barracudas XDR-platform registrerede en stor stigning i sikkerhedstrusler i vinter- og sommerferieperioderne januar samt juni til september i 2022. Det tyder på, at cyberkriminelle udnytter perioder, hvor sikkerhedsafdelingerne ofte er underbemandede.

  • Her er de fire mest undervurderede cybertrusler for 2022

    Her er de fire mest undervurderede cybertrusler for 2022

    Et panel af sikkerhedseksperter fra IT-sikkerhedsfirmaet Barracuda Networks har udpeget de mest undervurderede cybertrusler i året der gik. Ifølge eksperterne omfatter truslerne softwareudvikling, applikationssikkerhed, medarbejdernes sikkerhedsbevidsthed og sandsynligheden for et angreb som de mest undervurderede risici.

  • AI er en dobbeltagent, som både truer og beskytter dig på arbejdspladsen

    AI er en dobbeltagent, som både truer og beskytter dig på arbejdspladsen

    Hackere udnytter AI til at forbedre deres angrebsmetoder, men hvem holder dem i skak? Svaret er også AI. Barracudas seneste rapport afslører, at AI spiller en dobbeltsidet rolle i vores digitale hverdag. Selvom AI kan skrive velformulerede mails, så simulerer den også handlinger, der er umulige i den virkelige verden.