Gå direkt till innehåll
Chat GPT hotar säkerheten – men det finns motmedel

Nyhet -

Chat GPT hotar säkerheten – men det finns motmedel

Nätfiskeattacker som övertygar mottagarna att avslöja sina kontouppgifter och annan värdefull information fortsätter att vara ett allvarligt hot. Samtidigt kan en chattbot som Chat GPT och AI-genererad text göra att det snart går från dåligt till ännu värre. Särskilt som olika påverkansoperationer också blir enklare att genomföra när det med en liten insats går att generera trovärdigt innehåll i stor skala. Men i andra änden pågår arbetet med att ta fram verktyg för att upptäcka om ett stycke text har skapats av en maskin.

Chat GPT som utvecklats av det ideella forskningsbolaget OpenAI förväntas skapa en ny våg av AI-baserade nätfiskeangrepp. Utvecklingen går snabbt och vi läser dagligen om hur Chat GPT gjort om spelplanen genom att skapa välskriven text på bara ett ögonblick. På samma gång förväntas verktyg som med olika metoder identifierar och varnar för AI-genererat innehåll införlivas i plattformar som ska motverka nätfiske.

Ett par exempel på motmedel som är under utveckling är GPT-2 Output Detector och vattenmärkning.

I en online-demo av GPT-2 Output Detector kan användaren klistra in text i en ruta och omedelbart se sannolikheten att texten är skriven av AI. Enligt forskning från OpenAI har verktyget en relativt hög upptäcktsgrad, men behöver kombineras med metadatabaserade metoder och mänskligt omdöme för att bli mer effektivt.

Ett annat sätt att ta sig an problemet är att vattenmärka all Chat GPT-text. Enligt OpenAI-forskaren Scott Aaronson har ingenjörer redan byggt en fungerande prototyp som vattenstämplar all text som skapas av Open AI. För att klara det använder verktyget vad han kallar en "kryptografisk pseudoslumpfunktion." Och bara OpenAI har tillgång till nyckeln.

– Om OpenAI-ingenjörer lyckats skapa en bot som kan skriva lika bra som eller bättre än den genomsnittliga människan, så är det naturligt att de också kan skapa en bot som bättre än genomsnittet upptäcker när en text har genererats av AI, kommenterar Peter Graymon, ansvarig för Barracuda Networks i Norden.

– Just nu måste vi utgå från att nätfiskeattackerna snart kommer att öka både vad gäller volym och trovärdighet. Många digitala processer kommer sannolikt att behöva omvärderas helt enkelt därför att den nuvarande nivån av tillit inte längre är möjlig när AI-genererad text och e-post blivit ett verktyg för cyberkriminella. Möjligheterna för olika aktörer att utnyttja Chat GPT och liknande verktyg för påverkansoperationer bidrar också till att vi måste ompröva vårt sätt att ta till oss och värdera innehåll som kan se mycket trovärdigt och välskrivet ut, avslutar Peter Graymon.

Läs mer om hur Chat GPT ökar risken för fler nätfiskeangrepp» (Barracudas hemsida)
Läs mer om verktygen som avslöjar AI-genererad text» (artikel i Fast Company)

Om du bevakar säkerhetsfrågor och vill prata mer om hur AI används inom IT-säkerhet är du välkommen att kontakta Peter Graymon, Barracuda Networks, telefon: 0709-17 80 14, e-post: pgraymon@barracuda.com

Relaterade länkar

Ämnen

Kategorier

Kontakter

Relaterat innehåll

  • Säkrare distansarbete med Barracudas Zero Trust Access-lösning

    Säkrare distansarbete med Barracudas Zero Trust Access-lösning

    Distansarbete är i dag vardag på många företag, men fortfarande är det en stor utmaning att ge användarna tillgång till information på ett säkert sätt när de inte är på kontoret. Barracudas tjänst CloudGen Access har därför utökats med nya funktioner som skyddar användarna från hackerattacker och skadligt webbinnehåll oavsett var de arbetar.

  • Kritisk infrastruktur är en av de värst drabbade sektorerna. Här har ransomware-angreppen under det senaste året fyrfaldigats.

    Ransomware – de fem värst drabbade sektorerna

    Ransomware fortsätter att vara ett gissel, inte minst inom offentlig verksamhet. När Barracuda Networks kartlagt hur olika sektorer drabbats under de senaste 12 månaderna utmärker sig fem som särskilt ansatta. Värst drabbade är verksamheter inom utbildning (15 procent), följt av kommuner (12 procent), sjukvård (12 procent), infrastruktur (8 procent) och finanssektorn (6 procent).

  • Cyberkriminella blir allt mer målinriktade och sofistikerade

    Cyberkriminella blir allt mer målinriktade och sofistikerade

    I säkerhetsföretaget Barracuda Networks rapport ”Spear Phishing: Top Threats and Trends” beskrivs de senaste trenderna och metoderna som cyberkriminella använder för att lura sina offer. Framför allt växer kontostölder och så kallade korrespondenskapningar.

  • Rapporterade ransomware-attacker fördubblas när AI-taktik blir allt vanligare

    Rapporterade ransomware-attacker fördubblas när AI-taktik blir allt vanligare

    En årligen återkommande studie som analyserar rapporterade ransomware-attacker över hela världen visar att verksamheter inom kommuner, utbildning och sjukvård haft en fördubbling av antalet angrepp. Studien visar också att dessa sektorer sett ransomware-attackerna fyrfaldigas sedan 2021. Utvecklingen drivs på av AI-förbättrade angrepp och ökad automatisering för större räckvidd.

  • AI-baserad mönsteranalys stoppar kontostölder

    AI-baserad mönsteranalys stoppar kontostölder

    Förmågan hos artificiell intelligens (AI) att bygga mönster av normal aktivitet och identifiera avvikelser gör den till ett kraftfullt säkerhetsverktyg. När angripare försöker missbruka stulna konton med legitima inloggningsuppgifter har den typen av mönsteranalys visat sig vara effektiv.

  • Säkerhetsexperter utser 2022 års mest underskattade cyberhot

    Säkerhetsexperter utser 2022 års mest underskattade cyberhot

    Mitt i högsäsongen för framtidsspaningar har en expertpanel på IT-säkerhetsföretaget Barracuda Networks utsett de mest underskattade cyberhoten under 2022. Sårbara flöden för mjukvaruutveckling, applikationssäkerhet, medarbetarnas säkerhetsmedvetande och sannolikheten för ett angrepp hör enligt experterna till de mest underskattade riskerna.