Er kunstig intelligens sikker? Det er uden tvivl det mest populære emne i teknologiens verden lige nu, og det er et emne, der tiltrækker betydelig debat.
På et globalt topmøde i Paris i februar 2025 var synspunkter om AI-sikkerhed forskellige blandt verdens ledere. For eksempel opfordrede Frankrigs præsident, Emmanuel Macron, til yderligere regulering for at hjælpe AI med at komme videre, mens vicepræsidenten for USA, JD Vance, sagde, at "politikker for vækst af AI" bør prioriteres over sikkerhedshensyn.
Mens legitime virksomheder, myndigheder og folk udforsker måder at bruge AI på en ansvarlig og sikker måde, er der også en anden trussel: cyberkriminelles brug af AI til at gøre deres ondsindede aktiviteter endnu mere kraftfulde og succesrige.
AI cyberkriminalitet er en game-changer for sikkerhed på tværs af det digitale landskab, og det er afgørende, at alle er opmærksomme på de risici og de handlinger, der er nødvendige for at forblive sikker. Denne guide udforsker de forskellige typer AI-cyberangreb, hvad disse angreb betyder fra et sikkerhedssynspunkt, og hvad du kan gøre nu for at styrke dit forsvar.
Eksempler på vellykket hacking ved hjælp af AI
Risikoen for AI-genereret malware og anden kriminel aktivitet er meget mere end teoretisk - disse angreb finder allerede sted og kræver ofre over hele verden. Her er blot tre af et stort antal eksempler:
Efterligning: Guido Crosetto
I begyndelsen af 2025 brugte svindlere AI-genereret stemmeteknologi til at efterligne Italiens forsvarsminister, Guido Crosetto. De kontaktede derefter velhavende iværksættere i Italien med en fiktiv bøn om økonomisk støtte, der angiveligt skulle bruges til at hjælpe med at befri italienske journalister kidnappet i Mellemøsten. Mindst én forretningsmand blev narre til at sende penge ind på, hvad der viste sig at være en svigagtig konto.
Malware: DeepSeek ClickFix-fidus
En cyberkriminel operation har oprettet en bekræftelseswebside, der efterligner den nye kinesiske AI DeepSeek. Brugere, der gennemfører, hvad de tror er en Captcha-bekræftelse, kommanderer installationen af Vidar Stealer og Lumma Stealer, malware, der kan bruges til at stjæle følsomme oplysninger, herunder logins og bankoplysninger, hvilket i sidste ende resulterer i netbanksvig .
Brugerfejl: Samsungs ChatGPT-lækage
Selvom det ikke som sådan er et AI- virus eller malwareangreb , fremhævede denne højprofilerede hændelse, hvordan døren utilsigtet kan åbnes for AI-angreb. I foråret 2023 brugte personalet hos den koreanske teknologigigant Samsung ChatGPT til at tjekke noget af sin kildekode, uden at de var klar over, at dataene ville blive opbevaret for at videreuddanne AI-modellen. Dette bragte faktisk nogle af Samsungs meget følsomme immaterielle rettigheder til offentligheden, så alle kunne få adgang til dem.
Typer af AI-cyberangreb
Der er allerede flere forskellige måder, hvorpå AI kan bruges til ondsindet aktivitet, enten direkte eller til støtte for andre kriminelle virksomheder:
Social engineering
Et socialt ingeniørangreb er, hvor kriminelle forsøger at påvirke menneskelig adfærd og få brugere til frivilligt at opgive oplysninger eller aktiver til dem. Dette kan være alt fra følsomme personlige data , bankkontooplysninger, penge eller cryptocurrency eller adgang til bestemte enheder og databaser. AI har vist sig meget nyttigt i denne form for angreb og hjælper cyberkriminelle med at identificere mål, udvikle overbevisende personligheder og beskeder og oprette lyd- og videooptagelser, der tilføjer plausibilitet til fidusen.
Phishing-angreb
Phishing-angreb er afhængige af, at brugere tror, at de meddelelser, links og vedhæftede filer, de har modtaget, er rigtige og klikker på, hvad der viser sig at være malware. God brugeruddannelse har tidligere været med til at reducere disse angrebs succes, men AI bliver nu brugt til at gøre phishing-forsøg mere overbevisende end nogensinde før. Den kan bruges i realtidskommunikation som f.eks. WhatsApp beskeder eller kommunikation på sociale medier og endda i falske kundeservicechatbots, hvor kunderne tror, de deler deres kontooplysninger med rigtige medarbejdere.
AI ransomware
AI har udvidet de tekniske muligheder for ransomware-angreb væsentligt. Dette omfatter målforskning, såsom vurdering af systemer for de mest lovende sårbarheder at udnytte, og evnen til at tilpasse ransomware-filer, så de stadig kan undgå påvisning af cybersikkerhedsløsninger.
Adversarial AI og ondsindede GPT'er
Mange cyberkriminelle forvrænger det output, der genereres af AI ved at tilføre dem unøjagtige data eller ændre indstillingerne for AI-modellen. De introducerede unøjagtigheder kan føre til, at der oprettes farlige skævheder eller instruktioner, der passer til hackerens mål. Sideløbende med dette har der været en stigning i brugen af skadelige AI-værktøjer, der ikke indeholder nogen sikkerhedsforanstaltninger til beskyttelse mod skævhed og misbrug; GhostGPT er et nyligt eksempel på en ucensureret chatbot, der kan bruges til at oprette AI malware.
Deepfakes
Du tror måske, at deepfakes kun er en bekymring for offentlige personer, hvis ansigter og stemmer sættes i fiktive, kompromitterende positioner, men truslen mod alle er reel. Deepfake-teknologi kan bruges til at efterligne enhver gennem video, stemme eller en kombination af de to. Disse kan potentielt bruges til at få adgang til følsomme oplysninger eller endda bankkonti ved at narre sikkerhed og verifikationsprocedurer.
Bekæmpelse af ild med ild: Hvad betyder AI-drevet cyberkriminalitet for sikkerheden?
Det bedste værktøj at bruge mod AI-cybertrusler er selve kunstig intelligens. Det betyder ikke, at standardsikkerhedsløsninger er magtesløse til at forhindre AI-understøttede angreb: de vil stadig være i stand til at beskytte mod mange former for malware og hacking. Men at bringe AI ind i sikkerhedsmixet kan tilføje en ekstra dimension til flere sikkerhedsmetoder, såsom:
Hændelsesreaktion
AI kan bruges til at automatisere hændelsesresponsaktiviteter. For eksempel kan Kaspersky Incident Response blokere ondsindet aktivitet, og berørte systemer kan isoleres langt hurtigere, end et menneske, der reagerer på en systemalarm, kan klare. Drastisk reduktion af svartider og opløsningstider kan minimere virkningen af ethvert angreb, hvilket i sidste ende begrænser omfanget af afbrydelser, udgifter og tab af data.
Trusselsregistrering og proaktiv trusselsjagt
Med så mange trusler rundt omkring kan det være svært for sikkerhedsteams at følge med i alt, hvad der er derude, og undersøge alle advarsler. Det er her AI kan hjælpe ved at analysere brugeradfærd og netværkstrafik i detaljer, opdage potentielle trusler hurtigere og filtrere de falske positiver fra, som koster sikkerhedsteamene værdifuld tid. AI kan også gøre trusselsregistrering proaktiv og jage cyberangreb, før de overhovedet begynder.
Malware-analyse
Den indsigt, som AI kan generere, kan give sikkerhedsteams en meget bedre og dybdegående forståelse af, hvordan forskellige typer malware fungerer i praksis. At kunne automatisere denne analyse betyder, at sikkerhedsteam kan få adgang til denne indsigt meget hurtigere og kan træffe mere informerede beslutninger om, hvor og hvordan deres forsvar er designet og implementeret.
Sårbarhedsscanning
AI-værktøjer kan vurdere systemer og infrastruktur for at finde ud af, hvor de største sårbarheder ligger, så sikkerhedsteams bedre kan prioritere deres tid og ressourcer til at lukke disse sårbarheder ned. Disse oplysninger er afgørende for bedre håndtering af programrettelser og opdateringer, der sikrer, at de mest presserende opgraderinger installeres først.
Identitets- og adgangsstyring (IAM)
Styrken ved Identitets- og adgangsstyring er blevet væsentligt forstærket af AI gennem dens evne til at opdage usædvanlige mønstre af brugeraktivitet fra forskellige steder for at få adgangsforsøg til hastigheden af taste- og musebevægelser. Disse uregelmæssigheder kan markeres i realtid for at blokere enhver potentiel uautoriseret adgang og/eller for at generere yderligere verifikationslag for at bekræfte lovlig brug.
Etisk hacking
Etisk hacking og penetrationstest er afgørende værktøjer til at opdage sårbarheder og lukke dem proaktivt. Det kan dog være en langsom og tidskrævende virksomhed, blot på grund af størrelsen af den involverede arbejdsbyrde. AI kan dog lette administrationsbyrden ved disse opgaver på to vigtige måder: ved at automatisere de enklere og mere gentagne opgaver, der gør teams langsommere, og ved at analysere deres resultater for at levere brugbar indsigt.
Risikovurderinger
De samme fordele ved AI til etisk hacking kan også anvendes til at udvikle risikovurderinger og prioritere trusler efter fareniveauet. Dette kan også være en hverdagsagtig, tidskrævende opgave (så vigtig som den end er), så det kan være yderst nyttigt at bruge AI til at fremskynde processen, tage sig af gentagne opgaver og få mere detaljeret indsigt.
Sådan beskytter du dig selv mod AI-cyberangreb
Ud over de AI-baserede sikkerhedsfunktioner ovenfor er der masser af måder, hvorpå du kan minimere chancerne for, at AI-hacking lykkes. Fra vores ekspertsynspunkt samler den bedste vej frem mennesker, planlægning og teknologi:
Opret en handlingsplan for hændelser
Jo hurtigere du kan reagere på en hændelse, desto hurtigere kan du afbøde enhver påvirkning og sikre, at skaden ikke spredes for vidt . Ligesom en brandøvelse bør du vide præcis, hvad du skal gøre, når der opstår en sikkerhedshændelse. Din plan bør omfatte forberedelse (dvs. forebyggelse, og hvordan man reagerer), påvisning og analyse (bekræftelse af angrebets art og sværhedsgrad), inddæmning og udryddelse af angrebet (systemisolering, afhjælpning og patchning) og gendannelsestaktikker, der forhindrer hændelsen sker igen.
Lær mere om, hvordan du opbygger en effektiv strategi med Kasperskys Incident Response-løsninger .
Brug de stærkeste tilgængelige sikkerhedsplatforme
Sørg for, at du har de mest omfattende sikkerhedsbeskyttelser på plads til at forsvare dig mod eksisterende trusler og nye angreb baseret på AI cyberkriminalitet. Kaspersky Premium leverer f.eks. antivirusbeskyttelse i realtid, der straks griber ind for at forhindre et angreb; den omfatter også identitetsbeskyttelse, der yderligere beskytter følsomme personoplysninger.
Vurder sikkerhedstilstanden regelmæssigt
Med både kunstig intelligens og cyberkriminalitet i hastig udvikling, er de sikkerhedsforanstaltninger, du har på plads i dag, muligvis ikke tilstrækkelige om 12 måneder (eller potentielt endda tidligere end det). Dette betyder, at sikkerhed bør revideres og gennemgås regelmæssigt; AI kan understøtte dette gennem realtidsanalyse af brugeraktivitet og opdagelse af enhver unormal aktivitet sammenlignet med den forrige revisionsperiode.
Oprethold brugernes og medarbejdernes sikkerhedsbevidsthed
Den fortsatte succes med phishing-angreb - uanset om de er udviklet ved hjælp af AI eller ej - understreger det faktum, at god sikkerhed begynder med brugerne. Nu er tiden inde til at gøre brugerne opmærksomme på risikoen for AI-hacking og relaterede angreb, især omkring hvor overbevisende AI-genereret tekst, lyd og video kan være. Dette kan hjælpe med at minde brugerne om at være ekstremt årvågne og ikke foretage nogen aktivitet, medmindre de er 100 % sikre på, at det er sikkert at gøre det. Udforsk, hvordan Kasperskys Cybersecurity Training kan hjælpe dit team med at forblive på vagt over for AI-drevne angreb.
Relaterede artikler:
- Sociale medier og AI: Er det sikkert?
- Er ChatGPT sikkert at bruge? Her er alt, hvad du bør vide
- Sådan undgår du cyberangreb
Relaterede produkter:
