Kas AI vastu tuleb hakata võitlema AI-ga?

Kui tehisintellekt muutub järjest kiiremaks ja autonoomsemaks, tekib üsna loogiline küsimus: kas inimene suudab üldse ise reageerida piisavalt kiiresti, kui rünnakuid hakkavad korraldama AI-süsteemid?

Küberkaitses liigub areng juba selles suunas, et AI ei ole ainult analüüsiv abiline, vaid võib hakata järjest rohkem toetama ohtude tuvastamist, otsuste tegemist ja vastumeetmete rakendamist.

1. aasta süstemaatiline ülevaade leidis, et LLM-põhiseid agente kasutatakse järjest enam ohtude tuvastamisel, turbeoperatsioonide automatiseerimisel ja haavatavuste analüüsis. Samas on suure autonoomiaga lahenduste puhul endiselt olulised töökindluse, ohutuse ja juhtimise küsimused. (sciencedirect.com)

See tähendab, et küsimus „AI versus AI“ pole enam ainult ulme.

See on juba kujunev praktiline probleem.

Inimese reaktsioonikiirusel on piir

Traditsioonilises küberturvalisuses toimub suur osa tööst nii, et süsteem annab häire ning inimene otsustab, mida edasi teha.

See töötab paremini siis, kui rünnak areneb tempos, millega inimene jõuab kaasa mõelda.

Aga automatiseeritud süsteem võib proovida väga kiiresti palju erinevaid variante.

Kui ründav AI suudab:

• avastada nõrkusi;
• muuta oma käitumist;
• proovida uusi ründeteid;
• analüüsida kaitsesüsteemi reaktsiooni;
• ja jätkata ilma pideva inimese sekkumiseta,

siis võib inimesel olla väga keeruline iga sammu eraldi kinnitada.

Just seetõttu arendatakse autonoomsemaid küberkaitselahendusi.

1. aasta uuringus katsetati autonoomset küberkaitse agenti, mis suutis hinnata võrgu olukorda ja rakendada vastumeetmeid küberohtude vastu. (sciencedirect.com)

Automatiseeritud turvameetmeid kasutatakse juba praegu, samal ajal kui suurema autonoomiaga AI-kaitsjaid alles arendatakse ja katsetatakse.

Kaitsev AI võib hakata tegutsema enne inimest

Kõige lihtsam näide oleks süsteem, mis avastab kahtlase tegevuse ja isoleerib nakatunud arvuti automaatselt võrgust.

Järgmine samm on keerulisem.

AI-agent võiks:

1. tuvastada ebatavalise tegevuse;
2. analüüsida võimalikku rünnakut;
3. hinnata, millised süsteemid on ohus;
4. valida vastumeetme;
5. rakendada selle;
6. jälgida, kas ründaja muudab taktikat;
7. kohandada enda kaitset.

Kõik see võiks toimuda palju kiiremini, kui inimene jõuaks iga üksikut sammu käsitsi läbi teha.

Autonoomset küberkaitset käsitlevas teaduskirjanduses vaadeldaksegi autonoomiat pigem skaalana: ühes otsas on süsteem, kus inimene kinnitab tegevuse, keskel lahendus, mis tegutseb suuresti ise inimese järelevalve all, ning kaugemas otsas süsteemid, mis võtavad rohkem otsuseid vastu iseseisvalt.

Siit tekib esimene paradoks

Mida kiiremaks rünnakud muutuvad, seda rohkem vajame automaatset kaitset.

Aga mida rohkem anname kaitsele autonoomiat, seda vähem kontrollib inimene iga üksikut otsust.

Näiteks võib kaitsev AI otsustada, et rünnaku peatamiseks tuleb:

• sulgeda server;
• katkestada liiklus;
• blokeerida kasutaja;
• eemaldada ligipääs;
• isoleerida terve võrguosa.

Kui otsus on õige, võib see päästa süsteemi.

Kui otsus on vale, võib kaitsesüsteem ise tekitada suure katkestuse.

Seetõttu pole küsimus ainult selles, kas AI suudab meid kaitsta.

Küsimus on ka selles, milliseid otsuseid tohime talle üldse lubada.

Aga mis siis, kui ründaja kasutab samuti AI-d?

Siin muutub olukord veel keerulisemaks.

Kujutame ette kahte süsteemi.

Üks otsib pidevalt nõrkusi.

Teine otsib pidevalt esimest süsteemi.

Ründav AI muudab oma taktikat.

Kaitsev AI kohandub.

Ründav AI analüüsib kaitse uut käitumist ja proovib järgmist varianti.

Selline protsess võib toimuda inimese jaoks väga kiiresti.

1. aasta ACM-i ülevaade autonoomsest küberkaitsest käsitleb olukorda, kus nii ründe- kui kaitsepoolel kasutatakse järjest autonoomsemaid agente, ning kirjeldab seda sisuliselt osana küberturvalisuse relvastusvõidujooksust. (doi.org)

See tähendab, et tulevikus ei pruugi küberkonflikt olla ainult inimene versus inimene.

See võib järjest rohkem olla ka süsteem versus süsteem.

Kas AI võiks kaitsta meid ka teise AI eest?

Tõenäoliselt jah – vähemalt teatud olukordades.

AI sobib hästi ülesannetesse, kus tuleb:

• jälgida tohutut hulka andmeid;
• märgata ebatavalisi mustreid;
• võrrelda väga paljusid sündmusi;
• reageerida kiiresti;
• kontrollida korraga paljusid süsteeme.

See võib tulevikus tähendada, et organisatsiooni küberkaitset jälgib mitte üks AI, vaid mitu erineva ülesandega agenti.

Üks tuvastab ohu.

Teine kontrollib esimese järeldust.

Kolmas hindab, kas pakutud vastumeede on ohutu.

Alles seejärel rakendatakse tegevus.

Selline mitmekihiline süsteem võib vähendada üheainsa eksliku otsuse mõju.

Aga kes kontrollib kontrollijat?

Siit tuleb järgmine probleem.

Kui üks AI kontrollib teist AI-d, võib tunduda, et probleem on lahendatud.

Aga siis tekib küsimus:

kes kontrollib seda teist süsteemi?

Kui kontrollijaks lisatakse kolmas AI, võib sama küsimuse esitada uuesti.

See ei tähenda, et mitmekihiline kontroll oleks mõttetu. Vastupidi – see võib olla väga kasulik.

Aga mingil tasandil peab ikkagi eksisteerima piir, mille inimene või inimeste kehtestatud reeglid määravad.

Näiteks:

• millistele süsteemidele AI pääseb ligi;
• milliseid toiminguid ta võib teha;
• millal peab inimene otsuse kinnitama;
• millal süsteem peab ennast peatama;
• kuidas saab tema tegevust hiljem kontrollida.

NIST käivitas 2026. aastal AI Agent Standards Initiative'i, mille eesmärk on arendada AI-agentide turvalisuse, koostalitlusvõime ja kontrolli põhimõtteid. (nist.gov)

See näitab, et küsimus agentide autonoomiast pole enam ainult teoreetiline.

Kaitsev AI ise võib olla rünnaku sihtmärk

Veel üks paradoks on see, et AI-kaitsja ei ole nähtamatu ega haavamatu.

Kui ründaja teab, et võrku kaitseb AI-agent, võib ta proovida rünnata just seda agenti.

Näiteks võib üritada anda süsteemile eksitavat infot või manipuleerida andmeid, mille põhjal agent otsuseid teeb.

NIST on käsitlenud niinimetatud agent hijacking'u ohtu. Selle puhul võib ründaja püüda mõjutada AI-agendi sisendit nii, et süsteem järgib pahatahtlikku juhist või teeb soovimatu tegevuse. (nist.gov)

Seega võib tekkida olukord, kus AI pole ainult kaitsevahend.

Temast saab ka uus rünnakupind.

Täielik autonoomia ei pruugi olla parim lahendus

Kõige kiirem süsteem oleks tõenäoliselt selline, kus inimene ei sekku üldse.

Aga kõige turvalisem ei pruugi see olla.

1. aasta süstemaatiline ülevaade toob esile, et autonoomsed LLM-agendid on tehniliselt paljulubavad, kuid töökindluse, ohutuse, koordineerimise ja juhtimise probleemid on endiselt olulised. (sciencedirect.com)

Üks võimalik mudel on, et AI võib teha kiiresti väikese riskiga otsuseid, kuid suure mõjuga tegevused vajavad inimese kinnitust.

Näiteks:

AI võib automaatselt blokeerida ühe kahtlase ühenduse.

Aga terve ettevõtte võrgu sulgemiseks peab luba andma inimene.

See võib olla kompromiss kiiruse ja kontrolli vahel.

Inimese roll võib muutuda

Kui AI-süsteemid muutuvad väga kiireks, ei pruugi inimene enam olla see, kes iga rünnaku ajal konkreetseid nuppe vajutab.

Tema roll võib liikuda teisele tasandile.

Inimene määrab:

• reeglid;
• piirid;
• lubatud tegevused;
• riskitasemed;
• vastutuse;
• süsteemi peatamise tingimused.

AI tegutseb nende piiride sees.

Sellisel juhul ei ole inimene enam tingimata operatiivne kaitsja.

Ta on pigem reeglite kehtestaja ja järelevaataja.

See võib olla üks suuremaid muutusi, mida autonoomsed AI-süsteemid kaasa toovad.

Aga ka ründaja saab sama eelise

AI ei kuulu ainult kaitsjatele.

Sama võimekus, mis aitab avastada turvaauke, võib aidata neid otsida ka ründajal.

Sama süsteem, mis analüüsib miljoneid logikirjeid, võib aidata analüüsida ka suurt hulka võimalikke ründepunkte.

Seetõttu ei tähenda parem AI-kaitse tingimata seda, et küberrünnakuid oleks tulevikus lihtsam peatada.

Võimalik on ka vastupidine tulemus: mõlemad pooled muutuvad korraga võimekamaks.

Just seda käsitleb ka 2025. aasta autonoomse küberkaitse ülevaade, kus vaadeldakse paralleelselt arenevaid autonoomseid ründe- ja kaitseagente. (doi.org)

See ei pruugi piirduda küberturvalisusega

Sama probleem võib tulevikus tekkida teisteski valdkondades.

Kui AI hakkab juhtima:

• finantstehinguid;
• elektrivõrke;
• logistikat;
• tööstust;
• sidevõrke;
• autonoomseid seadmeid,

siis võib ühe AI põhjustatud probleemi avastamine ja peatamine vajada teist AI-d.

Inimese jaoks võib süsteem lihtsalt olla liiga kiire ja liiga keeruline.

Nii võib tekkida maailm, kus AI kontrollib AI-d ning inimene kontrollib peamiselt reegleid, mille järgi need süsteemid tegutsevad.

Kas AI vastu tuleb siis tõesti AI-ga võidelda?

Mõnes valdkonnas tundub see järjest tõenäolisem.

Kui ründav süsteem töötab masinakiirusel, võib ainult inimese juhitud kaitse jääda liiga aeglaseks.

See ei tähenda siiski, et lahendus oleks anda kogu kontroll teisele autonoomsele AI-le.

Tõenäolisem mudel võib olla mitmekihiline:

AI jälgib.

AI analüüsib.

AI teeb osa kiireid otsuseid.

Teised süsteemid kontrollivad tema tegevust.

Ja inimene määrab piirid, mida need süsteemid ületada ei tohi.

Suur küsimus pole seega ainult selles, kas AI suudab kaitsta meid AI eest.

Veel tähtsam võib olla küsimus:

kas suudame ehitada kaitsesüsteemi, mis on piisavalt autonoomne, et reageerida teisele AI-le, kuid piisavalt piiratud, et inimene säilitaks selle üle tegeliku kontrolli?

Allikad ja edasi lugemine

NIST – AI Agent Standards Initiative

NIST – Strengthening AI Agent Hijacking Evaluations

Computers and Electrical Engineering – Secure autonomous cyber defense with LLM agents

Computer Networks – Design and evaluation of an Autonomous Cyber Defence agent

ACM Computing Surveys – Towards the Deployment of Realistic Autonomous Cyber Network Defence