Kas inimene suudab kontrollida temast kiiremat tehisaru?

Kujutame ette ettevõtet, kus tehisaru vastab klientidele, muudab tellimuste andmeid ja valmistab ette makseid.

Töötaja vaatab aeg-ajalt ekraanile ning näeb, et süsteem on juba kümneid ülesandeid lõpetanud. Enamik neist on õiged. Töö liigub kiiresti ja inimene jõuab tegeleda kõige keerulisemate küsimustega.

Siis teeb tehisaru vea.

Ta tõlgendab ühe kliendi soovi valesti, muudab tellimust ja saadab selle kohta kinnituse. Kui töötaja probleemi märkab, on tegevus juba lõpetatud.

Kes seda toimingut tegelikult kontrollis?

Inimene oli süsteemi tööle pannud. Ta oli andnud sellele õigused ja võis tulemusi üle vaadata. Aga konkreetsel hetkel tegutses süsteem kiiremini, kui inimene jõudis toimuvasse süveneda.

See näide toob esile ühe tehisaru kasutamise keskse küsimuse: kas inimese kontroll tähendab seda, et ta saab toiminguid hiljem vaadata, või seda, et ta saab olulisi vigu enne nende tagajärgi ära hoida?

Kõigepealt tuleb eristada vastamist ja tegutsemist

Kõik tehisarusüsteemid ei tee iseseisvaid toiminguid.

Kui küsime vestlusrobotilt retsepti või palume teksti kokku võtta, annab see meile vastuse. Saame selle läbi lugeda, vajaduse korral kontrollida ja alles siis otsustada, mida saadud infoga teha.

Teistsugune olukord tekib siis, kui süsteemil on ligipääs tööriistadele.

Näiteks võib tehisaru olla ühendatud e-posti, ettevõtte andmebaasi, tellimussüsteemi või programmeerimiskeskkonnaga. Kui talle on antud vajalikud õigused, võib ta lisaks soovituste andmisele ka toiminguid teha.

Ta võib koostada ja saata kirja, muuta andmeid või käivitada programmi.

Selliseid süsteeme kirjeldatakse sageli tehisaruagentidena. See nimetus ei tähenda, et neil oleks inimesele omane tahe või teadlikkus. See tähendab, et süsteem suudab talle antud ülesande täitmiseks teha mitu omavahel seotud sammu.

Just siin muutub kontrolliküsimus teravamaks.

Vastust saab enne kasutamist lugeda. Juba saadetud kirja ei saa samal viisil saatmata jätta.

Kiirus ei ole iseenesest probleem

Arvutid on paljusid ülesandeid inimestest kiiremini täitnud juba ammu.

Panganduses, tööstuses ja internetiteenustes kasutatakse automaatikat, mis töötleb infot ning reageerib inimese jaoks liiga kiiresti jälgitavas tempos.

Seetõttu ei tähenda tehisaru suur kiirus automaatselt, et inimene on kontrolli kaotanud.

Oluline on see, mille üle süsteemil on õigus otsustada ja millised tagajärjed võivad tema toimingutel olla.

Kui tehisaru sorteerib dokumente valedesse kaustadesse, võib vea parandamine olla suhteliselt lihtne.

Kui ta muudab palgaandmeid, avaldab tundlikku infot või annab korralduse füüsilisele seadmele, võivad tagajärjed olla palju tõsisemad.

Sama tehniline võimekus võib seega olla ühes kasutusolukorras väheoluline ja teises väga suure kaaluga.

Miks ei piisa sellest, et inimene „jälgib ekraani“?

Järelevalve kõlab lihtsa lahendusena: las tehisaru teeb tööd ja inimene vaatab, et kõik oleks korras.

Tegelikkuses võib see olla keerulisem.

Kui süsteem teeb lühikese ajaga sadu väikesi otsuseid, ei pruugi inimene suuta igaühe põhjust ja tagajärge eraldi läbi mõelda.

Ta näeb pigem töö kokkuvõtet kui kogu otsustusprotsessi.

Lisaks võib tekkida harjumus süsteemi usaldada, eriti siis, kui see on pikka aega õigesti töötanud.

USA riiklik standardite ja tehnoloogia instituut NIST nimetab oma generatiivse AI riskide käsitluses ühe võimaliku probleemina automatiseerimiskallet: inimene võib hakata automaatse süsteemi väljundile põhjendamatult palju toetuma.

See ei tähenda, et inimesed oleksid hooletud. Kui tööriist säästab järjepidevalt aega, on loomulik, et selle kasutamine muutub harjumuspäraseks.

Aga harjumus võib muuta üksiku vea märkamise raskemaks.

„Inimene ahelas“ ei tähenda alati tegelikku kontrolli

Tehisaru kasutamisel räägitakse sageli põhimõttest, mida inglise keeles nimetatakse human in the loop — inimene on otsustusprotsessi kaasatud.

Kuid inimese kaasamisel võib olla väga erinev sisu.

Ühel juhul teeb tehisaru ettepaneku ja ootab enne olulist toimingut inimese kinnitust.

Teisel juhul tegutseb süsteem iseseisvalt ning inimene saab hiljem tegevuslogi vaadata.

Kolmandal juhul sekkub inimene ainult siis, kui süsteem tuvastab midagi ebatavalist.

Need lahendused ei ole võrdsed, kuigi kõigi puhul võib öelda, et inimene osaleb süsteemi töös.

NIST-i tehisaru riskijuhtimise raamistik rõhutab, et inimese rollid ja vastutus peavad olema selgelt määratletud. Mõni süsteem võib töötada suurema iseseisvusega, kuid teistes olukordades on vajalik otsene inimjärelevalve.

Seega ei piisa üldisest lubadusest, et „lõplik kontroll jääb inimesele“.

Tuleb täpsustada, millal ja kuidas inimene tegelikult sekkuda saab.

Kas kinnitamisnupp lahendab probleemi?

Oletame, et tehisaru valmistab ette sada muudatust ja küsib enne nende tegemist töötajalt kinnitust.

Esmapilgul paistab kontroll olevat inimese käes.

Aga kas ta jõuab kõik sada muudatust sisuliselt üle vaadata?

Kui mitte, võib kinnitamisest saada formaalsus. Inimene vajutab nuppu, sest süsteem on tavaliselt õigesti töötanud ja töö vajab tegemist.

Seetõttu ei taga ka kinnitamisnupp üksinda mõtestatud järelevalvet.

Oluline on esitada kontrollimiseks selline info, millest inimene aru saab: mida muudetakse, miks seda tehakse, milles süsteem võib eksida ning mis juhtub pärast kinnitamist.

Kõiki toiminguid ei pea tingimata ükshaaval käsitsi kontrollima. Kuid suurema võimaliku kahjuga otsuste juures peab kontroll olema midagi enamat kui kiire pilk ekraanile.

Mõnikord on kõige tähtsam võimalus süsteem peatada

Kui süsteem teeb vea, võib esmane eesmärk olla edasiste tagajärgede vältimine.

Selleks võib olla vaja võimalust peatada uute toimingute tegemine, piirata süsteemi õigusi või katkestada ühendus mõne tööriistaga.

Kuid ka siin on oluline vahe.

Süsteemi peatamine ei pruugi tagasi pöörata kõike, mida see juba tegi.

Saadetud e-kiri võib olla adressaadini jõudnud. Avaldatud teave võib olla kopeeritud. Muudetud andmed võivad olla jõudnud teistesse süsteemidesse.

Seetõttu tuleks võimaluse korral ohtlikke või raskesti tagasipööratavaid toiminguid piirata juba enne nende lubamist.

Tehisarule ei pea andma kõiki õigusi lihtsalt seetõttu, et see suudaks nendega rohkem tööd teha.

Mida tähendab päriselt läbimõeldud kontroll?

Võtame näiteks ettevõtte klienditeeninduse.

Tehisaru võib aidata vastuseid koostada ja tellimuste kohta infot otsida. Kuid tema õigused võiksid sõltuda toimingu mõjust.

Ta võib näiteks saada loa otsida tellimuse staatust, kuid mitte muuta kliendi pangakonto andmeid.

Ta võib koostada tagasimakse ettepaneku, kuid suurema summa väljamaksmine vajab eraldi kinnitust.

Ta võib vastata korduvatele küsimustele, kuid suunata ebaselge või tundliku juhtumi inimesele.

Need on näited võimalikust töökorraldusest, mitte kõigile ettevõtetele sobiv ühine reeglistik.

Põhimõte on lihtne: mida suuremad on võimaliku vea tagajärjed, seda hoolikamalt tuleb läbi mõelda, milliseid õigusi süsteem üldse vajab.

Kas inimene peab aru saama igast tehisaru sisemisest sammust?

Mitte tingimata.

Ka tavaliste arvutiprogrammide puhul ei mõista kasutaja iga tehnilist toimingut.

Kuid ta peab saama piisavalt aru sellest, mida süsteem teeb, millised on selle piirid ja millal ei tohiks tulemust pimesi usaldada.

Tehisaru puhul on see eriti oluline, sest ladus selgitus võib jätta mulje, et vastuse või otsuse taga on põhjalikum kontroll, kui tegelikult toimus.

NIST juhib oma generatiivse AI profiilis tähelepanu nii ekslikele väljunditele kui ka ohule, et inimesed hindavad süsteemi vastuseid põhjendamatult usaldusväärseks.

Seega ei tohiks süsteemi enda selgitus olla alati ainus tõend selle kohta, et toiming oli õige.

Olulistes küsimustes võib vaja minna sõltumatut kontrolli: algandmeid, tegevuslogi, teist kontrollimeetodit või inimese erialateadmisi.

Kas tehisaru saaks kontrollida teine tehisaru?

Saaks küll — vähemalt osa kontrolliülesandeid.

Üks süsteem võib otsida teise süsteemi väljundist vastuolusid, kontrollida vorminõudeid või märgata ebatavalisi toiminguid.

Sellest võib olla palju abi, eriti siis, kui inimesel pole võimalik iga väikest sammu jälgida.

Kuid teise tehisaru lisamine ei tähenda automaatselt sõltumatut ega eksimatut kontrolli.

Süsteemid võivad kasutada sarnaseid andmeid, teha sarnaseid vigu või jätta sama probleemi märkamata.

Seepärast tuleb ka kontrollivat süsteemi testida ja jälgida.

Tehisaru võib olla üks kaitsekiht, kuid küsimus, milliseid riske tohib võtta ja kes tagajärgede eest vastutab, ei kao kuhugi.

Kas ühel päeval võib tehisaru tegutseda liiga kiiresti, et inimene jõuaks reageerida?

Mõnes kitsas ülesandes on see olukord juba tehniliselt tuttav: automaatsed süsteemid teevad toiminguid kiiremini, kui inimene suudaks neid ükshaaval jälgida.

Tehisaru puhul muudab küsimuse oluliseks see, et süsteem võib tegutseda järjest erinevate tööriistade ja ülesannete vahel.

Ta ei pruugi teha ainult üht ette programmeeritud sammu, vaid võib valida mitu järgmist tegevust vastavalt saadud infole.

See ei tõenda, et tehisaru oleks iseenesest kontrollimatu või et kontrolli kaotus oleks vältimatu.

See näitab, miks pelgalt inimese reaktsioonikiirusele rajatud järelevalve ei saa olla ainus lahendus.

Vaja on piire, mis kehtivad ka siis, kui inimene parajasti ekraani ei vaata.

Kontroll algab enne käivitusnupu vajutamist

Võib-olla ongi kõige olulisem muuta küsimuse sõnastust.

Mitte ainult: „Kas inimene suudab tehisaru piisavalt kiiresti peatada?“

Vaid ka: „Mida me lubame süsteemil teha enne, kui peatamine üldse vajalikuks muutub?“

Kui süsteemi õigused on piiratud, olulisemad toimingud vajavad kinnitust ja eksimuste tagajärgi on võimalik vähendada, ei pea inimene võistlema arvutiga kiiruses.

Tema ülesanne on otsustada reeglid, mille sees süsteem tegutseb.

Inimese kontroll ei tähenda tingimata seda, et inimene teeb iga sammu ise. See tähendab, et süsteemi iseseisvusel on läbimõeldud piirid ning oluliste otsuste eest vastutamine ei kao automaatika taha.