Kes vastutab AI vea korral

Tulemus jääb inimtööks ka siis, kui AI täidab ülesande

AI-süsteem võib täita ülesande, kuid süsteem ise ei ole juriidiline isik ega saa olla vastutav. Vastutus tulemuse eest lasub füüsilisel või juriidilisel isikul: organisatsioonil, kes süsteemi kasutab, süsteemi tarnijal või mõlemal koos, olenevalt sellest, mis täpselt valesti läks ja millised kokkulepped selle kohta on tehtud. See on üks põhjustest, miks ftetoai eristab kolme kategooriat lihtsa jah või ei asemel: paljude ülesannete puhul ei ole küsimus ainult selles, kas AI suudab tööd teha, vaid ka selles, kes millist tulemust kontrollib enne, kui see väljapoole läheb või tagajärgi kaasa toob.

Kategooria "osaliselt, inimliku järelevalvega" on olemas just sel põhjusel. Nende ülesannete puhul teeb AI töö ära, kuid inimene kiidab tulemuse heaks või lükkab tagasi, ning seda põhjendatult. See järelevalve ei ole ainult kvaliteedimeede; see on ka koht, kus fikseeritakse vastutus lõpptulemuse eest. Ilma selle järelevalveta jääb sageli ebaselgeks, kellel milline kontroll oli, ning just see küsimus muutub oluliseks niipea, kui midagi läheb valesti.

Kus asuvad vastutusreeglid

AI-süsteemide vigade korral hinnatakse vastutust olemasoleva õiguse alusel: üldise võlaõiguse, tootevastutuse ning erinevate reeglite alusel, mida arendatakse Euroopa tasandil kõrgema riskiga AI-süsteemide jaoks. Millised reeglid täpselt kohalduvad, sõltub süsteemi tüübist, sektorist ja süsteemi kasutusviisist. See ei ole valdkond, kus selline tööriist nagu ftetoai saaks anda hinnangu, mis sobiks igasse olukorda; kehtiv seadustekst ja juristi selgitus selle kohta on õige lähtepunkt. Ftetoai kirjeldab, millise osa ülesandest süsteem võib üle võtta ja milline osa vajab järelevalvet, mitte seda, kes on konkreetsel juhul juriidiliselt vastutav.

Eraldi punkt on andmetöötlus: niipea, kui ülesanne puudutab isikuandmeid, tekib teine kohustuste kiht. Seda käsitleme põhjalikumalt lehel ülesannete automatiseerimise ja isikuandmete kaitse üldmääruse kohta; seal on muu hulgas kirjeldatud, miks AI-süsteemi poolt teostatav töötlus vajab omaette hinnangut, sõltumata sellest, kas süsteem täidab ülesannet sisuliselt hästi.

Mida see tähendab töö korralduse jaoks

Kuna tulemus jääb juriidilises mõttes inimtööks, on töö korraldus koht, kus tehakse praktilised valikud. Mõned mehhanismid, mis siin korduvad:

Kes kontrollib mida ja mille alusel. Kui ülesanne kuulub kategooriasse "osaliselt", on heakskiidu või tagasilükkamise ja selle aluseks oleva põhjenduse jäädvustamine lähtepunkt, mille abil saab hiljem rekonstrueerida, mis toimus.
Millised ülesanded võtab AI täielikult üle ja millistel tingimustel. Esimesse kategooriasse kuuluvate ülesannete puhul ei ole igal üksikjuhtumil inimlikku kontrolli; küsimus on siis selles, kuidas organisatsioon on eelnevalt kindlaks teinud, et see on vastutustundlik, ning kas see vastab sellele, milles tarnija ja organisatsioon on selle kohta kokku leppinud.
Kuidas on järelevalve ja seire korraldatud protsessi- ja meeskonnatasandil. See puudutab ka ülesandeid, mis on ise osaliselt automatiseeritavad, näiteks kas AI suudab üle võtta eelarve jälgimise ja kõrvalekallete tuvastamise või kas AI suudab jälgida eesmärkide ja projektide edenemist. Ka siin kehtib: süsteem annab märku, inimene hindab ja otsustab, mida sellega tehakse.

See jaotus ei anna juriidilist nõu, kuid annab faktipõhise pildi sellest, kus protsessis asuvad kontrollpunktid. See pilt on kasutatav juristi või nõustajaga peetavas vestluses selle kohta, kuidas vastutus konkreetses olukorras on jaotatud.

Kus see puudutab organisatsioonisisest nõupidamist

Viis, kuidas ülesanded jaotatakse AI ja inimese vahel ning kuidas järelevalve korraldatakse, ei ole ainult õiguslik küsimus, vaid ka küsimus töö enda korraldusest. Töökorralduse muudatused ja süsteemide kasutuselevõtt, mis puudutavad töötajate tööd, võivad kuuluda kaasotsustamisõiguse alla; millal see nii on ja millised sammud sellega kaasnevad, on kirjeldatud lehel millal on see töönõukogu pädevuses. Ka siin kehtib: see on eraldiseisev protsess küsimuse kõrval, kas AI suudab ülesande sisuliselt üle võtta.

Sarnane mehhanism kehtib nõupidamiste puhul, kus AI toetab, mitte ei asenda. Küsimuse puhul, kas AI suudab juhtida iganädalast meeskonnakoosolekut, ei ole tegemist ainult sellega, kas süsteem suudab koostada päevakorra ja teha protokolli, vaid ka sellega, kes jääb vastutavaks otsuste eest, mis sellel koosolekul tehakse. Täitmist saab toetada; see ei tähenda automaatselt, et vastutus tulemuse eest liigub kaasa.

Mida saate praegu teha

See leht kirjeldab mehhanismi, mitte valmis vastust teie olukorrale. Vastutus AI vea korral sõltub süsteemi tüübist, sektorist, tarnijaga sõlmitud kokkulepetest ja järelevalve korraldusest — ning selle hinnangu annab jurist või nõustaja, mitte tööriist, mis ülesandeid liigitab.