Kennisbank

Kuka on vastuussa tekoälyn virheestä

Lopputulos pysyy ihmistyönä, myös silloin kun tekoäly suorittaa tehtävän

Tekoälyjärjestelmä voi suorittaa tehtävän, mutta järjestelmä itse ei ole oikeushenkilö eikä sitä voida asettaa vastuuseen. Vastuu lopputuloksesta on luonnollisella henkilöllä tai oikeushenkilöllä: organisaatiolla, joka ottaa järjestelmän käyttöön, järjestelmän toimittajalla, tai näiden yhdistelmällä, riippuen siitä, mikä täsmälleen meni pieleen ja mitä siitä on sovittu. Tämä on yksi syy siihen, miksi ftetoai erottaa kolme kategoriaa yksinkertaisen kyllä tai ei -vastauksen sijaan: monissa tehtävissä kysymys ei ole vain siitä, voiko tekoäly tehdä työn, vaan siitä, kuka valvoo mitäkin lopputulosta ennen kuin se julkaistaan tai sillä on seurauksia.

Kategoria "osittain, ihmisen valvonnalla" on olemassa juuri tästä syystä. Näissä tehtävissä tekoäly suorittaa työn, mutta ihminen hyväksyy tai hylkää lopputuloksen perustellusti. Tämä valvonta ei ole pelkkä laatutoimenpide; se on myös kohta, jossa vastuu lopullisesta tuloksesta kirjataan. Ilman tätä valvontaa on usein epäselvää, kenellä oli mikäkin valvontavastuu, ja juuri tämä kysymys tulee ajankohtaiseksi heti kun jokin menee pieleen.

Mihin vastuusäännöt on kirjattu

Tekoälyjärjestelmien virheiden vastuuta arvioidaan voimassa olevan oikeuden perusteella: yleisen velvoiteoikeuden, tuotevastuun ja erityisen, Euroopan tasolla korkean riskin tekoälyjärjestelmiä varten kehitettävän sääntelyn perusteella. Mitkä säännöt tarkalleen ottaen soveltuvat, riippuu järjestelmän tyypistä, toimialasta ja tavasta, jolla järjestelmä on otettu käyttöön. Tämä ei ole alue, jolla ftetoain kaltainen työkalu voi antaa lausuntoa, joka pätisi jokaiseen tilanteeseen; ajantasainen lakiteksti ja juristin siitä antama tulkinta ovat oikea lähtökohta. Ftetoai kuvaa, minkä osan tehtävästä järjestelmä voi ottaa hoitaakseen ja mikä osa vaatii valvontaa, ei sitä, kuka konkreettisessa tapauksessa on juridisesti vastuussa.

Erillinen huomio koskee tietojenkäsittelyä: heti kun tehtävä koskee henkilötietoja, syntyy toinen velvoitteiden kerros. Tätä käsitellään laajemmin sivulla tietosuoja-asetuksesta tehtävien automatisoinnissa; siellä kuvataan muun muassa, miksi tekoälyjärjestelmän suorittama käsittely vaatii oman arvionsa, riippumatta siitä, suorittaako järjestelmä tehtävän sisällöllisesti hyvin.

Mitä tämä tarkoittaa työn järjestämisen kannalta

Koska lopputulos pysyy juridisessa mielessä ihmistyönä, on työn järjestäminen se paikka, jossa käytännön valinnat tehdään. Muutamia tähän liittyviä toistuvia mekanismeja:

• Kuka valvoo mitä, ja millä perusteella. Jos tehtävä kuuluu kategoriaan "osittain", hyväksynnän tai hylkäyksen ja sen taustalla olevan perustelun kirjaaminen on se kohta, josta jälkikäteen voidaan rekonstruoida, mitä tapahtui.
• Mitkä tehtävät tekoäly ottaa kokonaan hoitaakseen, ja millä ehdoilla. Ensimmäisen kategorian tehtävissä ei ole tapauskohtaista ihmisen valvontaa; kysymykseksi nousee tällöin, miten organisaatio on etukäteen todennut tämän olevan vastuullista, ja vastaako tämä sitä, mitä toimittaja ja organisaatio ovat siitä sopineet.
• Miten valvonta ja seuranta on järjestetty prosessi- ja tiimitasolla. Tämä koskettaa myös tehtäviä, jotka itsekin ovat osittain automatisoitavissa, kuten sitä, voiko tekoäly ottaa hoitaakseen budjetin valvonnan ja poikkeamista ilmoittamisen tai tekoäly voi seurata tavoitteiden ja projektien edistymistä. Myös näissä pätee sama periaate: j��rjestelmä huomauttaa, ihminen arvioi ja päättää, mitä sille tehdään.

Tämä jaottelu ei tuota juridista neuvoa, mutta tuottaa tosiasiallisen kuvan siitä, missä kohdin prosessia valvontapisteet sijaitsevat. Tämä kuva on käyttökelpoinen keskustelussa juristin tai neuvonantajan kanssa siitä, miten vastuu on jaettu tietyssä tilanteessa.

Miten tämä liittyy organisaation sisäiseen yhteistoimintaan

Tapa, jolla tehtävät jaetaan tekoälyn ja ihmisen kesken, ja tapa, jolla valvonta järjestetään, ei ole pelkästään juridinen kysymys vaan myös kysymys itse työn organisoinnista. Työprosessien muutokset ja työntekijöiden työhön vaikuttavien järjestelmien käyttöönotto voivat kuulua yhteistoimintamenettelyn piiriin; milloin näin on ja mitä vaiheita siihen liittyy, kuvataan sivulla milloin asia kuuluu yritysneuvoston toimivaltaan. Myös tässä pätee: tämä on erillinen prosessi sen kysymyksen rinnalla, voiko tekoäly ottaa tehtävän sisällöllisesti hoitaakseen.

Vastaava mekanismi ilmenee myös silloin, kun tekoäly tukee kokousta korvaamisen sijaan. Kysymyksessä siitä, voiko tekoäly johtaa viikoittaista tiimipalaveria, ei ole kyse vain siitä, voiko järjestelmä laatia esityslistan ja tehdä muistiinpanot, vaan myös siitä, kuka pysyy vastuussa palaverissa tehdyistä päätöksistä. Suoritusta voidaan tukea; vastuu lopputuloksesta ei siirry sen mukana automaattisesti.

Mitä voitte tehdä nyt

Tämä sivu kuvaa mekanismin, ei valmista vastausta teidän tilanteeseenne. Vastuu tekoälyn virheestä riippuu järjestelmän tyypistä, toimialasta, toimittajan kanssa sovituista ehdoista ja tavasta, jolla valvonta on järjestetty — ja tämä arviointi kuuluu juristille tai neuvonantajalle, ei tehtäviä luokittelevalle työkalulle.

Mitä voitte itse kartoittaa, on se, mikä osa työstä organisaatiossanne on tällä hetkellä tekoälyohjattua, mikä osa on valvonnan alaista ja mikä osa on ihmistyötä. Ftetoain maksuton pikatesti koostuu kahdestatoista kysymyksestä, ei vaadi tiliä, ja antaa arvion siitä, kuinka suuri osa profiilinne tunneista on tänään siirrettävissä tekoälyn hoidettavaksi. Yksittäisiin tehtäviin ja valvontarakenteisiin syvemmin pureutuva täydellinen työskannaus on vielä rakenteilla.