Un sistema di AI può eseguire un compito, ma il sistema in sé non è una persona giuridica e non può essere ritenuto responsabile. La responsabilità per un risultato spetta a una persona fisica o giuridica: l'organizzazione che utilizza il sistema, il fornitore del sistema, o una combinazione di entrambi, a seconda di cosa esattamente è andato storto e degli accordi presi in merito. Questo è uno dei motivi per cui ftetoai distingue tre categorie invece di un semplice sì o no: per molti compiti la domanda non è solo se l'AI possa svolgere il lavoro, ma chi controlla quale risultato prima che questo venga diffuso o abbia conseguenze.
La categoria "parzialmente, con supervisione umana" esiste esattamente per questo motivo. In questi compiti l'AI svolge il lavoro, ma una persona approva o respinge il risultato, con una motivazione. Questa supervisione non è solo una misura di qualità; è anche il punto in cui viene stabilita la responsabilità per il risultato finale. Senza questa supervisione spesso non è chiaro chi avesse quale controllo, e questa è esattamente la domanda che diventa rilevante non appena qualcosa va storto.
La responsabilità in caso di errori dei sistemi di AI viene valutata sulla base del diritto vigente: il diritto generale delle obbligazioni, la responsabilità del produttore, e la normativa specifica in fase di sviluppo a livello europeo per i sistemi di AI ad alto rischio. Quali regole si applichino esattamente dipende dal tipo di sistema, dal settore e dal modo in cui il sistema è stato impiegato. Questo non è un ambito in cui uno strumento come ftetoai possa fornire un'affermazione valida per ogni situazione; il testo normativo attuale e la relativa interpretazione da parte di un giurista sono il punto di partenza indicato. Ftetoai descrive quale parte di un compito un sistema può svolgere e quale parte richiede supervisione, non chi sia giuridicamente responsabile in un caso concreto.
Un punto separato è il trattamento dei dati: non appena un compito riguarda dati personali, si crea un secondo livello di obblighi. Ne parliamo più approfonditamente nella pagina su il GDPR nell'automazione dei compiti; lì viene descritto, tra l'altro, perché il trattamento da parte di un sistema di AI richiede una valutazione propria, indipendente dalla questione se il sistema svolga il compito correttamente dal punto di vista contenutistico.
Poiché il risultato resta lavoro umano in senso giuridico, è nell'organizzazione del lavoro che si compiono le scelte pratiche. Alcuni meccanismi che ricorrono in questo contesto:
Questa classificazione non costituisce una consulenza legale, ma offre un quadro fattuale di dove si trovano i punti di controllo nel processo. Questo quadro è utile nel dialogo con un giurista o un consulente su come sia ripartita la responsabilità in una situazione specifica.
Il modo in cui i compiti vengono ripartiti tra AI e persona, e come viene organizzata la supervisione, non è solo una questione giuridica ma anche una questione relativa all'organizzazione del lavoro stesso. Le modifiche ai processi di lavoro e l'impiego di sistemi che riguardano il lavoro dei dipendenti possono rientrare nell'ambito della consultazione dei lavoratori; quando ciò si verifica e quali passaggi sono previsti in tal caso è descritto nella pagina su quando è competente il consiglio dei lavoratori. Anche qui vale: si tratta di un percorso separato rispetto alla domanda se l'AI possa svolgere il compito dal punto di vista contenutistico.
Un meccanismo simile entra in gioco nelle riunioni che l'AI supporta invece di sostituire. Nella domanda se l'AI possa condurre la riunione settimanale del team non si tratta solo di stabilire se un sistema possa redigere un'agenda e verbalizzare, ma anche di chi resti responsabile delle decisioni prese in quella riunione. L'esecuzione può essere supportata; la responsabilità per il risultato non si trasferisce automaticamente insieme a essa.
Questa pagina descrive il meccanismo, non una risposta pronta per la sua situazione. La responsabilità in caso di errore dell'AI dipende dal tipo di sistema, dal settore, dagli accordi presi con un fornitore e dal modo in cui è organizzata la supervisione — e questa valutazione spetta a un giurista o a un consulente, non a uno strumento che classifica compiti.
Ciò che può mappare lei stesso è quale parte del lavoro nella sua organizzazione è al momento gestita dall'AI, quale parte è soggetta a supervisione e quale parte resta lavoro umano. La quickscan gratuita di ftetoai consiste in dodici domande, non richiede un account, e fornisce un'indicazione di quale parte delle ore nel suo profilo sia oggi possibile affidare all'AI. La werkscan completa, che approfondisce i singoli compiti e le strutture di supervisione, è ancora in fase di realizzazione.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.