Il Regolamento europeo sull'IA (AI Act) classifica i sistemi di IA in base al rischio. Una parte delle applicazioni legate al personale rientra nella categoria ad alto rischio. Non si tratta di una valutazione di quanto bene o male funzioni un sistema, ma di una classificazione basata su cosa decide o consiglia il sistema e su chi. I sistemi che riguardano l'assunzione, la promozione, la valutazione o il licenziamento di persone toccano un diritto fondamentale — il diritto a un trattamento equo nel rapporto di lavoro — e per questo ricevono un regime più severo: documentazione supplementare, controllo umano e, in molti casi, l'obbligo di informare gli interessati.
Questa pagina descrive il meccanismo così come è stato definito nel regolamento. Il testo completo e aggiornato, con i relativi allegati e definizioni precise, si trova sul sito dell'Unione Europea e presso l'amministrazione statale (rijksoverheid); lì troverà la formulazione giuridicamente vincolante.
Il Regolamento IA cita come esempi di applicazioni ad alto rischio nel contesto lavorativo, tra l'altro, i sistemi che:
Il denominatore comune è che il sistema genera un risultato che incide direttamente sulla posizione di un singolo dipendente o candidato. Uno strumento di pianificazione che ottimizza i turni per l'intero reparto solitamente non rientra in questa categoria; uno strumento che genera un punteggio per singolo dipendente da considerare in un colloquio di valutazione, invece, sì. Dove esattamente si trovi il confine all'interno dei propri processi è una domanda da porre a un giurista o a un consulente in materia di conformità, non qualcosa che questa pagina stabilisce per lei.
Questo è l'aspetto su cui molte organizzazioni si bloccano, ed è esattamente la domanda che le tre categorie di questo strumento cercano di ordinare. Un compito che l'IA può assumere completamente è di norma un compito senza un giudizio duraturo su una persona: riassumere un testo, calcolare un turno, ottimizzare una pianificazione. Nel momento in cui il sistema produce un risultato che serve come input per una decisione su un individuo — assumere, non assumere, promuovere, non rinnovare un contratto — il compito si sposta verso la seconda o terza categoria: controllo umano che approva o respinge con motivazione, oppure lavoro interamente umano.
La caratteristica pratica di uno strumento di supporto è che l'essere umano controlla l'input, può ignorare l'output senza conseguenze e prende la decisione finale basandosi su più elementi rispetto al solo risultato del sistema. La caratteristica pratica di un sistema di valutazione è che il risultato riceve un peso rilevante o determinante in una decisione su quella specifica persona, anche se formalmente un essere umano dà il proprio “accordo”. Un punteggio che nella pratica viene sempre accettato funziona come sistema di valutazione, indipendentemente da come viene chiamato internamente. Questa delimitazione è paragonabile a quanto vale per il GDPR nell'automazione dei compiti: anche in quel caso non conta l'etichetta dello strumento, ma cosa quello strumento decide effettivamente e quali dati vengono utilizzati per farlo.
Se un sistema è considerato ad alto rischio, ciò comporta obblighi per il soggetto che lo utilizza: una valutazione del rischio, documentazione sul funzionamento, un controllo umano in grado di intervenire effettivamente e trasparenza verso i dipendenti o candidati coinvolti sul fatto che un sistema di IA gioca un ruolo. Questa pagina non indica percentuali, termini o importi legati a questi obblighi, poiché variano in base alla situazione e alla fase della normativa. Per i requisiti esatti e le scadenze, consulti i testi ufficiali o un consulente che conosca la situazione attuale.
È importante anche notare che questa classificazione è indipendente dalle decisioni relative al personale. Il Regolamento IA riguarda il sistema, non ciò che un'organizzazione fa con l'esito di una riorganizzazione o di un cambiamento di funzione. Per le decisioni che riguardano il rapporto di lavoro valgono requisiti legali propri — si pensi al diritto del licenziamento e al ruolo della partecipazione dei lavoratori — che devono essere valutati separatamente e preliminarmente all'implementazione di un sistema. Questa pagina non si esprime in merito.
L'introduzione di un sistema che monitora o valuta il comportamento o le prestazioni dei dipendenti spesso non è solo una questione legata all'AI Act, ma anche una questione di partecipazione dei lavoratori. I diritti di consenso possono già valere prima che un sistema venga classificato come ad alto rischio. Quando il consiglio aziendale (ondernemingsraad) deve essere coinvolto e in quale momento è descritto in quando spetta al consiglio aziendale. Questo percorso si svolge in parallelo, non in sostituzione, agli obblighi derivanti dal Regolamento IA.
Questa pagina descrive il meccanismo: quali applicazioni vengono menzionate e dove si trova la distinzione pratica tra uno strumento di supporto e un sistema di valutazione. Se uno specifico sistema nella sua organizzazione rientri nella categoria ad alto rischio, e quali passi ne derivino, è una domanda che deve essere valutata caso per caso — in modo simile alle nuance che valgono anche in cosa può assumere l'IA nei servizi alle imprese, dove torna la stessa domanda su controllo e responsabilità.
Desidera una prima indicazione di quale parte dei compiti nel suo profilo professionale possa essere oggi assunta dall'IA, senza considerare i sistemi di valutazione delle persone? La quickscan gratuita di ftetoai consiste in dodici domande, funziona senza account e fornisce un'indicazione per profilo. La workscan completa, che approfondisce i singoli processi e la classificazione del rischio, è ancora in fase di sviluppo.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.