Кой носи отговорност при грешка на AI

Резултатът остава дело на човека, дори когато AI изпълнява задачата

AI система може да изпълнява задача, но самата система не е правен субект и не може да бъде подведена под отговорност. Отговорността за резултат се носи от физическо или юридическо лице: организацията, която внедрява системата, доставчикът на системата, или комбинация от двете, в зависимост от това какво точно се е объркало и какви договорености има за това. Това е една от причините, поради които ftetoai разграничава три категории вместо просто да или не: при много задачи въпросът не е само дали AI може да изпълни работата, а кой контролира какъв резултат, преди той да излезе навън или да има последствия.

Категорията „частично, с човешки надзор“ съществува точно поради тази причина. При тези задачи AI изпълнява работата, но човек одобрява или отхвърля резултата, с посочена причина. Този надзор не е само мярка за качество; той е и точката, в която се фиксира отговорността за крайния резултат. Без този надзор често е неясно кой е упражнявал какъв контрол, а именно този въпрос става релевантен в момента, в който нещо се обърка.

Къде са закрепени правилата за отговорност

Отговорността при грешки на AI системи се преценява въз основа на съществуващото право: общото облигационно право, отговорността за продукти, и специфичното законодателство, което се разработва на европейско ниво за AI системи с повишен риск. Кои правила точно се прилагат зависи от типа система, сектора, и начина, по който системата е внедрена. Това не е област, в която инструмент като ftetoai може да направи твърдение, което е вярно за всяка ситуация; актуалният текст на закона и тълкуването му от юрист са подходящата отправна точка. Ftetoai описва коя част от задача система може да поеме и коя част изисква надзор, а не кой в конкретен случай носи юридическа отговорност.

Отделен въпрос е обработката на данни: щом задача засяга лични данни, възниква втори пласт от задължения. Това разглеждаме по-подробно на страницата за ОРЗД при автоматизиране на задачи; там между другото е описано защо обработката от AI система изисква собствена преценка, отделно от въпроса дали системата изпълнява задачата съдържателно добре.

Какво означава това за организацията на работата

Тъй като резултатът остава дело на човека в юридически смисъл, организацията на работата е там, където се правят практическите избори. Няколко механизма, които се повтарят при това:

Кой контролира какво, и на базата на каква причина. Ако задача попада в категорията „частично“, фиксирането на одобрението или отхвърлянето и на основната причина е опорната точка, за да може впоследствие да се реконструира какво се е случило.
Кои задачи се поемат напълно от AI, и при какви условия. При задачи от първата категория няма човешки контрол за всеки отделен случай; тогава въпросът е как организацията предварително е установила, че това е отговорно, и дали това съответства на договореностите между доставчика и организацията по този въпрос.
Как са организирани надзорът и мониторингът на ниво процес и екип. Това засяга задачи, които сами по себе си отново са частично автоматизируеми, като например дали AI може да поеме следенето на бюджет и сигнализирането на отклонения или дали AI може да следи напредъка на цели и проекти. И там важи същото: системата сигнализира, човек преценява и решава какво се прави с това.

Това разграничение не дава юридически съвет, но дава фактическа картина на това къде в процеса се намират контролните точки. Тази картина е полезна при разговора с юрист или консултант за начина, по който отговорността е разпределена в конкретна ситуация.

Къде това засяга съгласуването в организацията

Начинът, по който задачите се разпределят между AI и човека, и как се организира надзорът, не е само юридически въпрос, а и въпрос на организацията на самата работа. Промени в работните процеси и внедряването на системи, които засягат работата на служителите, могат да попадат под правото на съучастие; кога това е така и какви стъпки съпътстват това, е описано на страницата за кога това е въпрос на съвета на предприятието. И тук важи същото: това е отделен процес, независимо от въпроса дали AI може да поеме задачата съдържателно.

Сходен механизъм се проявява при съвещания, които AI подпомага, вместо да замества. При въпроса дали AI може да води седмичното екипно съвещание не става дума само за това дали система може да съставя дневен ред и да води протокол, но и за това кой остава отговорен за решенията, взети на това съвещание. Изпълнението може да бъде подпомогнато; отговорността за резултата не се пренася автоматично заедно с това.

Какво можете да направите сега

Тази страница описва механизма, а не готов отговор за вашата ситуация. Отговорността при грешка на AI зависи от типа система, сектора, направените договорености с доставчик, и начина, по който е организиран надзорът — и тази преценка се прави от юрист или консултант, а не от инструмент, който категоризира задачи.