Отговорът
Да, физическите лица не трябва да бъдат обект на решение, основано единствено на автоматизирана обработка (като алгоритми) и което е правно обвързващо или има значително въздействие върху тях.
Може да се счита, че дадено решение има правно действие, когато са засегнати законните права или правният статут на лицето (напр. Правото му на глас). Освен това обработката може да окаже значително въздействие върху дадено лице, ако засяга личните му обстоятелства, поведението или избора му (напр. Автоматичната обработка може да доведе до отхвърляне на заявление за онлайн заем).
Използването на автоматизирано вземане на решения е разрешено само в следните случаи:
- изисква се решение въз основа на алгоритъм (т.е. няма друг начин за постигане на същата цел) за сключване или изпълнение на договор с физическо лице, чиито данни вашата компания/организация е обработила с помощта на алгоритъм (например заявление за онлайн заем);
- специфичното законодателство на ЕС или националното законодателство позволява използването на алгоритми и осигурява подходящи предпазни мерки за защита на правата, свободите и законните интереси на индивида (например правила за предотвратяване на укриването на данъци);
- физическото лице е дало изричното си съгласие за решението въз основа на алгоритъма.
Когато обаче се вземе решение, правата, свободите и законните интереси на индивида трябва да бъдат защитени чрез предприемане на подходящи защитни мерки. С изключение на случаите, когато такова решение се основава на закон, лицето трябва да бъде информирано най-малко за (i) процедурата, използвана в процеса на вземане на решения, (ii) правото му да получи човешка намеса, (iii) възможните последици от обработка и (iv) правото му да възрази срещу решението. Следователно вашата компания/организация трябва да предприеме необходимите процедурни мерки, за да позволи на лицето да изрази мнение и да възрази срещу решението.
И накрая, трябва да се обърне специално внимание, за да се гарантира, че алгоритъмът използва специални категории лични данни: автоматизираното вземане на решения е разрешено само при следните обстоятелства:
- физическото лице е дало своето изрично съгласие, или
- обработката е необходима по причини от първостепенен обществен интерес съгласно законодателството на ЕС или националното законодателство.
Освен това, ако лицето е дете, трябва да се избягват решения, взети единствено въз основа на автоматизирана обработка, които произвеждат правни последици или последици от подобно значение, тъй като децата представляват по-уязвима група в обществото.
Пример
Вашата компания/организация е онлайн банка, която предлага заеми. Клиентите въвеждат своите данни и алгоритъмът генерира резултати за това дали клиентът трябва да получи заем или не, както и предложения лихвен процент. Вашата компания/организация трябва да прегледа решението, преди да общува с потенциалния клиент и да ги информира, че може да изрази своите виждания и, ако е необходимо, да възрази срещу решението, като се има предвид, че лицето има право да не бъде обект на решението, основано на на алгоритми.