Омбудсманът ще следи за дискриминация при използването на изкуствен интелект

Омбудсманът на България Велислава Делчева настоява за законови правомощия, които да позволят на институцията да наблюдава използването на изкуствен интелект и да проверява за дискриминационни решения. Темата беше обсъдена на конференция в София, посветена на влиянието на технологиите върху основните права.

Делчева предупреди, че рискът от дискриминация е реален, тъй като автоматизирани системи вече се използват както от публични институции, така и от частни компании. Според представената позиция е необходима нормативна рамка, която да осигури контрол, а при неспазване на изискванията да предвижда и санкции.

Решенията могат да засягат достъпа до услуги

Като пример за възможните последици Делчева посочи случай в Нидерландия, при който на хиляди граждани е била отказана социална помощ заради критерия гражданство. Тя изтъкна, че подобни случаи поставят под въпрос приемането на автоматизираните системи като напълно неутрални, особено когато решенията им влияят върху достъпа до социални права, здравеопазване или други обществени услуги.

Тук залогът не е само точността на една технология. Ако система използва критерии, които водят до неравно третиране на хора, решението може да има непосредствени последици за тях. Затова ключовият въпрос е кой проверява как се използват тези системи и как може да бъде оспорен резултатът, когато той засяга права.

Засега предложението на Делчева е институцията да получи такива правомощия чрез законодателство. Това не означава, че омбудсманът вече има възможност да наблюдава всички институции, които използват изкуствен интелект. Предстои да се изясни какви точно проверки ще бъдат възможни и какви санкции ще се прилагат при установено несъответствие.

Латвийски опит в болниците

В конференцията участва и латвийският омбудсман Карина Палкова. Тя посочи, че в Латвия има нормативна уредба за използването на изкуствен интелект, а подобни системи се използват често в болниците. Контролът там включва проверка дали се спазва приоритетът на малките деца, бременните жени и хората с увреждания.

Този пример показва един от практическите аспекти на надзора: проверката не се изчерпва с въпроса дали дадена система работи технически, а включва и начина, по който решенията ѝ се отразяват на хората. При услуги, свързани със здравеопазване или социална подкрепа, особено важно е да може да се проследи как е стигнато до даден резултат и дали са отчетени нуждите на уязвими групи.

Роботът Робърт представи възможностите на технологията

На събитието присъства и хуманоидният робот Робърт. Той демонстрира възможности за приложение на роботи в публичната администрация, включително наблюдение на процеси, подаване на сигнали за подозрителни действия и ограничаване на човешкия фактор при обработка на данни.

Демонстрацията постави акцент върху потенциалните ползи от технологиите, но дискусията очерта и необходимостта решенията да остават проследими и под човешки контрол. Основният въпрос за България е дали бъдещата уредба ще даде на омбудсмана достатъчно конкретни инструменти, за да проверява системите и да реагира, когато използването им засяга равнопоставеността на гражданите.