AI Act (Artificial Intelligence Act) wprowadza regulacje dotyczące systemów sztucznej inteligencji, klasyfikując je według poziomu ryzyka. W zależności od zastosowania systemy AI mogą być zakazane, objęte ograniczeniami lub – jak w przypadku rekrutacji – uznane za systemy wysokiego ryzyka.
Wraz z rozwojem funkcjonalności Hero Parser oraz interpretacją przepisów przyjmujemy, że system kwalifikuje się jako system wysokiego ryzyka i jest rozwijany zgodnie z wymaganiami tej kategorii.
Czy Hero Parser jest systemem wysokiego ryzyka?
Tak.
Systemy wykorzystywane do oceny, selekcji i wspierania decyzji rekrutacyjnych zostały w AI Act jednoznacznie zakwalifikowane jako systemy wysokiego ryzyka.
Hero Parser analizuje CV kandydatów oraz wspiera rekruterów w ocenie dopasowania do stanowiska, dlatego podlega wymaganiom przewidzianym dla tej kategorii.
Co to oznacza w praktyce?
Bycie systemem wysokiego ryzyka nie oznacza, że narzędzie jest niebezpieczne. Oznacza natomiast, że musi spełniać szereg wymagań dotyczących:
- przejrzystości działania
- kontroli ryzyka
- jakości danych
- nadzoru człowieka
- możliwości audytu
Hero Parser został dostosowany do tych wymagań zarówno na poziomie technicznym, jak i organizacyjnym.
W jaki sposób Hero Parser spełnia wymagania AI Act?
a) Zarządzanie ryzykiem
Wdrożyliśmy system zarządzania ryzykiem obejmujący identyfikację, analizę oraz ograniczanie potencjalnych zagrożeń związanych z wykorzystaniem AI w rekrutacji.
Analizujemy m.in.:
- ryzyko błędnej interpretacji CV
- ryzyko niezamierzonego uprzedzenia w ocenie
- ryzyko nieprawidłowego dopasowania kandydata
System jest stale monitorowany, a wyniki analiz wykorzystywane do jego ulepszania.
b) Zarządzanie danymi
Hero Parser przetwarza dane dostarczone w ramach procesu rekrutacyjnego.
Przed wykorzystaniem AI do analizy CV dokument może zostać poddany anonimizacji poprzez usunięcie danych identyfikujących, takich jak imię, nazwisko czy dane kontaktowe.
Nie wykorzystujemy danych zewnętrznych bez wiedzy użytkownika. Dane kandydatów są przechowywane wyłącznie przez czas trwania procesu rekrutacyjnego.
c) Transparentność
Zapewniamy przejrzystość działania systemu:
- każda ocena kandydata może zostać rozbita na czynniki wpływające na wynik
- użytkownik widzi, z czego wynika ocena
- system jasno komunikuje, że wykorzystuje AI
Dzięki temu decyzje podejmowane z wykorzystaniem Hero Parser są zrozumiałe i możliwe do uzasadnienia.
Rekruter zawsze widzi z czego wynika ocena dopasowania konkretnego CV do oferty pracy i może ją skorygować.
d) Dokumentacja
Prowadzimy dokumentację techniczną systemu obejmującą:
- sposób działania algorytmów
- zakres wykorzystywanych danych
- metryki jakości
- wyniki testów
Dokumentacja jest aktualizowana na bieżąco i dostępna na potrzeby audytu.
e) Monitorowanie i odpowiedzialność
System jest stale monitorowany pod kątem jakości działania oraz spójności ocen.
Wprowadziliśmy wersjonowanie modeli i algorytmów, dzięki czemu każda decyzja może zostać odtworzona w kontekście konkretnej wersji systemu.
f) Nadzór człowieka
Hero Parser nie podejmuje decyzji rekrutacyjnych samodzielnie.
System przedstawia rekomendacje, natomiast:
- rekruter może je zaakceptować
- zmodyfikować
- odrzucić
Ostateczna decyzja zawsze należy do człowieka.
g) Rejestrowanie decyzji i audytowalność
Zapewniamy możliwość odtworzenia procesu oceny kandydata poprzez rejestrowanie:
- danych wejściowych
- wyników analizy
- kontekstu decyzji
Pozwala to na przeprowadzenie audytu oraz wyjaśnienie działania systemu w konkretnych przypadkach.
h) Bezpieczna infrastruktura
System jest zabezpieczony zgodnie z aktualnymi standardami bezpieczeństwa, obejmującymi m.in.:
- szyfrowanie komunikacji
- zabezpieczenia przed nieautoryzowanym dostępem
- regularne kopie zapasowe
Infrastruktura spełnia wysokie wymagania w zakresie ochrony danych.
Podsumowanie
Hero Parser jest systemem wysokiego ryzyka w rozumieniu AI Act i został zaprojektowany w sposób spełniający wymagania przewidziane dla tej kategorii.
Zamiast unikać tej klasyfikacji, przyjęliśmy ją jako punkt wyjścia do budowy systemu, który jest:
- przejrzysty
- kontrolowalny
- bezpieczny
- możliwy do audytu
Na bieżąco monitorujemy rozwój regulacji i dostosowujemy system do obowiązujących wymagań prawnych.
