1. Czym jest AI Act

AI Act (Rozporządzenie Parlamentu Europejskiego i Rady w sprawie sztucznej inteligencji) to pierwszy kompleksowy akt prawny regulujący wykorzystanie systemów AI na terenie Unii Europejskiej. Jego celem jest zapewnienie bezpieczeństwa użytkowników, przejrzystości działania systemów oraz ograniczenie ryzyk związanych z wykorzystaniem sztucznej inteligencji.

Hero Parser został zaprojektowany i jest rozwijany z uwzględnieniem wymagań AI Act już na etapie architektury systemu.

2. Klasyfikacja ryzyka Hero Parser

Zgodnie z AI Act systemy wykorzystywane do wspierania procesów rekrutacyjnych, w tym oceny i selekcji kandydatów, są klasyfikowane jako systemy wysokiego ryzyka.

Hero Parser należy do tej kategorii, ponieważ wspiera podejmowanie decyzji dotyczących zatrudnienia poprzez analizę CV oraz ocenę dopasowania kandydatów do ofert pracy. System został zaprojektowany w sposób spełniający wymagania przewidziane dla tej klasy systemów.

3. Jak Hero Parser spełnia wymagania AI Act

3.1. Nadzór ludzki

Hero Parser jest narzędziem wspierającym pracę rekrutera, a nie systemem podejmującym decyzje samodzielnie. Każda ocena, ranking czy rekomendacja generowana przez AI ma charakter pomocniczy i może zostać zaakceptowana, zmieniona lub odrzucona przez użytkownika.

Hero Parser wykorzystuje AI wyłącznie do parsowania treści CV kandydata na format JSON. Wszystkie mechanizmy oceny dopasowania do roli zostały zaimplementowane w sposób powtarzalny, bez wykorzystania sztucznej inteligencji – dzięki temu rekruter wie z czego wynika ocena oraz może dokonać jej korekty jeżeli zauważy nieprawidłowość.

Ostateczna decyzja dotycząca kandydata zawsze należy do człowieka.

3.2. Przejrzystość działania

Zapewniamy przejrzystość działania systemu poprzez udostępnianie uzasadnień dla generowanych ocen i rekomendacji. Użytkownik otrzymuje informację, jakie czynniki wpłynęły na wynik analizy.

Rekruter ma możliwość włączenia weryfikacji odczytanych z CV informacji przez samych kandydatów. Kandydat otrzymuje maila z linkiem, pod którym może potwierdzić odczytane dane albo zgłosić swoje uwagi. W przypadku zgłoszenia korekty rekruter otrzymuje w profilu kandydata notatkę i może dokonać zmiany oceny.

Użytkownicy systemu są informowani o wykorzystaniu AI. Kandydaci mogą być informowani o użyciu systemu AI w procesie rekrutacyjnym zgodnie z obowiązującymi przepisami.

3.3. Jakość i źródło danych

Hero Parser analizuje dane dostarczone w ramach procesu rekrutacyjnego przez pracodawcę lub kandydata. System nie pobiera danych z zewnętrznych źródeł bez wiedzy użytkownika.

Stosujemy mechanizmy zapewniające spójność i jakość danych wejściowych oraz ograniczamy wykorzystanie danych, które mogą prowadzić do nieuzasadnionych uprzedzeń.

3.4. Dokumentacja techniczna

Prowadzimy dokumentację techniczną obejmującą sposób działania systemu, wykorzystane modele, zakres danych oraz metryki jakości. Dokumentacja jest aktualizowana wraz z rozwojem systemu i może być udostępniona właściwym organom nadzorczym.

3.5. Zarządzanie ryzykiem

Hero Parser posiada wdrożony system zarządzania ryzykiem obejmujący identyfikację, analizę i ograniczanie ryzyk związanych z wykorzystaniem AI w rekrutacji.

System jest regularnie testowany pod kątem jakości działania oraz potencjalnych odchyleń, które mogłyby wpływać na sprawiedliwość ocen. W przypadku wykrycia nieprawidłowości podejmowane są działania korygujące.

3.6. Ograniczanie ryzyka dyskryminacji

System został zaprojektowany tak, aby oceniać kandydatów na podstawie kompetencji, doświadczenia i dopasowania do wymagań stanowiska. Wszystkie mechanizmy oceny są oparte o rozwiązania matematyczne – system nadaje punkty za każdą umiejętność oraz doświadczenie. AI nie bierze udziału w ocenie kandydata – służy wyłącznie do wyodrębnienia z CV informacji i traktuje każdy plik tak samo – niezależnie od płci, wieku, narodowości kandydata. AI wykorzystywane jest wyłącznie jako wyszukiwarka informacji.

Hero Parser nie wykorzystuje do oceny dopasowania cech chronionych takich jak płeć, wiek, pochodzenie etniczne czy wyznanie. Dodatkowo stosujemy mechanizmy monitorowania wyników, które pozwalają wykrywać i ograniczać potencjalne uprzedzenia.

3.7. Rejestrowanie decyzji i audytowalność

Hero Parser zapisuje informacje o procesie analizy kandydatów w sposób umożliwiający odtworzenie przebiegu decyzji. Obejmuje to dane wejściowe, wynik oceny oraz kontekst analizy.

Dzięki temu możliwe jest przeprowadzenie audytu oraz wyjaśnienie sposobu działania systemu w konkretnych przypadkach.

4. Rejestracja w bazie UE

Hero Parser zostanie zarejestrowany w unijnej bazie systemów AI wysokiego ryzyka po jej wprowadzeniu. Na ten moment taka baza nie istnieje.

5. Ciągła zgodność

Rozwój Hero Parser uwzględnia zmiany regulacyjne oraz wytyczne organów nadzorczych. System jest regularnie aktualizowany zarówno pod względem technicznym jak i organizacyjnym, aby zapewnić zgodność z obowiązującym prawem.

6. Kontakt

W przypadku pytań dotyczących zgodności Hero Parser z AI Act prosimy o kontakt pod adresem:
compliance@heroparser.com