W bieżącym miesiącu w Unii Europejskiej zaczęły obowiązywać nowe regulacje dotyczące sztucznej inteligencji, obejmujące nie tylko regulacje odnośnie zakazów stosowania niektórych systemów AI, ale też zalecenia dotyczące dobrych praktyk w zakresie kompetencji AI (ang. AI Literacy). Mają one na celu wspieranie dostawców oraz podmiotów korzystających z AI w codziennej działalności gospodarczej. Zachęcamy do udziału w webinarium organizowanym przez AI Pact dotyczącym budowania kompetencji z zakresu sztucznej inteligencji (szczegóły w tekście).
 

(Dalsza część artykułu pod materiałem wideo)

Zobacz film: AI – zastosowanie i możliwości dofinansowania

Wykorzystanie AI w biznesie niesie ze sobą zarówno korzyści, jak i wyzwania, które mogą przysparzać kłopotów przedsiębiorcom. O tym zagadnieniu, jak i o możliwości pozyskania dofinansowania na technologie AI rozmawiają Ireneusz Wochlik i Łukasz Kościjańczuk. Zapraszamy na film.

 
W AI Act wskazano, iż dostawcy i podmioty stosujące systemy AI podejmują środki w celu zapewnienia, w możliwie największym stopniu, odpowiedniego poziomu kompetencji w zakresie AI wśród swojego personelu i innych osób zajmujących się działaniem i wykorzystaniem systemów AI w ich imieniu, z uwzględnieniem ich wiedzy technicznej, doświadczenia, wykształcenia i wyszkolenia oraz kontekstu, w którym systemy AI mają być wykorzystywane, a także biorąc pod uwagę osoby lub grupy osób, wobec których systemy AI mają być wykorzystywane[1].
 

Dlaczego nabycie kompetencji AI jest ważne

Kompetencje w zakresie AI oznaczają umiejętności, wiedzę oraz zrozumienie, które pozwalają dostawcom, podmiotom stosującym i osobom, na które AI ma wpływ, w przemyślany sposób, wdrażać systemy AI oraz mieć świadomość, jakie możliwości i ryzyka wiążą się z AI oraz jakie potencjalne szkody może ona wyrządzić[2].

Konieczność wyposażenia dostawców, podmioty stosujące i osoby, na które AI ma wpływ, w kompetencje AI to jeden z kluczowych celów wprowadzenia AI Act w dobie rewolucji AI, jaka obecnie trwa na całym świecie. Dzięki stale podnoszonym kompetencjom AI każdy, zarówno w ramach prowadzonej działalności gospodarczej, jak i prywatnie, będzie mógł podejmować świadome decyzje odnośnie AI, które niejednokrotnie mogą ochronić go przed różnymi próbami manipulacji, wyłudzeń, oszustw itp.

Oczywiście kompetencje  mogą różnić się w zależności od danego kontekstu i mogą obejmować rozumienie prawidłowego stosowania elementów technicznych na etapie rozwoju systemu AI, rozumienie środków, które mają być stosowane podczas jego wykorzystywania, odpowiednich sposobów interpretacji wyników działania systemu AI oraz, w przypadku osób, na które AI ma wpływ – wiedzę niezbędną do zrozumienia, jaki wpływ będą miały na nie decyzje podejmowane przy pomocy AI.

Z kolei w zakresie stosowania AI Act kompetencje powinny oznaczać, że każdy podmiot gospodarczy w łańcuchu wartości AI będzie posiadać konieczną wiedzę do zapewnienia odpowiedniej zgodności z przepisami AI Act i ich prawidłowego egzekwowania[3]. 

Można więc podsumować, że kompetencje AI mają na celu optymalizację korzystania z systemów AI przy jednoczesnej ochronie zdrowia i bezpieczeństwa użytkowników oraz zapewniając demokratyczną kontrolę wszystkim państwom członkowskim UE. Patrząc w przyszłość, wszystkie podmioty i osoby, które będą inwestować w rozwój kompetencji AI, niewątpliwie będą znacznie lepiej przygotowane do nowej ery rozwoju gospodarczego, co może przełożyć się na poprawę ich warunków pracy, utrzymania pracy czy pozostania konkurencyjnym na rynku.
 

Do kogo skierowane są wymogi kompetencyjne w zakresie AI

Posiadanie odpowiednich kompetencji AI zostało nałożone na dwie grupy podmiotów.

  1. Dostawców systemów AI, czyli osoby fizyczne lub prawne, organy publiczne, agencje lub inne podmioty, które rozwijają systemy AI lub modele AI ogólnego przeznaczenia lub zlecają rozwój systemów AI lub modeli AI ogólnego przeznaczenia, oraz które odpłatnie lub nieodpłatnie, pod własną nazwą lub własnym znakiem towarowym wprowadzają je do obrotu lub oddają do użytku (np. podmioty tworzące rozwiązania AI do rekrutacji i odpłatnie udostępniające je swoim klientom do użytku).
  2. Użytkowników systemów AI, czyli osoby fizyczne lub prawne, organy publiczne, agencje lub inne podmioty, które wykorzystują systemy AI, nad którymi sprawują kontrolę (np. klienci ww. podmiotów, którzy wdrażają takie rozwiązania AI do rekrutacji we własnych organizacjach na potrzeby usprawnienia procesu rekrutacji), z wyjątkiem sytuacji, gdy systemy AI ją używane w osobistej, nieprofesjonalnej działalności (tj. działalności pozazawodowej).

Jakie kompetencje AI należy posiadać

Choć AI Act nie wskazuje na żadne konkretne typy kompetencji, to wyznacza trzy podstawowe kategorie takich kompetencji, które powinny być rozwijane przez dostawców i użytkowników systemów AI. Są to kompetencje w obszarze:

  1. umiejętności (tj. poszerzanie wiedzy praktycznej na temat AI oraz wykorzystywanie tej wiedzy w codziennej praktyce);
  2. wiedzy (tj. poszerzanie wiedzy teoretycznej na temat AI);
  3. zrozumienia (tj. umiejętność zrozumienia działania AI i wpływu na procesy, w jakich AI jest wykorzystywane, np. możliwość zastosowania posiadanej wiedzy w praktyce w niestandardowych czy nieoczywistych sytuacjach, gdzie system AI będzie używał nieprawdziwych danych czy będzie sugerował się uprzedzeniami).

Wszystkie te trzy obszary powinny, co do zasady, zostać uwzględnione w celach rozwojowych i kształcenia w organizacji.
 

Jak sprostać wymogom dotyczącym kompetencji AI

Z uwagi na to, że jakiekolwiek regulacje prawne w zakresie AI są dopiero w “wieku dziecięcym”, a wszelkie praktyki zaczynają się tworzyć, wraz z wejściem w życie AI Act zawarto również tzw. AI Pact. Został podpisany przez ponad 100 międzynarodowych firm, które zobowiązują się do dobrowolnego promowania godnego zaufania i bezpiecznego rozwoju systemów AI.

Wśród organizacji, które podpisały AI Pact, znajduje się sektor MŚP, jak i ogromne międzynarodowe korporacje. Znajdziemy wśród nich m.in. OpenAI, Accenture, Adobe, Amazon, Booking.com, Capgemini, Cisco, DEKRA, Deutsche Telekom, Orange, eBay, Google, Microsoft, HP, Infsosys, IKEA, Logitech, Lenovo, Allianz, Generali, Porsche, Palo Alto Networks, Salesforce, SAP, Samsung, SAS Institute, Scania, Sii czy Vodafone. Pełna lista firm uczestniczących w AI Pact została opublikowana pod linkiem).

AI Pact opiera się na dwóch głównych filarach, tj.:

  1. Filar 1 (Pillar I): gromadzenie i wymiana wiedzy w ramach sieci AI Pact;
  2. Filar 2 (Pillar) II: wsparcie we wdrażaniu zobowiązań firm w obszarze AI oraz otwarta komunikacja w tym zakresie.

Realizacja założeń Filaru 1 będzie oparta o webinaria organizowane przez AI Pact. Najbliższe odbędzie się 20 lutego w godz. 10:00-12:00 (możliwość zapisów pod linkiem).

Podczas webinarium po raz pierwszy zostanie omówione repozytorium praktyk w zakresie kompetencji AI stworzone przez członków AI Part, które będzie podlegać regularnym aktualizacjom. Niemniej już teraz można zapoznać się z przykładami takich praktyk (repozytorium dostępne pod linkiem). Znajdziemy tu komentarze kilkudziesięciu firm znajdujących się w  trzech różnych stadiach wdrożenia praktyk AI, tj. w pełni wdrożone, w trakcie wdrożenia oraz planowane.
 

Pierwsze wdrożenia

Wśród firm, które w pełni wdrożyły już pierwsze praktyki organizacyjne związane z kompetencjami AI, można znaleźć m. in. Booking.com czy Grupę Generali.

Booking.com wdrożył szkolenia przewidziane dla pracowników mających mniejszy bezpośredni kontakt z AI (pracowników pracujących w obsłudze prawnej i zajmujących się sprawami publicznymi firmy). Jak czytamy w opisie: “Zaprojektowaliśmy szkolenie w trzech częściach, z których pierwsza definiowała podstawy AI, aby zapewnić, że wszyscy będą używać tych samych terminów do tych samych problemów lub technologii i rozumieć różnice między koncepcjami AI i ML (takie jak czym jest LLM w porównaniu z klasycznym uczeniem maszynowym). Następnie przeszliśmy do konkretnych rozwiązań AI dedykowanych dla naszej firmy i przeanalizowaliśmy ich podstawowe koncepcje, a następnie część trzecia obejmowała analizę środowiska regulacyjnego wokół AI i powiązań z gałęziami prawa, którymi członkowie zespołu już się zajmują. To wysoce wyspecjalizowane szkolenie oznaczało, że członkowie zespołu prawnego angażowali się głębiej niż w przypadku po prostu szkolenia technicznego.”.

Z kolei Grupa Generali skupiła się na szerszym szkoleniu w swojej platformie learningowej, w której zaoferowała duże portfolio szkoleń dostosowanych do zaangażowania pracowników w użycie lub rozwój systemów AI. Ponadto Grupa wdrożyła również tzw. “akademie” dla konkretnych stanowisk pracy, na których pracownicy mogą mieć zwiększony kontakt z systemami AI (tj. Data Scientists, AI Business Translators, Smart Automation Experts, Actuaries, Accountants oraz CRM Experts).

Grupa Generali odnotowała również bardzo dużo pozytywnych następstw wdrożonych szkoleń w obszarze AI, tj. około 40% uczestników zauważyło ewolucję w swojej roli po ukończeniu programów szkoleniowych. Dzięki umiejętnościom nabytym w ramach programu uruchomiono ponad 18 nowych usług rynkowych, a także nawiązano współpracę z zewnętrznymi uniwersytetami i ośrodkami badawczymi, zwiększając wiedzę i innowacyjność w zakresie uczenia maszynowego, nauki o danych i sztucznej inteligencji.

W większości przypadków na chwilę obecną członkowie AI Pact udostępniają swoim pracownikom szkolenia lub tworzą wewnętrzne kodeksy postępowania (ang. AI Code of Conduct).

Z kolei, w ramach Filaru 2 firmy będą tworzyć zestawy dobrowolnych zobowiązań zachęcających organizacje do proaktywnej pracy nad wdrożeniem niektórych kluczowych postanowień AI Act.
 

Nowe obowiązki dla firm

Zdecydowanie warto już zacząć się interesować AI Act i następstwami jego wdrożenia. W tym roku zaczyna obowiązywać tylko w ograniczonym zakresie. Od 2 lutego 2025 r. wchodzi w życie zakaz stosowania tzw. “systemów AI zakazanych” oraz konieczność rozwijania kompetencji w zakresie AI. Natomiast od 2 sierpnia 2025 r. pojawią sankcje karne i przepisy o systemach AI ogólnego przeznaczenia.

Od 2 sierpnia 2026 r. AI Act zacznie obowiązywać w pełni. To nałoży obowiązki na następujące grupy

  1. Dostawców systemów AI
  2. Podmioty stosujące systemy AI
  3. Importerów systemów AI
  4. Dystrybutorów systemów AI
  5. Upoważnionych przedstawicieli dostawców systemów AI
  6. Producentów systemów AI (którzy wraz ze swoim produktem wprowadzają do obrotu lub oddają do użytku system AI opatrzony ich nazwą handlową lub znakiem towarowym)
  7. Operatorów systemów AI (zbiorcze określenie na wszystkie powyższe kategorie)

W najszerszym zakresie AI Act będzie miał zastosowanie do dwóch pierwszych grup, czyli dostawców systemów AI (ang. providers) i podmiotów stosujących AI (ang. deployers). W zależności od kategorii systemu AI podmioty te mogą mieć różne obowiązki.

W związku z powyższym warto już teraz zacząć myśleć o następujących działaniach.

  1. Wdrażaniu wszystkich swoich pracowników w koncepcję AI i regulacji AI Act (z dostosowaniem przekazywanej wiedzy do m.in. wieku, zajmowanego stanowiska i wykonywanych obowiązków, wiedzy ogólnej, wrażliwości na działanie AI, kompetencji zawodowych, a także odpowiedzialności zawodowej).
  2. Mechanizmach kategoryzacji systemów AI w kontekście AI Act.
  3. Mechanizmach zapewniających bezpieczny rozwój i użytkowanie systemów AI z nastawieniem na użytkownika i jego bezpieczeństwo.
  4. Ustalaniu wewnętrznych struktur zarządzania AI.
  5. Rolach i obowiązkach wewnętrznych związanych z zarządzaniem AI.
  6. Mechanizmach monitorowania, raportowania i audytowania systemów AI.

Niezmiennie zachęcamy do śledzenia naszego bloga i najnowszych wiadomości ze świata regulacji prawnych dot. AI. W następnym wpisie poruszymy tematykę kwalifikowalności systemów AI do tzw. systemów zakazanych.

Szczególnie zachęcamy również do udziału w zbliżającym się webinarium organizowanym przez AI Pact dotyczącym dobrych praktyk mających na celu budowanie kompetencji AI. Dla tych z Was, którzy nie będą mogli uczestniczyć w webinarium, przygotujemy oczywiście podsumowanie najważniejszych kwestii na nim poruszonych.

[1] art. 4 Rozporządzenia Parlamentu Europejskiego i Rady Europejskiej 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji (AI Act)

[2] art. 3 pkt 56 AI Act

[3] pkt. 20 preambuły do AI Act