W poprzednim wpisie z naszego cyklu wskazywaliśmy na możliwe skutki automatyzacji egzekucji przez pryzmat planowanych w Polsce zmian w zakresie egzekucji zaległości podatkowych. W ramach niniejszego wpisu przedstawimy jeden z przypadków nieudanych prób wprowadzania algorytmów w zakresie dystrybucji i egzekucji środków publicznych na przykładzie australijskiego systemu Robodebt.

Jak miał działać system Robodebt?

Robodebt (oficjalnie Online Compliance Intervention) miał być metodą automatycznej oceny i odzyskiwania długu stosowaną przez australijskie instytucje odpowiedzialne za dystrybucję środków publicznych w ramach m.in. emerytur, powszechnych świadczeń rodzicielskich, świadczeń chorobowych i zasiłków dla osób czasowo pozostających bez zatrudnienia (Services Australia oraz Centrelink). System ten został wdrożony w 2016 r. celem zastąpienia manualnego obliczania wysokości należnych środków na podstawie porównywania danych o dochodach udostępnianych przez urząd podatkowy (Australian Taxation Office).

System Robodebt oparto na „samouczącym się” algorytmie, dzięki czemu oprócz bieżących rozliczeń, na podstawie uzyskiwanych danych tworzył również prognozy co do uśrednionych wysokości przychodów na przyszłe okresy rozliczeniowe. W przypadku wykrycia nieprawidłowości w postaci np. zawyżonej wypłaty, Robodebt miał również możliwość dokonania automatycznego ściągnięcia nienależnych środków z konta bankowego beneficjenta lub dokonania blokady tego konta przy jednoczesnym wstrzymaniu bieżących wypłat.

Automatyzacja rozliczeń początkowo przedstawiana była głównie jako oszczędność dla państwowego budżetu – dzięki lepszej efektywności możliwe było zwiększenie ilości rozpoznawanych spraw z 20.000 rocznie do blisko 20.000 tygodniowo. Wstępnie szacowano, że Robodebt będzie w stanie odzyskać nawet 1,5 miliarda A$ zaległości wynikających z nienależnych lub zawyżonych wypłat środków publicznych. Oszczędności miały wiązać się również ze zmniejszeniem zaangażowania pracowników instytucji odpowiedzialnych za dystrybucję tych środków – Robodebt bazował na danych wprowadzanych przez beneficjentów i porównywał je z danymi automatycznie przekazywanymi w oparciu o rozliczenia podatkowe tych osób. Jeśli w ocenie beneficjentów obliczenie przyznanych im środków było nieprawidłowe, mogli złożyć w tym zakresie odwołanie, które rozpoznawane było w zautomatyzowanej formie poprzez ponowne pobranie danych i przeliczenie ich przez system.

Skutki działania systemu Robodebt

Z czasem okazało się jednak, że wyliczenia algorytmu nie odpowiadają rzeczywistej sytuacji beneficjentów. Oszacowano, że błędy w działaniu systemu mogły skutkować nawet 470 tys. błędnymi wezwaniami do zapłaty i nieuzasadnionymi blokadami rachunków bankowych.

Błędy systemu najlepiej widoczne były w przypadku osób wykonując zawody, które standardowo wiążą się z czasowymi przerwami w świadczeniu pracy. Przykładowo, australijscy nauczyciele, którzy nie otrzymywali wynagrodzenia za czas szkolnych wakacji składali wnioski o przyznanie świadczeń uzupełniających i uzasadniali je czasowym brakiem przychodów. Gdy tego typu wnioski rozpatrywane były manualnie nie budziło to większych wątpliwości. Natomiast system Robodebt przy szacowaniu przychodów wyliczał, że powinni wówczas uzyskiwać przychód w wysokości 1/12 rocznego wynagrodzenia z poprzedniego roku (mimo że część tego wynagrodzenia stanowiły świadczenia wypłacane na czas poprzednich wakacji).

Podobne problemy zaczęły napotykać osoby korzystające z powszechnych świadczeń rodzicielskich, których wysokość zależy od uzyskiwanych przychodów, a także świadczeń związanych z urlopem macierzyńskim czy tymczasową niezdolnością do pracy z powodu choroby. Błędy dotyczyły również wyliczania wysokości emerytur w przypadku osób, które otrzymywały wynagrodzenie za pracę równolegle ze świadczeniem emerytalnym.

Skala problemów wynikających z błędów w działaniu Robodebt okazała się na tyle duża, że Rzecznik Praw Obywatelskich (Commonwealth Ombudsman) przeprowadził w tym zakresie swoje dochodzenie i wydał szereg zaleceń co do dalszego korzystania z systemu. Zorganizowano również dochodzenia dwóch Komisji Senackich a następnie powołano Królewską Komisję ds. Robodebt, która miała wskazać osoby odpowiedzialne za program i określić wpływ tego programu na społeczeństwo.

Po sprawie Amato vs. Commonwealth, w której Sąd Federalny uznał sposób uśredniania przez Robodebt wysokości przychodów za niezgodny z prawem, we wrześniu 2019 r. kancelaria Gordon Legal publicznie ogłosiła zamiar wniesienia w sprawie Robodebt pozwu zbiorowego. Złożony w tej sprawie pozew zbiorowy finalnie obejmował roszczenia ponad 430 tys. osób.

W czerwcu 2021 r. Sąd Federalny zatwierdził w tej sprawie ugodę, która obejmowała wartość 1,872 mld A$, na co składał się zwrot beneficjentom łącznie 751 mln A$, umorzenie pozostałych długów i pokrycie przez rząd kosztów procesowych sięgających 8,4 mln A$.

Po zatwierdzeniu ugody rząd przystąpił do wieloetapowego procesu zwrotu środków beneficjentom. Jak wynika z informacji udostępnionych przez Services Australia ostatnie wypłaty planowano sfinalizować z końcem września 2022 r.

Na koniec warto wspomnieć, że mimo oficjalnego wzięcia odpowiedzialności za błędy w działaniu Robodebt, australijski rząd nie zakończył zupełnie korzystania z tego systemu. Planowane jest zaktualizowanie i rozszerzenie wykorzystania systemu na comiesięczne kontrolowanie działań związanych z poszukiwaniem pracy, wymaganych od beneficjentów korzystających z zasiłków oraz działań związanych z opieką rodzicielską, które powinny być wykonane przez osoby pobierające powszechne świadczenia rodzicielskie. Planowane zmiany potocznie w mediach nazwane zostały systemem „Robodebt 2.0” i budzą duży opór społeczny.

Wnioski wynikające z oceny funkcjonowania systemu Robodebt

Analiza sposobu działania systemu Robodebt prowadzi do następujących wniosków:

  • Wprowadzanie systemów opartych na „samouczących się” algorytmach powinno być poprzedzone rozbudowanym programem pilotażowym badającym poprawność działania systemu jedynie na określonej grupie obywateli. Tak, aby w razie błędów algorytmu nie dopuścić do rozprzestrzeniania się jego skutków na skalę ogólnokrajową. Istotne jest również odpowiednio wczesne reagowanie na ewentualne błędy.
  • Bardzo ważne jest również zadbanie o to, by ewentualne postępowania odwoławcze w sprawach załatwianych automatycznie przez system były rozpatrywane przez pracowników instytucji korzystających z tego systemu. Postępowania odwoławcze nie powinny sprowadzać się jedynie do ponownego automatycznego pobierania danych z tej samej bazy.
  • Wprowadzanie przez instytucje państwowe systemów wykorzystujących zautomatyzowane algorytmy powinno być oparte na założeniu, że mają one wspierać, a nie całkowicie zastępować pracowników administracji, szczególnie w postępowaniach odwoławczych. W przeciwnym razie brak dostatecznej kontroli działania zautomatyzowanego systemu skutkować może spektakularną porażką administracji rządowej.

W następnym wpisie z naszej serii przedstawimy kolejny przykład nieudanej próby wprowadzenia zautomatyzowanego systemu w zakresie dystrybucji i egzekucji środków publicznych. Tym razem będzie to system stosowany przez holenderskie organy administracyjne, którego używanie zakończyło się m.in. zarzutami o szacowanie ryzyka nadużyć na podstawie przynależności etnicznej osób, które korzystały ze środków publicznych.

Źródła: