Podkomisja stała do spraw regulacji prawnych dotyczących algorytmów cyfrowych, obradująca pod przewodnictwem posła Grzegorza Napieralskiego (KO), przewodniczącego podkomisji, zrealizowała następujący porządek dzienny:

– algorytmy w pracy – dyskusja nad wyzwaniami i zagrożeniami stosowania algorytmów cyfrowych dla pracowników i pracodawców.

W posiedzeniu udział wzięli: Robert Kroplewski pełnomocnik ministra cyfryzacji ds. społeczeństwa informacyjnego w Kancelarii Prezesa Rady Ministrów, Bartosz Kopeć wicedyrektor Departamentu Prawnego Głównego Inspektoratu Pracy, dr hab. Krzysztof Stefański profesor Uniwersytetu Łódzkiego z Zakładu Prawa Stosunków Pracy na Wydziale Prawa i Administracji, koordynator AI Work Team, dr Izabela Florczak i dr Marta Otto adiunktki z Zakładu Prawa Ubezpieczeń Społecznych i Polityki Społecznej na WPiA UŁ, Jan J. Zygmuntowski prezes i sekretarz Rady Programowej Instrat Foundation, nauczyciel akademicki Akademii Leona Koźmińskiego i współprzewodniczący Polskiej Sieci Ekonomii, Joanna Bronowicka senior researcher z Centre for Internet & Human Rights, Magdalena Malinowska przedstawicielka Ogólnopolskiego Związku Zawodowego „Inicjatywa Pracownicza”, działaczka Komisji Międzyzakładowej przy Amazon Polska, dr Liwiusz Laska doradca Ogólnopolskiego Porozumienia Związków Zawodowych, Karolina Iwańska przedstawicielka Fundacji Panoptykon, Piotr Kempiński przedstawiciel pracowników Glovo oraz Radosław Nielek stały doradca Komisji.

W posiedzeniu udział wzięli pracownicy Kancelarii Sejmu: Magdalena Krzymowska, Wioletta Więciorkowska – z sekretariatu Komisji w Biurze Komisji Sejmowych.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dzień dobry, witam bardzo serdecznie. Chciałem na samym początku podziękować wszystkim państwu za przybycie i za tak dużą frekwencję na naszym posiedzeniu. Temat jest jakże ważny, ale moja rola będzie dzisiaj bardzo skromna, jako przewodniczącego tej podkomisji, bo cały projekt, cały pomysł związany z tym tematem, jest pomysłem pana przewodniczącego Adriana Zandberga, któremu za chwilkę oddam głos. Tak naprawdę on to wszystko dzisiaj przygotował, a nasze wspaniałe panie z Komisji przygotowały tę salę. Mamy tylko jeden problem z połączeniem z jednym z gości. Natomiast mamy nadzieję, że nasi informatycy pomogą. Ja oddaję już głos mojemu koledze, parlamentarzyście.

Adrian Zandberg, bardzo proszę o poprowadzenie podkomisji.

Poseł Adrian Zandberg (Lewica):
Dzień dobry. Bardzo miło mi się z państwem tutaj spotkać. Pozwoliliśmy sobie państwa dzisiaj zaprosić na to spotkanie. Mam nadzieję, że pierwsze w pewnym cyklu, ponieważ pomysł pana przewodniczącego, jeżeli chodzi o tę podkomisję, jest taki, żebyśmy porozmawiali o nowych zjawiskach w polskiej gospodarce, na polskim rynku pracy, które często są jeszcze słabo ujęte w ramy prawne, a zarazem których rola w życiu społeczno-gospodarczym rośnie.

Dość oczywistym polem, na którym mamy z tym do czynienia dziś w Polsce, jest przestrzeń prawa pracy i konsekwencji tego, że w coraz większym stopniu ludzkie decyzje zastępują decyzje podejmowane przez algorytm. W coraz większym stopniu te decyzje są podejmowane w oparciu o dane i pewną nie do końca przejrzystą przestrzenią pozostaje kwestia tego, w jaki sposób te dane i za jaką zgodą są gromadzone. Wreszcie pozostaje kwestia tego, że same algorytmy są zwłaszcza z perspektywy pracowników bardzo mocno nieprzejrzyste, co oznacza, że na poziomie bardzo praktycznym pracujący nie mają jasności co do tego, jakie dane są zbierane na temat ich pracy i w oparciu o jakie przesłanki są podejmowane decyzje dotyczące ich obciążenia pracą, dotyczące oceny pracy, dotyczące wynagrodzenia, dotyczące awansu. Te wszystkie kryteria, które jakoś są rozpoznane przez polskie prawo pracy, ale także przez praktykę funkcjonowania w realiach negocjacji i sporów zbiorowych, w sytuacji, kiedy pojawia się w miejscu pracy algorytmizacja, bardzo mocno się zmieniają.

Mamy poczucie, że polskie prawo jest do tej nowej sytuacji niespecjalnie dobrze przystosowane i przygotowane. I dlatego pozwoliliśmy sobie dzisiaj tutaj państwa zaprosić w takim, rzekłbym, mieszanym składzie. Bo pozwoliliśmy sobie zaprosić tu ekspertów, naukowców zajmujących się problematyką prawa pracy, nowych technologii i dyskryminacji, ale także pozwoliliśmy sobie zaprosić przedstawicieli pracowników, którzy już dziś pracują w firmach, w których istotną rolę odgrywa algorytmizacja miejsca pracy. Pomysł na to dzisiejsze spotkanie mamy taki.

Chcielibyśmy zacząć od tych właśnie głosów pracowniczych. Mamy tu w naszym gronie panią Magdalenę Malinowską, która jest przedstawicielką Ogólnopolskiego Związku Zawodowego „Inicjatywa Pracownicza”, działającego w Amazonie. Będziemy mieli także – mam nadzieję, że za chwilę, jeżeli uda nam się pokonać problemy techniczne, przedstawiciela kurierów pracowników organizujących się, pracujących dla Glovo. Chcielibyśmy zacząć od tych doświadczeń pracowników funkcjonujących w wysoko zalgorytmizowanych miejscach pracy, żeby później przejść do dyskusji już bardziej eksperckiej czy bardziej wypełnionej wnioskami, co do zmiany obowiązującego porządku prawnego.

Wystąpię w roli typowo zazwyczaj zarezerwowanej dla przewodniczącego i chciałbym bardzo serdecznie wszystkich państwa przywitać: pana Roberta Kroplewskiego, pełnomocnika ministra cyfryzacji ds. społeczeństwa informacyjnego, pana Bartosza Kopcia, wicedyrektora Departamentu Prawnego w Głównym Inspektoracie Pracy. Jest z nami zdalnie Joanna Bronowicka z Centre for Internet & Human Rights, polska akademiczka związana z Viadriną, pracująca obecnie w Berlinie. Będziemy się z nią łączyć zdalnie. Mamy w naszym gronie prof. Krzysztofa Stefańskiego wraz z zespołem, który od dłuższego czasu zajmuje się problematyką sztucznej inteligencji w miejscu pracy i konsekwencji rozprzestrzeniania się technologii opartych na sztucznej inteligencji dla pozycji pracowników, dla sytuacji w miejscu pracy. W ramach tego zespołu zechciała zaszczycić nasze dzisiejsze spotkanie pani dr Izabela Florczak i pani dr Maria Otto. Jest z nami Jan Zygmuntowski prezes Fundacji Instrat, a także nauczyciel akademicki w Akademii Leona Koźmińskiego i koordynator Polskiej Sieci Ekonomii skupiających – myślę, że najlepiej będzie to opisać – ekonomistów heterodoksyjnych. Wreszcie, jak już wspomniałem, jest z nami Magdalena Malinowska z Inicjatywy Pracowniczej. Jest z nami dr Liwiusz Laska, doradca Ogólnopolskiego Porozumienia Związków Zawodowych, mecenas, prawnik zajmujący się problematyką dyskryminacji. Jest z nami także – witamy serdecznie – pani Karolina Iwańska, prawniczka z Fundacji Panoptykon.

To chyba tyle, jeżeli chodzi o obecnych w tym momencie, bo patrzę na ekran, ale ciągle nie mamy połączenia z panem Piotrem Kempińskim, reprezentantem pracowników z Glovo. Z tego, co rozumiem na poziomie technicznym pan przewodniczący Napieralski właśnie pokazuje mi, że po tym krótkim powitaniu muszę przekazać mu z powrotem głos ze względów proceduralnych. To on właśnie prowadzić będzie dzisiejszą podkomisję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Tak myśleliśmy, że może trochę inaczej będzie, ale regulamin Sejmu jest jednoznaczny.

Poseł Adrian Zandberg (Lewica):
Zostaliśmy naprostowani.

Przewodniczący poseł Grzegorz Napieralski (KO):
Chciałem powiedzieć, że jeszcze stały doradca Komisji pan dr Radosław Nielek do nas dojedzie. Czekamy na połączenie, o którym mówił pan przewodniczący Zandberg, ale również, co najważniejsze chciałem stwierdzić, że mamy kworum.

Stwierdzam kworum. Witam kolegów posłów dzisiaj na spotkaniu naszej podkomisji, czyli możemy zgodnie z regulaminem prowadzić to posiedzenie. Bardzo dziękuję. Jak powiedział pan poseł, rozumiem, że oddamy głos przedstawicielowi, który się z nami połączył, tak?

Poseł Adrian Zandberg (Lewica):
Myślę, że może zaczniemy od inicjatywy pracowniczej.

Przewodniczący poseł Grzegorz Napieralski (KO):
Proszę bardzo.

Poseł Adrian Zandberg (Lewica):
Od sytuacji Amazona i później przejdziemy do Glovo.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dobrze, tak robimy.

Bardzo proszę, oddaję pani głos.

Przedstawicielka Ogólnopolskiego Związku Zawodowego „Inicjatywa Pracownicza”, działaczka Komisji Międzyzakładowej przy Amazon Polska Magdalena Malinowska:
Witam państwa serdecznie i dziękuję w imieniu całego naszego związku i pracowników Amazona za zaproszenie na to spotkanie. Ja od 6 lat pracuję w magazynie mieszczącym się pod Poznaniem i od kilku lat jestem także działaczką Komisji Związku Zawodowego „Inicjatywa Pracownicza”, która działa w Amazonie od samego początku powstania zakładów.

Algorytmy, z którymi mamy do czynienia, dotyczą głównie oceny pracowniczej, którą Amazon wykorzystuje do narzucania tempa pracy, ale także do zwalniania pracowników, którzy tego tempa nie utrzymują. Problemy, które wynikają, są wielorakie. Ja skupię się tylko na kilku, ponieważ de facto od 6 lat próbujemy w jakiś sposób tylko uzyskać informację, jak te algorytmy faktycznie funkcjonują, ale też wypracować jakieś narzędzia, które pozwolą nam wpływać na to, w jaki sposób one są ustalane.

W załączniku do naszego regulaminu pracy w Amazonie mamy zapisy dotyczące właśnie oceny pracowniczej. Polega to na tym, że co tydzień pracownik jest oceniany, niezależnie od tego, na jakim dziale pracuje, a tych działów jest wiele i nieraz je zmieniamy. Dowiadujemy się wtedy, czy spełniliśmy kryteria ustalane co miesiąc przez firmę, czy nie. Jeśli pracownik tych kryteriów nie spełnił, czyli nie przeprocesował odpowiedniej ilości produktów na godzinę, otrzymuje negatywną ocenę pracowniczą. Problem w tym, że my pracujemy na różnych działach i procesujmy bardzo różne przedmioty i produkty. Czasami są one duże, czasami małe, czasami jadą na jeden dział, czasami jadą na drugi dział. I de facto nigdy nie wiemy, jakie są te kryteria oceny. Ile produktów my powinniśmy przeprocedować? To są informacje, które my staramy się wydobyć od pracodawcy i właściwie one są nawet co miesiąc przedstawiane pracownikom na specjalnych planszach, ale to jest tak wszystko skomplikowane i podlegamy tak wielu różnym normom w trakcie jednego dnia pracy, że nie jesteśmy w stanie sami sobie tego obliczyć. Musielibyśmy spędzić cały dzień na obliczanie, według algorytmów, ile de facto mamy zrobić pracy w ciągu dnia. Później, kiedy przychodzi ten moment oceny, też nie jesteśmy w stanie tego zweryfikować, czy my faktycznie tyle produktów przeprocesowaliśmy. Czy było ich więcej? Czy było ich mniej? I za co my tak naprawdę jesteśmy oceniani? Nie wiemy też, w jaki sposób.

Chcieliśmy uzyskać informację, jak wyglądają algorytmy, które nas oceniają i które obliczają, ile tak naprawdę produktów przerabiamy w ciągu dnia. Niestety tych informacji jako związek zawodowy ani my, ani „Solidarność” nie otrzymaliśmy, ponieważ firma utrzymuje, że jest to tajemnica przedsiębiorstwa i tymi danymi z nami się nie podzieli. Oni wychodzą z założenia, że pracownik ma pracować jak najszybciej i w granicach swoich możliwości, a to czy faktycznie przeprocesuje i wie, ile produktów ma przeprocesować, nie jest dla nich aż tak istotne. Dla nich jest nawet lepiej jak my tego nie wiemy i nie umiemy sobie obliczyć, bo wtedy każdy pracownik stara się pracować jak najszybciej, żeby zapewnić sobie spokój i być pewnym, że spełniło się normy wyznaczone przez pracodawcę.

Algorytmy w Amazonie są ułożone w taki sposób, co jest generalnie niezgodne z polskim Kodeksem pracy, że w miarę wzrostu wydajności pracowników te normy rosną. To znaczy, co miesiąc kilkanaście lub kilkadziesiąt – tego nie wiemy, ponieważ za każdym razem, kiedy pytamy się Amazon o dokładne dane, te dane przedstawiane są inaczej – procent pracowników pracujących najwolniej, jest odcinanych z listy i system nalicza nowe normy na nowy miesiąc uwzględniając wyłącznie wyniki lepszej części pracowników. Przy takiej konstrukcji one muszą rosnąć, tzn. one co miesiąc rosną. Czasami zdarzają się takie sytuacje, że z pewnych powodów, np. kiedy jest bardzo obniżona konstrukcja, spadają, ale zazwyczaj one rosną. Zbadała to 2 lata temu PIP. Także i my zbieraliśmy te dane. Wykresy, które na podstawie tego sporządziliśmy, pokazują, że te normy wzrosły dwukrotnie, od kiedy Amazon otworzył swoje magazyny w Poznaniu.

W Kodeksie pracy mamy zapis art. 83, który mówi, że przekraczanie norm pracy nie stanowi podstawy do ich zmiany. Normy nie mogą być podnoszone, jeśli miałoby to być wynikiem zwiększonego osobistego wkładu pracy pracownika. Niestety ten zapis widnieje w rozdziale dotyczącym wynagrodzeń. Gdyby on został przeniesiony do działu dotyczącego bezpieczeństwa i higieny pracy, szczególnie tego rozdziału o komisji BHP, które muszą być powołane w zakładach, to my moglibyśmy mieć prawo, żeby te regulacje dotyczące algorytmów i dotyczące podwyższania norm móc negocjować lub chociażby opiniować. Natomiast teraz one są w dziale o wynagrodzeniach i nie mamy ani dostępu do tych informacji, ani pracodawca tego z nami nie konsultuje w żaden sposób. Nie mamy też dostępu do tego, w jaki sposób te nowe normy co miesiąc są kształtowane, obliczane i na jakiej podstawie. Tego nie wiemy. Nie mamy informacji, w jaki sposób indywidualnie oceniani są pracownicy, jak jest to obliczane i na podstawie jakich algorytmów ile dany pracownik przepracowuje w ciągu dnia, a później w ciągu tygodnia, bo oceny dostajemy dniowe, później tygodniowe. Ani nie wiemy, na jakiej podstawie system zlicza dane dotyczące wszystkich pracowników i na podstawie tego kształtuje nowe normy pracy na kolejny miesiąc.

Amazon twierdzi, że to nie są normy. On nazywa to wskaźnikami wydajności, dlatego firma twierdzi, że Kodeks pracy ich nie dotyczy i oni mogą je kształtować w taki sposób, w jaki mają ochotę. I na razie przez żaden organ funkcjonujący w Polsce ani przez nas, jako przez związki zawodowe, nie udało się faktycznie podważyć funkcjonowania norm. Dla pracowników jest to o tyle niekorzystne, że te normy faktycznie rosną. Nie pociąga to za sobą takich konsekwencji jak np. obliczanie wydatków energetycznych. One rosną, ale w zasadzie nic innego dla pracownika się nie zmienia. To znaczy, ani nasze pensje nie rosną symetrycznie i proporcjonalnie do tego, jak rosną normy, ani nie zmieniają się nasze warunki pracy. To znaczy, żadne technologiczne udogodnienia nie następują ani pracodawca nie oblicza każdorazowo po podniesieniu norm na nowo wydatków energetycznych.

Trzy lata temu mieliśmy taką sytuację, że kiedy weszła inspekcja pracy i zbadała wydatki energetyczne na niektórych działach, to u dwóch kobiet pracujących na dziale PAK, czyli pakujących paczki, przekroczenia wyszły trzykrotnie. One trzykrotnie przekroczyły maksymalne dopuszczane wskaźniki wydatków energetycznych spalania kalorii, co de facto oznacza, że powinny pracować trzy razy wolniej i wtedy i tak osiągnęłyby dopuszczalne w Polsce maksimum.

Poza tym dla pracowników jest to jednak niekorzystne i problematyczne, bo nie wiedzą, że cały czas funkcjonują w systemie, w którym mówi się o algorytmach, o systemie komputerowym, który nazywa się ADAPT, który coś oblicza. Przedstawia nam się, że zrobiłeś teraz tyle, musisz pracować szybciej. Za chwilę jest jakiś inny problem. Podaje nam się jakieś liczby. Te liczby podaje się nam co tydzień na naszych ocenach pracowniczych, co miesiąc na tablicach, ale my de facto nie jesteśmy w stanie w ogóle odnieść tego do realiów naszej pracy. To znaczy, nie wiemy, jakie to ma odniesienie do tego, co my faktycznie mamy robić, ile mamy czego spakować, ile mamy czego zebrać z półek i zawieźć na inny dział. Po prostu robimy to trochę, że tak powiem kolokwialnie, „na czuja”, żeby było dobrze.

Kolejna kwestia jest taka, że Amazon nie stosuje się do tych wytycznych, które są w Kodeksie pracy i w rozporządzeniach à propos oceny pracowniczej. To znaczy, nie uwzględnia ani wieku pracowników, nie uwzględnia płci, nie uwzględnia kondycji, w jakiej pracownik jest w danym czasie, czy wraca po pracy po chorobie, czy miał przez pół roku złamaną nogę. To w ogóle się nie liczy. Ta ocena, którą dostaje, zależy wyłącznie od obliczeń komputerowych.

W tym momencie Amazon chce wprowadzić do regulaminu pracy zapisy o tym, że menadżer może taką ocenę pracowniczą anulować. Ale my dobrze wiemy, że to będzie tylko fikcyjny zapis, który służy temu, żeby dopasować nasz regulamin pracy do obecnych zapisów związanych z RODO. De facto nadal to, w jaki sposób będziemy oceniani, będzie zależało wyłącznie od systemu komputerowego, który jest obsługiwany w Amazonie i tylko od algorytmów, na których on bazuje. Czynnik ludzki jest całkowicie nieistotny. I to jest kolejna rzecz, o którą walczymy, żeby jednak sformułować ocenę pracowniczą, do której uważamy, że pracodawca ma prawo, ale w sposób taki, który będzie dla nas przejrzysty, zrozumiały i który będzie też uwzględniał to, w jakiej kondycji jesteśmy jako pracownicy, a nie tylko liczby, które wykonujemy.

W tej chwili jest tak, że pracownice, które mają po 60 lat i pracują, bo nie są w stanie tak naprawdę zapewnić sobie godnego życia na emeryturze, wykonują cięższą pracę niż osoby, które przychodzą, które mają 20 lat i pracują na działach, gdzie praca jest lżejsza lub często przydzielani są na funkcje, gdzie te normy nie obowiązują i to dla Amazona nie ma żadnego znaczenia. Wszystkie te osoby są oceniane tak samo: 60-letnia pani z bardzo dużym doświadczeniem pracy będzie oceniana tak samo jak 20-letni chłopak, który jest zupełnie w innej kondycji fizycznej i psychicznej niż ta pani. To taki przykład z pracy.

No i to są właściwie te rzeczy. Pierwsza rzecz – ten zapis do regulaminu pracy, który umożliwia Amazonowi ocenianie pracowników i zwalnianie ich za to, że nie osiągają wyników pracy, które są naliczane w sposób, którego nie znamy, a firma nie chce nam tego powiedzieć. Druga sprawa – to, że my jako związki, jako strona społeczna nie mamy żadnego wpływu na to, w jaki sposób jest to kształtowane i nie jest to z nami konsultowane, ani nie jest to w ogóle uważane za kwestie, które dotyczą bezpieczeństwa i higieny pracy.

Kolejna rzecz, że ocena pracownicza nie uwzględnia w ogóle kondycji ani wieku pracowników, płci, ani jakiegokolwiek ludzkiego czynnika. Bazuje wyłącznie na tych algorytmach.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo pani serdecznie dziękuję za tę wyczerpującą i bardzo dokładną wypowiedź, jeżeli chodzi o pracę.

W takim razie przechodzimy do kolejnego głosu. Bardzo proszę drugiego naszego gościa. Będzie to połączenie zdalne. Bardzo proszę, oddaję głos przedstawicielowi firmy Glovo, panu Piotrowi Kempińskiemu. Nie słyszymy. Jeszcze chwilę proszę poczekać, panie Piotrze. Proszę włączyć mikrofon, panie Piotrze. Niestety nic nie słyszymy. Obraz mamy dobry, natomiast problem jest z głosem.

Szanowni państwo, przeżywaliśmy to przez całą pandemię, więc jesteśmy przyzwyczajeni do takich sytuacji. Poczekamy może jeszcze chwilkę. Może teraz się uda.

Przedstawiciel pracowników Glovo Piotr Kempiński:
Czy teraz mnie słychać?

Przewodniczący poseł Grzegorz Napieralski (KO):
Rewelacyjnie. Tak, słychać bardzo dokładnie. Oddaję panu głos.

Przedstawiciel pracowników Glovo Piotr Kempiński:
Dzień dobry państwu. Otóż w firmie Glovo pracuję od pół roku. Wcześniej pracowałem na Uber Eats, aplikacji, która również wygląda podobnie. Nasze problemy wynikają choćby z takich rzeczy jak np. korekty. Dostajemy rozliczenie tego, co zarobiliśmy i nie wiadomo skąd pojawia się korekta w Glovo na kwotę powiedzmy 80 zł, 150 zł. W ciągu pół roku raz tylko pojawiła mi się ta korekta na plus. Było to ok. 40 zł. W innym czasie cały czas korekty były na minus. Te pieniądze są nam po prostu odejmowane od zarobku. Na prośby, żeby ktokolwiek wytłumaczył, z czego to wynika, nikt nie jest w stanie nam odpowiedzieć na ten temat.

Następnym naszym problemem są pokonywane trasy. Aplikacja wyznacza zawsze najkrótszą trasę od punktu odbioru zamówienia do punktu klienta. Rozumiem, że oni też chcą, żeby jak najszybciej zamówienie było wykonane. My też chcemy jak najszybciej to wykonać. Jednak zdarzają się nieprzewidziane sytuacje np. roboty drogowe, wypadki, że musimy wybrać okrężną trasę i pokonać dłuższą trasę. Jest tak, że piszemy, że taka sytuacja miała miejsce, że musieliśmy pokonać więcej kilometrów, a to nie jest uwzględniane.

Następną sprawą są np. anulacje. Sytuacja z poprzedniego tygodnia. Miałem taką sytuację, że klient złożył zamówienie na cokolwiek, czyli być może to była paczka, być może coś innego. Okazało się, że podał niewłaściwy adres odbioru tego zamówienia. Aplikacją przez chat support został zmieniony adres. Udałem się pod kolejny adres, żeby odebrać tę paczkę, po czym zamówienie okazało się anulowane. Za przejechanie 10 km, zmarnowanie pół godziny ja dostaję 4 zł. To jest po prostu dla nas śmieszna cena: za pokonanie 10 km – 4 zł.

Następną sprawą są oceny. Jesteśmy również oceniani przez system, przez aplikację. Nie wiadomo, z czego te oceny wynikają. W regulaminie jest wyraźnie napisane, co jak wpływa na ocenę. Niestety, czasami robiąc coś źle, niezgodnie z tym regulaminem, ocena potrafi wzrosnąć, a robiąc coś wszystko dobrze, ocena potrafi spadać. Nie wiadomo, jak to jest. Nikt nie potrafi nam tego wytłumaczyć, dlaczego tak się dzieje. Wcześniej, jak pracowałem dla aplikacji Uber Eats, było coś takiego, że dojazd od punktu, w którym jestem, do punktu odbioru Uber Eats nie pokrywał tych kosztów, nie płacił nam za te pokonane kilometry i jechałem np. gdzieś odebrać paczkę czy zamówienie, dojeżdżałem do miejsca i okazało się, że zamówienie jest anulowane. Pokonywałem tę trasę za darmo.

Glovo próbowało coś takiego wprowadzić, że nie mamy prawie możliwości odrzucenia, nieprzyjęcia takiego zamówienia. Musimy wszystkie zamówienia przyjmować, które aplikacja nam narzuci. W ciągu dnia mamy tylko trzy możliwości odrzucenia takich zamówień. Jak powiedziałem, Glovo też próbowało zrobić, że nie będzie płacić za dojazd do miejsca odbioru takiego zamówienia, ale udało nam się wywalczyć strajkiem na wiosnę i opłata za dojazd została przywrócona.

Następną sprawą są bonusy za wagę i za złe warunki atmosferyczne. Musimy się o to wypraszać. Często to nie jest uwzględniane. Piszemy na chacie w trakcie trwania takiego zamówienia, ale później odsyłają nas, żebyśmy pisali mail. Pisząc następnie mail, mamy czas na otrzymanie wiadomości do 24 godzin. Dostajemy wiadomość, że musieliśmy to zgłosić bezpośrednio przy zamówieniu. Jedni odsyłają do drugich. Też nie wiemy, jak o to walczyć.

Następną sprawą są tzw. mnożniki. W Gdańsku jest np. stawka 1,40 zł za kilometr i są do tego tzw. Mnożniki, czyli np. jest mnożnik 2, to stawka za 1 km jest mnożona razy 2. Cały czas Glovo nam zaniża te mnożniki, próbując zobaczyć, jak długo będziemy wytrzymywać, jeżdżąc za coraz niższe stawki. Nie ma ustalonej odgórnej stawki, tylko są te mnożniki. Jest odgórna stawka narzucona np. za ten kilometr, a oni sobie to regulują tymi mnożnikami. Większość tutaj w Gdańsku jeździ samochodami. Te mnożniki w stosunku do wzrostu cen benzyny, ropy, gazu są wręcz niezadowalające wielu kurierów. I to chyba wszystko, co ja chciałbym powiedzieć na ten temat.

Przewodniczący poseł Grzegorz Napieralski (KO):
Panie Piotrze, jest jeszcze pytanie od pani Joanny Bronowickiej. Jeżeli pan by poczekał jeszcze chwilę to pani Joanna zada pytanie, dobrze? Już chwileczkę. Bardzo proszę.

Senior researcher w Centre for Internet & Human Rights Joanna Bronowicka:
Dzień dobry, panie Piotrze. Ja mam tylko pytanie o formę zatrudnienia. Czy to jest umowa o pracę, czy jakaś inna forma współpracy? I wiążące się z tym pytanie, bo pan wspomniał o tym, że nie mogą państwo odmówić więcej niż 3 razy. A co, jeśli zdarzy się odmowa więcej niż 3 razy? W jaki sposób firma karze, czy rozwiązuje umowę?

Przedstawiciel pracowników Glovo Piotr Kempiński:
Otóż, jeżeli chodzi o formę zatrudnienia w Glovo czy Uber Eats (też działa podobnie), nie jesteśmy związani żadną umową. Po prostu mamy założone konto na aplikacji, a umowę mamy podpisaną z tzw. partnerem rozliczeniowym, który dostaje przelew od Glovo czy Uber Eats i następnie za to rozliczenie pobiera jakąś kwotę. To są kwoty ok. 20–40 zł, zależy od partnera rozliczeniowego. I z tym partnerem rozliczeniowym mamy podpisaną umowę-zlecenie na 3 godziny tygodniowo. Resztę pieniędzy mamy wypłacanych z umowy najmu pojazdu, żeby uniknąć podatku, składek zdrowotnych, aby to wychodziło jak najkorzystniej dla nas.

 Co do tego, że nie możemy odrzucać tych zleceń. Uber Eats tego nie stosuje, ale w Glovo jest tak, że są bloki godzinowe, które system generuje. Już wcześniej mówiłem, że nie wiadomo, jak to jest generowane. Robiąc coś źle, ocena potrafi wzrosnąć, robiąc coś dobrze, ocena maleje i według tej oceny w pierwszej kolejności osoby z najwyższą oceną dostają pierwszeństwo do tzw. grafiku. W tym grafiku są bloki godzinowe. To są najczęściej bloki po 1 godzinie. Jeżeli w ciągu dnia odrzucę te 3 zlecenia, następne zlecenie dostaje tzw. czerwony blok i w tej godzinie nie mogę już pracować. Nie dostaję żadnych zleceń.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie Piotrze, za to wystąpienie. Dziękuję za wyjaśnienie i odpowiedź na pytanie.

Oddaję głos panu posłowi Adrianowi Zandbergowi. Bardzo proszę.

Poseł Adrian Zandberg (Lewica):
Myślę, że dobrze, gdybyśmy w tym gmachu porozmawiali o tym, jak wyglądają niestandardowe formy zatrudnienia w Polsce, słuchając perspektywy pracowników, bo ona dosyć rzadko się przebija przez medialne mury. A szkoda, bo to co słyszymy – wymienialiśmy się przed chwilą komentarzami z panem mecenasem Laską – brzmi jak podstawa do wniosku skierowanego do Państwowej Inspekcji Pracy. To jest tak ogólniejsza uwaga, co do tego, jak wygląda w praktyce praca platformowa w Polsce, jak często jest ona pracą na pograniczu tego, co jest zapisane w Kodeksie pracy.

Jednak odkładając na bok tę uwagę, myślę, że z tych dwóch głosów bardzo jasno tutaj wybrzmiewa to, iż mamy w Polsce problem z zastąpieniem ludzkich decyzji przez algorytm i nadaniem tym decyzjom algorytmu rangi obiektywności, z którą nie można negocjować, z którą nie można polemizować, z którą nie można dyskutować. To jest zaprzeczeniem tego, w jaki sposób, przynajmniej co do zasady, ma być zorganizowane w Polsce środowisko pracy, opierające się na dialogu społecznym. Tej przestrzeni na dialog, negocjacje, dyskusje nie ma w chwili, kiedy odpowiedzią na każde pytanie jest „algorytm podjął decyzję”, a odpowiedzią na pytania, w oparciu o jakie przesłanki – „nie interesuj się”. Tak to z tych obydwu historii, obydwu relacji, mam wrażenie, wychodzi. Mam wrażenie, że one są tu raczej reprezentatywne niż wyjątkowe. Myślę, że to jest sprawa, o której warto tutaj porozmawiać tzn. o tym, że to przeniesienie odpowiedzialności na algorytm jest wykorzystywane do tego, żeby osłabić stronę społeczną, żeby osłabić pracowników zorganizowanych tam, gdzie oni są.

Jest też druga sprawa i o tym trzeba tutaj wspomnieć. Porozmawiamy o pracy platformowej, która jest taką pracą/niepracą, która jest pracą w oparciu o umowy zdecydowanie inne niż umowa o pracę na czas nieokreślony. Elementem tego systemu jest oczywiście to, żeby w maksymalny możliwy sposób utrudnić tym pracownikom organizowanie się w oparciu o ustawę o związkach zawodowych i normalne formy dialogu społecznego i negocjacji. Myślę, że tu jest duże zadanie – chciałbym, żeby przed tym parlamentem, ale boję się pewnie przed kolejnym – i rozmowy o ustawie o związkach zawodowych i o dostosowaniu jej do sytuacji, w której dzisiaj bardzo wiele osób, tak jak choćby jeden z naszych gości, z trudem da się wpasować w ramy przewidziane przez tę ustawę, opisującą trochę inny świat niż ten, w którym żyjemy dzisiaj.

Chciałbym przekazać głos pani Joannie Bronowickiej, która – podejrzewam – skomentuje te głosy pracowników, ale też powie parę słów o pracy platformowej, o aspekcie algorytmów pracy platformowej i o dwóch drogach, jak do tej pracy platformowej podejść, żeby ją ucywilizować. Mam poczucie, i tu się pewnie wszyscy zgodzimy, że te relacje dotyczące czy to norm pracy, czy to kryteriów obcinania wynagrodzeń – chodzi o relacje, które tu usłyszeliśmy – trudno uznać za opisujące cywilizowane stosunki pracy.

Przewodniczący poseł Grzegorz Napieralski (KO):
Pani Joanno, bardzo proszę, oddajemy pani głos.

Senior researcher w CIHR Joanna Bronowicka:
Dzień dobry. Szanowni państwo, ja łączę się z państwem z Berlina, aby opowiedzieć o badaniach, które przeprowadziliśmy na Uniwersytecie Europejskim Viadrina. Postaram się też zostawić trochę czasu na koniec, żeby odpowiedzieć na ewentualne pytania. To też będzie perspektywa pracowników, bo badaliśmy, rozmawialiśmy z pracownikami, kurierami rozwożącymi jedzenie rowerem dla dwóch firm bardzo podobnych jak Glovo czy Pyszne.pl, czy Uber Eats. To był interdyscyplinarny projekt, więc oprócz socjologów, takich jak ja, brali w nim udział także eksperci od technologii oraz prawa pracy. Te badania były próbą odpowiedzi na następujące pytania. Czy algorytmy, z których korzystają te firmy, stanowią narzędzie kontroli czy, inaczej mówiąc, nadzoru w miejscu pracy? Czy przestrzegane są prawa pracowników, zarówno prawa pracownicze, jak i prawa do ochrony danych osobowych, czy też do współdecydowania o technologiach wykorzystywanych w pracy? I ewentualnie, jakie zmiany w prawie przyczyniłyby się do lepszej ochrony tych praw?

Badania opierały się przede wszystkim na wywiadach z pracownikami w 2017 i 2018 r., czyli jeszcze przed pandemią, ale także obserwacjach, analizie samej aplikacji i regulacji prawnych.

Co mogę powiedzieć? Wyniki naszych badań jednoznacznie pokazały, że aplikacja, z której korzystają pracownicy, a więc także algorytmy, na których się opiera, jest narzędziem nadzoru i służy zarówno do kontroli bezpośredniej, jak i pośredniej. Sama aplikacja stanowi ramy kompleksowego systemu zarządzania pracą. Innymi słowy, nasze badania nie pozostawiają żadnych wątpliwości, że pracownicy platform powinni być traktowani jak pracownicy, a wykorzystywanie samozatrudnienia jest w tym przypadku naruszeniem niemieckiego prawa pracy. Podobnie zresztą zadecydowały sądy w innych europejskich krajach np. w Hiszpanii czy Francji.

Ale, żeby lepiej zrozumieć te wnioski, to opowiem krótko, kim są pracownicy i dlaczego w ogóle decydują się na tę pracę. Badaliśmy pracowników dwóch różnych firm: Delivery i Foodora. Ta pierwsza korzystała z samozatrudnienia do współpracy z kurierami, a ta druga zatrudniała pracowników na część etatów. Można więc powiedzieć, że w tym czasie w Berlinie pracownicy mieli wybór, z której formy zatrudnienia korzystać. Nie byli do żadnej z nich zachęcani czy zmuszani. Co ciekawe, nasze badania wskazały, że od strony aplikacji i systemu zarządzania pracą te firmy funkcjonowały prawie identycznie.

Pracownicy to głównie osoby młode, zarówno mężczyźni, jak i (w mniejszości) kobiety, Niemcy, cudzoziemcy z wielu krajów. Są to osoby dobrze wykształcone, często w trakcie studiów, mówiące w wielu językach, sprawnie posługujący się angielskim, w skrócie tak jak gdyby Erasmus.

Dlaczego decydują się na tę pracę, a nie np. na pracę w gastronomii czy magazynach Amazon, które też w Berlinie funkcjonują? Tutaj ogromną rolę odegrała kampania tych firm pod hasłem „bądź sobie szefem”. Rzeczywiście w tej pracy nie ma osoby szefa, a całość organizacji pracy odbywa się przez aplikację na telefon. Druga ważna rzecz to elastyczny czas pracy, który można godzić ze studiami, inną pracą czy pasjami.

Podsumowując, dla tych osób, które badaliśmy, bardzo ważna była ta obietnica autonomii, która znaczyła dla nich nie tylko wolność decydowania o tym, kiedy pracują, ale też to, że nie muszą po prostu rozmawiać z szefem czy innymi pracownikami. Niestety bardzo szybko okazywało się, że ta obietnica nie jest spełniona. Szefa rzeczywiście fizycznie nie ma, natomiast aplikacja i cały system zarządzania opiera się na bardzo silnej kontroli zachowań pracowników. Co więcej, nie ma szefa, więc nie ma kogo się o coś zapytać, ani nie ma się komu poskarżyć. Biuro platformy po prostu miesiącami nie odpowiada na maile ze skargami, prośbami czy uwagami. Pracownicy, którym nie odpowiadają warunki, nie rezygnują sami, a jeśli nadal tych pracowników jest z perspektywy firmy za dużo, to podobnie jak pani odpowiadała w Amazon, ci z najsłabszymi wynikami są zwalniani albo w przypadku Delivery dezaktywowane jest ich konto. Innymi słowy, podsumowując te warunki pracy, mamy nie za bardzo do czynienia z Erasmusem, tylko chyba z Erasmusem minus albo ze stażem do pracy w warunkach cyfrowego prekariatu.

Jak dokładnie działa ten system przez aplikację? Pracownik loguje się do aplikacji na początku swojej zmiany i w tym momencie włącza się lokalizator GPS. Podczas jednego takiego zlecenia, jakim jest dostarczenie jedzenia z restauracji do klienta, pracownik musi bardzo wiele razy kliknąć na swoim telefonie w aplikacji: że dojechał do restauracji i czeka na jedzenie, że odebrał jedzenie, że dojechał do klienta i że klient odebrał jedzenie. Tym samym, każde z tych kliknięć dostarcza danych bardzo precyzyjnych dla algorytmu. Ten algorytm służy oczywiście do optymalizacji dostaw po to, żebyśmy jedzenie dostawali jak najszybciej, ale te same dane wykorzystywane są do kontroli pracowników, takiej bardzo bezpośredniej dlatego, że mówimy o kontroli miejsca, czasu i sposobu wykonywania pracy. Aplikacja przecież na bieżąco była powiadamiana, czyli to jest bezpośrednia kontrola, ale też – co ciekawe, co odkryliśmy – do kontroli pośredniej, czyli systemu nagród i kar dla pracowników, o których wspominał pan z Glovo. To może być premia za wykonanie określonej liczby dostaw w jakimś krótkim czasie.

No, ale co bardzo istotne, to są też kary. Kary za to, że ktoś się spóźnił, bo np. miał wypadek albo opuścił swoją zmianę, bo był chory. Te dane, które są zbierane w ten sposób, o którym mówiłam, są kompilowane w spersonalizowane statystyki i – jak opowiadał pan z Glovo – te spersonalizowane statystyki mają bardzo duże znaczenie na to, jaką de facto mamy autonomię w tej pracy, dlatego że ci, którzy mają dobre statystyki, rzeczywiście mogą wybierać swoje zmiany, bloki godzinowe, które im odpowiadają. Natomiast ci, którzy już mają gorsze statystyki, tracą to pierwszeństwo do grafiku i mają ten czerwony blok czy – w przypadku właśnie tych naszych kurierów – mieli dostęp, możliwość zarezerwowania tylko tych bloków godzinowych w miejscach lub godzinach, w których de facto w tym czasie nie było zleceń, więc nie można było zarobić żadnych pieniędzy. W ten sposób zaczyna się spirala, kiedy ci pracownicy z gorszymi statystykami albo są dezaktywowani, albo sami rezygnują.

Podsumowując, ten algorytm służy do zarządzania pracą kurierów, wydaje polecenia, kontroluje czas, miejsce i sposób wykonywania pracy. Zatem nie ma wątpliwości, że mówimy o stosunku pracy także w rozumieniu polskiego prawa pracy. Ponadto pracownicy muszą z tej aplikacji korzystać. To nie jest niewinne, neutralne narzędzie pracy jak rower czy plecak. To jest rzeczywiście platforma, która w tę aplikację wbudowała zautomatyzowany system zarządzania pracy, więc platforma jest po prostu pracodawcą. Tak zresztą, jak mówiłam, zadecydowały sądy w Hiszpanii czy Francji, które uznały, że samozatrudnienie nie jest tutaj dopuszczalną formą.

Co ciekawe, w Niemczech nie było takiej decyzji sądu do tej pory, ale tylko dlatego, że w obawie przed tym, że właśnie takie decyzje będą… Te firmy, które korzystały z samo zatrudnienia, wycofały się z niemieckiego rynku i przeniosły swój kapitał i swoją działalność na rynki, gdzie prawo pracy jest słabsze np. do Arabii Saudyjskiej. I tam zyski tych platform są oczywiście większe.

Na dzień dzisiejszy w Berlinie wszystkie firmy, z tego, co mi wiadomo, dostarczające jedzenie czy zakupy, zatrudniają swoich pracowników na umowę o pracę. Chociaż mamy do czynienia z innymi patologiami jak to, że te umowy o prace są podpisywane tylko na pół roku i po pół roku osoby z gorszymi wynikami są po prostu, w ramach regulacji o okresie próbnym, zwalniane albo umowa jest przedłużona na kolejne pół roku i kolejne pół roku. Tak to wygląda.

Jest duża rotacja pracowników, co bardzo utrudnia jakiekolwiek formy uzwiązkowienia się czy negocjacji z pracodawcą.

Warto wykorzystać ten przykład, o którym dzisiaj mówię, tych firm dostarczających jedzenie, by spojrzeć szerzej na sposób funkcjonowania platform, bo istotą funkcjonowania wszystkich platform, które odgrywają rolę pracodawców, jest to, że pracodawca ma dostęp do ogromnej ilości danych o pracownikach, a z drugiej strony pracownik nie ma dostępu nie tylko do własnych danych, ale także do danych jak funkcjonuje ten algorytm, który wydaje mu polecenia lub karze. Innymi słowy, mamy do czynienia z asymetrią w dostępie do informacji, która pogłębia już istniejącą przecież asymetrię, nierównowagę sił między pracownikiem i pracodawcą.

Prowadziliśmy też inne badania w call center w Polsce i w Niemczech z Fundacją Panoptykon i z Instytutem Socjologii. Co ciekawe, że ta kontrola, ta asymetria jest często postrzegana przez pracowników jako konieczny warunek ich pracy. Ona się często staje niewidoczna albo wręcz neutralna. A z drugiej strony, to, o czym było dzisiaj mówione, te algorytmy są często tak skonstruowane, żeby nie były przejrzyste czy zrozumiałe. I nawet, jeśli pracownikom uda się je odgadnąć – tak rzeczywiście było w naszym przypadku – to te algorytmy tak często się zmieniają, że nawet taka inżynieria w drugą stronę, prowadzona przez pracowników, niewiele daje, bo wtedy z kolei pracodawca zmienia algorytmy albo kurierom udaje się w pewien sposób zhakować system przez to, że ukrywają swoją lokalizację GPS i trwa taki nierówny wyścig jak między hakerami, między pracodawcą a pracownikami. Tak naprawdę to jest pewna gra, w której pracownik właściwie nigdy nie może wygrać.

Jeśli chcemy się zastanowić nad tym, czy prawa pracowników platform w szerzej rozumianych są przestrzegane, to musimy mieć zawsze na uwadze nie tylko prawa pracownicze, ale także prawa do ochrony danych osobowych oraz do współdecydowania o technologiach wykorzystanych w pracy. I tak jak mówiłam, w przypadku pracowników kurierskich tego rodzaju jak Glovo czy Pyszne.pl to tutaj nie ma wątpliwości, że należałoby domknąć tę lukę i potraktować ich po prostu jak pracowników z pełnym pakietem praw, także z pakietem praw pozwalającym na tworzenie związków zawodowych.

Istnieją natomiast inne platformy. Jest ich naprawdę wiele i różnią się w sposobie funkcjonowania. Od platform dla freelancerów takich jak tłumacze czy developerzy, czy platforma YouTube, na której przecież też można zarabiać, tworząc treści. Natomiast to, co jest ważne, co mają wspólnego te platformy, to że z jednej strony jest ta asymetria informacyjna, a z drugiej strony te wszystkie platformy jednak korzystają z jakieś formy kontroli pośredniej poprzez system kar i nagród za określone zachowania. Ale także przez to, że oceny ze strony użytkowników wpływają na to, jaką dany pracownik ma reputację albo jak wysoko jest wyświetlany w rankingu ofert. W tym kontekście niezwykle ważne jest też obowiązujące od kilku lat rozporządzenie o ochronie danych, bo ono w obecnym kształcie daje prawo pracownikom i użytkownikom platform – niezależnie od formy zatrudnienia zresztą – do wglądu we własne dane, a także teoretycznie chroni przed automatycznym profilowaniem, automatyczną oceną. Tam zawsze powinien być jakiś czynnik ludzki w ocenie.

Natomiast, tak jak mówiłam, prowadziliśmy badania z Fundacją Panoptykon i z Instytutem Socjologii Uniwersytetu Warszawskiego. Z tych badań wynika, że świadomość na temat tego, że RODO stosuje się także w przypadku pracowników, wśród pracowników jest bardzo niska. W związku z tym jest bardzo mało skarg. Tutaj słyszeliśmy panią z Amazon, że rzeczywiście bardzo sprawnie próbują wykorzystywać te przepisy. Natomiast zdecydowana większość pracowników, nawet tych, którzy słyszeli o rozporządzeniu o ochronie danych osobowych, myślą, że ono stosuje się do klientów, a nie do nich samych.

Drugim problemem z RODO jest to, że RODO nie daje właściwie wystarczających możliwości wpływu na technologie, które są wykorzystywane w miejscu pracy. Bo taka możliwość negocjacji, opinii, determinacji, ona jest zapewniona, ona jest zarezerwowana tylko dla tych pracowników, którzy są w związkach zawodowych, czyli w miejscach pracy, w których taki związek nie funkcjonuje albo nie może funkcjonować, pracownicy de facto nie mają żadnej ścieżki, żeby skontrolować to, w jaki sposób są kontrolowani. Oni mogą teoretycznie poprosić o swoje dane, natomiast nie o to, w jaki sposób te dane są zbierane i wykorzystywane, bo taka ścieżka w RODO została zarezerwowana tylko dla związków zawodowych.

Dlatego w szerszym kontekście platform, warto się zastanowić nad regulacjami, które by pozwalały na odgórną kontrolę algorytmów w miejscu pracy. Taka kontrola zachęcałaby twórców tych algorytmów czy pracodawców do tego, by już na etapie projektowania pewnych regulacji brali pod uwagę nie tylko prywatność i ochronę danych osobowych użytkowników, ale także ich prawa pracownicze. Takie rekomendacje mogłyby wypracować wspólnie związki zawodowe, eksperci od ochrony danych osobowych.

W przypadku regulacji dotyczących platform ważną zasadą byłaby też przejrzystość stosowanych algorytmów i możliwość wglądu w nią też przez jakieś niezależne organy: czy przez PIP, czy przez Komisję ds. Etyki Algorytmu. Ta dyskusja na forum europejskim już trwa. Mówi się właśnie o wprowadzeniu specjalnych nowych regulacji dotyczących platform.

W kontekście niemieckim już od wielu lat mówi się o tym, że należałoby wprowadzić takie specjalne RODO dla pracowników w formie odrębnej ustawy. Myślę, że warto byłoby te rozwiązania też na gruncie polskim wprowadzić.

To, co chciałam powiedzieć na koniec, że dzisiejsze posiedzenie Komisji to jest naprawdę krok w dobrym kierunku. Ta dyskusja w pewnym sensie dopiero się rozwija dlatego, że – nasze badania właśnie to pokazały – nadal brakuje ekspertów, którzy czują się kompetentni zarówno w obszarze prawa pracy, jak i obszarze nowych technologii. To jest ogromne wyzwanie, żeby te dwie społeczności ekspertów połączyć.

Cieszy mnie, że jest coraz większe zainteresowanie polityków tym tematem. Myślę, że pandemia, to, że wiele z nas pracuje zdalnie, zwiększyło w ogóle zainteresowanie nadzorem cyfrowym w miejscu pracy. Myślę, że to dzisiejsze spotkanie i okazja do wysłuchania pracowników to naprawdę krok w dobrym kierunku. Jeśli są jakieś pytania, to chętnie odpowiem.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, pani Joanno. Dziękuję za miłe słowa.

Pan Piotr też chciał zabrać jeszcze głos, pan Piotr Kempiński z Glovo. Ja mam taką propozycję. Ponieważ mamy jeszcze kilka osób, które nie zabrały głosu, będę gorąco prosił pana Piotra, żeby poczekał z nami. Zrobimy najwyżej podsumowanie na pytania i wystąpienia, dobrze?

Chciałbym teraz poprosić pana prof. Krzysztofa Stefańskiego. Pan profesor i jego zespół z Uniwersytetu Łódzkiego zajmują się właśnie sztuczną inteligencją związaną z rynkiem pracy, z prawami pracowniczymi, z tym wszystkim, co się wokoło tego dzieje. Panie profesorze, oddaję głos i bardzo proszę o przedstawienie tego, czym się zajmujecie.

Profesor Uniwersytetu Łódzkiego z Zakładu Prawa Stosunków Pracy, koordynator  AI Work Team dr hab. Krzysztof Stefański:
Bardzo dziękuję, panie przewodniczący. Dziękuję za zaproszenie. Bardzo się cieszymy, że państwo nas odnaleźliście i że możemy się dzisiaj spotkać w takim gronie, posłuchać pracowników. Cieszymy się, że my również możemy dodać do tego kilka kwestii. Podzieliliśmy to nasze wspólne wystąpienie na kilka obszarów. Ja powiem kilka zdań wstępu, później pani dr Izabela Florczak powie, w jaki sposób naszym zdaniem należy tworzyć przepisy prawa w duchu rozwoju sztucznej inteligencji. Następnie chcemy wskazać kilka takich kwestii szczegółowych. Tutaj zacznie pani dr Marta Otto, która powie o kwestii ryzyka związanego z profilowaniem pracowników, ochroną danych. I jeżeli państwo pozwolicie, ja zakończę, mówiąc kilka słów dotyczących zarządzania algorytmicznego i doboru pracowników chociażby do zwolnień.

Na wstępie chciałbym powiedzieć, że mam nadzieję, że nie zawiodę państwa oczekiwań, ale jeżeli państwo sądzicie, że będziemy w stanie dostarczyć gotowe recepty czy też projekty przepisów, to muszę państwa rozczarować. Takich projektów nie ma i to nie jest możliwe z kilku powodów. Po pierwsze, takich gotowych rozwiązań, gotowych projektów przepisów prawnych nie ma nigdzie na świecie. Bardzo wiele ośrodków nad tym pracuje, zarówno na szczeblu międzynarodowym, europejskim, jak i w różnych krajach na świecie. Tutaj warto wspomnieć o Uniwersytecie w Oxfordzie, z którym współpracujemy. Również takie badania toczą się w Francji czy w Niemczech. Jeśli chodzi o Polskę, to musimy się przyznać, że chyba jesteśmy jedynym takim ośrodkiem naukowym uniwersyteckim, który zajmuje się prawem pracy w kontekście sztucznej inteligencji i rozwoju tej technologii.

Napotykamy na pewne trudności z naszymi badaniami. Przede wszystkim tu nie chodzi o sformułowanie projektu przepisów, bo to można usiąść i napisać, ale tutaj chodzi o ten kontekst społeczny, o którym przed chwilą słyszeliśmy, ekonomiczny, a także polityczny oczywiście. Natomiast nasze trudności polegają jeszcze na tym, że prowadzimy te badania w dosyć dużym zaangażowaniu naszym osobistym, ale nieco hobbistycznie, bo nie jesteśmy w stanie otrzymać finansowania na nasze badania. Tutaj muszę powiedzieć, że środki uczelni wiadomo, jakie są, natomiast okazało się, że pozyskanie finansowania z zewnątrz, chociażby z Narodowego Centrum Nauki, jest niezwykle trudne. Nie dostaliśmy grantu na nasze badania, chociaż wydawało nam się, że one są kluczowe.

Zanim przejdę do tej zasadniczej części, to jeszcze chciałem rozwiać pewien mit. Myślę, że tutaj w tym gronie nie muszę tego robić, ale warto, żeby to wybrzmiało. Otóż istnieje taki mit, że cała sztuczna inteligencja, rozwój tej techniki to jest science fiction i mamy na to czas, bo to nastąpi za wiele lat albo wcale. W związku z tym my nie musimy się spieszyć. Otóż musimy się spieszyć, bo rozwój sztucznej inteligencji należy do najbardziej dynamicznych na świecie, chociażby przykład pierwszy z brzegu: obrazowanie, rozpoznawanie obrazów – średnia skala błędów człowieka to jest 5%. W 2011 r. sztuczna inteligencja miała 26% błędów, w 2015 r. – 3,5%. Szacuje się, że w tym lub przyszłym roku osiągnie 1,5%. Tak że to jest przedział tego czy przykład tego dynamizmu. Dlaczego o tym mówię? Bo to nie jest tak, że ten mit krąży tylko wśród osób, które się tym nie zajmują, czy nie mają żadnego pojęcia o tym. Otóż nie dalej jak 2 tygodnie temu byłem na konferencji i mówiłem o sztucznej inteligencji w kontekście prawa pracy i usłyszałem od jednego z profesorów: dobrze, że o tym rozmawiamy, bo warto rozmawiać o czymś, co będzie za 100 czy 200 lat. To jest teraz. Zresztą podobne, może nie aż takie, ale podobne zdanie usłyszałem nie tak dawno z ust przedstawiciela Ministerstwa Rozwoju, który twierdził, że po co my mamy opracowywać przepisy prawa związane ze sztuczną inteligencją. Możemy poczekać na to, co zrobi Unia Europejska, bo przecież w ciągu najbliższych 10 lat to jest nam do niczego niepotrzebne.

Jak dzisiaj słyszeliśmy z tych przykładów, jest to nam szalenie potrzebne, aby rozmawiać na ten temat, aby zacząć pracować nad konkretnymi regulacjami prawnymi. Chciałbym zwrócić jeszcze uwagę na to, że sztuczna inteligencja będzie miała wpływ na środowisko pracy w zasadzie w każdym kontekście: zarówno wykonywanie pracy, jak i zarządzanie pracą, ale także na rynek pracy oczywiście. Dosyć często możemy przeczytać szokujące artykuły w mediach o tym, że technologia odbierze bardzo wiele stanowisk pracy. I powstaje pytanie: Czy rzeczywiście rozwój tej technologii spowoduje bezrobocie technologiczne? Odpowiedz jest prosta: tak, spowoduje. Tylko problem jest, aby oszacować ten wpływ. Te szacunki są bardzo różne na świecie, od 3% do 75%. Tak że olbrzymia różnica. W Polsce też są różne szacunki. Ostatnio czytałem o takich, które wahają się w okolicach 30–40%, co nie jest wynikiem bardzo złym. Te scenariusze są bardzo różne, od takich bardzo czarnych po takie, w których w zasadzie nic się nie zmieni.

Natomiast warto tutaj powiedzieć o tym, że pewną iluzją jest fakt, że będziemy mogli spokojnie przebranżowić pracowników. Mówi się o tym, że jedno miejsce pracy, które sztuczna inteligencja zabierze, spowoduje powstanie 1,5 miejsca pracy, które sztuczna inteligencja nam da. Być może tak. Ale nie będziemy w stanie przebranżowić tego robotnika, który pracuje na hali maszyn, czy też górnika w programistę. To jest iluzja.

W związku z tym to bezrobocie technologiczne nas prędzej czy później czeka. Problem jest taki, jak mamy temu przeciwdziałać i czy możemy temu przeciwdziałać. Oczywiście to nie jest tylko kwestia prawa pracy. To jest kwestia również edukacji, ale także, jeżeli już dochodzimy do prawa, prawa ubezpieczeń społecznych, bo to też jest istotne, jak również prawa podatkowego.

Oczywiście sztuczna inteligencja będzie miała czy ma wpływ. Właśnie to jest to nasze postrzeganie – będzie miała wpływ, ona już ma wpływ. Usłyszeliśmy to ust przedstawicieli Glovo czy pani z Amazona, ale my musimy brać pod uwagę, że ta sztuczna inteligencja ma wpływ także na rynek pracy już teraz. Wszyscy korzystamy z bankowości internetowej. Czy ktoś z państwa, kto kupuje bilety lotnicze, idzie do biura turystycznego i tam kupuje tak, jak było to kilkanaście lat temu? Oczywiście nie. Korzystamy z kas samoobsługowych w marketach. To jest wszystko wpływ na rynek pracy. My wybierając ten łatwiejszy dla nas sposób dokonywania zakupów czy też usług, wpływamy na rynek pracy. Oczywiście kwestia świadczenia pracy, warunków pracy, współdziałania sztucznej inteligencji czy też automatyzacji z pracownikiem jest istotna. Jeszcze kwestia zarządzania algorytmicznego, ale to na końcu. Chciałbym oddać głos pani dr Izabeli Florczak.

Adiunktka z Zakładu Prawa Ubezpieczeń Społecznych i Polityki Społecznej na WPiA UŁ dr Izabela Florczak:
Bardzo dziękuję. Ja będę nawiązywać trochę do tego, co mówił pan profesor, ale do tego również, o czym mówili państwo, przedstawiciele pracowników zwłaszcza. Co ciekawe, przygotowywaliśmy swoje wystąpienia z panem profesorem niezależnie. Pierwsze zdanie mojego brzmi: nie mamy gotowych przepisów prawa pracy. Powtarzam to jeszcze raz, nie ma i niekoniecznie mieć będziemy. Natomiast to, na co bym chciała zwrócić uwagę, to projekt, który wspólnie z panią dr Martą Otto realizujemy. Jest to projekt nawet nie Komisji Europejskiej. My jesteśmy wykonawczyniami tego projektu z ramienia Uniwersytetu Łódzkiego. Pani doktor jest kierownikiem, ja wykonawcą. W projekcie badamy między innymi wpływ sztucznej inteligencji na prawo pracy, ale również zajmowałyśmy się regulacjami polskimi, w ogóle sytuacją na polskim rynku pracy dotyczącą zatrudnienia za pośrednictwem platform.

Co jest ciekawe, jak porównujemy nasze raporty krajowe z raportami naszych kolegów z państw tzw. starej Unii, to wychodzi na to, że u nas niewiele się dzieje, jeżeli chodzi o działania legislacyjne i działania partnerów społecznych. Na przykład w Uber jakiś czas temu była kontrola Państwowej Inspekcji Pracy, która jedyne, co wykazała, to że kilku pracowników nie miało badań BHP. Natomiast PIP absolutnie nie mogła badać sytuacji kierowców czy dostawców, z uwagi to, że nie są oni pracownikami. Na tym się skończyło. Z drugiej strony – to też tak anegdotycznie – jak przygotowywałyśmy raport dotyczący pracy za pośrednictwem platform, bardzo się ucieszyłyśmy, bo znalazłyśmy informację, że oto powstała reprezentacja pracowników platformowych kierowców. Tylko, jak się okazało, ta informacja została opublikowana 1 kwietnia jako żart na prima aprilis. I to pokazuje też pewnego rodzaju tendencje społeczne, które u nas występują.

Pan poseł Zandberg mówił o tym, że należałoby zrzeszać osoby, które pracują za pośrednictwem platform, w związkach zawodowych. Biorąc pod uwagę ogólny stopień uzwiązkowienia w Polsce, wydaje się to bardzo utopijnym marzeniem. Pytanie jest takie: Jak w ogóle dotrzeć tych ludzi, w jaki sposób móc ich organizować?

Poseł Adrian Zandberg (Lewica):
Ja jedno zdanie polemicznie, bo akurat mamy tutaj przedstawiciela kurierów z Glovo, którzy mimo tego, że nie pozwala im na to ustawa o związkach zawodowych, zorganizowali się i przeprowadzili skuteczny strajk. To jest pozytywna historia.

Adiunktka z Zakładu Prawa Ubezpieczeń Społecznych i Polityki Społecznej na WPiA UŁ dr Izabela Florczak:
Bywa i tak. To jest bardzo pozytywna historia. Natomiast należy się zastanowić, w jaki sposób związki zawodowe i w ogóle organizacje pracowników powinny docierać do osób, które pracują za pośrednictwem platform i są – mówiąc nieelegancko – ofiarami sztucznej inteligencji, o czym dzisiaj słyszeliśmy. To, co przedstawiłam, to są uwagi dotyczące tego, jak stworzyć prawo pracy w duchu rozwoju sztucznej inteligencji i to są oczywiście jedynie pewne kierunki.

To, co jest istotne – o czym państwo posłowie doskonale wiecie – poza podkomisją, w której się dzisiaj spotkaliśmy, działa również Parlamentarny Zespół ds. Przyszłości Pracy, którego prace w jakiś sposób się krzyżują. Dobrze, że to działa, tylko szkoda, że obok siebie, a nie razem.

28 grudnia 2020 r. został wydany załącznik do uchwały Rady Ministrów. Jest to „Polityka dla rozwoju sztucznej inteligencji w Polsce od 2020”. Do kiedy? Nie wiemy. Chyba na zawsze. Wykonawcą tej polityki sztucznej inteligencji jest minister właściwy ds. informatyzacji, czyli znowu pojawia się nam dodatkowy podmiot i dodatkowe jego działania. 1 września tego roku tenże minister powinien był wydać sprawozdanie z realizacji tego programu za pierwsze 9 miesięcy jego obowiązywania. Ja do niego nie dotarłam, więc chyba go nie ma, chyba że gdzieś jest bardzo ukryte te sprawozdanie. Jeśli go nie ma, to pytanie o to, co się w ministerstwie dzieje.

Ta polityka określa trzy główne płaszczyzny celów. Pierwsze cele to cele krótkoterminowe do 2023 r. One nas zasadniczo nie interesują – mówię tutaj jako zespół naukowy – bo nie dotyczą w ogóle prawa pracy. Ale mamy cele średnioterminowe do 2027 r. i wtedy dopiero jest mowa o tym, że mają być prowadzone badania dotyczące ewentualnych zmian w prawodawstwie i konsultacje ze środowiskiem akademickim. Tutaj gratuluję panu przewodniczącemu – wybiegł 6 lat do przodu względem tego, co ta polityka zakłada.

22 września bardzo podobny dokument został wydany w Wielkiej Brytanii, tylko że tam cele krótkookresowe to jest 6 miesięcy, średniookresowe 6–12 miesięcy, długoterminowe 12 miesięcy i dłużej. I żeby nie było, że tylko krytykuję, bo przewagą tego, co jest w tej polskiej strategii, jest to, że ona kładzie bardzo duży nacisk na obszary związane z rynkiem pracy, z zatrudnieniem, o czym mówił pan prof. Stefański, ze zmianami technologicznymi w miejscu pracy. Natomiast w tej brytyjskiej strategii niekoniecznie to występuje.

Druga cześć mojego wystąpienia ma słowo klucz „antycypować”. My jako prawnicy związani z prawem pracy, zajmujący się prawem pracy, ale też, o czym mówił pan profesor, prawem ubezpieczeń społecznych, także zagadnieniami bardzo powiązanymi – bo np. ja się zajmuję również migracjami na polskim rynku pracy, które są aktualnie absolutnie związane z rozwojem sztucznej inteligencji i wpływem, które te dwa zjawiska mają na rynek pracy – musimy widzieć bardzo szeroką perspektywę rozwoju sztucznej inteligencji, a nie tylko to, co się faktycznie dzieje na rynku pracy. Nam jest czasami trudno – o czym też dzisiaj była mowa – obracać się w tych wszystkich technologicznych zmianach. My po prostu tego nie rozumiemy i nie po to jesteśmy, żeby zrozumieć. Zatem to, czego brakuje w debatach, które aktualnie się toczą, to jest obecność osób, które od kulis rozumieją, na czym polegają algorytmy i ich funkcjonowanie. Opierając się na aktualnym stanie wiedzy technologicznej, który zmienia się w zasadzie codziennie, jakiekolwiek propozycje legislacyjne – mówię kierunki, nie brzmienie przepisów, bo to jest zadanie legislatorów – my przygotujemy, ale one będą z góry nieaktualne. Tutaj zresztą truizmem jest stwierdzenie, że prawo nie nadąża za rozwojem technologii, bo ono nie ma prawa za nim nadążać. Natomiast to, co jest istotne, to zaangażowanie w nasze prace również osób, które zajmują się tworzeniem tych nowych technologii, bo te osoby bardziej wiedzą, w którym kierunku te nowe technologie będą się rozwijać i wtedy my możemy zakładać, wnioskować, jaki wpływ będzie to miało na prawo pracy i na rynek pracy. Tak że taka współpraca jest niezwykle istotna.

Bardzo cieszę z obecności przedstawicieli pracowników. Na pewno brakuje jeszcze przedstawicielstwa pracodawców. Ja wiem, że pracodawcy niekoniecznie są zainteresowani tego typu debatami, bo pracodawca, jakim jest Amazon czy Glovo, nie przyszedłby tu i nie opowiedziałby, jak działa algorytm. Ale mimo wszystko być może dobrze byłoby szukać tej sieci porozumienia, bo bez tego się nie da. No, i żeby nie było tak, że mówimy czego nie wolno, a nie dajemy żadnego remedium, to jednak te remedia chciałabym przedstawić.

Po pierwsze, co jest bardzo istotne, zresztą o tym wspominał pan profesor, to finansowanie badań. W tej strategii rozwoju sztucznej inteligencji jest cały wykaz projektów, które ewentualnie mogą finansować badania związane ze sztuczną inteligencją. Ale mówiąc kolokwialnie, to po prostu wymienione jest wszystko od Sasa do Lasa. Więc bardziej istotne wydaje się – z punktu widzenia tego, czym my się zajmujemy – zlecanie ekspertyz w konkretnych obszarach, a nie po prostu rozpisywanie grantów na finansowanie badań, które niekoniecznie potem jakiś obraz sytuacji nam pokażą.

Po drugie, konieczne jest skoordynowanie działań, które się już dzieją i jeszcze dziać będą, skoro właściwe za monitorowanie polityki związanej z rozwojem sztucznej inteligencji jest de facto Ministerstwo Cyfryzacji. Ministerstwo Cyfryzacji pracowało nad projektem przepisów dotyczących np. monitoringu pracowniczego, w momencie, w którym one znalazły się w Kodeksie prac i są, mówiąc bardzo delikatnie, trudne do stosowania, bo zabrakło tam konsultacji ze środowiskiem prawa pracy. Przy czym nie mam w sumie informacji, czy na ten moment my już mamy ministra odpowiedzialnego za pracę, czy nie, bo tu jakiś problem powstał, jeżeli chodzi o przesunięcia, więc to może też powodować pewne problemy.

Natomiast skoordynowanie działań jest absolutnie konieczne. Bez tego również nam jest trudno cokolwiek badać, bo to, co my badamy, za chwilę okazuje się nieaktualne, bo w innym ministerstwie właśnie sobie wymyślili co innego. Przepraszam, że tak mówię kolokwialnie, ale dokładnie tak to wygląda.

To, co jest dalej istotne, o czym też już dzisiaj była mowa, to jest edukacja. Nie mówię tutaj o edukacji takiej, żeby każdy obywatel wiedział, w jaki sposób działają algorytmy, bo tak jak powiedziałam, to nie jest nasza rola, ale bardzo istotne jest to, żebyśmy rozumieli jako społeczeństwo wpływ, jaki stosowanie algorytmów ma na nasze życie. To jest to, o czym z panem przewodniczącym rozmawialiśmy w kuluarach przed rozpoczęciem spotkania. I tu nie chodzi o edukowanie osób, które nam się wydaje, że już są pod kontrolą algorytmów, czyli pracowników – tak jak była dzisiaj mowa, pracowników Amazona czy Glovo, Ubera itd. – natomiast chodzi generalnie o całość społeczeństwa, bo algorytmizacja tego społeczeństwa już się dzieje. My tego nie rozumiemy jako społeczeństwo i raczej uważamy to za jakieś bardziej fiction niż science i coś, co nas w tym momencie dotyczy. Więc my jako naukowcy zawsze kończymy tym, że trzeba edukować i prowadzić badania. Powtarzam, trzeba edukować i prowadzić badania. Oddaję głos pani dr Marcie Otto. Bardzo dziękuję.

Adiunktka z Zakładu Prawa Ubezpieczeń Społecznych i Polityki Społecznej na WPiA UŁ dr Marta Otto:
Dziękuję za oddanie głosu. Moją rolą dzisiaj miało być pokazanie państwu specyficznego…

Przewodniczący poseł Grzegorz Napieralski (KO):
Pani doktor, czy mógłbym prosić bliżej mikrofonu? Wtedy lepiej będzie słychać. Dziękuję.

Adiunktka z Zakładu Prawa Ubezpieczeń Społecznych i Polityki Społecznej na WPiA UŁ dr Marta Otto:
Tak, jak awizował pan prof. Stefański, moją rolą dzisiaj miało być pokazanie państwu studium przypadku specyficznego. Mianowicie miałam mówić o badaniach prowadzonych już w ramach naszej grupy roboczej, dotyczących analityki siły roboczej, nazywanej po angielsku workforce analysts, co chyba trochę lepiej brzmi, czy po prostu profilowaniem pracowników a kwestią ochrony człowieka w erze big data.

Dzisiaj usłyszeliśmy wiele przykładów, jak ta rzeczywistość w tym obszarze się kształtuje i niestety to, co kiedyś było utopijną wizją wizjonera, który w 2017 r. przepowiadał, że czy nam się to podoba, czy nie, czekają nas czasy, że będzie nami zarządzić radykalna transparentność i algorytmiczne podejmowanie decyzji, te czasy już nadeszły. Tylko że ta radykalna transparentność na dzień dzisiejszy jest jednokierunkowa i w zasadzie pomaga realizować szeroko pojęte interesy pracodawców.

Oprócz przykładów takich jak Google, Amazon czy Uber, Lyft, które wierzą, że ta algorytmizacja jest urzeczywistnieniem idei merytokracji i większej obiektywizacji w środowisku pracy, warto się skłonić ku takim dość ciekawym rozwiązaniom, a mianowicie pierwszym na świecie rynku cyfrowych pracowników, który w 2019 r. powołała do życia firma IPsoft, który to rynek docelowo ma służyć przekształceniu środowiska pracy… albo inaczej – stworzeniu, w ramach środowiska pracy, takich superzespołów, czyli zespołów złożonych z algorytmów. Pytanie: Gdzie to nas zaprowadzi?

Jeżeli chodzi o antycypowanie, to nauka – w szczególności europejska – od lat zajmuje się antycypowaniem ryzyk, które związane są z algorytmizacją środowiska pracy. To, co dzisiaj już padło, ale powtórzę, gdyż jest to ważny argument – w związku z nieprzejrzystą konstrukcją algorytmów, profilowanie i wszelkie zjawiska związane z analityką siły roboczej w istotny sposób pogłębiają asymetrię informacyjną. A co za tym idzie, pogłębiają również zjawisko deindywidualizacji, jeżeli chodzi środowisko pracy, które – jak słyszeliśmy dzisiaj – jest bardzo niebezpieczne z punktu widzenia umożliwienia efektywnej realizacji poszanowania praw człowieka. Nie chodzi tylko o prawo do prywatności czy prawo do ochrony danych osobowych, ale wszelkie prawa, które są z tymi prawami skorelowane. Mam tu na myśli głównie prawa pracownicze, prawa społeczne typu prawo do godnych warunków pracy, prawo do bezpiecznych sprawiedliwych warunków pracy czy w końcu samo prawo do pracy.

Myślę, że zauważenie tego argumentu w debacie publicznej i edukacja w tym obszarze jest również ważna, ponieważ te nasze prawa indywidualne, w szczególności w środowisku pracy, nie funkcjonują w próżni. To jest pewien konglomerat i zespół naczyń połączonych, gdzie naruszenie jednego prawa powoduje ogromne konsekwencje dla całego szeregu praw komplementarnych.

Jedno z kluczowych pytań, które powinniśmy sobie zadać na dzień dzisiejszych, to w jakim stopniu, a w zasadzie na jakich warunkach zaakceptowanie profilowania czy różnych technik analityki siły roboczej powinno być dopuszczalne, czyli na jakich warunkach chcemy, by był to stały element kultury organizacyjnej szeroko rozumianej współczesnych miejsc pracy. Czy jako naturalne rozszerzenie uprawnień władczych, o czym dzisiaj pani de facto wspominała, omawiając kwestie, które jakby wypływają na powierzchnię w firmie Amazon.

Jeżeli spojrzymy na to, jak mogłaby wyglądać odpowiedź ustawodawcza, to mamy bardzo rozbudowane – naprawdę bardzo – ramy prawne, jeżeli chodzi o ochronę prywatności i ochronę danych osobowych, pracowników w szczególności. To jest cała konstrukcja wielopłaszczyznowa i pewnie trzeba byłoby zorganizować spotkanie, żeby wyłożyć, jaki jest stopień zależności między poziomem międzynarodowym, ponadnarodowym i krajowym. Tych regulacji jest od groma. Mamy mnóstwo przepisów, mamy mnóstwo organów kompetentnych sądów, ale też organów nadzorczych, które są wykwalifikowane, jeśli chodzi o decydowanie o przestrzeni prawnej. Natomiast dzisiaj problem polega na tym, że de facto żadne z tych regulacji, po pierwsze, nie adresują problemu profilowania czy algorytmizacji szeroko rozumianej. Po drugie, nie ma takich, nawet na poziomie ponadnarodowym, międzynarodowym, które na dzień dzisiejszy – jeżeli patrzymy na ochronę praw człowieka szeroko rozumianych w prawie pracy – są taką centralną osią dla nas, centralnym punktem odniesienia. Tam nie ma regulacji sensu stricto pracowniczych. To stanowi duży problem i o tym też już rozmawia się od dłuższego czasu na forum nauki europejskiej. Debaty dotyczące np. tego, czy należy doprecyzować jeszcze starą dyrektywę o ochronie danych z 1995 r., były podejmowane w latach 2001–2004 przez Komisję Europejską. Na tamten czas nie było takiej woli – nazwijmy umownie – politycznej, żeby pewne kwestie doprecyzować. Ta debata znowu się pojawiła przy rozporządzeniu i znowu nie byliśmy w stanie osiągnąć żadnego konsensu.

To, co jest jasne – szczególnie po tym, co tu wysłuchaliśmy ze strony pracowników – to fakt, że jest oparcie tej regulacji na bardzo generalnych normach, których retoryka jest bardzo silna. Bo retoryka praw człowieka jest bardzo silna. Natomiast, jeżeli chodzi o zapewnienie rzeczywistego egzekwowania tych praw w środowisku pracy, w sytuacji asymetrii informacyjno– negocjacyjnej stron, stwarza pewnego rodzaju pozór, że de facto mamy prawa, ale nie możemy z nich za bardzo skorzystać, właśnie w świetle tej asymetrii.

Abstrahując, jakby pomijając te różne pomysły, które padły, wydaje mi się, że jeżeli chcemy mówić o takim skutecznym odkodawniu tej algorytmicznej czarnej skrzynki w środowisku pracy, to jest jasne dla nas jako naukowców, że jest potrzebna tutaj wieloinstytucjonalna, wielowątkowa, interdyscyplinarna współpraca.

Natomiast, jeśli patrzymy na samo ustawodawstwo, to na pewno konieczne jest przesunięcie takich akcentów legislacyjnych z bardzo pozornych – jak dzisiaj słyszeliśmy – gwarancji przejrzystości, gwarancji kontroli nad algorytmami w kierunku zrównoważenia tych praw, które pozornie kolidują ze sobą, czyli pracodawców z jednej strony, a z drugiej strony praw pracowniczych.

Jeżeli spojrzymy na te regulacje sensu stricto, odnoszące się do ochrony danych osobowych, ciężar równoważenia tych konfliktujących interesów – ze względu na klauzule generalne zawarte w tych przepisach o takim, a nie innym charakterze – spoczywa na pracodawcy. I dlatego mamy efekt taki, a nie inny. Tak więc, de facto ciężko jest nam mówić o jakichkolwiek standardach ochrony.

Wydaje się – i to też jest głos coraz częściej podnoszony przez naukę zagraniczną – że żeby móc spróbować wypracować taką równowagę, to konieczne są już na tym etapie działania ustawodawcze, przynajmniej na poziomie krajowym, jeżeli nie na międzynarodowym. O tym też dzisiaj rozmawialiśmy. Natomiast do tego musi być też wola i mam nadzieję, że w tym kierunku będą prowadzić nas spotkania takie jak to dzisiejsze. Dziękuję ślicznie i oddaję głos.

Profesor UŁ, koordynator AI Work Team dr hab. Krzysztof Stefański:
Jeśli można…

Przewodniczący poseł Grzegorz Napieralski (KO):
Panie profesorze, czy mogę mieć do pana prośbę? Otóż pan dr Jan Zygmuntowski musi wyjść, a chciał zabrać głos, więc w tej chwili zabrałby głos, a za chwilę do pana wrócimy. Zrobimy taka małą zmianę, tak? Bardzo panu profesorowi dziękuję. Bardzo proszę, panie doktorze.

Prezes i sekretarz Rady Programowej Instrat Foundation, nauczyciel akademicki Akademii Leona Koźmińskiego i współprzewodniczący Polskiej Sieci Ekonomii Jan J. Zygmuntowski:
Pozwolę sobie tylko powiedzieć, że jeszcze nie doktorze – niestety, bo czekam na tę chwilę.

Przewodniczący poseł Grzegorz Napieralski (KO):
To dobra wróżba.

Prezes i sekretarz Rady Programowej Instrat Foundation Jan J. Zygmuntowski:
Wydaje mi się, że przed chwilą padło niezwykle cenne pytanie, czyli jak daleko chcemy pozwolić na taką algorytmiczną dyscyplinę w pracy. To jest pytanie, na które jako społeczeństwo odpowiadaliśmy wielokrotnie.

Kiedy patrzymy na historię dyscypliny w pracy, to chyba pojęcie cyfrowego tayloryzmu, który mamy w naukach o gospodarce cyfrowej, najlepiej przywołuje ten kontekst monitorowania, dyscypliny, a więc tę historię, kiedy Frederick Taylor ze stoperem mierzył różne ruchy pracowników i te działania wzbudziły zainteresowanie Kongresu Stanów Zjednoczonych. Później się od nich dystansowano, fordyzm nie zakładał tego typu nadzoru. Musieliśmy jako społeczeństwo czekać bardzo długo do pojawienia się tych zupełnie nowych problemów, przy czym weźmy w cudzysłów wyraz „nowych”. Chris Harman, działacz socjalistyczny w 1979 r. już mówił o algorytmicznym pomiarze pracy, o współpracy robotów z ludźmi i zagrożeniach, które z tego wynikają. Zatem nie do końca zgodziłbym się z tym, że prawo nie nadąża. To raczej to prawo, które wdrażamy, nie nadąża, ale nie jest tak, że nie możemy tego zmienić. Raczej, jeśli zbadamy dobrze problem i odpowiemy sobie na to, jaka jest jego skala, będziemy w stanie. W technologii nie ma nic, czy w ogóle w innowacjach nie ma nic, co jest tak wyjątkowe, że prawo za nimi nie nadąża. Jest wprost przeciwnie. To my projektujemy innowacje i technologie. Cała nauka o finansowaniu innowacji, narodowych systemach innowacji pokazuje, że jest odwrotnie. Prawo i ekonomia poprzedzają nowe technologie, więc możemy bardzo precyzyjnie regulować.

Ze swej strony bardzo bym zachęcał, jeśli są na sali – a wiem, że są – parlamentarzyści, żeby być śmiałym, ambitnym i odważnym. Trzeba regulować jak najszybciej, bo czas na to najwyższy. Słyszeliśmy przed chwilą opinie pracowników, za chwilę usłyszymy związkowców. To nie jest problem nowy. To problem istniejący od paru dekad, który teraz nabrzmiał dlatego, że spora część społeczeństwa jest nim dotknięta.

Rozmawialiśmy tu o pracy manualnej, pracy fizycznej. Wydaje nam się, że to jest ten główny wątek, o którym często się mówi, jak wyczerpująca jest praca w Amazonie. Mieliśmy w Amazonie śmierć z wycieńczenia, więc rozumiemy jak bardzo jest to duży problem. Natomiast badania, które prowadzę z kolegą Nikodemem Szewczykiem z UW nad pracą zdalną, pokazują, że również praca biurowa i praca kognitywna jest tak samo dotknięta tą dyscypliną, albo ta dyscyplina może być rozciągnięta jeszcze dalej, ponieważ pracując przez systemy informatyczne dużo łatwiej jest nas kontrolować. I nawet – że tak to ujmę poetycko – arystokracja pracy, jaką są pracownicy sektora IT, programiści wysoko wykwalifikowani, wysoko opłacani, również jest tym dotknięta.

Powszechne były historie o konieczności dostosowywania się do systemów, które monitorują, które np. robią zdjęcia z kamerki, monitorują ruchy myszką, gdzie trwa wyścig miedzy tymi pracodawcami, którzy wdrażają systemy inwigilacji, a pracownikami, którzy są również programistami, więc sami szukają własnych algorytmicznych sposobów na obejście tego. Trwa bezustanna walka kto lepiej rozumie ten system. W oczywisty sposób odbija się to na jakości pracy, bo pracownik skupia się na tym, jak oszukać system, a nie na samej pracy, co trochę pokazują też tezy Davida Graebera o gówno wartych pracach są coraz bardziej adekwatne.

Szanowni państwo, patrząc na to, jakie rozwiązania są możliwe, chciałbym, abyśmy trochę odeszli od myślenia tylko o edukacji, tylko o jawności i tylko o transparentności – chociaż są one ważne. Jednak, jak widzimy, możemy mieć świadomość, całe społeczeństwo może być zainteresowane i może mówić o tym, że to jest ważny problem, ale jeśli nie mamy rozwiązań systemowych, to ta świadomość do niczego się nie przyda.

Sięgnąłbym po propozycję Europejskiej Konfederacji Związków Zawodowych, która moim zdaniem świetnie wyraża to, jakie są propozycje, ale też wyłuskałbym ich trochę z istniejących regulacji czy proponowanych przez część badaczy, część think tanków – co przede wszystkim widzimy jako poziom wyjściowy – że musimy interpretować pracowników jako pracowników po prostu. Czyli musimy rozszerzyć kategorię pracownika tak, żeby pracownik, który jest nadzorowany niekoniecznie w miejscu pracy, ale przez jeden konkretny algorytm, czy jedną konkretną platformę, która wyznacza mu miejsce np. przejazdu, dokładną zapłatę, która nawet pośredniczy w tej zapłacie, właściwie w tym sensie powinna być rozumiana jako narzędzie pracodawcy w rozumieniu normalnie stosunku pracy. To jest pewien bazowy punkt wyjścia. Tak też uznają to sądy na całym świecie. W Europie mamy już masę wyroków dotyczących pracy platformowej fizycznej czy nawet zdalnej, gdzie to miejsce pracy jest po prostu domem.

Widzimy, że ta potrzeba transparentności jest potrzebą dużą – tutaj ten wątek z Amazona. RODO daje nam np. możliwość wglądu w nasze dane, ale dane bazowe, a nie wynikowe. Stąd to rozciągnięcie, żeby pracownicy, związki zawodowe, które są obecne w zakładzie pracy, ale też badacze wskazani przez te związki, mieli dostęp do tych danych, bo to jest ostatecznie nasza praca, żeby przyglądać się tym danym i bazowym, i wynikowym.

Kolejną rzeczą jest to, co mówi Europejska Konfederacja Związków Zawodowych, żeby klasyfikować algorytmy, które wpływają na warunki pracy, jako algorytmy wysokiego ryzyka. Dzisiaj wiemy, że algorytmy wysokiego ryzyka będą np. traktowane przez OSA (ocena skutków algorytmów). To są testy, które wykazują, czy nie zachodzi dyskryminacja, czy nie ma dobierania wag, żeby jakieś grupy dyskryminować albo żeby podkręcać tempo w sposób niezrównoważony, nie do utrzymania. Dzisiaj te algorytmy wysokiego ryzyka to przede wszystkim algorytmy w zdrowiu, a więc tam, gdzie ma to bezpośredni wpływ na życie i zdrowie ludzi. Jeśli potraktujemy algorytmy, które wpływają na warunki pracy, które nadzorują pracę, jako na algorytmy wysokiego ryzyka, to będziemy wtedy mogli na poziomie całej Unii Europejskiej mieć pewien standard OSA, który niezależnie już od zakładu pracy będzie testowany, i jeśli taki algorytm nie przejdzie OSA, to po prostu nie wolno go pracodawcom wdrożyć.

Zacząłem od wspomnienia Chrisa Harmana, ponieważ już 40 lat temu była mowa, że jedynym tak naprawdę rozwiązaniem nie jest odgórne powiedzenie dokładnie, jakie warunki może dany algorytm spełniać, ale powiedzenie, że algorytm musi być – czy zmiana w nim, czy zmiana w wagach – w celach optymalizacji. Algorytm ma konkretne cele, które optymalizuje. Zatem każda zmiana musi być konsultowana i akceptowana przez pracowników. Czy zrobimy to w takim modelu, że związki, które są w danym zakładzie, muszą zaakceptować i w innym przypadku nie wolno stosować algorytmu, czy mamy taką reprezentację w stylu niemieckim, że jest rada pracownicza, reprezentacja pracowników, czy musi to być akceptacja przez wszystkich pracowników (coś w rodzaju referendum) – bez tego rodzaju współdeterminacji nigdy nie będziemy w stanie nadążać za zmianami algorytmu, ponieważ pracodawca będzie zawsze miał asymetrię. On wie, jak zmienia algorytm, co optymalizuje, a zanim my jako badacze dotrzemy do tych danych, dowiemy się, pokażemy i dopiero wtedy będziemy w stanie przekazać to związkom, które będą negocjowały w drugą stronę, to potrwa zbyt długo.

Tak więc, konieczność konsultacji, a nawet konieczność akceptacji przez pracowników, jest tym, co naprawdę wprowadzi równowagę i ten balans. Dziś ta asymetria informacji to nie jest asymetria informacji na rynku między konsumentem a producentem. Dzisiaj asymetrią informacji podstawową jest asymetria między wiedzą o tym, co robią pracownicy, obserwacją ich, a samymi pracownikami, którzy nie wiedzą, czemu są poddawani takim systemom i co dokładnie zachodzi.

Miałem taką rozmowę w zeszłym tygodniu w ramach badań, gdzie pracownik w pracy zdalnej (call center czy w obsłudze zdalnej klienta) mówił o tym, że zasadniczo wie, jakie zmienne się wliczają, ale już nie ma pojęcia dokładnie, jak one są ważone, w jaki sposób są dobierane. Tym drugim efektem tej niewiedzy jest to, że zasadniczo pracownik zaczyna modyfikować swoje zachowania, a więc sam staje się w jakimś sensie maszyną, ponieważ nie wie, co jest od niego oczekiwane. To jest panoptykon – notabene, bo mamy tu przedstawicielkę Fundacji Panoptykon. To jest właśnie realizacja panoptykonu, coś, co Hartmut Rosa nazywa społeczną akceleracją, to znaczy, że nowym totalizmem, który nam zagraża, jest totalizm przyspieszenia w każdym obszarze życia i żeby to przyspieszenie też zatrzymać – bo konsultacje dotyczą algorytmów, które jeszcze jakiś sens mają – musimy też powiedzieć wprost, że pewien rodzaj nieproporcjonalnego nadzoru musi być całkowicie zakazany i nigdy niedopuszczony. Te dane nie mogą być w żaden sposób zbierane. Nawet, jeśli wydaje nam się, że może to mieć pozytywne skutki, to pewną granicę musimy zarysować.

Chciałbym tu konkretny case przedstawić, który zdarzyło mi się badać, chociaż na szczęście pandemia spowolniła czy zatrzymała te wdrożenia. Chodzi o nadzór biometryczny, który był prowadzony np. przez pewna firmę, która zbierała z kamery umieszczonej na biurku twarz pracownika obsługi klienta w banku, ale później miało to też być rozszerzone na infolinię, gdzie co prawda klient nie widzi twarzy, ale ponieważ uśmiech i ekspresja zadowolenia wpływa minimalnie na ton głosu, to jakość obsługi się podwyższy. Oczywiście było to powiązane z pewnym systemem przeznaczania datków charytatywnych na fundacje, pomoc dzieciom itd. Można by więc powiedzieć, że intencje były dobre, natomiast, jeśli pozwolimy na ten rodzaj biometrycznej inwigilacji, dyscypliny wkraczającej biopolitycznie w funkcjonowanie naszego ciała, to znaczy, że otrzymamy społeczeństwo totalnej inwigilacji.

Tak więc chciałem wskazać te kilka rzeczy, które możemy zrobić i jeszcze raz zachęcić do tego, żebyśmy – oczywiście porozumienia i regulacje europejskie są bardzo ważne – tak działali jak w przypadku opodatkowania cyfrowego, kiedy wiele krajów decydowało się na działania wyprzedzające, naturalnie w modelu proponowanym przez Komisję Europejską, ale też po to, żeby zachęcić unijnego regulatora później do harmonizacji, standaryzacji tego, co krajowo na poziomie narodowym udało się i jest skuteczne. Lepiej, żebyśmy byli w tej awangardzie, niż czekali cały czas, aż Bruksela zadba o naszych pracowników i naszych obywateli. Dziękuję bardzo. Niestety muszę się z państwem pożegnać.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo serdecznie dziękuję. Już wiem, dlaczego koledzy do mnie mówią, żebym się często uśmiechał. Życzę panu jak najszybciej tego doktoratu.

Wracamy do pana profesora. Przepraszamy z panem posłem Zandbergiem za tę zmianę, ale pan Jan musi już nas opuścić. Bardzo proszę, panie profesorze.

Profesor UŁ, koordynator AI Work Team dr hab. Krzysztof Stefański:
Dziękuję bardzo. Zgadzam się z tym, co padło, zresztą mówiłem o tym, że nie powinniśmy czekać z rozwojem naszych przepisów i opracowywaniem naszej strategii co do przepisów. Inni nie czekają i my też nie powinniśmy czekać na to, co zrobi Bruksela. Natomiast niespecjalnie się zgadzam z tezą, że prawo nadąża czy wyprzeda technologię. Gdyby tak było, pewnie byśmy nie rozmawiali o problemie platform, problemie nadzoru nad pracownikami w Amazonie, bo mielibyśmy regulacje, które by skutecznie działały. Tak więc jeszcze sporo przed nami.

Chciałbym zwrócić państwu uwagę, że sztuczna inteligencja, te algorytmy działają w zasadzie na każdym etapie trwania stosunku pracy, a nawet wyprzedzają nawiązanie stosunku pracy. Mamy aplikacje, które wykorzystują w zasadzie wszystkie duże korporacje, a ponieważ cena tych aplikacji spada, to zaczynają je wykorzystywać również mniejsi przedsiębiorcy. To są aplikacje, które umożliwiają zarządzanie całym procesem rekrutacji. Oczywiście dzięki temu przyspieszają rekrutację pracowników, co jest dobre dla pracodawców, ale też i dla kandydatów, bo jak chcemy się zatrudnić, to chcemy mieć ten feedback jak najszybciej, czy ewentualny pracodawca nas chce, czy nie. Tak więc ta oszczędność czasu jest ważna. Jednak nie wiemy, w jaki sposób te metody rekrutacji są stosowane i znowu wpadamy w taki nietransparentny system, który wykonuje jakieś niezrozumiałe operacje na danych, który my bardziej lub mniej świadomie dostarczamy. Taki kandydat do pracy tak naprawdę ma niewielką szansę dowiedzenia się, dlaczego tej pracy nie otrzymał. Podobnie na etapie realizowania stosunku pracy.

Tutaj mieliśmy przykłady Amazona, Glovo, ale można te przykłady mnożyć – chociażby ta kamerka, która rozpoznaje, czy pracownik się uśmiecha, czy też czujnik, który rejestruje tętno pracownika – jeżeli pracownik angażuje się w pracę, w przekonywanie klienta, że ma kupić jakieś produkty, to jego tętno rośnie, w związku z czym pracownik jest lepiej oceniany. Takie rzeczy już się dzieją. My powinniśmy mieć na to wpływ. Powinniśmy wiedzieć, jak to działa.

Wreszcie ostatni etap – rozwiązania stosunku pracy. Proszę państwa, stosowane są algorytmy chociażby do tego, by dobierać pracowników do zwolnień w ramach zwolnień grupowych. Nie ma w tym nic dziwnego i póki te kryteria, które są stosowane, są zgodne z prawem, wszystko jest OK. Sztuczna inteligencja jest doskonałym narzędziem do analizy danych, czy pracownik prawidłowo wykonuje swoje zadanie, jakie ma wyniki, czy jest samodzielny, innymi słowy – czy przyda się pracownik pracodawcy, czy też nie. Z tym że jest to kwestia tego, aby to był system transparentny.

Jest podstawowe pytanie: Czy algorytm, sztuczna inteligencja powinna być narzędziem, który wspomaga pracodawcę, czy też wyręcza pracodawcę? Chodzi o kwestię podejmowania decyzji i odpowiedzialności za tę decyzję, czyli ludzkiego nadzoru nad algorytmem i możliwości dowiedzenia się przez drugą stronę, czyli pracownika, dlaczego tak, a nie inaczej zdecydowano o jego podwyżce, o jego zwolnieniu, o tym, czy wypełnia normy, czy też nie.

Konkludując, chciałem powiedzieć, że to opracowanie przepisów dotyczących sztucznej inteligencji w prawie pracy nie jest potrzebne – ono jest wręcz niezbędne. Oczywiście trzeba – tak jak w przypadku innych regulacji – wyważyć poziom ochrony pracowników, poziom interesu pracodawców, ale też, aby nie zagrozić rozwojowi, aby ten rozwój sztucznej inteligencji, rozwój technologiczny nie był zagrożony. Bowiem wiemy, że jeżeli wprowadzimy przepisy stanowiące bardzo wysoki poziom ochrony, to te korporacje przejdą gdzie indziej, tam, gdzie będą miały większą swobodę. Zatem trzeba to wyważyć.

Moim zdaniem kluczowa rzecz, nad którą powinniśmy się zastanawiać – a szczerze mówiąc, państwo powinniście się zastanawiać bardziej – to trzeba przemyśleć, w jakich obszarach te regulacje będą konieczne szybciej, a w jakich można się z nimi wstrzymać, a więc kwestia priorytetów. Moim zdaniem to, o czym rozmawiamy, czyli kwestia zarządzania algorytmicznego, dyskryminacji algorytmicznej, wydają się w tej chwili najbardziej pilne. Jeśli chodzi o inne kwestie, dotyczące sztucznej inteligencji w prawie pracy, być może na to będzie można jeszcze chwilę poczekać.

Wspomnę, że oczywiście regulacje są bardzo ważne – trudno, żebym inaczej mówił, jak jestem prawnikiem – ale jako nauczyciel akademicki muszę powiedzieć o tym, że edukacja, nie tylko ta w szkołach, ale projekt kształcenia przez całe życie jest niezwykle ważny. Bez tego nie jesteśmy w stanie chociażby przejść bezboleśnie przez etap bezrobocia technologicznego. Ta edukacja w szkołach, która jest, musi uwzględniać te procesy. Nie może to wyglądać tak, jak w tej chwili.

Wreszcie potrzebna jest nam – i to chyba najtrudniej zmienić – zmiana mentalności pracowników, pracodawców, a także osób odpowiedzialnych za kształtowanie polityki państwowej. Dlatego bardzo się cieszę, że panowie jesteście w awangardzie tego procesu.

Dziękuję ślicznie. Oczywiście, jeśli będą jakieś pytania, to chętnie odpowiem.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo, panie profesorze. Patrzę na posła Zandberga – tylu komplementów jako politycy dawno nie dostaliśmy. Raczej zawsze było odwrotnie, więc dziękujemy za te miłe słowa.

Poseł Adrian Zandberg (Lewica):
Tylko maseczki ratują nas przed tym, że państwo nie zobaczyliście, jak spłonęliśmy rumieńcami.

Przewodniczący poseł Grzegorz Napieralski (KO):
Patrzę na pana Roberta Kroplewskiego, pełnomocnika pana ministra, ale panie Robercie, jeszcze chwilka, dobrze? Teraz pan dr Liwiusz Laska, doradca Ogólnopolskiego Porozumienia Związków Zawodowych. Bardzo proszę, panie doktorze, o zabranie głosu.

Doradca Ogólnopolskiego Porozumienia Związków Zawodowych dr Liwiusz Laska:
Dziękuję bardzo, panie przewodniczący. Dziękuję za zaproszenie. Wypowiem się bardzo syntetycznie, odnosząc się do kilku wypowiedzi. Związki zawodowe od kilku lat myślą o tym, jak się zaangażować. Są tutaj badania naukowe prowadzone przez Europejski Instytut Związków Zawodowych. Praca platformowa jest postrzegana oczywiście jako zło, ze względu przede wszystkim na ograniczenie informacji dotyczące algorytmów. Związki zawodowe prowadziły już swego rodzaju prowokacje czy badania, zatrudniały pracowników i prowadziły badania, które wskazywały np. na dyskryminację kobiet w stosunkach zatrudnienia. Długotrwałe badania, które były prowadzone w ramach jednego projektu, wskazywały, że aplikacje przewozowe dyskryminują kobiety, bo wyszło, że kobiety wolniej jeżdżą. Zatem premiowani pod względem przejazdów byli mężczyźni.

Dostęp do algorytmów czy do wiedzy, do zasad, którymi one się rządzą, będzie podstawą. My nie znamy ciągle i wszystkie tu wypowiedzi pracowników – czy z Glovo, czy z Amazona – świadczą o potrzebie tego, żeby pracownicy wiedzieli, jak te algorytmy liczą określone wskaźniki. To jest jakby podstawa. Jednak w Polsce podstawą jest przede wszystkim to, żeby doprowadzić do ucywilizowania stosunków pracy. Bo jeżeli będziemy do Kodeksu pracy wprowadzać zapisy dotyczące norm, wydajności – gdybyśmy mieli tu tylko wypowiedź pani z Amazona – to oczywiście moglibyśmy znaleźć kilka rozwiązań do przeniesienia tych przepisów z jednego działu Kodeksu pracy do drugiego. No i tak moglibyśmy być szczęśliwi. Jednak dochodzi wypowiedź druga, pana z Glovo, i okazuje się, że tutaj przepisy z Kodeksu pracy nie będą miały zastosowania. I to jest ta patologia, która toczy polski rynek pracy, czyli wykorzystywanie wszystkich możliwości.

Dwa lata temu współpracowałem z „Gazetą Wyborczą” jako konsultant prawny do śledzenia wszystkich przepisów dotyczących obchodzenia tego. Na przykład „na wynajem” – to jest jedna z tych rzeczy. Teraz już to ucywilizowali, kolejna mutacja to wprowadzenie 2–3 godzin na umowę-zlecenie, a resztę pieniędzy za wynajem samochodu. Były też inne rzeczy: jeżdżono jako wolontariusze, oczywiście wynajem roweru – wszystko po to, żeby nie wchodzić w „ozusowanie”. Szczególnie teraz jeszcze mocniej nam to grozi, przy pełnym „ozusowaniu”. Ale dla tych pracowników przy „ozusowaniu” dla minimalnej wysokości to jest to obchodzenie „na rower”, dopóki nie stworzymy systemu, dopóki państwo nie będzie chciało w realny sposób chronić pracowników.

Miałem kiedyś możliwość w ramach wyjazdu związkowego obserwować kontrolę pracy kierowcy Ubera w Niemczech. Tę kontrolę w Niemczech wykonywało pięć służb. Państwo po prostu stwierdziło, że chce tego dokonać i przeprowadzali tę kontrolę jakby odpowiednicy naszych instytucji: Głównego Inspektoratu Transportu Drogowego, Państwowej Inspekcji Pracy, Służby Celnej, Służby Skarbowej i chyba był tam pracownik z urzędu miasta, który miał dostęp do innych baz danych. Ta kontrola pokazała jakby ucywilizowanie, bo nieraz to się wymyka. Zatem, jeśli państwo chce – tu była decyzja polityczna, że chcemy to zrobić – to można było wszystko zweryfikować: czy ten pracownik pracuje, czy jest zarejestrowany, jak są odprowadzane podatki, składki, na kogo jest zarejestrowany samochód, czy jest to samochód zgłoszony do przejazdów, czy jest opłacona licencja w mieście itp.

Tak więc pewne rzeczy wynikają przede wszystkim jakby z chęci miasta czy państwa. To jest też rola dla posłów do ograniczenia tych wszystkich nieprawidłowości i dla stworzenia jednolitego systemu. Jeśli nie będzie możliwości obejścia, to będzie dużo łatwiej rozmawiać o wszystkich normach i innych rzeczach. To jest też takie założenie, że związki zawodowe przede wszystkim postulują uszczelnienie systemu. Możemy mówić o różnych typach umów o pracę. Rozumiemy jakby atrakcyjność.

Jest też problem z dotarciem i założeniem związków zawodowych wśród pracowników, bo jest bardzo duża rotacja. Ci ludzie nie są do końca zorientowani na zakładanie związków zawodowych, bo traktują to jako pracę czasową czy – jak mówiła pani z Berlina – jako element wolnościowy, a ci, którzy są wolnościowi, są przeciwni zrzeszeniom i dopiero potem zderzają się z systemem pracowniczym. To jest też element, który jest dla nas istotny.

Ocena skutków, czyli możliwość dostępu do regulacji, wprowadzenia zapisów, że jeżeli pracodawca chce korzystać z algorytmu, musiałby o tym poinformować i związki zawodowe powinny uzyskać informację co do treści algorytmu, skutków – to jest też postulowane. To jest do wprowadzenia zmianą do naszych przepisów, ale oczywiście to też nic nam nie da, bo chodzi o możliwość realnej kontroli.

Związki zawodowe są w Polsce niedofinansowane, rozbite i nawet jeśli pracodawca poinformuje o jakichś ogólnych zasadach, to chodzi o to, żeby istniała jakaś instytucja, która w realny sposób może zweryfikować zasady prowadzenia tego. To jest ta możliwość dostępu do danych, o czym mówiliśmy, że możemy dostać pierwotne dane, a nie dane, które są zbierane faktycznie i przetwarzane. To jest jakby kolejna rzecz.

Hiszpanie już w maju wprowadzili pierwsze przepisy dotyczące ochrony pracowników. Jest tam pewien udział związków zawodowych, szczególnie dla pracowników platformowych. Taką informację uzyskałem, kiedy prowadziłem zajęcia dla hiszpańskich związków zawodowych dotyczące sytuacji w Polsce i oni przekazali mi, że mają już takie rozwiązania.

Jeśli chodzi o dyskryminację, to w Polsce zaczynamy jej doświadczać. Pan profesor powiedział o programach rekrutacyjnych. Tak, my do tej pory byliśmy po prostu zapóźnieni technologiczne ze względu na upośledzenie języka polskiego. Programy nie działały w języku polskim, stąd nie były masowo wykorzystywane. To już się zmieniło – wejdźmy na stronę największych agencji rekrutujących.

Oczywiście możemy wpisać zakaz dyskryminacji kobiet. Była bardzo fajna konferencja w Senacie w czerwcu, zorganizowana przez panią marszałek Stanecką, gdzie właśnie doszliśmy do tego, że zapisanie tych elementów, np. zakaz dyskryminacji… No, ale jeżeli dzisiaj kobiety nie są wyłączane z norm absencyjnych zwolnienia na opiekę nad dzieckiem… Gdy algorytm będzie przeglądał w ocenie pracowników liczbę absencji, to w polskich realiach rodziny będą dyskryminowane kobiety ze względu na większą absencję, bo częściej zajmują się dziećmi. Dlatego ustawienie wszystkich algorytmów do oceniania pracy pracowników jest oczywiście zasadne, nie mówiąc już o takich rzeczach, które wychodzą z jakichś czynników obiektywnych, typu siła pracownika, możliwość przenoszenia paczek, że mężczyźni z zasady są silniejsi.

Przypomnę, jak Google musiał wycofać się ze swoich programów rekrutacyjnych, bo tyle lat pracowali i co nie robili, to i tak wychodziło, że algorytm dyskryminuje kobiety. No, bo stworzyli go mężczyźni, więc nawet wyłapywał informacje typu „szkoła żeńska” i wiedział, skąd dana osoba jest i sam doprowadził do tych elementów typu absencja, długość wykształcenia. Tak więc sztuczna inteligencja znajdowała te rzeczy, które były częściej kojarzone z kobietami.

My tego potrzebujemy. Potrzebujemy o tym rozmawiać w Polsce, bo to po prostu się dzieje tu i teraz. I tu tytułem wyjaśnienia, że może związki się nie angażują. Ale w tej strategii dotyczącej sztucznej inteligencji, w całym dokumencie – nawet tym 6-letnim – nie znajduje się sformułowanie „związki zawodowe”. Mówimy o strategii dla rynku pracy, ale wyrazy „związek zawodowy” w tym dokumencie się nie pojawiły. To tyle. Oczywiście, jak wszyscy, jestem gotowy do odpowiedzi na dalsze pytania.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie doktorze. Jeszcze pan Radosław Nielek, doradca sejmowej Komisji, bardzo proszę.

Stały doradca Komisji Radosław Nielek:
To ja może, o co pan apelował, czyli o technicznej stronie algorytmów, bo ja takie algorytmy projektuję, czy też zdarzało mi się projektować.

Przewodniczący poseł Grzegorz Napieralski (KO):
To mamy już winowajcę.

Stały doradca Komisji Radosław Nielek:
Właśnie za chwilę chciałem powiedzieć, kto jest winowajcą. I to też będzie ciekawe, ale przede wszystkim zacząłbym od tego, że to nie jest tak, że te algorytmy projektuje się do tego, żeby były nieprzejrzyste. Oczywiście jest pewien proces niechęci firm do ujawniania wewnętrznej zawartości algorytmów czy wartości intelektualnej, którą wytworzyły u siebie, ale one co do zasady są nieprzejrzyste i nietransparentne dlatego, że technologia ich tworzenia powoduje, że one takie są. Po prostu dostajemy pewną sieć, która operuje na abstraktach, na wartościach, na wymiarach, które nie mają żadnego interpretowalnego znaczenia w naszym świecie, który nas otacza. W związku z tym wrzucamy do tego algorytmu wszystko, co mamy i dostajemy wynik. On jest dobry z punktu widzenia celu, który postawiliśmy sobie. Natomiast dla przytłaczającej większości najlepszych metod tego algorytmu nie wiemy, jak powstaje ten wynik.

Jest cała dyskusja na temat tego, co powinniśmy zrobić, żeby nauczyć się co jest z czym powiązane i dlaczego ten wynik dostajemy taki, a nie inny. Ale co do zasady taka najprostsza i najbardziej efektywna metoda jest taka, że po prostu nie jesteśmy w stanie dowiedzieć się, że dostaliśmy taki wynik. Wiemy tylko, że on jest dobry. I to jest pierwsza rzecz. W związku z tym to wynika także z ograniczeń technologicznych, a nie tylko kwestii chęci, prawa czy kwestii polityki.

Druga rzecz, na którą chciałem zwrócić uwagę, to żeby nie mylić dwóch procesów, które mają różną historię i jednak ogromnie różne znaczenie dla rynku pracy. To jest proces automatyzacji. Bankowość elektroniczna jest takim przykładem procesu automatyzacji. To jest bardzo dobrze opisany proces polegający na tym, że klikamy w jednym miejscu, przelewamy 3 zł z jednego konta na drugie. I tyle. To jest automatyzacja.

Z automatyzacją mieliśmy do czynienia dużo wcześniej w portach, kiedy dokerów zastąpiono żurawiami i kontenerami. Z automatyzacją mieliśmy do czynienia w fabrykach, kiedy wprowadzono automatyczne czy półautomatyczne pewne linie składające elementy, składające samochody, produkty. To wszystko to jest proces automatyzacji i mamy z nim do czynienia od dłuższego czasu. On powoduje oczywiście zmiany na rynku pracy. Zawsze, kiedy się pojawiał, zwłaszcza lokalnie, powodował duże napięcia. W dłuższej perspektywie pewnie wskazalibyśmy więcej pozytywów tego procesu niż negatywnych aspektów.

Natomiast rzeczą zupełnie inną i kompletnie odrębną jest proces rozwoju sztucznej inteligencji i algorytmów sztucznej inteligencji, która wchodzi na rynek pracy. Dlaczego? Bo to są rozwiązania, które… powiedziałbym, że wcale nie jest łatwo zdefiniować różnice między automatyzacją a sztuczną inteligencją w faktycznym zastosowaniu. Powiedziałbym, że ona jest w procesie decyzyjnym. Algorytmy sztucznej inteligencji podejmują decyzje. Rozwiązania z zakresu automatyzacji w zasadzie autonomicznych decyzji nie podejmują, poza jakimiś bardzo prostymi zdarzeniami typu: przekroczona została czerwona linia – zatrzymuje linię produkcyjną. To jest bardzo ważne, żeby rozróżniać te rzeczy, bo ich wpływ na rynek pracy będzie odmienny. Ich korzenie są odmienne i wyzwania, które tam są, też zupełnie odmienne.

Trzeba mieć także świadomość, że używamy słowa „algorytm” do tego, żeby opisać to, co po drugiej stronie się dzieje i powoduje, że ci ludzie są gorzej traktowani albo lepiej traktowani, w zależności od tego na przykład, jak szybko jeżdżą platformy dowożenia ludzi. Jednak taki algorytm to nie jest coś jak regulamin wynagrodzeń. To nie taka prosta rzecz, w którą można wejść, skontrolować, obejrzeć i powiedzieć: OK, tu jest spis, możemy przeczytać i zrozumieć.

W przypadku platform ten algorytm ma sens dopiero wtedy… to znaczy, daje wynik dopiero wtedy, kiedy wypełnimy go zachowaniami wszystkich pracowników i wszystkich klientów. Bo dopiero poszczególne zachowanie tych pracowników, tych klientów wpływa na wynik działań algorytmu dla każdej z tych osób. To znaczy, jeśli jako klient dłużej odbieram jedzenie, to może to wpłynąć na stawkę, którą dostanie dostawca jedzenia 2 dni później o tej samej porze albo w innym miejscu. I tego na pewno nie da się skontrolować w sposób prosty. Nie da się też skontrolować w taki sposób, że powiemy: dobrze, przecież wzięliśmy algorytm. Jednak dalej nie będziemy wiedzieli, jak on działał, bo to zależy od tego, jak będą zachowywali się klienci, jak będą zachowywali się pracownicy i jak każdy z nich będzie się zachowywał. To zależy od takiej masy czynników, że szczerze mówiąc, nie wyobrażam sobie na razie efektywnego systemu kontroli tego, w jaki sposób taki algorytm działa i jakie ma konsekwencje. Tak więc trzeba mieć tego świadomość.

Natomiast kończąc, chciałbym zwrócić uwagę na jeszcze jedną rzecz. Być może to nie algorytm jest tym, co powinniśmy kontrolować, bo to nie kształt algorytmu jest kluczową rzeczą, zwłaszcza w aspekcie – o czym mówił pan mecenas Liwiusz Laska – rekrutacji, gdzie mamy elementy przetwarzania języka naturalnego. Duża część tych algorytmów, która powstaje, jest złożona z klocków, a tymi klockami są kolejne algorytmy, które są rozwijane oddzielnie, w innych miejscach, zupełnie od nas niezależnie. To znowu powodowałoby, że np. zamrożenie tego jest zupełnie niemożliwe. Nie możemy powiedzieć, że zamrażamy ten algorytm, nie zmieniamy – w zależności od tego, jak przejdzie kolejne testy – bo on cały czas podlega kolejnej ewolucji.

Zatem może rozwiązaniem jest po prostu nie kontrolowanie algorytmów i nie koncentrowanie się na tym, tylko koncentrowanie się na dobrostanie pracowników, i tylko na tym. To znaczy, w sumie to nie ma znaczenia, jak ten algorytm działa, ale tak długo, jak długo twoi pracownicy mają odpowiedni poziom dobrostanu: odpowiednio niski poziom stresu, odpowiednio wysokie wynagrodzenia, odpowiednio dużo czasu przerwy, odpowiednio dużo czasu na to, żeby odpocząć, spotkać się z rodziną, odpowiednio rozsądne godziny pracy. I w zasadzie czy ten algorytm działa w ten sposób, czy w inny, to nie jest aż tak istotne, bo dużo łatwiej będzie nam mierzyć stan satysfakcji, zadowolenia czy dobrostan pracownika na końcu i z tego rozliczać, niż mierzyć techniczne aspekty algorytmu, czego nie jesteśmy w stanie efektywnie zrobić ani zmierzyć. I w zasadzie nie jest to też naszym celem, bo tak naprawdę nas jako ustawodawców czy jako państwo sam konkretny algorytm nie powinien wcale interesować. To nie to jest celem. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie doktorze.

Pełnomocnik rządu w końcu. Bardzo proszę, panie Robercie, oddaję panu głos.

Pełnomocnik ministra cyfryzacji ds. społeczeństwa informacyjnego w Kancelarii Prezesa Rady Ministrów Robert Kroplewski:
Dziękuję bardzo za zaproszenie, za zorganizowanie tego bardzo ważnego spotkania. Dziękuję za głosy, które państwo przedstawiliście dzisiaj.

Zacznę od czegoś smutnego, co chciałem powiedzieć na końcu, ale rozwój dyskusji pokazał, że jednak warto od tego zacząć. Otóż, nie łudźmy się, żyjemy w świecie, który się nazywa dopamine economic i algorytm trzeba niestety kontrolować, bo on sam w sobie zawęża świadomość człowieka do poziomu oczekiwanych bodźców behawioralnych czy to w systemie pracy, czy to w systemie ekonomicznym, czy w systemie społecznym. Tak to wygląda.

À propos algorytmu. Algorytmy mają to do siebie… i tu nie chodzi o algorytmy po prostu, tylko trzeba to jeszcze raz podkreślić, że chodzi o sztuczną inteligencję, która jest pewnym amalgamatem różnych technologii. Mamy do czynienia z sieciami neuronowymi, mamy też do czynienia z najbardziej trendy w tej chwili od 3 miesięcy, czyli przerostowymi sieciami neuronowymi, które połączone z głębokim uczeniem są właściwie systemem. Systemem, z którym jest zaszyty gdzieś oczywiście algorytm, ale ten algorytm sam przez siebie nie jest w żaden sposób efektywny. Tę efektywność nabiera właśnie dzięki tym sieciom neuronowym i dodatkowym technikom.

Rzeczywiście tutaj pojawia się tzw. „czarna dziura”, niewyjaśnialność danych, które są niejako wkładane do sztucznej inteligencji i są nieporównywalne z danymi, które są rezultatami pracy sztucznej inteligencji, z uwagi na naturę tej techniki. Dlatego technika dotychczas nie doszukała się pewnego fragmentu, który nazywa się wyjaśnialną sztuczną inteligencją. Nad tym się cały czas pracuje. Bardzo możliwe, że nie dojdzie się do żadnego rezultatu, ponieważ sztuczna inteligencja polega na korelacji danych, a nie na logice danych. Jest to co najmniej logika rozmyta.

W związku z tym co najmniej od 5 lat podejmujemy jako państwo i rząd wiele starań, aby stworzyć coś, co będzie się nazywało „zaufaną przestrzenią” w ogóle w świecie algorytmów. Nazwaliśmy to finalnie i zaproponowaliśmy, jeśli chodzi o nasze stanowisko, w 2017 r. stworzenie godnej zaufania sztucznej inteligencji. Ta jako tak nazywana stała się pewną narracją, którą przyjęła Komisja Europejska. Miałem okazję uczestniczyć we wszystkich forach eksperckich i forach decyzyjnych. Są tam ramy prawne, ramy techniczne i ramy organizacyjne. I zgodzę się z takim podejściem, że kontrolując algorytm, powinniśmy również kontrolować organizację pracy, organizację procesów wokół tych algorytmów, które zachodzą w organizacjach różnych – nie tylko przedsiębiorstwach, ale również jakikolwiek typach pracodawców, jak również jeśli chodzi o państwo.

Trzeba też wspomnieć, że w latach 70. nasi cybernetycy stworzyli doskonały system właśnie skoordynowania wszelkich aktywów państwowych i jednocześnie naszych obywateli w kontekście wsparcia tych obywateli. My wierzymy w to, że sztuczna inteligencja – używając już tego bardzo ogólnego pojęcia – może nie tylko wpływać negatywnie, ale również wspierać pracowników. Oczywiście mamy z taką tendencją do czynienia, że w tej chwili sztuczna inteligencja właśnie korzysta z pewnego rodzaju poślizgu społeczeństwa informacyjnego, gdzie człowiek został zdefiniowany jako źródło danych i kropka, czy mamy do czynienia ze światem paradoksalnie wydobywczym, a przechodzimy do świata bardziej zaawansowanego – i tego należy oczekiwać – świata społeczeństwa wiedzy, kiedy to człowiek wspomagany w procesie pracy, aby rozwijała się przede wszystkim jego świadomość współpracy z systemami sztucznej inteligencji, rozwijały się pokłady kreatywności, a przede wszystkim ten człowiek miałby mieć szansę niwelować wszelkie swoje braki w kompetencjach czy też nawet zdolnościach.

Taka sztuczna inteligencja jest możliwa do stworzenia. Najbardziej zaawansowanym ośrodkiem jest w tej chwili Kanada, która próbuje tego typu interfejs wypracować. Pojawiają się koncepcje współczulnej sztucznej inteligencji, która doskonale rozumie, jakie człowiek ma przed sobą wyzwania i jakie ewentualnie techniki wsparcia można mu poczynić.

Natomiast wracając do państwa głównego tematu. Jest to bardzo ważna dyskusja. My podjęliśmy ją w strategii dla sztucznej inteligencji. Jeszcze ten organizm nie powstał, ale jest tam sugerowane w tzw. okresie krótkoterminowym stworzenie obserwatoriów dla obserwacji rynku pracy z uwagi na wpływ technologii przełomowych, m.in. sztucznej inteligencji. Jest to zadanie do wykonania na najbliższy czas. To jest jeden z podstawowych wątków obserwacyjnych: zdolność obserwowania trendów. Przy okazji, jednocześnie stworzono tam odpowiednie reguły etyczne jako wytyczne dla administracji, żeby stworzyć pewnego rodzaju wzorce w usługach administracji publicznej, co się może przełożyć na usługi również komercyjne.

Natomiast adresując państwa temat wprost, wydaje mi się, że nie jest to wielka niemożliwość, jak stworzyć coś ponad Kodeks pracy, jakiś rodzaj ustawy, która integruje wszelkie stosunki wykonywania czynności wytwórczych w kontekście algorytmów. I wtedy zapewnić pełną egzekucję wymogów poznania wag tych algorytmów, bo o wagi tutaj dokładnie chodzi. Tutaj nie jest to też problem pracowników. Jest to problem zwyczajnie sprzedawców, którzy mają swoje profile na wielkich platformach sprzedażowych. Oni również nie znają wag i pozycjonowania swoich usług. Już taki sławny mój przykład, że śledzie kaszubskie stają się w pewnym momencie śledziami sieci supermarketowych. Nie będę tu przywoływał nazwy własnej, ale tak to mniej więcej wygląda. Tak więc człowiek w czasach dopamine economic jest niestety w pętli ryzyka stracenia w ogóle zdolności poznawczych, z czym ma do czynienia w kontekście stosunków pracy, stosunków cywilnoprawnych, stosunków gospodarczych.

W ramach OECD oraz w ramach Komisji Europejskiej stworzyliśmy system walidacji sztucznej inteligencji. On jest przewidziany. Na razie oczywiście jest systemem regulacyjnym jako koncepcja. Cały trud polega na tym, żeby go teraz uprzedmiotowić, zracjonalizować i stworzyć realny system walidacyjny. Ale on jest możliwy. Jest możliwy w całym cyklu życia sztucznej inteligencji i nie jest oceniany przez ekspertów jako niemożliwy. On jest precyzyjnie określony. Teraz jest to tylko kwestia stworzenia i zachęcenia różnych autorów, żeby takie systemy stworzyli. To są tylko rekomendacje, a nikomu – mówiąc szczerze – takich systemów sztucznej inteligencji nie chce się wdrażać, bo one są droższe. Ale czy nie droższe były przedsiębiorstwa przez to, że wprowadziliśmy systemy BHP czy też systemy operacyjne ISO? To jest kolejna warstwa podobnego myślenia systemowego akurat powstała w związku z potrzebą zbudowania zaufania do technologii i do ludzi, którzy stoją za tymi technologiami.

Sztuczna inteligencja wcale nie jest inteligentna – trzeba sobie to wprost powiedzieć. Zatem te wszystkie wyniki, o których dzisiaj słyszałem, które stosują korporacje, one są, ale one nie są w ogóle prawidłowe naukowo. Skuteczność jest od 60% do 92%. W związku z tym ryzyko społeczne jest ogromne.

Staramy się nad tym pracować, jak powiedziałem, metodycznie. Jednym z przykładów realnych jest przystąpienie Polski w grudniu do Globalnego Partnerstwa na rzecz Sztucznej Inteligencji – jest tam 18 krajów, także spoza Unii Europejskiej – gdzie m.in. jest grupa robocza zajmująca się właśnie środowiskiem pracy w towarzystwie sztucznej inteligencji. Jest tam wygenerowany pewien koncept, który miał być testowany. Nazywa się living lab, czyli pracownik w realnym środowisku przy zapewnionych zasadach walidacyjnych jego pozycji wobec pracodawcy miałby możliwość stosować swoją pozycję, ale przede wszystkim dalej, krok dalej podnosić swoje kompetencje.

Tyle ode mnie. Jeżeli są jakieś pytania, to też chętnie odpowiem. Jeszcze raz dziękuję za wszystkie uwagi. One wykazują dużą troskę. Mogę tylko powiedzieć, że ta troska też jest nam bliska.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję. Przepraszam, że nie przedstawiłem pana naszym gościom – pan Robert Kroplewski jest pełnomocnikiem ministra cyfryzacji ds. społeczeństwa informacyjnego. Bywa u nas na posiedzeniach podkomisji i nie tylko, więc jest nam znany bardzo dobrze. Przepraszam bardzo, panie Robercie.

Ja bym został przy tej rządowej sferze. Mamy dzisiaj wicedyrektora Departamentu Prawnego w Głównym Inspektoracie Pracy, pana Bartosza Kopcia. Jeśli mógłbym pana dyrektora prosić o zabranie głosu, bo reprezentuje też bardzo ważną instytucję, która w tym procesie jest potrzebna.

Wicedyrektor Departamentu Prawnego Głównego Inspektoratu Pracy Bartosz Kopeć:
Witam wszystkich państwa serdecznie. Oczywiście zagadnienia, które omawiam, są bardzo istotne również dla PIP. Tematowi przyglądamy się już od kilku lat, przede wszystkim jeżeli chodzi o nowe formy świadczenia pracy. Oczywiście trudności, jakie napotykamy, są związane ze stanem prawnym, który jest niedostosowany i nie przewiduje możliwości przeprowadzenia niektórych kontroli czy też weryfikacji niektórych stanów faktycznych w miejscu kontroli. Mamy nadzieję, że nasze uczestnictwo czy ewentualne opinie do aktów prawnych, które powstaną w przyszłości, pozwolą na lepsze weryfikowanie stosunków pracy i w ogóle stosunków zatrudnienia w miejscach pracy oraz prawidłowe ich weryfikowanie przez inspektorów pracy.

Niemniej jednak do tego czasu istotne jest wprowadzenie odpowiednich zmian w przepisach prawa. Koronnym tego przykładem jest właśnie ten przykład podawany przez pracowników Ubera, Bolta i wszystkich platform przewozowych, gdzie wprost pracownicy przyznają, że pracują bez żadnej podstawy prawnej i to w tym momencie ogranicza możliwości kontrolne inspekcji w sposób zasadniczy. Tym bardziej, gdy te kontrole są już w trakcie. Ci pracownicy twierdzą, w sposób tożsamy z pracodawcami, że podejmują czynności w oparciu o zawarte umowy, które nie do końca są zgodne ze stanem faktycznym. W takiej sytuacji inspekcja nie do końca może cokolwiek zrobić.

Podsumowując, czekamy na zmiany prawne. Jeśli się pojawią akty prawne, oczywiście będziemy opiniować. Przyglądamy się sytuacji, problemom, które są z tymi zagadnieniami związane. Widzimy metody obchodzenia prawa, widzimy nowe sposoby obchodzenia prawa. Niemniej jednak, jak już wspomniałem wcześniej, należy w tym kontekście podejmować odpowiednie działania i oczekujemy, że takie zostaną przeprowadzone. Dziękuję serdecznie.

Przewodniczący poseł Grzegorz Napieralski (KO):
Pan przewodniczący Adrian Zandberg, proszę bardzo.

Poseł Adrian Zandberg (Lewica):
Chciałbym tylko dopytać à propos tego głosu z inspekcji, bo jak wiadomo, rodzi się powoli, ale nieodwołalnie ta duża nowelizacja, jeżeli chodzi o ustawę o inspekcji. Moje pytanie jest takie: Czy inspekcja ma jakieś konkretne pomysły dotyczące tego, w jaki sposób można byłoby rozszerzyć kompetencje, jeśli chodzi o kontrolę zgodności różnych form zarządzania algorytmicznego z przepisami prawa pracy? Czy jest tak, że z tego przyglądania się temu problemowi przeszliście do etapu konkretnych postulatów de lege ferenda? Jeśli tak, to myślę, że dobrze byłoby, żebyśmy mogli o tym usłyszeć parę słów. Myślę, że tutaj na sali jest powszechna zgoda – także dlatego, że nie ma przedstawicieli pracodawców – że jest potrzeba rozszerzenia kompetencji Państwowej Inspekcji Pracy. Zastanawiam się, jak z perspektywy doświadczeń inspekcji można by to właśnie w tym aspekcie zrobić.

Druga sprawa. Chciałbym tylko jedno zdanie dorzucić do głosu pana prof. Nielka. Myślę, że tu jest kwestia tego, co rozumiemy przez kontrolę działania algorytmów. Z perspektywy pracowników, którzy rozbiją się o wieczne „to jest tajemnica gospodarcza firmy i niczego się państwo nie dowiecie, rozmowa o kontroli to jest między innymi rozmowa o tym, jakie dane zostają włożone do tego kubełka”. To jest oczywiste, że tutaj jest kwestia dyskusji nad tym, jak szeroko dopuszczamy te typy uczenia maszynowego, które są w oczywisty sposób nietransparentne, do pewnych rodzajów decyzji i gdzie one mogą być w ogóle akceptowalne, a gdzie nie. To jest jakby na inną dyskusję, ale myślę, że jeżeli chodzi o te głosy pracowników mówiące o kontroli, ale też o tym, o czym mówił przedstawiciel OPZZ, jeżeli chodzi o kontrolę nad rozwiązaniami przemyśle transportowym, jeżeli chodzi o kurierów… Tam chodziło głównie o to, że mamy do czynienia z „czarną skrzynką”, ale musi być uzgodnienie ze stroną społeczną co do tej „czarnej skrzynki” jest wkładane i musi być możliwość przeprowadzania kontrolowanego eksperymentu, co ta „czarna skrzynka” z danymi robi. Musi też być zgoda pracowników, akceptacja pracowników na to, żeby być poddanym takiemu dyscyplinowaniu.

Oczywiście większy problem jest taki, że my mamy w Polsce – niezależnie od tego, czy zalgorytmizowane, czy nie – radykalnie asymetryczne stosunki w miejscach pracy i radykalnie pozbawionych podmiotowości pracowników oraz stan debaty publicznej, która to naturalizuje i w którym ta wizja tego, że pracodawca jest królem i władcą w firmie, a pracownicy mają prawo wykonać polecenia oraz się oddalić, jest tą naturalną, podtrzymywaną przez media i znaczną częścią dyskursu publicznego. I pewnie to trzeba przewalczyć, żeby także móc się na serio wziąć tutaj za ten podproblem, o którym dzisiaj rozmawiamy, to jasne.

Rozmawiając o kontroli, nie sprowadzałbym tego na poziom rozważań dotyczących tego, w jak sposób ostatecznie niewyjaśnialne jest funkcjonowanie sieci neuronowych, a zastanowiłbym się nad tym, w jaki sposób możemy realnie, a nie tylko na papierze, sprawować społeczną kontrolę nad tym procesem produkcji i reprodukcji kapitału i kontroli pracy. Bo do tego to się sprowadza, a algorytmizacja jest tego tylko warstwą wykonawczą. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie pośle.

Panie dyrektorze, czy można prosić o krótką odpowiedź?

Wicedyrektor departamentu w GIP Bartosz Kopeć:
Tak. Ja chciałem przypomnieć, że inspekcja nie posiada inicjatywy ustawodawczej. To jest oczywiste i jako instytucja nie tworzymy wniosków legislacyjnych w rozumieniu takim, że nie tworzymy oczywiście ustaw ani projektów tychże ustaw.

Poseł Adrian Zandberg (Lewica):
Wnioski legislacyjne są w corocznych raportach.

Wicedyrektor departamentu w GIP Bartosz Kopeć:
Wnioski legislacyjne tak, oczywiście zgadzam się. W odniesieniu do tych wniosków legislacyjnych, jak najbardziej oczywiście formułujemy je i w tym momencie koncentrują się, czy też od lat tak na dobrą sprawę koncentrują się, na tym, żeby Państwowa Inspekcja Pracy została upoważniona czy też uzyskała uprawnienia do przekształcania stosunków cywilnoprawnych w stosunki pracy. Mowa tu o wypracowaniu pewnych narzędzi do decydowania czy też do podejmowania działań władczych przez inspektorów pracy w ramach prowadzonych kontroli.

Oczywiście jest tu pewien problem powiązania czy też rozwiązania tego zagadnienia w kontekście uprawnień sądów pracy, które prowadzą postępowania o ustalenie istnienia stosunku pracy. Ten problem wymaga oczywiście rozwiązania. To jest faktycznie sygnalizowane od lat w naszych sprawozdaniach i to jest podtrzymywane. Największym problemem na chwilę obecną jest efektywna kontrola stosunku pracy przez Państwową Inspekcję Pracy i nie tylko, bo również przez inne uprawnione do tego instytucje.

Poseł Adrian Zandberg (Lewica):
Pan dyrektor wylał miód na moje serce, ponieważ Koalicyjny Klub Lewicy zgłosił projekt ustawy tożsamy z oczekiwaniem Państwowej Inspekcji Pracy, który czeka na rozpatrzenie w parlamencie.

Mam jeszcze jedno pytanie, jeżeli chodzi o stronę techniczną. Wszyscy wiemy, że inspekcja boryka się dzisiaj z problemem niskiej konkurencyjności płac, jeżeli chodzi o zatrudnianie pracowników technicznych. O to rozbija się coraz bardziej kontrola na budowach, gdzie tych pracowników technicznych w sile wieku i zdolnych do tego, żeby te kontrole wykonywać, robi się coraz mniej. Coraz trudniej ich zatrudniać. Jeżelibyśmy poszli w tę stronę, żeby pomyśleć o zwiększeniu kompetencji, jeśli chodzi o kontrolę algorytmu, to na ile realne, pana zdaniem, jest to? Jaka skala budżetu inspekcji byłaby potrzebna, żebyśmy mogli ten problem uchwycić nie na poziomie miłej deklaracji zapisanej, z której nic nie będzie wynikało, tylko żeby to działo się realnie. Jak szacujecie? Jakie to byłyby koszty, żeby faktycznie Inspekcja była w stanie występować tutaj jako podmiot realnie kontrolujący?

Wicedyrektor departamentu w GIP Bartosz Kopeć:
Panie pośle, dziękuję za pytanie. Oczywiście, jak się wszyscy domyślamy, odpowiedzi na takie pytanie nie ma na chwilę obecną. Tym bardziej, że jeśli chodzi o algorytmy cyfrowe, tematem aż tak dogłębnie w tej chwili jeszcze się nie zajmowaliśmy. Oczywiście na chwilę obecną ważniejszym do rozwiązania są problemy, które zostały przez pana posła przedstawione, czyli zapewnienie kadr w tych branżach, które są na chwilę obecną najpilniejsze. Ten problem oczywiście ewoluuje. Niemniej jednak, odpowiednie wyliczenia dopiero mogłyby być poczynione na etapie prac legislacyjnych. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie dyrektorze. Pan Piotr Kempiński, jeżeli jest jeszcze z nami i chciałby, po długim czasie zabrać głos jeszcze, to bardzo proszę.

Przedstawiciel pracowników Glovo Piotr Kempiński:
Chciałbym dopowiedzieć o algorytmach przy tworzeniu konta takich użytkowników jak moje i innych kurierów. Można sobie założyć takie konto na zdjęcie dowodu ściągniętego z Internetu. I praktycznie te konta są nieweryfikowane, tego nikt nie weryfikuje.

Chciałbym też powiedzieć o bonusach czy wyzwaniach, o dyskryminacji pracowników, że jeden dostaje inne wyzwania, drugi inne. Ci, co pracują dłużej, to więcej godzin dostają…

Przewodniczący poseł Grzegorz Napieralski (KO):
Chyba zerwało nam połączenie. To nie nasza wina, tak? Proszę bardzo, pan Robert Kroplewski. Bardzo proszę, panie pełnomocniku.

Pełnomocnik ministra cyfryzacji ds. społeczeństwa informacyjnego w KPRM Robert Kroplewski:
Dziękuję za możliwość powrotu do głosu. Tak, kilka jeszcze rzeczy dodatkowych, bo też trzeba powiedzieć, gdzie są te prace, które mogą uspokoić. Oprócz tego, że parlament i rząd mają pewną moc wygenerować ustawę, trzeba powiedzieć, że Unia Europejska właśnie w kontekście tego aktu dla sztucznej inteligencji przewidziała prawo, twarde prawo dotyczące aplikacji wysokiego ryzyka, niskiego ryzyka, ale przede wszystkim zakazania scrollingu i tam są wszelkie wymogi właśnie walidacji prawa i walidacji zasad etyki. To będzie wprowadzone prawdopodobnie gdzieś za 2 lata dopiero, więc to nie jest taki szybki czas. Oczywiście potrzeby czasu dzisiejszego są natychmiastowe, ale taki jest proces legislacyjny.

Natomiast myśląc o tym: Czy technologia jest szybsza niż prawo? Odpowiem troszeczkę poetycko: Czy myśl jest szybsza niż technologia? Myśl jest szybsza, więc jeśli mamy zdolności konceptualizacyjne, to później jest tylko problem procesowy. Jak długo dany proces trwa? Uzgodnienia polityczne, wiadomo, to są ważne rzeczy. Natomiast same myśli mogą się konceptualizować i to jest możliwe do zrobienia.

Teraz jeszcze jedna rzecz. Dla praw człowieka (pracowniczych także) jest Europejska Karta Praw Człowieka, jak państwo wiecie. I tam w ramach grupy (Komitet Ekspertów ds. Sztucznej Inteligencji) wypracowujemy tzw. protokół zero dla sztucznej inteligencji, nowych praw człowieka w stosunku do sztucznej inteligencji. To będzie tzw. twarde prawo, które będzie musiało być zastosowane przez państwa członkowskie. Ale jeżeli chodzi o tzw. samoregulację, w którą już chyba mało kto wierzy, jeżeli chodzi o świat cyfrowy, będzie ona niejako wynikowa, jeżeli chodzi o prawo twarde, a nie alternatywna. Czyli mówi się: binding non-binding instruments. One muszą razem koegzystować. Jeżeli nie zostanie zastosowana samoregulacja tak, jakby to wynikało z norm kierunkowych, te normy zastąpią tę samoregulację. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję.

Jest pan Piotr? Mamy połączenie? To spróbujmy jeszcze raz. Panie Piotrze, jeszcze raz próbujemy połączyć się z panem. Bardzo proszę.

Przedstawiciel pracowników Glovo Piotr Kempiński:
Chciałem powiedzieć, że jest możliwość założenia takiego konta jak moje, na zdjęcie dowodu ściągniętego z Internetu. Nie wiem, czy to ma coś wspólnego z ochroną danych osobowych.

Następnym tematem, o którym chciałbym tutaj powiedzieć, jest algorytm przydzielania zleceń. My nie mamy pojęcia, jak te zlecenia są przyznawane. Nie mamy możliwości wglądu. To jest tak, jak tutaj wcześniej było mówione, tajemnica gospodarcza firmy, to jest tajemnica firmowa. Nigdzie tego nie możemy się dowiedzieć.

Kolejną sprawą są bonusy, czyli dodatkowe pieniądze za zlecenia. Niektórzy dostają mniejsze, niektórzy większe, w zależności jak pracują, od liczby godzin. Jeżeli ja np. pracuję 6 godzin dziennie, to dostanę mniejsze zlecenia od takiej osoby, która pracuje więcej godzin np. 10. To jest taka dyskryminacja pracowników. Więcej zleceń, bonusów dostają kurierzy, którzy jeżdżą innym środkiem transportu niż samochód, czyli na skuterze, na rowerze. My jako kierowcy samochodów takich bonusów nie dostajemy.

Jeżeli chodzi o BHP, skrócono nam czas pracy w Glovo dlatego, że oni starają się, żeby więcej kurierów jeździło. I żeby była możliwość, żeby więcej kurierów mogło jeździć, zasłaniają się…

Przewodniczący poseł Grzegorz Napieralski (KO):
No, niestety. Tu musimy popatrzyć na pana pełnomocnika, że coś z tymi naszymi sieciami nie najlepiej w kraju. Trzeba popracować bardziej. Wrócił pan Piotr, więc dajemy szansę. Panie Piotrze, proszę bardzo.

Przedstawiciel pracowników Glovo Piotr Kempiński:
Zmniejszono nam liczbę godzin pracy, czyli nie możemy mieć więcej godzin w ciągu dnia niż 10, wcześniej było 12 godzin. Firm zasłania się przepisami BHP, ale też z drugiej strony, jeżeli mamy np. zamówienie ze sklepu, to tutaj przepisy BHP nas nie obowiązują. Mamy dźwigać po 50 kg, a czasami jest zamówienie na trzecie piętro bez windy.

I to chyba tyle, co chciałbym dopowiedzieć. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):
Panie Piotrze, bardzo serdecznie dziękujemy za ten głos i dziękujemy za obecność na naszej podkomisji, bo – jak na pewno pan słyszał – wiele osób powoływało się na pana i na panią Magdalenę. Naprawdę wiele wnieśliście.

Przedstawicielka OZZ „Inicjatywa Pracownicza” Magdalena Malinowska:
Czy ja mogę dodać jeszcze jedno zdanie?

Przewodniczący poseł Grzegorz Napieralski (KO):
Proszę bardzo, pani Magdaleno.

Przedstawicielka OZZ „Inicjatywa Pracownicza” Magdalena Malinowska:
Co prawda, nie ma z nami pani Joanny Bronowickiej, ale chciałam się odnieść do tego, co ona powiedziała à propos RODO, że jest ono stworzone dla związków zawodowych. Otóż my zgłaszaliśmy się do LODO ze skargą na sposób przetwarzania danych w Amazon, głównie ze względu na to, że w Niemczech udało się znieść sposób oceniania pracowników i kształtowania norm oraz przetwarzania danych na temat pracowników, odnosząc się do ustawy o RODO. W Polsce to się na razie nie udało.

My złożyliśmy skargę między innymi ze względu na to, że nie ma czynnika ludzkiego, ale też dlatego, że te dane są przetwarzane w Stanach Zjednoczonych, a nie w Europie, czego de facto firma nie powinna robić. No, ale właśnie ta skarga przez LODO została odrzucona ze względu na to, że złożyliśmy ją jako związek zawodowy, a nie indywidualni pracownicy i według LODO mogą to robić tylko indywidualni pracownicy.

Chciałam jeszcze odnieść się do tych kwestii kontroli. Faktycznie jest tak, że jeśli dostaniemy jakieś matematyczne zapisy o sposobie kształtowania algorytmu, to nie bardzo nam się to przyda. Natomiast zasadnicza jest kwestia kontroli strony społecznej nad tym, w jaki sposób te algorytmy wpływają na kształtowanie warunków pracy, ale też na to, jak w ogóle jest kształtowana definicja pracy.

O tym nie powiedziałam jeszcze, a może to też jest dla państwa ciekawe. Nie dość, że te algorytmy i system komputerowy wpływają i kształtują poniekąd nasze warunki pracy, to jeszcze one wyznaczają, kiedy pracujemy, a kiedy nie. Tylko te momenty, kiedy my wykonujemy czynności, które są rejestrowane przez system komputerowy, Amazon uznaje za pracę. Jeśli przez 3 minuty nie wykonujemy tych czynności, to automatycznie system zgłasza nas do bazy pracowników, którzy nie pracują. Każde 3 minuty, nawet jeśli np. donosimy sobie kartony, w które pakujemy paczki albo zepsuje się nam komputer, system automatycznie kwalifikuje jako okres pozostawania bez pracy i jest traktowany jako dodatkowa przerwa pracownicza, za co możemy dostać karę nagany bądź może się to nawet skończyć zwolnieniem pracownika.

W tej chwili mamy jeszcze płacone wynagrodzenie za ten czas, który jest w ten sposób kwalifikowany przez system komputerowy, ale wyobrażam sobie, że takie firmy jak Amazon mogłyby dążyć do tego, aby ten czas był też nie opłacony. I my nie możemy się od tego w żaden sposób jako pracownicy odnieść ani złożyć jakichkolwiek wyjaśnień czy to zakwestionować, bo – jak państwo powiedzieli – tak jak jest w systemie, to pozostaje święte.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo.

Oddaję głos panu posłowi. Bardzo proszę, panie pośle.

Poseł Adrian Zandberg (Lewica):
Będziemy się zbliżać do końca. Bardzo chciałem wszystkim państwu podziękować za tę rozmowę. Bardzo chciałem podziękować i przedstawicielom akademii, i przedstawicielom organizacji związkowych pracowników. Powiem szczerze, w szczególności tym drugim także dlatego, że mam poczucie, że w debacie parlamentarnej często ten głos akademii jednak – czy z konsekwencjami to można by polemizować – jakoś się pojawia, natomiast to pracownicze doświadczenie i doświadczenie związków z pierwszej linii – rzadziej. A myślę, że dobrze, żeby także w tym budynku ono częściej wybrzmiewało.

To, co z tych wszystkich głosów tutaj się układało, to jeden bardzo prosty wniosek, który jest warunkiem sine qua non tego, żeby poddanie algorytmizacji miejsca pracy jakiejkolwiek kontroli mogło stać się czymkolwiek innym niż postulatem, tzn. praca wykonywana za pośrednictwem platform musi być traktowana jako praca. Polskie państwo musi przestać się ośmieszać, akceptując sytuację, w której ludzie, którzy powinni mieć normalne umowy o pracę, po prostu tych umów o pracę nie mają. I dopiero krokiem drugim, kiedy uda nam się tę elementarną powagę polskiemu państwu przywrócić w tej sprawie, jest rozmowa o tym, co zrobić z samymi algorytmami. W jakim stopniu jesteśmy w stanie poddać je społecznej kontroli? Myślę sobie, że też te głosy są ważne, także z tym przykładem hiszpańskim, który już się dzieje, który nie jest postulatem co do stanu prawnego, ale wdrożeniem pewnych rozwiązań.

Wydaje się konieczne, żeby po prostu, jeżeli ktoś chce wprowadzać nowe sposoby przetwarzania informacji o pracownikach i w oparciu o nie zautomatyzować system zarządzania pracownikami, to takie decyzje powinny być podejmowane wyłącznie po konsultacji ze zorganizowanymi pracownikami, których dotyczą. To oczywiście jest dosyć rewolucyjny postulat jak na polskie stosunki pracy, ale reprezentacja pracownicza to nie musi być wyłącznie organizacja związkowa, których oczywiście w bardzo wielu miejscach nie ma. Są też inne formy wyłonienia reprezentacji pracowniczej.

Bez wprowadzenia tego obowiązku moim zdaniem godzimy się na takie oto założenie, że pracodawca ma tutaj pełną swobodę kształtowania form nadzoru nad pracownikami, które jest zgubne, które prowadzi do XIX-wiecznych a nie XXI-wiecznych form tego nadzoru i kontroli odczłowieczających i odbierających pracownikom podmiotowość i wyobcowujących ich tak naprawdę z pracy, którą wykonują.

Myślę sobie, że to są sprawy, którymi powinniśmy się zająć w najbliższym czasie. Ten przykład hiszpański jest czymś, nad czym powinniśmy się bliżej pochylić i zastanowić, na jakim stopniu moglibyśmy go przeszczepić na nasz polski poziom. Oczywiście obserwatorium, instytucja kontrolująca algorytmy wrażliwe, te wszystkie rzeczy, które będą działy się na europejskim poziomie – to jest super rzecz. Tylko, po pierwsze, jak to słyszeliśmy ze strony rządowej, poczekamy, jeszcze zanim się zmaterializują. A po drugie, żebyśmy znowu nie rozmawiali o ładnie brzmiących słowach, tylko o realiach w miejsca pracy, to jedyną siłą, która jest w stanie zadbać o to, żeby poddać proces algorytmizacji społecznej kontroli, są zorganizowani tam pracownicy. I po prostu potrzebujemy narzędzi, które ich upodmiotowią w tym procesie. Myślę, że warto byłoby w dość szybkim czasie o tym porozmawiać czy to u nas na podkomisji, czy to szerzej, na jakiś wspólnych rozmowach angażujących zarówno Komisję Cyfryzacji, Innowacyjności i Nowoczesnych Technologii, jak i Komisję Polityki Społecznej i Rodziny i wszystkich innych posłów zainteresowanych stosunkami pracy.

To tyle z takiej bardzo praktycznej konkluzji, która, mam nadzieję, z tego naszego dzisiejszego spotkania wyjdzie, żeby nie było ono tylko ścianą płaczu, przy której spotkaliśmy się i rozmawialiśmy o tym, co się dzieje i co jest nieuniknione.

Na koniec jeszcze jedno zdanie polemicznie do tych słów pana profesora o gonieniu technologii przez ustawodawcę. Mnie jednak bliskie pozostaje przekonanie o tym, że to, w jakim żyjemy systemie społeczno-ekonomicznym, w dużym stopniu jest efektem tego, w jaki sposób zostały ustanowione dla niego ramy przez porządek prawny i stojące za nim wartości. W pewnym sensie to nie jest tak, że przez ostatnie setki lat świat regulacyjny goni jakiś abstrakcyjny, niezależny od niego rynek, który tak po prostu sobie istnieje. No nie, w dużym stopniu ten rynek powstał za sprawą politycznych decyzji czy ustrojowych decyzji, które otworzyły mu przestrzeń do rozwoju setki lat temu i w dużym stopniu to, co wyprawiają dzisiaj duże korporacje w przestrzeni cyfrowej, jest wynikiem tego, na co pozwolili im regulatorzy na przestrzeni ostatnich dziesiątek lat, a często także co sfinansowali z publicznych środków regulatorzy.

Zatem myślę, że nie ma co tutaj tak pochylać głowy przed procesem i uznawać, że jest od nas niezależny, bo jednak jest zależny i to nie tylko na poziomie europejskim, ale też na poziomie krajowych regulatorów. Warto byłoby wziąć tego byka za rogi. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
I weźmiemy, panie pośle.

Chciałem państwu bardzo serdecznie podziękować, że przyjechaliście, że byliście dzisiaj z nami, oczywiście osobom, które z nami łączyły się zdalnie również. Chciałbym na sam koniec podziękować panu posłowi za przygotowanie dzisiejszego spotkania, zorganizowania tego spotkania, że mogliśmy o tym ważnym pomyśle porozmawiać… przepraszam, o problemie porozmawiać. O pomyśle chciałem powiedzieć to, że pomysł zwołania kilku komisji jest bardzo zasadny i będziemy się starali, żeby zrobić to jak najszybciej i oczywiście państwa do takiej współpracy zaprosić.

Powołując naszą podkomisję, mieliśmy taki cel, żeby zbierać ludzi nam przyjaznych, którzy chcą o tym dyskutować. Są tutaj przedstawiciele wszystkich opcji. Nie chcemy tutaj dzielić na tych, którzy rządzą i tych którzy są w opozycji, bo sprawa naszym zdaniem jest bardzo istotna i bardzo ważna na różnych płaszczyznach, na różnych poziomach, o których rozmawiamy. Dzisiaj tak naprawdę to chyba był jeden z najważniejszych tematów, bo dotyczył bezpośrednio ludzi, tego, co dzieje się tak naprawdę w naszym świecie. Jeszcze raz bardzo serdecznie dziękuję, życzę wszystkiego dobrego i do zobaczenia.

Zamykam posiedzenie podkomisji.