Podkomisja stała do spraw regulacji prawnych dotyczących algorytmów cyfrowych, obradująca pod przewodnictwem posła Grzegorza Napieralskiego (KO), przewodniczącego podkomisji, zrealizowała następujący porządek obrad:

– dyskusja na temat planu pracy podkomisji w roku 2021.

W posiedzeniu udział wzięli: Marek Zagórski sekretarz stanu w Kancelarii Prezesa Rady Ministrów wraz ze współpracownikami, Tomasz Chróstny prezes Urzędu Ochrony Konkurencji i Konsumentów wraz ze współpracownikami, Adam Bodnar rzecznik praw obywatelskich wraz ze współpracownikami, Jarosław Leśniewski zastępca głównego inspektora pracy, Wojciech Szajnar dyrektor Centrum Projektów Polska Cyfrowa, Michał Kanownik prezes Związku Cyfrowa Polska, Joanna Karczewska przewodnicząca Komisji Rewizyjnej Stowarzyszenia ISACA oraz Liwiusz Laska doradca Ogólnopolskiego Porozumienia Związków Zawodowych.

W posiedzeniu udział wzięli pracownicy Kancelarii Sejmu: Magdalena Krzymowska i Wioletta Więciorkowska – z sekretariatu Komisji w Biurze Komisji Sejmowych.

Przewodniczący poseł Grzegorz Napieralski (KO):
Widzę, że powoli osoby się zgłaszają. Żeby nie marnować czasu, pozwolę sobie rozpocząć. Witam wszystkich bardzo serdecznie.

Otwieram posiedzenie podkomisji stałej do spraw regulacji prawnych dotyczących algorytmów cyfrowych.

Informuję, że posiedzenie podkomisji zostało zwołane przez panią marszałek sejmu na podstawie art. 198j ust. 2 Regulaminu Sejmu i będzie prowadzone z wykorzystaniem środków komunikacji elektronicznej umożliwiających porozumiewanie się na odległość.

Witam posłów, członków podkomisji. Witam gości, którzy przybyli na posiedzenie. Witam serdecznie pana ministra Marka Zagórskiego, sekretarza stanu w Kancelarii Prezesa Rady Ministrów. Witam serdecznie dyrektora Departamentu Rozwiązań Innowacyjnych Michała Pariaszewskiego – udział zdalny. Witam również naczelnika wydziału w Departamencie Regulacji Cyfrowych Dariusza Kołtunowicza – udział zdalny – oraz Sylwię Stefaniak, eksperta Departamentu Rozwiązań Innowacyjnych. Witam bardzo serdecznie. Witam również serdecznie rzecznika praw obywatelskich, pana Adama Bodnara, który jest już z nami. Witam, panie rzeczniku, bardzo serdecznie. Dziękuję za przyjęcie zaproszenia. Główny Inspektorat Pracy będzie reprezentował dziś pan Jarosław Leśniewski, zastępca głównego inspektora pracy. Witam bardzo serdecznie pana inspektora. Dziękuję za przyjęcie zaproszenia. Centrum projektów Polska Cyfrowa będzie reprezentował pan Wojciech Szajnar, dyrektor Centrum Projektów Polska Cyfrowa. Związek Cyfrowa Polska – udział zdalny potwierdził pan prezes Michał Kanownik. Witamy bardzo serdecznie. Urząd Ochrony Konkurencji i Konsumentów będzie reprezentował prezes UOKiK, pan Tomasz Chróstny. Witam bardzo serdecznie wszystkich na posiedzeniu naszej podkomisji. Jeżeli kogoś nie wyczytałem, to także witam bardzo serdecznie i przepraszam, jeśli kogoś pominąłem.

Osobom, które w posiedzeniu uczestniczą zdalnie, przypominam, że zgłoszenia do zabrania głosu w dyskusji należy wysłać na adres email naszej Komisji: kcnt@sejm.gov.pl lub przez czat w aplikacji po zalogowaniu się do pokoju wideokonferencyjnego. Jednocześnie informuję, że posłowie członkowie podkomisji obecni na sali obrad głosują przy użyciu urządzenia do głosowania, za pomocą legitymacji poselskiej. Wówczas nie logują się w systemie elektronicznej komunikacji i nie używają tabletów.

Przystąpimy do stwierdzenia kworum. Proszę państwa posłów o naciśnięcie jakiegokolwiek przycisku w celu potwierdzenia obecności na posiedzeniu.

W czasie liczenia głosów parlamentarzystów chciałem wszystkich gości i posłów poinformować, że pan prezes UOKiK będzie z nami, ale odrobinę się spóźni, za co bardzo serdecznie przeprasza. Czekamy na pana prezesa i cieszymy się, że do nas dołączy.

Przepraszam bardzo. Moja wina i trochę trema. Biuro Rzecznika Praw Obywatelskich – oczywiście jest rzecznik praw obywatelskich, pan Adam Bodnar, ale również jest z nami dyrektor Zespołu Prawa Konstytucyjnego, Międzynarodowego i Europejskiego, pan Mirosław Wróblewski. Witam bardzo serdecznie i przepraszam za to niedopatrzenie. Moja wina. Mam nadzieję, że to już więcej się nie powtórzy.

Mamy kworum. W takim razie możemy przystąpić do pracy. Porządek dzisiejszego posiedzenia przewiduje dyskusję na temat planu pracy podkomisji w roku 2021. Przystępujemy do jego realizacji.

Pozwólcie państwo, że na początek powiem dwa słowa jako inicjator tej podkomisji. Jeszcze w zeszłym roku zgłosiłem na posiedzeniu Komisji stałej, abyśmy powołali taką podkomisję do spraw algorytmów. Chciałbym zaproponować, żeby przynajmniej w pierwszym półroczu przyjrzeć się temu i zrobić taki remanent tego, co tak naprawdę jest w naszej przestrzeni – jak wygląda to z perspektywy rządu i naszego prawa. Myślę, że celem tej podkomisji powinny być trzy główne obszary naszej aktywności.

Pierwszy to oczywiście ten remanent, spojrzenie, jaki jest stan na dziś.

Drugi cel, również bardzo ważny, to jakby wprowadzenie tego problemu czy tych spraw, które będziemy omawiali, do opinii publicznej, żeby to podnieść na trochę wyższy poziom. Żeby to nie stało się tylko wąskim tematem, ale również poważną debatą, nie tylko polityczną, ale również merytoryczną, tak żeby wypracować dobre rozwiązania.

Trzeci obszar, który powinien być wieńczącym pracę podkomisji to kwestie dotyczące przygotowań konkretnych narzędzi dla instytucji państwa, jak również przepisów prawa – ustaw czy zmian ustaw, które wraz z rządem przygotowalibyśmy jako propozycję. Tak chciałem zaproponować pracę naszej podkomisji. Żeby dziś nie przedłużać i nie marnować państwa czasu, pozwolę sobie na samym początku oddać głos panu ministrowi Markowi Zagórskiemu. Bardzo proszę. Dziękuję jeszcze raz za przyjęcie zaproszenia.

Sekretarz stanu w Kancelarii Prezesa Rady Ministrów Marek Zagórski:
Dziękuję bardzo. Panie przewodniczący, szanowni państwo, po pierwsze chciałem podziękować za tę inicjatywę. Ona jest bardzo istotna i potrzebna. Jest potrzebna dyskusja spokojna, trochę oderwana od bieżącej pracy – czy to legislacyjnej, czy to operacyjnej rządu i Sejmu. Dyskusja, której celem będzie zastanowienie się na ile i w jakim zakresie powinniśmy regulować funkcjonowanie algorytmów, aplikacji, systemów, które wykorzystują algorytmy. Trzeba wziąć pod uwagę, że one są obecne w naszym życiu i coraz bardziej to życie determinują w różny sposób. Najczęściej w sposób pozytywny i z dobrymi intencjami. Trzeba to podkreślać. Celem rozwiązań informatycznych bazujących na algorytmach co do zasady jest podnoszenie jakości życia, ułatwianie go i poszerzanie możliwości człowieka. To jest rzecz niewątpliwa. Natomiast z uwagi na ich powszechność, na rozwój technologii i obecność technologii w naszym życiu, mogą także oddziaływać negatywnie. Z tego też musimy sobie zdawać sprawę. Ten balans pomiędzy tym, co pozytywne i tym, co potencjalnie szkodliwe powinien być analizowany, powinien być przestrzegany, powinien mieć swoje odzwierciedlenie w przepisach prawa. Prawa, które – co wielokrotnie też podkreślamy – musi nadążać za tempem zmian i nie zawsze się to udaje. Tempo rozwoju technologii, zastosowania technologii są oczywiście bardzo duże. Mówiąc o tym, co z perspektywy rządu wydaje się istotne do przedyskutowania, wskazałbym na kilka kwestii.

Pierwszą kwestią jest uregulowanie funkcjonowania algorytmu szeroko w administracji, czyli w narzędziach, które wykorzystuje administracja – uregulowanie tego chociażby w Kodeksie postępowania administracyjnego. Wielokrotnie podaję taki przykład, który może sprawę spłyca, ale oddaje, wydaje mi się, sens dyskusji w tym obszarze. Mianowicie wielokrotnie każdy z nas otrzymywał decyzję administracyjną wygenerowaną przez jakiś system. Na końcu tej decyzji podpisywał się jakiś upoważniony urzędnik. Wszystko jest oczywiście zgodne z przepisami. Natomiast tak realnie na to patrząc, wpływ tej osoby, która podpisywała się pod tą decyzją, na kształt tej decyzji z reguły jest znikomy albo żaden. Wszystko jest przetwarzane wcześniej w systemie. To skłania nas do myślenia o tym, że w tym całym procesie powinniśmy się skupiać właśnie na tym, w jaki sposób budowane są algorytmy, które doprowadzają do tego, że dane decyzje są generowane. Oczywiście one powinny odzwierciedlać – takie jest założenie – istniejące przepisy prawa. Tym niemniej myślę, że to kierunek, nad którym trzeba się zastanowić, na ile zastosowanie nowoczesnych technologii powinno zmieniać także procedury, które obowiązują obecnie w przepisach.

Oczywiście powinniśmy także dążyć do tego, żeby ten kolejny wymiar, który jest istotny, miał miejsce – czyli zgodności z prawem, poszanowania praw obywateli, praw użytkowników. Dyskusja nad tym to jest także kwestia zadań. Pewnie pan rzecznik praw obywatelskich będzie o tym mówił z jego perspektywy. Natomiast nie ma sporu co do tego, że wymiar etyczny w tej dyskusji jest bardzo ważny.

Wczoraj mieliśmy okazję zaprezentować przyjętą 28 grudnia przez Radę Ministrów politykę rozwoju sztucznej inteligencji w Polsce. Wskazujemy bardzo istotną kwestię związaną z funkcjonowaniem algorytmów – powszechność, czy w coraz większym stopniu udział szeroko rozumianych algorytmów bazujących na sztucznej inteligencji. Wskazujemy tam na konieczność rozpatrywania tego także w kontekście etyki, w kontekście zaufania do sztucznej inteligencji, generalnie do algorytmów. Myślę, że to jest kolejny wątek, który powinien być brany pod uwagę.

Powinniśmy też rozmawiać tu o tym elemencie, który pozwolę sobie nazwać progresywnym, czyli upowszechniania stosowania algorytmów. Mimo tych wszystkich wątpliwości naszym celem też powinno być to, żeby algorytmy, które są zgodne z prawem, rozwiązania które nie budzą wątpliwości etycznych, były upowszechniane. To bez wątpienia wpływa na jakość naszego życia, funkcjonowania administracji, funkcjonowania gospodarki, przedsiębiorców. To też w naszym przekonaniu powinien być element namysłu w tej podkomisji.

Te trzy obszary wydają mi się na pewno bardzo istotne. Prawdopodobnie w toku prac podkomisji te akcenty zostaną jeszcze rozłożone. Z całą pewnością deklaruję gotowość do współpracy. Dziś w posiedzeniu uczestniczą zdalnie przedstawiciele departamentów, które nadzorują wdrażanie poszczególnych obszarów – Departament Regulacji Cyfrowych, Departament Rozwiązań Innowacyjnych.

Chcę też zwrócić uwagę, że bardzo ważnym elementem będzie opiniowanie przez podkomisję rozwiązań, które mają wymiar całkowicie praktyczny, związane z wdrażaniem poszczególnych rozwiązań, czy wręcz z mechanizmami finansowania. Jeśli chodzi o technologie, które nazywamy dysruptywnymi lub czy przełomowymi, zgodnie z przyjętą politykę chociażby rozwoju sztucznej inteligencji, ale nie tylko, chcemy przeznaczyć w tej kolejnej perspektywie finansowej znaczące środki. Zatem opinia podkomisji o ewentualnych kierunkach, czy wręcz szczegółowych inicjatywach, będzie bardzo cenna. Jeszcze raz dziękuję za podjęcie tej inicjatywy i deklaruję współpracę w trakcie prac podkomisji. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję za określenie tych obszarów, które pana ministra bardzo interesują. Chciałem powiedzieć, że celem tej podkomisji właśnie było to, aby współpracować poza tym całym wielkim zgiełkiem politycznym i poszukać bardzo dobrych rozwiązań na przyszłość. Świat wokół nas bardzo szybko się zmienia, a my z przepisami prawa i narzędziami często nie nadążamy.

Chciałem powitać pana prezesa. Dziękuję, że pan prezes UOKiK do nas dotarł. Witamy bardzo serdecznie i dziękujemy za przybycie. Pozwolę sobie teraz oddać głos…

Żeby zabrać głos, trzeba przyłożyć taką plastikową pinezkę. Proszę przyłożyć do lewego głośnika. I już powinno wszystko działać. Działa?

Prezes Urzędu Ochrony Konkurencji i Konsumentów Tomasz Chróstny:
Tak. Dziękuję ogromnie i przepraszam za spóźnienie.

Przewodniczący poseł Grzegorz Napieralski (KO):
Nic się nie stało. Bardzo dziękuję za przybycie. Pozwolą państwo… Pan minister wymienił rzecznika praw obywatelskich – jak on to widzi z jego perspektywy. Oddam głos panu rzecznikowi. Proszę bardzo.

Rzecznik praw obywatelskich Adam Bodnar:
Szanowny panie przewodniczący, szanowny panie ministrze, szanowny panie prezesie, dostojni zgromadzeni goście, jeśli pan przewodniczący pozwoli, to ja bym powiedział kilka słów wstępnych, potem oddał głos panu dyrektorowi Wróblewskiemu z mojego biura, który tym tematem zajmuje się znacznie dłużej niż ja. Kilka słów wstępu w kontekście, do czego podkomisja i jej prace mogłyby się przydać.

Otóż, drodzy państwo, na świecie obserwujemy pogłębioną debatę dotyczącą wpływu sztucznej inteligencji na przestrzeganie praw człowieka. Ponieważ tak jak to już pan minister zauważył wcześniej, może dochodzić do różnych sytuacji, które będą tym szkodliwym wpływem. Zachwycimy się możliwością użycia sztucznej inteligencji oraz  big data, a jednocześnie gdzieś po drodze zginie człowiek. Może niekoniecznie w sensie fizycznym, ale takim w sensie, że zapomnijmy o tym, że nasza rzeczywistość się składa z wielu sytuacji, które niekoniecznie muszą pasować do algorytmów, niekoniecznie muszą pasować do wcześniej opracowanych wzorów postępowania i że nasza rzeczywistość ma wiele różnych sytuacji wyjątkowych, które po prostu powinny być uwzględniane. Co więcej, mechanizmy sztucznej inteligencji mogą być wykorzystywane do różnicowania ludzi w sposób nieuprawniony. Dlatego też na świecie dyskutuje się o tym, w jaki sposób zagwarantować, żeby systemy sztucznej inteligencji nie naruszały praw człowieka. Z jednej strony wiem, że jest pogłębiona dyskusja na forum Unii Europejskiej, że została przyjęta biała księga dotycząca rozwoju sztucznej inteligencji. Oczywiście ze względu na to, że te dyskusje są prowadzone na szczeblu unijnym, to muszą one odpowiadać wymogom karty praw podstawowych Unii Europejskiej. Ale z drugiej strony to, na co chciałbym państwu zwrócić szczególną uwagę, to fakt, że w połowie grudnia zeszłego roku zostały przyjęte rekomendacje i bardzo kompleksowy raport przez Agencję Praw Podstawowych Unii Europejskiej. Agencja to bardzo wykwalifikowany podmiot, który ma właśnie na celu zapewniać szersze myślenie o zagadnieniach dotyczących praw człowieka. Zazwyczaj te raporty są poprzedzone pogłębionymi badaniami z udziałem ekspertów z wielu państw członkowskich.

Wydaje mi się, że byłoby dobrze, gdyby w ramach planu prac podkomisji zaplanować po prostu jedno posiedzenie, które byłoby poświęcone dokładnie analizie tego, co z tego raportu wynika. Tu jesteśmy w stanie pomóc podkomisji w zorganizowaniu obecności na posiedzeniu – prawdopodobnie zdalnej obecności – przedstawicieli Agencji Praw Podstawowych. Mamy kontakt bieżący, w zasadzie roboczy, z panem profesorem Michaelem O’Flaherty, który jest szefem Agencji Praw Podstawowych. Myślę, że dla niego to będzie ciekawe, żeby swój raport zaprezentować na forum Komisji. Jesteśmy do dyspozycji pana przewodniczącego, jeżeli chodzi o tego typu dyskusję. Wydaje nam się, że po prostu w wielu sprawach nie ma co wyważać otwartych drzwi i po prostu szukać tych argumentów i tych analiz, które zostały już przygotowane i zastanowić się, w jaki sposób one mogłyby się przełożyć na naszą rzeczywistość. Nie chciałbym przytaczać szczegółowo tego raportu. On szczegółowo odnosi się do tych kwestii, które nas wszystkich interesują – jak na przykład zagwarantować możliwość odwołania się od decyzji podejmowanych przez mechanizmy sztucznej inteligencji, jak zbadać, by dany system zanim zostanie użyty, podlegał odpowiedniej analizie pod kątem ewentualnego nienaruszania praw i wolności obywatelskich, w jaki sposób stworzyć system nadzoru nad działalnością takich systemów. To w ogóle w Polsce jest szerszym problemem. Co do zasady mamy kłopot z nadzorowaniem przetwarzania danych. Oczywiście Urząd Ochrony Danych Osobowych się rozwija. Ale jeżeli chodzi na przykład o policję i służby specjalne, to nasze prawo jest daleko w tyle, jeżeli chodzi o wymogi Unii Europejskiej. Należy wspomnieć też o przeciwdziałaniu potencjalnym skutkom dyskryminacyjnym. Ten raport jest o tym wszystkim. Uważam, że skoro dzisiejsze posiedzenie jest poświęcone planowaniu, to my jako biuro jesteśmy absolutnie do dyspozycji i po prostu możemy pomóc w rozwoju prac podkomisji.

Jeśli pan przewodniczący pozwoli, to oddałbym głos panu dyrektorowi Wróblewskiemu. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Jasne. Proszę bardzo. Dziękuję, panie rzeczniku.

Dyrektor Zespołu Prawa Konstytucyjnego, Międzynarodowego i Europejskiego w Biurze Rzecznika Praw Obywatelskich Mirosław Wróblewski:
Dzień dobry. Dziękuję. Panie przewodniczący, szanowni państwo, ja może tylko kilka słów uzupełnienia do wypowiedzi pana rzecznika. Rzeczywiście jest tak, że wypadku polityk w odniesieniu do sztucznej inteligencji coraz częściej przywołuje się wiążące standardy praw człowieka. Najwięcej dokumentów skupia się na aspektach etycznych. Ale właśnie chociażby raport agencji, a także kolejne dokumenty Unii Europejskiej powołują konieczność aplikacji wiążących standardów międzynarodowych rozwijanych także w orzecznictwie sądowym. Warto odnotować, że wspomina o tym świeża uchwała Rady Ministrów z 28 grudnia w sprawie ustanowienia polityki dla rozwoju sztucznej inteligencji w Polsce od roku 2020. Byłem tam jednym z wielu konsultantów. Muszę powiedzieć, że ten dokument rzeczywiście powstał w taki sposób inkluzywny. Proces organizowany przez Ministerstwo Cyfryzacji – co należy bardzo docenić – z obecnym pełnomocnikiem, panem Robertem Kroplewskim oraz oczywiście z panem ministrem Markiem Zagórskim na czele. Zatem w tym zakresie rzeczywiście konieczne jest przyjmowanie, bym powiedział, pewnych narzędzi. Jeżeli podkomisja będzie rozmawiać o pewnych procedurach, pełna zgoda, że należy do tego tematu podchodzić w sposób bardzo racjonalny, zważywszy na to, że są to nowe technologie i wymagają rozwoju. Ale jednocześnie podstawowe prawa człowieka muszą być zagwarantowane. Tutaj są rzeczywiście szerokie możliwości, jak takie narzędzia mogą wyglądać. Te narzędzia są przyjmowane w wielu państwach, nie tylko w państwach europejskich, ale i w innych państwach rozwiniętych demokracji zachodnich – takich jak Kanada. Swoistego rodzaju ocena skutków dla ochrony praw człowieka, ochrony praw jednostki, którą znamy chociażby z przepisów rozporządzenia ogólnego ochronie danych osobowych, czyli RODO. W tym zakresie myślę, że warto będzie się pochylić także właśnie nad propozycjami takich konkretnych narzędzi, które oczywiście na początku mogą przyjmować postać rozwiązań o charakterze dobrych praktyk, czy dobrych standardów. Jak powiedział pan rzecznik Bodnar – Agencja Praw Podstawowych jest na pewno dobrym partnerem w tym zakresie, aczkolwiek są także inne organizacje, które się tym zajmują – European Network of National Human Rights Institutions, czy też sieć organów równościowych Unii Europejskiej Equinet, która w ubiegłym roku opracowała i opublikowała obszerny raport na temat wpływu sztucznej inteligencji algorytmów na kwestie dyskryminacji. Niezwykle istotny jest obszar danych osobowych, ale z drugiej strony wykorzystanie tych danych osobowych bardzo często wywołuje pewien skutek dyskryminacyjny w odniesieniu do osób fizycznych, które są poddane działaniom tego procesu. Być może można by było połączyć to spotkanie z udziałem przedstawiciela Equinetu. Tutaj pewnie też Biuro Rzecznika Obywatelskich jest do dyspozycji.

Jeszcze dwa elementy. Myślę że warto też zarekomendować udział i być może współpracę z powstałą inicjatywą pod auspicjami Ministerstwa Cyfryzacji, ale jest to szerokie porozumienie kilkunastu uczelni, głównie prawniczych i technicznych politechnik – Wirtualnej Katedry Etyki i Prawa, której eksperci posiadają wysokie stopnie wiedzy. Jeżeli mogę tutaj polecić Komisji skorzystanie z wiedzy jej członków...

Ostatni element, który pewnie jest także na czasie. Dokument przyjęty przez rząd wskazuje oczywiście na wiele obszarów, w których mają zastosowanie algorytmy, nie tylko w instytucjach prywatnych, ale i publicznych. Ale ważnym obszarem jest medycyna, badania medyczne. To w kontekście pandemii koronawirusa ma niebagatelne znaczenie. Myślę, że pewien namysł w tym zakresie, jak można wesprzeć ten proces w takim stopniu, ażeby radzenie sobie z pandemią w naszym kraju było skuteczniejsze z wykorzystaniem takich mechanizmów, byłby również bardzo cenny. Bardzo dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie dyrektorze, bardzo dziękuję, panie rzeczniku. Chciałem od razu powiedzieć, że chętnie skorzystamy z pomocy, że na pewno każda osoba, każda organizacja, która chciałaby z nami współpracować, będzie mile widziana. Czym więcej osób zaangażujemy, czym więcej organizacji włączymy do naszej pracy, tym efekty pracy podkomisji będą lepsze. Po zakończeniu dzisiejszego spotkania, jeśli panowie pozwolą, chętnie się umówię, czy umówimy się z prezydium komisji, by omówić szczegóły współpracy. Dziękuję również panu rzecznikowi za sugestie dotyczące posiedzenia podkomisji w sprawie raportu i zorganizowania ewentualnego łączenia lub zaproszenia gości, którzy przygotowali ten raport. Na pewno będziemy chcieli z tego skorzystać. To na pewno będzie ciekawe spotkanie i bardzo naświetlające nam punkt widzenia, który dzisiaj przyświeca Unii Europejskiej. Bardzo serdecznie za to dziękuję.

W czasie przygotowań do posiedzenia podkomisji odbywałem wiele spotkań. Okazuje się, że ileś instytucji państwa też zwracało uwagę, że potrzeba tak naprawdę nowych regulacji. Jeżeli mogę teraz poprosić o głos zastępcę głównego inspektora pracy. Widziałem, że jest z nami pan Jarosław Leśniewski. Miałem przyjemność rozmawiać z panami inspektorami o ich udziale w tej kwestii. Panie inspektorze, bardzo proszę, oddaję panu głos.

Zastępca głównego inspektora pracy Jarosław Leśniewski:
Szanowni państwo, Państwowa Inspekcja Pracy, jeżeli będzie taka wola, również włączy się w prace tej podkomisji jako specjaliści w zakresie naruszenia praw pracowniczych – w tym wątku prawa pracownika, który może korzystać z aplikacji, algorytmów cyfrowych, zarówno w zakresie podejmowania szukania zatrudnienia, wszystkich aplikacji, które pośredniczą w zatrudnieniu, szczególnie w kontekście możliwości wystąpienia różnych aplikacji dyskryminujących w zakresie możliwości dostępu do zatrudnienia, jak i w tym, w czym ostatnio prowadziliśmy czynności kontrolne, czyli prace za pośrednictwem aplikacji mobilnych. Tymi wątkami bylibyśmy najbardziej zainteresowani. Z chęcią podzielimy się naszymi doświadczeniami w zakresie możliwości kontroli przez inspekcję pracy tego typu aplikacji w zakresie, jakie uprawnienia ma osoba, która podejmuje zatrudnienie za pośrednictwem aplikacji i jakie są tak naprawdę obowiązki tego podmiotu, u którego później podejmuje zatrudnienie oraz jakie są obowiązki wynikające z samej aplikacji, która jest takim de facto pośrednikiem między pracownikiem a tym docelowym pracodawcą. Mamy pewne doświadczenia w zakresie kontroli aplikacji mobilnych. Przeprowadzaliśmy kilka takich kontroli, również w 2020 roku. Jeśli będzie potrzeba podzielimy się wiedzą w tym zakresie.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie inspektorze. Pozwolę sobie teraz oddać głos prezesowi UOKiK, panu Tomaszowi Chróstnemu. Bardzo proszę, panie prezesie, oddaję głos.

Prezes UOKiK Tomasz Chróstny:
Dziękuję bardzo. Panie przewodniczący, Wysoka Komisjo, zaproszeni goście, panie rzeczniku, rzeczywiście temat jest niezwykle złożony i jest to dostrzegalne tak na poziomie Komisji Europejskiej przepisów europejskich, jak i przepisów polskich, nad którymi też jako UOKiK pracujemy na bieżąco, przygotowując między innymi implementacje wdrożeniowe przepisów europejskich do polskiego porządku prawnego.

Rzeczywiście jest tak – i bardzo mocno się temu przyglądamy, monitorujemy rynek, zarówno na poziomie praktyk ograniczających konkurencję, czy na poziomie praktyk naruszających zbiorowe interesy konsumentów – że rynek, jeżeli chodzi przede wszystkim o biznes, jest szereg lat do przodu przed regulatorami i przepisami, które mają w jakiś sposób zapewnić prawidłowy nadzór nad jego działalnością. Świadoma tego jest również Komisja Europejska, która między innymi przygotowuje pewne przepisy i pracuje nad regulacjami właśnie po to, żeby zapewnić prawidłowy nadzór i kontrolę nad tymi mechanizmami, które mogą być również szkodliwe dla rynku, dla uczciwych przedsiębiorców i konsumentów. Z jednej strony mówimy tutaj o przepisach, które są konsultowane, a z drugiej o takich, które już są na dość późnym czy zaawansowanym etapie – Digital Services Act, Digital Market Act, a także Dyrektywa Omnibusa, która będzie podlegała implementacji do polskiego porządku prawnego już w tym roku. Dostrzegane jest to, że aby zapewnić nadzór, o którym między innymi wspomniał pan rzecznik Bodnar, trzeba w ogóle mieć odpowiednie zasoby i regulacje pozwalające na to, żebyśmy mogli dostrzec, gdzie właściwie i jak działa dany algorytm i jaki kształt może mieć praktyka. Do tego z jednej strony potrzebne są odpowiednie regulacje, a z drugiej strony odpowiednie zasoby, między innymi w postaci kompetentnych, wykwalifikowanych zespołów ludzkich, które będą w stanie dostrzec skutki wynikające z pracy algorytmów, które bardzo często wymagają w drugim etapie, na przykład w toku postępowań prowadzonych przez prezesa UOKiK, analizy algorytmów i wykazania właśnie tego, w jaki sposób na poziomie algorytmów te praktyki są realizowane. Mówimy o niezwykle złożonych procesach. Zwłaszcza jeżeli nałożymy na to big data, Internet rzeczy, czy właściwie samą specyfikę algorytmów uczących się, które są konstruowane, a później właściwie bardzo często samodzielnie ulegają modyfikacji już poza taką naturalną kontrolą programisty czy analityka danych. Mówimy o mechanizmach bardzo złożonych, które w dodatku wymagają kompetencji, które na rynku są niezwykle cenne, a związku z tym niezwykle kosztowne.

Widzimy to też na poziomie administracji publicznej, gdzie między innymi po to, żeby zbudować pewne podstawowe kompetencje, musiały zostać wydzielone pewne podmioty w postaci aplikacji krytycznych przy Ministerstwie Finansów czy w postaci Centralnego Ośrodka Informatyki działającego przy ministrze właściwym do spraw cyfryzacji. To pokazuje, jak cenne są zasoby do tego, żeby móc właściwie analizować, co się dzieje na poziomie algorytmów i wówczas móc zapewnić pewien prawidłowy nadzór, czy to na poziomie praw podstawowych, czy to na poziomie praw pracowniczych, czy rzeczywiście weryfikacji w stosunku do nadużyć, czy to w zakresie ochrony konsumentów, czy to w zakresie uczciwej konkurencji. Tutaj oczywiście są pewne prace, które trwają na poziomie europejskim i z naszego punktu widzenia często dotyczą również sfery praktycznej – między innymi pewne prace, które trwają, żeby stworzyć e-laboratorium właśnie wykrywające tego typu praktyki i tego typu nadużycia. Natomiast rynek w postaci regulacji i w postaci możliwości analizy, czy rzeczywiście różnica pomiędzy działalnością biznesu a działalnością legislatora czy ustawodawcy oraz regulatora rynku to są rzeczywiście obszary, które na chwilę obecną absolutnie się nie pokrywają. To jest także tytaniczna praca, która jest wymagana, aby móc sprostać tym oczekiwaniom i dogonić biznes, który niejednokrotnie wyprzedza nas bardzo mocno. Widzimy to już teraz. Jeżeli chodzi o przykłady, które występowały na poziomie Unii Europejskiej, jeżeli chodzi o praktyki godzące w zbiorowe interesy konsumentów, można tutaj wspomnieć choćby o pewnych algorytmach z wykorzystaniem big data, ale też takie proste przykłady typu postarzanie urządzeń z użyciem oprogramowania wychwycone przez francuskiego nadzorcę w ramach produktów Apple’a. Natomiast coraz częściej występują one również w relacji business-to-business, na przykład jeżeli chodzi o platformy sprzedażowe. To rzeczywiście jest praca, która musi zostać wykonana i wobec której jesteśmy tutaj w pełni otwarci. My już teraz mamy takie dwa obszary, w których pracujemy mocno nad tym, żeby uczenie maszynowe i analityka danych bardzo mocno pracowały na korzyść urzędu. To z jednej strony wykrywanie zmów przetargowych, a z drugiej strony wykrywanie klauzul abuzywnych. Ta praca jest przed nami. Ona rzeczywiście wymaga współdziałania wielu instytucji, żebyśmy mogli zrozumieć tę specyfikę uczenia maszynowego, czy współdziałania danych i wykorzystywania big data przez duże korporacje – często ze szkodą na konsumentów, czy z pewnymi szkodami dla gospodarki – po to, żebyśmy mogli im właściwie sprostać. Tutaj UOKiK jest absolutnie w pełni otwarty i gotowy do tego, żeby współdziałać, żeby zapewnić właściwe regulacje, wsparcie i wypełnić obowiązki ustawowe wynikające z roli regulatora rynku. Bardzo dziękujemy za zaproszenie i jesteśmy w pełni do dyspozycji szanownej Komisji. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie prezesie, za przybycie, tę deklarację i chęć współpracy. To dla nas istotne.

Czy ktoś jeszcze z zaproszonych gości chciałby zabrać głos? Nie słyszę. Czy ktoś z parlamentarzystów? Przepraszam, że nie rozpocząłem od posłów, ale uznałem, że w pracach podkomisji zaczniemy od naszych gości, żeby mogli się wypowiedzieć. Pan poseł? Nie.

Skoro nie mamy już zgłoszeń, to bardzo serdecznie dziękuję. Proszę sekretariat Komisji o przygotowanie zestawienia zagadnień zgłoszonych w czasie tej dyskusji i przekazanie członkom prezydium. Przystąpimy do regularnej pracy. Przed każdym posiedzeniem podkomisji prosiłbym o spotkanie, na którym moglibyśmy się do niego dobrze przygotować, żeby przyjść przygotowanym, przyjąć kolejne założenia i pracować dalej. Bardzo nam zależy, szczególnie mi, ale myślę, że wszystkim parlamentarzystom, którzy zasiadają w tej podkomisji, by ta dyskusja trafiła do szerszej opinii publicznej, żeby stała się przedmiotem debat w mediach, nie tylko w mediach społecznościowych, ale również w telewizji i w radiu. Żebyśmy zaczęli o tym rozmawiać i uświadamiać także Polaków, co tak naprawdę się kryje za tymi algorytmami, by ta świadomość budowała się wśród nas, użytkowników tych aplikacji. Spotykam coraz więcej ciekawych artykułów na ten temat. Wczoraj wpadł mi w rękę jeden taki artykuł pod tytułem bardzo ciekawym „Kto ma algorytm, ten rządzi światem”. Bardzo ciekawa analiza przeprowadzona przez doradcę związków zawodowych, pana Liwiusza Laska, który właśnie pokazuje, jak naprawdę to wygląda z tej drugiej strony, jak to jest ważne, byśmy zaczęli się temu przyglądać i regulować, zwracając uwagę na to, co powiedział pan minister w swoich pierwszych słowach – założeniem każdej aplikacji jest czynienie dobra i ułatwienie nam życia. Ale musimy być też na to przygotowani.

Jestem przekonany, że w czasie naszych spotkań przygotujemy również dobre rozwiązania, żeby na samym końcu człowiek nie został pominięty, albo nie został skrzywdzony. To jest tak naprawdę cel nas wszystkich – instytucji i parlamentu, który przygotuje odpowiednie przepisy.

Chciałem bardzo podziękować za dzisiejsze spotkanie, za osobiste przybycie pana prezesa, pana na ministra, pana posła. Jest jeszcze z nami pan rzecznik. Bardzo dziękuję. Jeśli pan rzecznik pozwoli, to ja od razu jutro zatelefonuję i spróbuję się umówić, żeby przygotować spotkanie dotyczące raportu. Jak ten raport otrzymamy, roześlemy wszystkim.

Bardzo wam dziękuję, życzę dobrego dnia i dużo zdrowia przede wszystkim, bo w tych czasach to bardzo ważne. Wszystkiego dobrego.

Zamykam posiedzenie podkomisji. Dziękuję bardzo.