Podkomisja stała do spraw regulacji prawnych dotyczących algorytmów cyfrowych, obradująca pod przewodnictwem posła Grzegorza Napieralskiego (KO), przewodniczącego podkomisji, rozpatrzyła:

– informację Ministra Cyfryzacji na temat stanowiska Rady Ministrów do:
– Rozporządzenia COM (2021)206 ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji,
– Komunikatu COM (2021)205 Komisji Europejskiej do Parlamentu Europejskiego, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów w sprawie promowania europejskiego podejścia do sztucznej inteligencji.

W posiedzeniu udział wzięli: Robert Kroplewski pełnomocnik ministra cyfryzacji ds. społeczeństwa informacyjnego w KPRM, Wojciech Gonciarz dyrektor Departamentu Prawnego Państwowej Inspekcji Pracy, Agnieszka Rzemieniewska radca prawny w Polskiej Agencji Rozwoju Przedsiębiorczości, dr Agnieszka Całek zastępca dyrektora Instytutu ds. dydaktycznych, Wydział Zarządzania i Komunikacji Społecznej, Instytut Dziennikarstwa, Mediów i Komunikacji Społecznej Uniwersytetu Jagiellońskiego, Michał Kanownik prezes Związku Cyfrowa Polska, Kamil Wójcik wiceprezes Federacji Stowarzyszeń Naukowo-Technicznych NOT, Wojciech Klicki prawnik w Fundacji Panoptykon, Joanna Karczewska członek zarządu Stowarzyszenia ISACA, Marzena Śliz ekspertka Konfederacji Lewiatan oraz Radosław Nielek stały doradca Komisji.

W posiedzeniu udział wzięli pracownicy Kancelarii Sejmu: Wioletta Więciorkowska, Magdalena Krzymowska – z sekretariatu Komisji w Biurze Komisji Sejmowych.

Przewodniczący poseł Grzegorz Napieralski (KO):
Otwieram posiedzenie podkomisji stałej do spraw regulacji prawnych dotyczących algorytmów cyfrowych. Witam serdecznie panie i panów posłów. Przepraszam, że będę wchodzić i wychodzić, ale mamy dziś bardzo ważne posiedzenie Sejmu.

Witam serdecznie pana Roberta Kroplewskiego, pełnomocnika ministra cyfryzacji ds. społeczeństwa informacyjnego. Witam Pana dyrektora Wojciecha Gonciarza z Państwowej Inspekcji Pracy. Witam panią Agnieszkę Rzemieniewską, radcę prawnego w Polskiej Agencji Rozwoju Przedsiębiorczości. Witam pana Kamila Wójcika, wiceprezesa Federacji Stowarzyszeń Naukowo-Technicznych NOT. Witam panią Agnieszkę Całek, zastępcę dyrektora ds. dydaktycznych na Wydziale Zarządzania i Komunikacji Społecznej Instytutu Dziennikarstwa, Mediów i Komunikacji Społecznej Uniwersytetu Jagiellońskiego.

Witam przedstawicieli organizacji branżowych, panią Joannę Karczewską, pracownika Stowarzyszenia ISACA, panią Marzenę Śliz, ekspertkę Konfederacja Lewiatan i pana Wojciecha Klickiego, prawnika z Fundacji Panoptykon.

Stwierdzam, że mamy kworum. W porządku dnia mamy zapoznanie się z informacją ministra cyfryzacji na temat stanowiska Rady Ministrów wobec:

1. Rozporządzenia COM (2021)206 ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji,

2. Komunikatu COM (2021)205 Komisji Europejskiej do Parlamentu Europejskiego, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu regionów w sprawie promowania europejskiego podejścia do sztucznej inteligencji.

Czy są uwagi do porządku obrad? Nie ma. Przystępujemy do realizacji porządku. Proszę o zabranie głosu pana Roberta Kroplewskiego, pełnomocnika ministra cyfryzacji ds. społeczeństwa informacyjnego.

Pełnomocnik ministra cyfryzacji ds. społeczeństwa informacyjnego w Kancelarii  Prezesa Rady Ministrów Robert Kroplewski:
Panie przewodniczący, szanowni państwo, witam wszystkich serdecznie. Na początek chcę zaznaczyć, że stanowisko rządu jeszcze nie zostało wypracowane, jednak wiem, że w tej chwili toczą się już nad tym prace. Postaram się przedstawić państwu, jak mniej więcej podchodzimy do tego, co zostało opublikowane przez Komisję Europejską.              Chcę zapoznać państwa z głównymi problemami, które napotkaliśmy.

Stanowisko rządu jest bardzo szerokie, wielowątkowe i zajmuje się również detalicznymi kwestiami. Zakładam, że będzie jeszcze szansa przedstawienia tego stanowiska.

Szanowni państwo, 21 kwietnia KE opublikowała pakiet w sprawie sztucznej inteligencji. Składa się on z dwóch dokumentów: projektu rozporządzenia COM (2021)206 ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji, tzw. akt w sprawie sztucznej inteligencji, oraz nowego Skoordynowanego Planu na rzecz Sztucznej Inteligencji. Jest bardzo ważne, że KE nie tyle wydała akt dotyczący regulacji, ale sprzęgła go od razu i natychmiast z polityką inwestycyjną w obszarze sztucznej inteligencji.

Te dwa dokumenty muszą działać razem. Tylko dzięki ich działaniu razem można powiedzieć, że nadmierne regulacje przewidziane w rozporządzeniu mogą być moderowane przez odpowiednie akty interwencyjne. Na wstępie chcę zaznaczyć, że takie podejście było prezentowane przez KE już od 2018 roku. Ten nowy Skoordynowany plan jest aktualizacją planu z 2018 roku.

Na początku powiem, co się zmieniło na plus i co jest wynikiem polskiej interwencji. Dodano obszar strategiczny – Rolnictwo i dodano również Centra Testowania i Eksperymentowania Technologii połączone z piaskownicami regulacyjnymi. Te wątki były w pierwszym planie nie tak dobrze rozwinięte, a teraz uważam, że dobrze się stało, bo jednocześnie rozwijają w kraju innowacyjność. O to nam właśnie chodziło. Stanowisko Polski zawsze było takie, że są to otwarte ramy dla innowacji. Mówimy o takim prawie, które wspiera innowacje, a nie tylko stanowi zestaw reguł nakazowo-zakazowych.

Publikacja tych dokumentów wieńczy kolejny etap budowania przez UE trzeciej drogi rozwoju systemów sztucznej inteligencji opartej na ramach etycznych, ujętych w koncepcję godnej zaufania sztucznej inteligencji. Stanowi ona alternatywną wobec podejścia utylitarnego, czy podejścia spójności społecznej, koncepcję reprezentowana przez inne bloki społeczno-gospodarcze. Koncepcja ta, to także swoisty znak handlowy promujący ponadregionalne zaufanie do produktów pochodzących z UE i stosowanych na jej terytorium.

Podkreślenia wymaga, że pakiet praw KE w sprawie sztucznej inteligencji jest częścią wysiłków UE na rzecz bycia aktywnym graczem na międzynarodowych i wielostronnych forach w dziedzinie cyfryzacji oraz technologii przełomowych. UE, reprezentowana przez KE, ma ambicje stać się światowym liderem w promowaniu godnej zaufania sztucznej inteligencji.

Te dokumenty pozwolą też zapewnić spójność pomiędzy działaniami zewnętrznymi UE, a jej polityką wewnętrzną. Obejmują one bowiem działania w relacjach z państwami trzecimi w obszarze bezpieczeństwa, inwestycji, handlu, w tym cyfrowego, normalizacji wpływu geopolitycznego, np. w ramach OECD, UNESCO, Światowej Organizacji Handlu czy Rady Europy.

Ważne jest, że przyjęty właśnie przez KE instrument naprawy i odporności umożliwi UE urzeczywistnienie jej ambicji, aby stać się inicjatorem skoordynowanego podejścia do rozwoju sztucznej inteligencji opartej na koncepcji godnej zaufania sztucznej inteligencji. To jest rzeczywiście novum, bo do tej pory mówiliśmy o programach pomocowych typu „Cyfrowa Europa” bądź „Horyzont Europa”.

Czas pandemii spowodował zorganizowanie UE w ramach nowego funduszu i nowego programu i ten program przewiduje interwencje w kontekście sztucznej inteligencji. Jest to połączone z interwencjami w obszarze gospodarki zielonej, ale najważniejsza w tej całej historii jest próba postawienia akcentu na przełamywanie łańcuchów wartości i zależności od gospodarek spoza UE.

Polska aktywnie uczestniczy na rzecz rozwoju godnej zaufania sztucznej inteligencji, czego wyrazem jest, między innymi, przyjęta w grudniu ubiegłego roku „Polityka dla rozwoju sztucznej inteligencji w Polsce od roku 2020”. Pakiet KE realizuje wiele polskich postulatów wyrażonych choćby we wspólnej deklaracji państw Grupy Wyszehradzkiej, która została przedstawiona w kwietniu 2018 roku.

Krótko o projekcie rozporządzenia. Zawiera on ramy prawne dotyczące sztucznej inteligencji, które mają zagwarantować bezpieczeństwo i prawa podstawowe obywateli oraz przedsiębiorstw, a tym samym przyczynić się do upowszechnienia sztucznej inteligencji oraz do zwiększenia innowacyjności w tej dziedzinie całej UE.

Projektowane rozporządzenie będzie działać w połączeniu z innymi dokumentami EU, w tym z aktami prawnymi, których projekty są aktualnie przedmiotem równoległych prac. Dotyczy to zwłaszcza nowelizowanych przepisów dotyczących bezpieczeństwa produktu, projektu rozporządzenia o usługach cyfrowych, projektu rozporządzenia o rynkach cyfrowych oraz strategii cyberbezpieczeństwa, a także europejskiej strategii w zakresie danych, planu działania na rzecz edukacji cyfrowej, czy planu demokratyzacji sfery europejskiej.

Polski rząd wyraża kierunkowe poparcie dla wielu rozwiązań zawartych w projekcie. Dotyczy to w szczególności: objęcia zakresem stosowania rozporządzenia także podmiotów spoza UE w zakresie stosowania systemu wczesnej interwencji na jej rynku. To jest rzeczywiście bardzo ważne, bo tutaj nagle dochodzi do wzmocnienia i podkreślenia tzw. market place, czyli, jak to mówią, rynku wspólnego, który należy chronić w kontekście, jeżeli chodzi o gospodarkę danych, odpływu tych danych na zewnątrz i budowy algorytmów bez jednoczesnej zdolności wypracowywania własnych technik sztucznej inteligencji i tworzenia produktywności naszej gospodarki.

Polski rząd wyraża również poparcie kierunkowe dla wprowadzenia kategorii zakazanych praktyk w zakresie sztucznej inteligencji. Jest zakazany tzw. social storing, czyli kontrolowanie społeczne we wszystkich wymiarach, czy to publicznych, czy to związanych z wymiarem pracy, czy np. z dostawaniem się na studia. Jest to potraktowane jako zakazana praktyka w ramach UE.

Jednocześnie popieramy wprowadzenie kategorii sztucznej inteligencji wysokiego ryzyka i adekwatnych do niej rozwiązań. UE przyjęła taki model, że uznała listę konkretnych technologii, jak technologii wysokiego ryzyka, w kontekście oddziaływania w konkretnych obszarach np. branżowych. Dotyczy to edukacji, dotyczy to infrastruktury krytycznej, może dotyczyć również transportu. Jest 8 takich pozycji zastosowań.

Mimo tego UE dostrzega, że są też technologie niskiego ryzyka i wobec tego stosuje zupełnie inne miary, nie próbuje zobowiązywać podmiotów gospodarczych do stosowania specjalnego systemu, a jedynie poddać się samoocenie w ramach godnej zaufania sztucznej inteligencji, tych ram. Jest specjalny system sprawdzania, czy ja mogę legitymować się tymi ramami, czyli godną zaufania sztuczną inteligencją, czy też nie. Jeżeli tak, to będę mógł mieć odpowiedni emblemat, że przeszedłem ten test samodzielnie, a nie w ramach piaskownic regulacyjnych, i w ramach różnych decyzji dopuszczających do rynku, wydawanych przez organy.

Popieramy również możliwość aktualizacji wykazów systemów sztucznej inteligencji wysokiego ryzyka. W rozporządzeniu jest przewidziane aktualizowanie co dwa lata tej listy. Problematyczne jest jednak dla nas to, że miałoby się to dziać tylko za pomocą decyzji KE, więc próbujemy zachęcić KE – taki będzie projekt naszego stanowiska – aby dochodziło po prostu do przeglądu technik co dwa lata i wydawania aktualizacji rozporządzenia, czyli przyjmowania w normalnym toku legislacyjnym rozszerzonej listy takich technik. Z art. 280 Traktatu o funkcjonowaniu UE wynika, że sprawy istotne powinny przechodzić proces legislacyjny.

Popieramy z wielką mocą takie patrzenie KE, które wspomaga kontrolę systemu sztucznej inteligencji ze strony człowieka. Stąd uważamy, że nie tylko techniczne procesy audytu, czy też weryfikacji sztucznej inteligencji są wystarczające, ale również wszelkie organizacyjne, nietechniczne procesy, które mogą wspomóc godną zaufania sztuczną inteligencję. Przede wszystkim chodzi o wykluczenie ryzyka, że to nie człowiek ponosi odpowiedzialność za działanie sztucznej inteligencji, że ten człowiek nie ma wpływu na pracę sztucznej inteligencji. Wszyscy na tej sali dobrze wiemy, że mamy do czynienia z tzw. czarną skrzynką, czyli wyjaśnialność sztucznej inteligencji nie jest perfekcyjna. Tak naprawdę trzeba zapewnić pełną władzę nad wpływem sztucznej inteligencji na otoczenie aplikacyjne. Co jest ciekawe, to poparcie KE dla podejścia do kontroli sądowo-administracyjnej systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym, w przestrzeni publicznej, do celów egzekwowania prawa. To był jeden z naszych postulatów od dwóch lat, aby tak się stało. KE zapisała to w tym dokumencie, a my będziemy nadal to popierać.

Będziemy również chcieli wzmocnić wyjaśnialność sztucznej inteligencji, ale z pełną wiedzą, że ten margines jest ograniczony i trzeba będzie raczej wskazywać na zdolności, umiejętności odczytywania korelacji wynikających z danych wynikowych sztucznej inteligencji, niż zmuszać ją do wyjaśnień. Taka sytuacja może w ogóle nie być możliwa.

Również z całą mocą wspieramy podejście KE, aby stworzyć piaskownice regulacyjne. Idea jest taka, że systemy wysokiego ryzyka muszą przejść pewien test ex ante, czyli przed wejściem na rynek muszą zostać poddane weryfikacji, czy rzeczywiście to wysokie ryzyko może być moderowane, czy człowiek ma władzę nad aplikacją i nad wdrożeniem. Te piaskownice regulacyjne nie są jeszcze dobrze rozpisane.

Uważamy, że należałoby zrobić co najmniej dwie rzeczy, po pierwsze, określić warunki finansowe bądź pomocowe dla podmiotów mniejszych, mikro-, małych i średnich przedsiębiorstw, dostępu do takich piaskownic, gdyż cena dostępu do piaskownicy i przejście drogi testera może być niezwykła. Pierwsze badania pokazują, że może to być bardzo duży wydatek. Może to być bloker rozwojowy w sensie innowacyjnym dla innowatorów.

W związku z tym chcemy, żeby KE zgodziła się sama nie dedykować tutaj środków pomocowych, żeby przekazała kompetencje i autonomię budowania warunków dla piaskownic regulacyjnych państwom członkowskim. Państwa członkowskie same określiłyby zasady dostępności do tego typu piaskownic regulacyjnych po to – szczególnie Polsce na tym zależy – żeby wspierać dostępność do trenowania modeli sztucznej inteligencji, a jednocześnie do tworzenia odpowiednich demonstratorów i próby zdecydowania, czy taka sztuczna inteligencja przechodzi odpowiedni test.

To co budzi największy nasz sprzeciw i wymaga największej pracy zespołów negocjacyjnych, czy Rady Europejskiej, czy Parlamentu Europejskiego, czy KE, to jest przede wszystkim zbyt szerokie zdefiniowanie zakresu pojęcia systemu sztucznej inteligencji. Stało się tak wbrew rekomendacji, która padła ze strony grupy ekspertów wysokiego szczebla, która skupiła się na rekomendowaniu podejścia do agenta inteligentnego, który wykorzystuje system liczenia maszynowego. KE w swojej propozycji raczej idzie w tym kierunku, aby każdy algorytm, czyli nawet taki, który nie jest sztuczną inteligencją, mógł być objęty tą definicją.

Takie podejście wydaje się nam absolutnie nietrafne, gdyż blokuje dotychczasowy stan rynku, a jednocześnie definiuje jako sztuczną inteligencję coś, co nią nie jest. Należałoby się skupić raczej na liczeniu maszynowym i wyłączyć z tego co najmniej techniki statystyczne i logikę regresywną. To są metody dawne, które jedynie połączone z systemem liczenia maszynowego mogłyby podlegać tej regulacji, ale same z siebie ze stosowania powinny być wyłączone.

Również budzi nasze wątpliwości przyjęcie aktualizacji zakresu pojęcia systemu sztucznej inteligencji właśnie w tym trybie, o którym wspomniałem nieco wcześniej.

Jest również problematyczną sprawą nieokreślenie autonomii państw członkowskich w zakresie nakładania sankcji. Jest cała siatka sankcji za naruszenie zakazu i nakazu, jeżeli chodzi o system wysokiego ryzyka. Nie jest powiedziane, kto miałby te sankcje nakładać, a jednocześnie dobrze byłoby, gdyby to państwa członkowskie mogły decydować o wysokości tych sankcji, chociaż są one wyraźnie na sztywno wpisane do rozporządzenia. Natomiast warunki, niejako relatywizujące, mogłyby być określane przez państwa członkowskie.

Dlaczego się tego boimy? Twarde reguły mogą zatrzymać innowacje. Nie chcemy popierać łańcuchów wartości zastanych, które decydują w tej chwili o gospodarce europejskiej, chcemy tworzyć możliwości dla naszych przedsiębiorstw.

Konieczne decyzje ustrojowe, które stoją przed nami, to przede wszystkim podjęcie decyzji w zakresie, który to organ polski, lub nowoutworzony, miałby być organem nadzoru, organem walidacji tych technologii. Ta sprawa powinna być rozstrzygnięta na mocy ustawy. Taką ustawę będziemy musieli przyjąć. W tej chwili toczy się dyskusja miarkująca, czy GIODO byłby właściwą instytucją, tak jak wskazuje KE na europejskiego inspektora danych osobowych.

Naszym zdaniem to podejście jest błędne, gdyż zawęża perspektywę zastosowania sztucznej inteligencji tylko do danych osobowych, nie rozwija kompetencji związanych z wiedzą, przede wszystkim o projektowaniu sztucznej inteligencji, funkcjonowaniu cyklu jej życia i przede wszystkim we wpływie. Jest to o tyle problematyczne, że nawet poruszając wątek biometrii, który jest tutaj dopuszczony jako system wysokiego ryzyka, sama KE popełnia, naszym zdaniem, ten błąd, że zbyt mocno orientuje systemy biometryczne do danych osobowych, zapominając o podkreśleniu, że tak naprawdę biometria i sztuczna inteligencja równa się wpływ. Należy po prostu ewaluować i audytować wpływ tych systemów sztucznej inteligencji bardziej na środowisko, niż nawet na analizę danych. Dane są bardzo ważne, ale nie możemy sobie w ten sposób przysłaniać innego pola.

Na koniec chcę podkreślić, że dokumenty tworzące pakiet KE w sprawie sztucznej inteligencji są bardzo złożone i będą wywierały kluczowy wpływ na wiele obszarów życia w UE. Dlatego poddajemy go konsultacjom z partnerami społecznymi tudzież w administracji rządowej. Dlatego finalne stanowisko rządu zostanie przyjęte, zakładam, w ciągu najbliższego tygodnia.

Jestem przygotowany do dyskusji i do odpowiedzi na wszelkie pytania. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo. Kto chciałby zabrać głos lub zadać pytanie? Pan poseł Adrian Zandberg, proszę bardzo.

Poseł Adrian Zandberg (Lewica):
Chcę zapytać o zawężenie definicji i o stanowisko rządowe. Rozumiem, że mógłby pan przybliżyć, jakie konkretnie jest rozumienie, że jest to szerokie unijne i celem jest to, żeby chronić prawa podstawowe możliwie szeroko, także w sytuacjach, w których techniki statystyczne nie bazujące na liczeniu maszynowym i mogą stanowić zagrożenie dla praw podstawowych. Chcę się dowiedzieć, po pierwsze, jak wygląda postulowana przez stronę polską definicja, a po drugie, co z tym problemem, kiedy zagrożenia dla praw wynikają z użycia algorytmów, których nie da się wąsko uznać za liczenie maszynowe. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo proszę o odpowiedź.

Pełnomocnik ministra cyfryzacji ds. społeczeństwa informacyjnego w KPRM Robert Kroplewski:
Dziękuję za to pytanie. Oczywiście dobrze byłoby, gdyby prawa człowieka były przestrzegane przez każdy algorytm. Jesteśmy zakładnikiem tej sytuacji, że z jednej strony możemy ograniczyć definicję tylko do systemu liczenia maszynowego. W tym sensie, jeżeli ograniczymy, to inne algorytmy będą wolne od tej regulacji, w związku z tym powstanie luka przestrzegania praw podstawowych przez zwykłe algorytmy, czy też osoby, które stosują te zwykłe algorytmy.

Dlaczego jest to tak ważne? Przecież to można uzupełnić innymi aktami. Nie ma z tym problemu. Problem jest w nakładanych obowiązkach, które kosztowo są tak duże, że mogą zahamować innowacje. Dlatego staramy się powiedzieć, żeby te podstawowe algorytmy poszły drogą zwykłą. Oczywiście z zachowaniem praw człowieka, co wymagałoby kolejnej interwencji. Natomiast algorytmy sztucznej inteligencji chcemy poddać temu rozporządzeniu, zapewniając jednocześnie rozwój innowacji i nieblokowanie naszych przedsiębiorstw.

Polskie podejście zostało opisane w „Polityce sztucznej inteligencji”, a my opieramy definicję sztucznej inteligencji na materiale wypracowanym w gronie ekspertów OECD. Jest to, skrótowo powiem, oparte na systemie inteligentnego agenta. Dotyczy to przede wszystkim tzw. moderowania danych i jednocześnie walidacji wpływu na środowisko, mówi się tam również o cyklu życia. Ta definicja jest trafna zawodowo, a jednocześnie pozwala rozdzielić technologie.

Temat, który pan poseł poruszył. Jak powiedziałem wcześniej, rozdzielenie tych definicji spowoduje lukę regulacyjną. Wtedy musimy jeszcze wzmocnić działanie w obszarze prywatności, aby ochronić obywateli przed nadmiernym wykorzystywaniem ich danych osobowych.

Poseł Adrian Zandberg (Lewica):
To nie tylko obszar prywatności, ale też obszar stosowania technik manipulacyjnych, które są starsze od liczenia maszynowego i których ograniczenie jest, moim zdaniem, jednym z większych wyzwań. Głupio by było, gdyby takie zawężenie definicji pchnęło rynek do tego, żeby przejść do używania innych narzędzi do uzyskania tego samego negatywnego celu, który regulator powinien eliminować, a nie tylko mówić – nie przy pomocy tego narzędzia.

Pełnomocnik ministra cyfryzacji ds. społeczeństwa informacyjnego w KPRM Robert Kroplewski:
Sytuacja jest taka, że jesteśmy w okresie negocjacji. Nie tylko państwa negocjują i organy UE, ale też przede wszystkim aktorzy tej sceny. Ten akt jest precedensowy w swojej filozofii, jeżeli chodzi o dorobek UE, bo państwa członkowskie miały na niego wpływ. Mieliśmy przez 3 lata całą serię tzw. sherpów, na których można było uzgadniać pewne etapy.

Jeżeli udałoby się spowodować, że naprawdę oddziałuje na podmioty zewnętrzne, które operują na naszym rynku i stosują tamtejsze metody, to będzie wielki sukces. Wtedy nie musimy zawiązać definicji, ale musimy wspomóc nasze przedsiębiorstwa innowacyjne, aby miały możliwość, po niższych kosztach, rozwijania swoich innowacji.

Wtedy byłoby wszystko dobrze. Natomiast ten stan, który jest w tej chwili, nie pozwala na tego typu decyzje. Zakładam, że w procesie negocjacji, będziemy państwa o tym na bieżąco informować, te wątki będą się rozwijać. Cały czas mamy to w tyle głowy.

Jest to cenne, bo jak państwo pamiętacie w „Polityce sztucznej inteligencji” napisaliśmy trochę szerzej, napisaliśmy o zapewnieniu transparentności algorytmów zwykłych, co jest ważne. Nawet tych algorytmów stosowanych przez administrację publiczną. Był to wynik konsultacji publicznych i naszego namysłu, tak stworzyliśmy nasze stanowiska.

KE rzeczywiście tą drogą, mówiąc o sztucznej inteligencji, chce zrobić coś innego. Chce raczej postawić na ochronę praw podstawowych, spłaszczając tę definicje tylko do algorytmu. To jest jakby problem logiczny, jeżeli powiemy sobie wprost, że jak już obronimy nie tylko prawa człowieka w kontekście tych rozmów, to stop, tak sobie powiedzmy, ale taka rozmowa się nie odbywa w tej chwili w KE.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo. Pan poseł Jerzy Bielecki, proszę bardzo.

Poseł Jerzy Bielecki (PiS):
Panie przewodniczący, szanowni państwo, chciałbym dopytać o ograniczenia. W zakresie jakich dziedzin nie będzie wprowadzana sztuczna inteligencja? Cieszę, że te dziedziny są dosyć szerokie. Wspomniał pan o rolnictwie i innych działach, ale myślę, że jednak te ograniczenia w niektórych miejscach powinny być stosowane, bo nie wszędzie sztuczna inteligencja powinna być stosowana. Oczywiście jestem za tym, żeby jak najszerzej stosować te algorytmy, żeby nasza gospodarka rozwijała się i była jak najbardziej innowacyjna. Doceniamy to, co rząd robi, ale proszę powiedzieć, gdzie te algorytmy nie będą stosowane.

Pełnomocnik ministra cyfryzacji ds. społeczeństwa informacyjnego w KPRM Robert Kroplewski:
Już o tym troszkę powiedziałem wcześniej. Jest tylko jeden przykład, że te algorytmy nie będą stosowane w obszarze działań społecznych, czyli przy nadzorze społecznym w każdym obszarze, czyli w publicznym, prywatnym i zawodowym, tak jak powiedziałem, chodzi o kontrole środowiska pracowników. To jest jedyny system zakazanej praktyki stosowania sztucznej inteligencji. Natomiast każde inne zastosowanie zostanie zbadane, czy należy do grupy ryzyka, czy jest w grupie minimalnego ryzyka.

Teraz grupy dużego ryzyka to: każda krytyczna infrastruktura, łącznie z telekomunikacyjną, drogową itd., również system edukacyjny: wszelkiego rodzaju szkolenia, produkty dotyczące bezpieczeństwa, zatrudnienie i samozatrudnienie, ocena tzw. CV i staranie się z aplikacjami o pracę, mogłaby podlegać dodatkowej ocenie technologii wysokiego ryzyka, jeżeli nie przekraczałaby bycia techniką zakazaną. Prywatne i publiczne istotne serwisy, głównie chodzi o pożyczki i ubezpieczenia. Egzekucja prawa, fundamentalnych praw człowieka, są one uznane za działania wysokiego ryzyka i podlegają ex ante, czyli przed wejściem na rynek, zatwierdzeniu. Migracja, system azyli, kontrola graniczna, to są systemy wysokiego ryzyka. No i to, co jest najważniejsze dla nas wszystkich, czyli stosowanie konwergencji w sądownictwie i procesach demokratycznych, też jest uznane za działania wysokiego ryzyka. Wszystkie te systemy będą musiały przechodzić odpowiednie testy. To tyle. To jest lista do tego załącznika na dzisiaj, ale ma być ona zweryfikowana.

Przewodniczący poseł Grzegorz Napieralski (KO):
Czy ktoś z zaproszonych gości chce zabrać głos.

Przedstawiciel Fundacji Panoptykon Wojciech Klicki:
Jako Fundacja próbujemy monitorować prace legislacyjne w tym obszarze. Przyznam, że mamy bardzo krytyczne stanowisko, wobec tego projektu rozporządzenia. To stanowisko jest krytyczne i mamy takie poczucie, że polityka, która była w Polsce, czyli polityka rozwoju, była bardziej progresywna pod wieloma względami. Generalnie mamy takie poczucie, że rozporządzenie stworzy więcej obowiązków biurokratycznych, niż realnych zmian, jakich byśmy oczekiwali. Mamy trzy konkretne zastrzeżenia. Może odpowiedzą one na to, co już jest, a może nie.

Zwracamy uwagę na to, że rozporządzenie nie przewiduje żadnej ścieżki prawnej dla osób, które w jakiś sposób zostały poszkodowane funkcjonowaniem sztucznej inteligencji. Chodzi przede wszystkim o poszkodowanych, ale także wzorując się na przepisach sporządzonych dla RODO, dla organizacji społecznych, które w jakiś sposób mogłyby kwestionować funkcjonowanie algorytmu.

Po drugie, mamy zastrzeżenia dotyczące tego, w jak niewystarczający sposób są, mówiąc kolokwialnie, otwarte czarne skrzynki. To wyjaśnienie, jakie tam jest proponowane, zwłaszcza z perspektywy użytkownika, który się spotka z tym ferrari, jest niewystarczające.

Mamy też duże wątpliwości dotyczące zakazów, a właściwie ich egzekwowalności. Np. naszym zdaniem, problemem jest to, że jako ryzyko niedopuszczalne, czyli najwyższego poziomu, jest objęte rozpoznawanie twarzy w trybie life, natomiast każde inne już nie. Może to doprowadzić do tego, że każde rozpoznawanie twarzy na podstawie nagrania już będzie możliwe. Wydaje mi się, że jest to warte rozważenia i przeanalizowania.

Tym bardziej, że pan minister mówił o aktualizacji listy, więc boję tego, że jeżeli już teraz jest jakieś okienko dla prac legislacyjnych i ta aktualizacja będzie się odbywała w niepełnym trybie legislacyjnym, to może się nic nie wydarzyć i wtedy będziemy mieli coraz bardziej do czynienia z regulacją, która nie będzie elastyczna.

Chcę zadać pytanie, bo pan minister mówił o tym, że stanowisko rządu będzie za tydzień czy dwa. Czy potem to stanowisko będzie jeszcze w jakiś sposób ewaluowało? Czy przewidujecie państwo w tym czasie możliwość jakiejkolwiek partycypacji organizacji społecznych, np. takich jak Panoptykon?

Drugie pytanie jest bardziej szczegółowe, dotyczące państwa stanowiska w sprawach Polski. Czy państwa zdaniem jakimiś obowiązkami dotyczącymi oceny wpływu na prawa człowieka powinni zostać objęci lub nie powinni zostać objęci, także wdrażający? Mamy wdrażanie, choć to jest trudne i mogę się mylić, że dzisiaj obowiązki związane z oceną spoczywają tylko na podmiotach rozwijających się i produkujących, tworzących.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo. Pani ministrze, bardzo proszę.

Pełnomocnik ministra cyfryzacji ds. społeczeństwa informacyjnego w KPRM Robert Kroplewski:
Nie wiem czy wszystko dobrze usłyszałem, bo jest dystans i ta maseczka. Będę się starał syntetyzować. Rzeczywiście, ten akt rozporządzenia nie zawiera w sobie żadnych ram dla odpowiedzialności podmiotów, które stosują sztuczna inteligencję w relacjach cywilno-prawnych. To jest bardzo ważne. Równolegle taki akt będzie produkowany przez KE. Na szczęście to też są zabiegi polskie.

Ponieważ jednak nie zawiera, to pojawił się problem w tym akcie, błędnego pojęcia, co to jest właściwie operator, albo użytkownik. Sytuacja jest dość trudna, bo sędzia, czyli ostatnia osoba, która stosuje sztuczną inteligencję, czy lekarz, ostatnia osoba, która do diagnoz może stosować sztuczną inteligencję, jest uznana za operatora w tym sensie, że użytkownik jest operatorem.

To jest problem, bo w kontekście sztucznej inteligencji i odpowiedzialności chcemy wyraźnie oddzielić odpowiedzialność ostatniego użytkownika, od użytkownika, który wytwarza ten system i tworzy rekomendacje. Chcemy, żeby lekarz, urzędnik, ewentualnie sędzia odpowiadał za ten odcinek swojej pracy, gdzie realnie podejmuje decyzje na podstawie rekomendacji sztucznej inteligencji, natomiast nie odpowiada za jej działanie. Odpowiada za stosowanie tych działań w praktyce.

To jest problematyczne, bo zlewają się w praktyce kompetencje płynące z rekomendacji z kompetencjami pochodzącymi z wiedzy. Cywilne procesy dowodowe mają na to swój sposób, bo po prostu mówimy o winie. Nie będzie z automatu odpowiadał administracyjnie, a w tamtym przypadku cywilno-prawnie. To jest duża luka. Rzeczywiście, idąc teraz do jednego z ostatnich pytań, to osoby, które wdrażają sztuczną inteligencję powinny być objęte tym systemem i osoby, które decydują o wdrożeniu również. Tego brakuje w tym dokumencie.

Pytanie: czy korzystamy z konsultacji publicznej? Jak najbardziej tak, czytaliśmy państwa stanowisko, za co dziękuję. Zostało ono uwzględnione w rozważaniach. My pracujemy w tej sprawie przez nasze grupy robocze. Jest ich w tej chwili około 8. Są to grupy tematyczne: prawa, etyki, badań, komercjalizacji, zdrowia, finansów. Te grupy zagregowały w tej chwili swoje uwagi. Ich jest bardzo dużo. A propos ewaluacji stanowiska mamy dwa podejścia. Jedno to jest stanowisko, które syntetyzuje pewne problemy, próbujemy je uzgodnić resortowo. Drugie, to tzw. negocjacyjny dokument roboczy, który detal po detalu zawiera nasze komentarze i propozycje negocjacyjne w ramach tego procesu. To już nie jest część stanowiska rządowego, bo w wyniku pracy ten dokument ewoluuje. Teraz jest moment na spotkanie się z grupami roboczymi, z którymi na bieżąco będziemy mogli te tematy rozwijać.

Czas jest bardzo krótki, bo w tym roku ten dokument roboczy będzie przyjęty. Co prawda jest ważne vacatio legis, bo dokument wchodzi w życie dopiero po dwóch latach. Natomiast prace negocjacyjne cały czas trwają.

Chyba odpowiedziałem na wszystkie pytania.

Przewodniczący poseł Grzegorz Napieralski (KO):
Rozumiem, że panu mecenasowi chodziło o to, żeby zaprosić Fundację do stałej współpracy. Czy byłaby tak możliwość?

Pełnomocnik ministra cyfryzacji ds. społeczeństwa informacyjnego w KPRM Robert Kroplewski:
Tak dokładnie jest. Jesteśmy w stałej współpracy.

Przedstawiciel Fundacji Panoptykon Wojciech Klicki:
Panie przewodniczący, pytałem pana ministra o to, żeby powiedział o takiej perspektywie, jak to teraz krok po kroku będzie się odbywało. Z perspektywy Fundacji muszę powiedzieć, że rząd zachowuje pewną gotowość do współpracy. Mnie chodziło o to, żeby zmienić aktualną sytuację.

Pełnomocnik ministra cyfryzacji ds. społeczeństwa informacyjnego w KPRM Robert Kroplewski:
Zawsze zapraszamy, panie przewodniczący. Zresztą jesteśmy w kontakcie roboczym.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję panie mecenasie i panie ministrze. Dodam tylko do tego, o co pytał pan minister. Pechowo powołaliśmy tę podkomisję przed samym kryzysem pandemicznym i pandemia blokowała nam spotkania. To nie była podkomisja, która zajmowała się ustawami. Pani marszałek była bardziej krytyczna wobec naszych zaproszeń. Chcieliśmy mieć spokojne miejsce do debaty poza polityką, robić to w naszej podkomisji.

Jeżeli chodzi o organizacje pozarządowe, to Fundacja była po części inicjatorem dzisiejszego spotkania. Wasze pismo wpłynęło do naszej podkomisji. Jeżeli jest chęć współpracy, to jesteśmy otwarci, bo cały czas poszukujemy kontaktów. Dopraszamy do współpracy, bo uważamy, że im więcej praktyków zaprosimy do współpracy, aby wysłuchać ich opinii, tym będzie lepiej.

W tym miejscu mogę powiedzieć, że pan przewodniczący Adrian Zandberg chce przygotować spotkanie dotyczące jednego tematu, czyli sztuczna inteligencja a prawa pracownicze. To bardzo nas interesuje, nie tylko związki zawodowe, nie tylko Państwową Inspekcję Pracy. Jakiś czas temu rozmawiałem i pojawiły się sugestie dotyczące praw pracowniczych, szczególnie jest to związane z tzw. aplikacjami żywieniowymi, które różne psikusy robiły. Takie powiększone posiedzenie Komisji będziemy chcieli zrobić.

Panie ministrze, czy jeszcze chce pan coś powiedzieć? Tak, proszę bardzo.

Pełnomocnik ministra cyfryzacji ds. społeczeństwa informacyjnego w KPRM Robert Kroplewski:
Dziękuję za ten komentarz. Chcę też coś powiedzieć. Nie jest do końca tak, że regulacje załatwią sprawy pracownicze. Oczywiście to wszystko jest ważne i należy o tym myśleć. Paradoksalnie, sposób realizacji innowacji w obszarze sztucznej inteligencji, związywanie ekosystemu i łańcuchów wartości decyduje o pozycji pracowników. Ostatnio miał miejsce niezwykły przypadek. Mogą państwo znaleźć w Googolu, jest to otwarta platforma społecznościowa, która nazywa się Copilot, na niej koderzy lokują swoje kody i korzystają z kodów innych kolegów, żeby zbudować jakiś swój algorytm. Problem jest taki, że ta platforma sugeruje tym koderom końcówki kodów wygenerowane przez sztuczną inteligencję, niejako dopisując im część ich, może jeszcze nieuświadomionego zamysłu, ucząc się na ich algorytmach, ale jednocześnie blokując swoją własność intelektualną, czyli blokuje im dostęp do tego, co ona sama wymyśliła.

Zaburzenie łańcucha wartości pracy pracownika jest niezwykłe. To jeszcze jest legalne, bo na to są zgody w regulaminach społeczności. Ale też już może nie być legalne, bo – jak się państwo orientujecie – są już rezydencje krajów, które zakazują komercjalizacji, jeżeli daje się komuś więcej praw. Jeżeli tam to jest zapisane, to dochodzi do naruszenia prawa.

Są też różne ekosystemowe problemy. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję. Czy ktoś jeszcze chciałby zadać pytanie lub zabrać głos w dyskusji? Nie słyszę. Dziękuję. Na tym wyczerpaliśmy porządek obrad naszej podkomisji.

Zapraszamy pana ministra na kolejne posiedzenia naszej podkomisji. Trzymamy kciuki za te wszystkie przepisy, które macie stworzyć w rządzie. Chodzi o to, żeby one nas wszystkich broniły przed tym, co z jednej strony jest pożądane, a drugiej może być niebezpieczne. Dziękuję. Zamykam posiedzenie podkomisji.