Podkomisja stała do spraw sztucznej inteligencji i przejrzystości algorytmów, obradująca pod przewodnictwem posła Grzegorza Bernarda Napieralskiego (KO), przewodniczącego podkomisji, zrealizowała następujący porządek dzienny:

– informacja na temat regulacji zawartych w akcie w sprawie sztucznej  inteligencji (AI Act), przyjętym przez Parlament Europejski 13 marca 2024 r.

W posiedzeniu udział wzięli: Dariusz Standerski sekretarz stanu w Ministerstwie Cyfryzacji  wraz ze współpracownikami, Mirosław Wróblewski prezes Urzędu Ochrony Danych Osobowych wraz ze współpracownikami, Łukasz Wroński dyrektor Departamentu Ochrony Zbiorowych Interesów Konsumentów Urzędu Ochrony Konkurencji i Konsumentów, Jarosław Wojciechowski ekspert  w Departamencie Bezpieczeństwa i Sławomir Zaniewski główny specjalista w Departamencie Prawnym Urzędu Komunikacji Elektronicznej, dr hab. Marta Grabowska profesor Uniwersytetu Warszawskiego, Radosław Nielak dyrektor Naukowej i Akademickiej Sieci Komputerowej –  Państwowego Instytutu Badawczego, dr hab. Krzysztof Stefański profesor Uniwersytetu Łódzkiego, Joanna Karczewska członek Stowarzyszenia ELKApw, Olaf Krynicki wiceprezes Polskiej Izby  Informatyki i Telekomunikacji, Artur Kowalski przewodniczący ZZ Solidarność PTiIT Forum Związków Zawodowych, Jacek Kosiorek wiceprezes Polskiej Izby Radiodyfuzji Cyfrowej, Łukasz Mickiewicz  wiceprzewodniczący Krajowego Sekretariatu Łączności NSZZ „Solidarność”, Wojciech Płażalski koordynator w Departamencie Analiz i Inicjatyw Gospodarczych Business Centre Club, Krzysztof Pstrong  dyrektor generalny Polskiej Izby Komunikacji Elektronicznej, Marcin Ręgowicz ekspert Grupy Roboczej Związku Pracodawców Branży Internetowej IAB Polska, Michał Smagowicz wiceprezes THINKTANK, Dorota Twarowska przewodnicząca Sekcji Wydawców Edukacyjnych Polskiej Izby Książki, Rafał Wieczerzak koordynator ds. AI Izby Gospodarki Elektronicznej.

W posiedzeniu udział wzięli pracownicy Kancelarii Sejmu: Jolanta Boratyn-Dąbkowska  i Magdalena Krzymowska – z sekretariatu Komisji w Biurze Komisji Sejmowych.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Witam bardzo serdecznie wszystkich zgromadzonych na sali, dzień dobry. Dzień dobry, panie profesorze. Jeszcze raz dziękujemy za wspaniałe spotkanie naszej Komisji w Łodzi.

Otwieram posiedzenie podkomisji stałej do spraw sztucznej inteligencji i przejrzystości algorytmów. Stwierdzam kworum. Witam posłów, członków podkomisji oraz członków Komisji Cyfryzacji i Innowacyjności Nowoczesnych Technologii.

Bardzo serdecznie chciałbym powitać sekretarza stanu w Ministerstwie  Cyfryzacji pana ministra Dariusza Standerskiego wraz ze współpracownikami. Witam, panie ministrze, bardzo serdecznie. Bardzo serdecznie witam pana prezesa Urzędu Ochrony Danych Osobowych pana Mirosława Wróblewskiego wraz z zespołem. Dzień dobry, panie prezesie. Miło mi bardzo, że gości pan u nas. Witam przedstawicieli Urzędu Ochrony Konkurencji i Konsumentów, pana dyrektora Łukasza Wrońskiego, szefa Departamentu Ochrony Zbiorowych Interesów Konsumentów. Dzień dobry, panie dyrektorze. Również witam panią dyrektor. Pani dyrektor nie ma.

Dyrektor Departamentu Ochrony Zbiorowych Interesów Konsumentów Urzędu Ochrony Konkurencji i Konsumentów Łukasz Wroński:
Pani dyrektor jest na spotkaniu, więc dotrze później.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Dotrze do nas, to w takim razie przywitam ją kurtuazyjnie. Witam panią dyrektor Martę Kruszkę zastępcę dyrektora Departamentu Ochrony Konkurencji. Witam reprezentantów Urzędu Komunikacji Elektronicznej. Witam przedstawicieli organizacji branżowych: Polskiego Towarzystwa Informatycznego, Polskiej Izby Informatyki  i Telekomunikacji, Polskiej Izby Komunikacji Elektronicznej, Izby Gospodarki  Elektronicznej, Związku Pracodawców Branży Internetowej IAB Polska, a także BCC, Polskiej Izby Książki, THINKTANK oraz Stowarzyszenia LKPW. Witam przedstawicieli związków zawodowych Forum Związków Zawodowych oraz NSZZ „Solidarność”. Są z nami przedstawiciele środowisk naukowych: pan prof. Krzysztof Stefański z Wydziału Prawa  i Administracji Uniwersytetu Łódzkiego oraz pani prof. Marta Grabowska  z Centrum Europejskiego Uniwersytetu Warszawskiego. Witam bardzo serdecznie państwa  profesorów. Witam wszystkich bardzo serdecznie.

Porządek dzisiejszego posiedzenia przewiduje zapoznanie się z informacją ministra cyfryzacji na temat regulacji zawartych w akcie w sprawie sztucznej inteligencji, tzw. AI Act, przyjętego przez Parlament Europejski 13 marca br. Czy są uwagi do porządku obrad? Nie widzę. Przystępujemy do realizacji porządku obrad.

Bardzo proszę pana ministra Dariusza Standerskiego o zabranie głosu.

Sekretarz stanu w Ministerstwie Cyfryzacji Dariusz Standerski:
Bardzo serdecznie dziękuję. Panie przewodniczący, panie prezesie, szanowni państwo, na wstępie chciałbym bardzo serdecznie podziękować za zwołanie posiedzenia podkomisji i za okazję do dyskusji. Dyskusja na temat wdrożenia aktu o sztucznej inteligencji jest kluczowa nie tylko ze względu na przepisy, które zostały uchwalone przez Parlament  Europejski 13 marca. Jest to dyskusja szczególna ze względu na projektowanie przepisów, projektowanie systemów i ram prawnych, które będziemy wykonywać i które będziemy zobowiązani, żeby przestrzegać przez najbliższe dekady. Akt o sztucznej inteligencji jest – mam tutaj pewność – pierwszym z serii aktów dotyczących technologii przełomowych, dotyczących sztucznej inteligencji, ponieważ mimo to, iż większość wniosków do Komisji Europejskiej, która ma zostać wybrana po następnych wyborach dotyczy wdrożeń istniejących już aktów, a raczej wstrzymania się od nowych aktów normatywnych na poziomie Unii Europejskiej. Mamy pełną świadomość, że czekają nas, jeżeli nie w najbliższym roku, dwóch, to na pewno w perspektywie 5-10 lat kolejne przepisy dotyczące właśnie technologii przełomowych, które nawet nam trudno dzisiaj szczegółowo określić. Dlatego tak ważne jest, żeby rozpocząć regulację w tym zakresie w sposób przemyślany, w sposób odpowiedzialny i w pełnych konsultacjach społecznych, żeby stworzyć silne podstawy instytucjonalne do przyjmowania kolejnych przepisów na poziomie unijnym, na poziomie krajowym, jeżeli chodzi o kwestie rozwoju sztucznej inteligencji, odpowiedzialnej, godnej zaufania sztucznej inteligencji oraz innych aktów, innych technologii przełomowych.

Parlament Europejski przyjął rozporządzenie w sprawie sztucznej inteligencji.  Prognozujemy, że po zakończeniu całego procesu ustawodawczego na poziomie Unii Europejskiej, akt może zostać opublikowany pod koniec maja lub w czerwcu. Wtedy zacznie się bieg vacatio legis czasu do wejścia w życie tego aktu. Celem samego aktu nie jest uregulowanie technologii, ale uregulowanie zastosowań tej technologii i to w dość precyzyjnym, konkretnym zakresie. Sam akt dzieli systemy i modele sztucznej inteligencji na pięć kategorii. Gdzie należy wskazać przede wszystkim systemy zakazane, które po pierwsze, mogą bazować na ocenie społecznej, czyli social scoring, mogą wskazywać m.in. na emocje czy samopoczucie w naszym miejscu pracy czy na uniwersytecie, w szkole? Mogą wykorzystywać techniki podprogowe w kontekście dyskryminującym ze względu na wiek, płeć czy też niepełnosprawność oraz bazy danych, które będą wykorzystywane do rozpoznawania twarzy przez scrapping danych na przykład z monitoringu wizyjnego. Są to systemy zakazane bezpośrednio w rozporządzeniu i jak będziemy mówić o terminie wejścia w życie rozporządzenia, to są to te systemy, które najwcześniej będą musiały zniknąć, jeżeli pojawiają się na obszarze Unii Europejskiej.

Systemy wysokiego ryzyka wprowadzone przez rozporządzenie obejmują między innymi produkty unijne, które są regulowane bezpośrednio na poziomie wspólnotowym, czyli na przykład wyroby medyczne, kosmetyki, samochody, zabawki dla dzieci. Również te systemy, które dokonują profilowania osób czy oceniają dostęp do świadczeń publicznych, na przykład uzależniają od wykorzystania danych, udzielenie kredytu, pożyczki, innych usług finansowych mają konkretne obostrzenia wskazane w rozporządzeniu, między innymi dotyczące zarządzenia ryzykiem, prowadzenie dokumentacji technicznej, wymóg nadzoru człowieka nad algorytmami w tym zakresie oraz współpracę z właściwymi organami. Poza tym są również systemy ograniczonego ryzyka, takie jak charboty czy systemy wsparcia niewykorzystujące danych profilowanych czy innych danych wrażliwych oraz systemy ogólnego przeznaczenia, które są dzisiaj też już coraz szerzej wykorzystywane. Również są oznaczone tak zwane pozostałe systemy i modele AI i tutaj też przewidujemy, że w ramach pozostałych modeli AI w miarę rozwoju tej technologii będą wydzielane w ramach nowelizacji pewnie aktu o sztucznej inteligencji w następnych latach kolejne kategorie modeli.

Po kwestiach definicyjnych, co też jest ważne dla naszego prawodawstwa, rozporządzenie wskazuje na organy krajowe dotyczące między innymi nadzoru rynku w zakresie pojedynczego punktu kontaktowego współpracy z Komisją Europejską oraz organu, który przyjmuje zgłoszenia dotyczące naruszeń tegoż rozporządzenia. Organ notyfikujący, który będzie przygotowywał procedury do oceny wyznaczania i nienotyfikowania jednostek oceniających zgodność. Jednostki oceniające zgodność, które będą wykonywały rozporządzenie w zakresie zgodności z kategoriami, które wskazywałem, oraz wypełniania obowiązków przez właścicieli tych modeli. Dodatkowo również organ, który będzie odpowiadał za wprowadzanie piaskownic regulacyjnych.

Kwestia organów, to tak jak w przypadku innych wdrożeń, które toczyły się wcześniej, toczą się obecnie, to jeden z najbardziej takich konkretnych, namacalnych punktów w dyskusji zawsze, dyskusji nad tym, które to powinny być organy na gruncie polskiego prawa, czy to powinny być istniejące organy, czy organy nowe, o czym też za chwilę powiem.

Jeżeli chodzi o samo wdrożenie, zarówno na poziomie organów jak i kategoryzacji,  to zaczynamy dyskusję w Polsce bardzo wcześnie, ale już nie jesteśmy pierwsi, ponieważ mamy pionierów na przykład w postaci Hiszpanii, gdzie w zeszłym roku utworzono Agencję Nadzoru nad Sztuczną Inteligencją. Jest to agencja, która kieruje hiszpańskim ekosystemem sztucznej inteligencji i jest w trakcie tworzenia piaskownic związanych ze sztuczną inteligencją w Hiszpanii. Podobne procesy odbywają się również  w Irlandii, w Luksemburgu, Niderlandach, więc tutaj też zaczynają się wdrożenia na poziomie unijnym i prawdopodobnie te urzędy będą później dostosowywane do tego,  co zostanie ostatecznie uchwalone i opublikowane w Dzienniku Urzędowym Unii  Europejskiej.

Na poziomie krajowym rozpoczęliśmy prekonsultacje dotyczące właśnie urzędów odpowiedzialnych za wykonywanie przyszłego aktu o sztucznej inteligencji. Zapraszam też, korzystając z tej okazji do zgłoszenia uwag w tym zakresie. Umyślnie nie wskazaliśmy żadnych propozycji, żadnych warunków brzegowych na tym etapie, ponieważ chcemy, żeby ta dyskusja nie zaczęła się od odniesienia się do konkretnego, nie chcemy tutaj powodować jakiegokolwiek skrzywienia perspektywy. Po prostu zadajemy otwarte pytanie, jak – jeżeli chodzi o strukturę administracyjną państwa – powinien wyglądać właśnie organ dotyczący nadzoru nad sztuczną inteligencją. Przeprowadziliśmy wcześniej wstępne konsultacje w ramach Grupy Roboczej Sztucznej Inteligencji GRAI. Mamy wyniki tych wstępnych konsultacji, ale pozwolą państwo, że nie będę na razie dzielił się tymi wynikami, żeby nie wpłynąć na proces otwartych prekonsultacji. Oczywiście  na piśmie przekażemy wyniki zarówno konsultacji w GRAI i prekonsultacji otwartych, jak tylko je opracujemy przekażemy je na piśmie.

Natomiast chciałbym, żeby w ramach tych konsultacji zacząć już proponować konkretne punkty, zarówno jeżeli chodzi o organ, jak i jeżeli chodzi o pierwsze procedury,  w szczególności w zakresie systemów wysokiego ryzyka, bo przewidujemy, że tutaj może być dość sporo regulacji i to w wielu obszarach. Ponieważ systemy wysokiego ryzyka dotyczą zarówno edukacji, jak i ochrony zdrowia, jak i kwestii związanych z bezpieczeństwem. Wiele by wymieniać, co oznacza być może kompleksowe zmiany w szeregu ustaw. Dlatego chcemy porządnie wziąć się do pracy w tym zakresie i chcemy przeprowadzić cały, pełny proces konsultacji. Dlatego też chciałbym się zwrócić do pana przewodniczącego z uprzejmą prośbą, żebyśmy mogli regularnie spotykać się również na podkomisji  i też mówić o tym, w którym miejscu jesteśmy, bo też gorąco liczę na uwagi pań posłanek i panów posłów w tym zakresie. Będziemy chcieli konsultować te przepisy główne, czyli te, które mają wejść w życie po 24 miesiącach od opublikowania, co najmniej do sierpnia, września tego roku, ponieważ chcemy zamknąć proces konsultacji będąc pewnymi,  w którym kierunku iść, projektując konkretne przepisy. I żeby po zamknięciu tych konsultacji od października tego roku rozpocząć prace legislacyjne też dokładnie z pełną ścieżką rządową, a także z informowaniem pań posłanek i panów posłów o tych pracach, tak żebyśmy w przyszłym roku mogli też przeprowadzić ten proces wspólnie w Sejmie. Ponieważ nie chciałbym żebyśmy przyjmowali ten akt jako pierwsi w Unii Europejskiej. Chciałbym żebyśmy go przyjęli, tak żeby później już nie wracać z szybkimi nowelizacjami, bo o czymś zapomnieliśmy, czy coś pominęliśmy, jeżeli chodzi o to wdrożenie. Dodatkowo planujemy również uruchomienie kampanii informacyjnej i edukacyjnej  w zakresie wykorzystywania tego prawa. Ponieważ tak jak się przekonujemy w wielu wdrożeniach, jedna rzecz, to przyjąć projekt ustawy, druga rzecz, to stworzyć takie otoczenie, żeby po prostu ta ustawa nie była martwym prawem i żeby była po pierwsze, przestrzegana, po drugie, można było korzystać z mechanizmów, które są w tym zakresie.

Natomiast w tej chwili jesteśmy w punkcie, w którym jeszcze wiele pytań nie doczekało się odpowiedzi, bo nie chcemy, żeby doczekały się odpowiedzi. Tak że jesteśmy otwarci na propozycje, jeżeli chodzi o kwestie struktury administracyjnej i w jaki sposób to ma zostać wykorzystane, także do wprowadzenia sprawnych procedur w tym zakresie. Jesteśmy też otwarci na dyskusję w zakresie wyzwań, które nie dotyczą wprost aktu  o sztucznej inteligencji, a będą stanowiły nowe pola, jeżeli chodzi o wykonywanie tego rozporządzenia, między innymi w zakresie ochrony danych osobowych, w zakresie zarządzania danymi, otwartości danych, tego w jaki sposób będziemy podchodzili do danych dostępnych, co też słyszymy i widzimy podczas dyskusji o wdrożeniu innych przepisów unijnych w formie projektu ustawy o zmianie ustawy o prawie autorskim.

To wszystko są wyzwania, które będą wokół tego wdrożenia, bo mam też pełną świadomość, że jak zaczniemy to wdrożenie, to już nawet w dyskusji nad tą ustawą będzie wiele wniosków de lege ferenda i dlatego chciałbym, żeby te wnioski padały jak najwcześniej, żebyśmy byli gotowi do odpowiedzi na te wyzwania jak rozporządzenie w całości wejdzie w życie, a nie wtedy żebyśmy robili szybkie ścieżki legislacyjne, żeby nadrabiać jakiekolwiek zaległości. Bardzo serdecznie dziękuję za możliwość przekazania tych kilku informacji. Zarówno ja, jak i mój zespół jesteśmy do dyspozycji.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję, panie ministrze za dzisiejszą obecność, za to, że pan przekazał nam te informacje. Chciałem powiedzieć, myślę, że w imieniu wszystkich moich koleżanek i kolegów, że jesteśmy do dyspozycji, chętni absolutnie do współpracy w tym temacie.

Zanim przejdziemy do dyskusji, bardzo proszę o zabranie głosu prezesa Urzędu Ochrony Danych Osobowych, pana Mirosława Wróblewskiego. Pan prezes wyszedł  z taką inicjatywą, za co bardzo, bardzo serdecznie dziękuję. Chciałem też poinformować podkomisję, że umówiliśmy się z panem prezesem, że zaplanujemy na kolejnym najbliższym posiedzeniu Sejmu odrębne specjalne posiedzenie podkomisji w tym temacie.

Panie prezesie, oddaję głos i jeszcze raz dziękuję za inicjatywę.

Prezes Urzędu Ochrony Danych Osobowych Mirosław Wróblewski:
Bardzo dziękuję. Panie przewodniczący, szanowni państwo, panie ministrze, bardzo dziękuję za tę możliwość. Pan minister już wspomniał o tym, że jedną z części wyzwań związanych z wdrożeniem aktu o sztucznej inteligencji jest kwestia ochrony danych osobowych. Jest to materia niezwykle istotna, która jest pewnym oczywiście elementem ochrony praw człowieka i praw podstawowych, które są zapisane w akcie o sztucznej inteligencji. Tak już od art. 1 ust. 1, gdzie jest mowa o tym, że celem tej regulacji jest zapewnienie wysokiego poziomu ochrony praw podstawowych. Jest to właśnie kwestia, jeżeli chodzi o ochronę danych osobowych, niezwykle istotna dla organów nadzorczych w krajach Unii Europejskiej, w tym też Urzędu Ochrony Danych Osobowych.

Dlaczego? Dlatego, że znaczna część tych rozwiązań, które zawarte są w akcie  o sztucznej inteligencji, dotyczy ochrony danych osobowych, przetwarzania tychże danych. Taka jest natura algorytmów, że oczywiście w wielu zastosowaniach polegają one na tym, że muszą być trenowane na danych, że te dane są przetwarzane. Oczywiście pojawia się regulacja w akcie o sztucznej inteligencji mówiąca o tym, to jest  art. 2 ust. 7, że szanuje się prawo o ochronie danych osobowych, że te regulacje aktu pozostają bez uszczerbku. Natomiast jest to jednocześnie wyzwanie. Jest to wyzwanie w dużej mierze dla ustawodawcy krajowego, właśnie dla władz krajowych, dla organów nadzorczych, aby zapewnić rzeczywiste poszanowanie ochrony danych osobowych.

Oczywiście nie miejsce tutaj i pora, żeby mówić o pewnych zagrożeniach związanych z algorytmami. O nich mówi sam akt, jednocześnie mówiąc o innowacjach, o wzmacnianiu gospodarki, ale z drugiej strony także o pewnych zagrożeniach wiążących się chociażby z nieprzejrzystością algorytmu, z tym znanym dobrze mechanizmem czarnej skrzynki, z możliwością wystąpienia pewnych efektów stronniczości czy dyskryminacji. Oczywiście pojawia się tutaj kwestia, której dzisiaj nie omawiamy, ale kwestia odpowiedzialności za szkody wyrządzone przez sztuczną inteligencję, która jest przedmiotem odrębnej regulacji dyrektywy Unii Europejskiej.

Zatem w tym zakresie, jeżeli chodzi o ochronę danych osobowych, istnieje potrzeba praktycznego i efektywnego zapewnienia przede wszystkim zasad ochrony danych osobowych zawartych w RODO, zasady chociażby minimalizacji danych. A wiemy, że z kolei algorytmy uzyskują swoją doskonałość często dzięki przetwarzaniu dużej ilości danych, retencji danych. Co dzieje się z danymi zebranymi do wytrenowania danego algorytmu, zasady celowości? Tutaj, oczywiście ja tylko i wyłącznie zaznaczam, markuję pewne zagadnienia, które są niezwykle istotne, ale pewnie na nie trzeba znaleźć rozwiązania, zarówno takie, które będą miały charakter zmian legislacyjnych, jak i też pewnych wskazań dla tych, którzy będą musieli borykać się z tymi wyzwaniami, czyli już konkretnie administrator ochrony danych osobowych, z drugiej strony podmiotów danych. Tutaj pan minister słusznie zauważył, że bardzo ważnym elementem będzie właśnie wykorzystanie praktyczne tego prawa, które jest zawarte w akcie o sztucznej inteligencji.  To również kwestia przygotowania chociażby inspektorów ochrony danych osobowych także do wyzwań nowoczesnych technologii.

W tym zakresie Urząd Ochrony Danych Osobowych już obecnie prowadzi działania. Przygotowujemy się bez aktu nawet jeszcze, prowadzimy postępowania dotyczące właśnie mechanizmów opartych na sztucznej inteligencji. Jednak chciałbym zapewnić o tym, że będziemy wspierać także te procesy, służyć wiedzą ekspercką, która jest w zakresie ochrony danych osobowych w Urzędzie Ochrony Danych Osobowych, zarówno w pracach legislacyjnych, jeżeli chodzi o poziom współpracy z Ministerstwem Cyfryzacji, czy też jeżeli chodzi o parlament. Chciałbym zadeklarować, że jeżeli tutaj rzeczywiście pan przewodniczący, Wysoka Podkomisja będzie widzieć tę potrzebę, to jesteśmy tutaj w gotowości omówić znacznie szerzej te kwestie. Niezależnie oczywiście od tego, o czym mówił także pan minister, czyli ewentualnych nowych ról instytucjonalnych w ramach tego działania. Na pewno zawsze kwestia ochrony danych osobowych dla nas będzie priorytetem i musimy się przygotowywać do tych wyzwań już teraz. Bardzo dziękuję.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję, panie prezesie za deklarację. Bardzo dziękuję za dzisiejszą obecność. Tak jak powiedziałem wcześniej, mam nadzieję, że w najbliższym czasie taką specjalną podkomisję z udziałem pana i pana współpracowników będziemy mogli zorganizować, bo od samego początku ochrona danych osobowych budzi wiele emocji. Wiemy, że to jest bardzo ważne, więc szczególnie w tym kontekście, o czym mówili pan minister i pan prezes, taka dyskusja powinna się odbyć.

Jeszcze tylko powiem, że nasza podkomisja również jest i staramy się być otwarci na różne środowiska i wszystkich, którzy chcą tutaj uczestniczyć w tej dyskusji. Parlament jest takim miejscem do poważnej dyskusji. Kwestia dotycząca sztucznej inteligencji jest bardzo skomplikowana, bardzo trudna też dla nas parlamentarzystów. Czym lepiej ją zrozumiemy, czym więcej dyskusji przeprowadzimy, tym lepsze prawo stworzymy. Z jednej strony, jako osoba, która absolutnie jest zafascynowana nowymi technologiami, tak równo jak jestem zafascynowany, tak również boję się o to, co może wyjść nie tak albo co może być złego, jeżeli chodzi o używanie sztucznej inteligencji, czy zaawansowanych algorytmów. Bardzo dziękuję jeszcze raz, panie prezesie.

Przechodzimy do dyskusji. Otwieram dyskusję. Proszę bardzo, czy ktoś z państwa chciałby zadać pytanie, zabrać głos? Panie ministrze, bardzo proszę, pan poseł  Cieszyński.

Poseł Janusz Cieszyński (PiS):
Dziękuję bardzo. Panie ministrze, mam parę pytań. Po pierwsze, czy państwo już analizowali ile środków chcecie przeznaczyć rocznie na organ, który będzie się zajmował właśnie sprawami sztucznej inteligencji? Niezależnie od tego, w jakiej formule organizacyjnej, bo to, jak pan minister powiedział, jest coś, co jest debatowane. Pytanie po prostu, czy w obliczu tego, że Ministerstwo Cyfryzacji ostatnio wielokrotnie wskazywało, że są problemy ze środkami na nowe projekty, to czy będą na to pieniądze? Dlaczego pytam? Dlatego, myślę, że tutaj na tej podkomisji zgadzamy się co do tego, że jest to niezwykle ważne. Składam – myślę, że w imieniu całego mojego środowiska politycznego – takie zobowiązanie, że jeżeli będą starania o to, żeby środki na to się znalazły, to na pewno Prawo i Sprawiedliwość będzie to wspierało, bo to jest coś, co zdeterminuje nie tylko to, co się będzie działo w najbliższych latach, ale też w dużo dalszym horyzoncie. Pytanie właśnie, ile na taki urząd pana ministra marzeń, byłoby potrzebnych środków? Marzeń oczywiście w sensie przysłużenia się Polsce i pracy nad sztuczną inteligencją. Ile etatów, jakie średnie wynagrodzenie? Rozumiem, że to nie jest może pytanie, na które dobrze jest udzielać odpowiedzi z głowy, bo to pewnie trudno wtedy to dobrze zrobić, tak że bardzo bym prosił o odpowiedź na piśmie, taki po prostu wariant maksimum. Jest to, myślę, coś, co warto, żebyśmy mogli się dowiedzieć, ile by to wynosiło i czy właśnie wtedy nie powinniśmy zadbać o to, żeby bez względu na wszystkie inne sprawy, środki się na to znalazły. Myślę, że pan przewodniczący jak mnie wesprze, to już mamy taką koalicję, że wszystko się uda.

Drugie pytanie dotyczy tego, jak wyglądają regulacje, bądź oczywiście ich brak,  w krajach poza Europejskim Obszarem Gospodarczym w tej sprawie? Jaki będzie wpływ AI Act na konkurencyjność europejskiej gospodarki w obliczu chociażby wprowadzenia takich obszarów, które będą uregulowane dość mocno? Jaka jest strategia nie tylko  Polski, ale też Unii Europejskiej – bo wiem, że pan minister bierze udział w spotkaniach tych gremiów europejskich – na to, żeby nie było takiej sytuacji, że to co będzie zakazane w Europie, żeby nie powstawało tak naprawdę poza Europą? Co więcej, to byłby chyba najgorszy wariant w oparciu o dane, które są w Europie, czy powstały w Europie,  bo to by mogło właśnie być wykorzystane przeciwko nam, przeciwko naszym biznesom, naszemu społeczeństwu, a my na mocy przepisów po prostu jakby wyłączylibyśmy się praktycznie z prac nad tym.

Prosiłbym też pana ministra o przybliżenie nam, właśnie uchylenie rąbka tajemnicy tych negocjacji europejskich, jeżeli chodzi o działania Francji na ostatniej prostej, jeżeli chodzi o negocjacje AI Act. Są doniesienia medialne, które wskazują na to, że Francuzi jakby wpłynęli, czy chcieli wpłynąć w jakiś sposób na kształt AI Act, a następnie to się wiązało w czasie z ogłoszeniem partnerstwa, współpracy pomiędzy firmą Mistral –  założoną przez bliskiego współpracownika Emmanuela Macrona, byłego ministra cyfryzacji Francji Cédrica O – właśnie z amerykańskimi koncernami. Pytanie tutaj do pana ministra, jak to wyglądało właśnie od strony naszej, od strony tych negocjacji? Czy tu przypadkiem nie ma takiej sytuacji, że dzieją się rzeczy niezgodne z intencjami, które leżały u zarania IA Act? Dziękuję bardzo.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję, panie pośle. Dziękuję również za deklarację współpracy z rządem  i z naszą formacją polityczną.

Poseł Janusz Cieszyński (PiS):
Zawsze chodzi o sprawę.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Chodzi o sztuczną inteligencję. Jestem pod wrażeniem, bardzo dziękuję. Będziemy robili wszystko, żeby pomóc. Mówię to teraz absolutnie poważnie, bez żadnego sarkazmu. Absolutnie uważam, że zbudowanie naprawdę dobrych podstaw, również finansowych,  o czym pan poseł mówił, jest bardzo istotne. Tak jak powiedziałem na pierwszym posiedzeniu naszej podkomisji, kwestia dotycząca sztucznej inteligencji, to nie jest już rewolucja przemysłowa, to jest coś więcej niż rewolucja przemysłowa, więc musimy się zmierzyć z taką naprawdę rewolucją.

Bardzo proszę, panie ministrze, oddaję głos. Dziękuję bardzo.

Sekretarz stanu w MC Dariusz Standerski:
Bardzo serdecznie dziękuję. Dziękuję za pytania. Jeżeli chodzi o środki do przeznaczenia, oczywiście odpowiemy na piśmie. Jeżeli pan minister by pozwolił, żeby ta odpowiedź na piśmie mogła być w terminie 30-45 dni. Już mówię dlaczego. Z tego względu, żeby przeprowadzić poważny kosztorys, a do tego jesteśmy zobowiązani, chcemy zakończyć właśnie pierwszy etap prekonsultacji, żeby na tej podstawie dopasować konkretne koszty do tego, co zostanie zgłoszone podczas prekonsultacji. Ponieważ koszty wdrożenia aktu o sztucznej inteligencji będą różne w urzędzie X, inne w urzędzie Y, który jest lepiej lub mniej przygotowany także etatowo do takiego wdrożenia, a jeszcze inaczej w przypadku tworzenia nowego urzędu od zera. Na tej podstawie, jak będziemy mieli potencjalnych kandydatów/kandydatki, żeby tutaj nie wskazywać urzędów, które na przykład się nie pojawią, nie wiem, Urząd Dozoru Technicznego, choć nie wiem, może pojawi się w prekonsultacjach. Będziemy chcieli właśnie wskazać kilka scenariuszy, także kosztowych, które też ułatwią nam dyskusję w tym zakresie. Jeżeli byśmy mieli więcej czasu na odpowiedź, to bylibyśmy zobowiązani.

Poseł Janusz Cieszyński (PiS):
Oczywiście, jasne. Mnie interesuje tylko wariant maksimum, to znaczy, do przedstawienia tutaj. Jakby zdaję sobie sprawę z tego, że propozycja, którą państwo ostatecznie przedłożycie, jest jakąś wypadkową różnych elementów. Musicie przejść przez Zespół do spraw Programowania Prac Rządu i inne bramki, gdzie są czasami stawiane takie ograniczenia kosztowe. Natomiast chciałbym poprosić, tak jak powiedziałem w tym jednym zdaniu, o taki urząd pana ministra marzeń, taki, żeby wszystkie funkcje, które pana ministra zdaniem, powinien pełnić, mógł pełnić. Jakby rozumiejąc, że może się okazać, szczególnie w pierwszym etapie, że to będzie na przykład mniej albo część,  to jest wszystko jasne. Żebyśmy po prostu poznali sufit.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Panie pośle, to mam taką propozycję dla pana i też dla pana ministra, jeżeli pan minister oczywiście się zgodzi, żebyśmy po tych wszystkich konsultacjach, które się odbędą,  po tych rozmowach, taką dyskusję przeprowadzili też na podkomisji. Wtedy byśmy mogli  o tym swobodnie porozmawiać, kiedy już będą przynajmniej jakieś ramy. Ponieważ rozumiem pana ministra, że dzisiaj o pieniądzach trudno mówić, jak nie wiemy czy to będzie taka instytucja, czy inna – w jakim rozmiarze będzie budowana ta instytucja.

Moja propozycja jest następująca, panie pośle, żeby zawiesić to do czasu, kiedy zakończą się konsultacje, jak pan minister mówi, do 45 dni i taką dodatkową dyskusję przeprowadzić na naszej podkomisji. Wtedy spokojnie o tym porozmawiać i być może wnosić w tych konsultacjach albo na tej Podkomisji swoje propozycje do takiego pomysłu czy innego, jaki się narodzi w Ministerstwie Cyfryzacji.

Poseł Janusz Cieszyński (PiS):
Oczywiście.

Sekretarz stanu w MC Dariusz Standerski:
Dziękuję bardzo. Jeżeli chodzi o drugie pytanie, czyli regulacje poza Unią Europejską, to tutaj wbrew też popularnym opiniom, Unia Europejska nie jest pierwsza, jeżeli chodzi o regulacje dotyczące sztucznej inteligencji. Jest pierwsza, jeżeli chodzi o systemowe rozróżnianie systemów zakazanych i systemów wysokiego ryzyka, ale wcześniej takie regulacje były obecne, były przyjmowane na przykład w Stanach Zjednoczonych. Ogółem od kilku lat toczą się dyskusje nad projektami ustaw, dokładnie, jeśli dobrze pamiętam, 75 takich projektów zostało zgłoszonych do Kongresu, sześć ustaw w zakresie sztucznej inteligencji zostało uchwalonych, między innymi National American AI Initiative Act albo AI in Government Act, które wprowadzały zasady m.in. badań nad sztuczną inteligencją oraz zasady wykorzystania narzędzi sztucznej inteligencji w amerykańskich agencjach rządowych. Przepisy, które dotyczyły sztucznej inteligencji, zostały również, jeżeli chodzi o największych graczy, opracowywane i przyjmowane w Chinach w 2021 r. i w 2022 r. Jeżeli chodzi również o wykorzystywanie sztucznej inteligencji przez firmy państwowe oraz jeżeli chodzi o rejestr algorytmów w tym zakresie. Czyli poza Unią Europejską dzieje się również bardzo dużo w tym zakresie.

Jeżeli chodzi o kwestie popularnych opinii dotyczących ograniczeń czy wstrzymywania rozwoju, tutaj jeżeli chodzi o akt o sztucznej inteligencji, to osobiście nie doszukuję się blokad rozwojowych ze względu właśnie na kwestie tego, że ten akt nie jest bardzo szeroki. Jest to precyzyjne wskazanie modeli zakazanych oraz modeli wysokiego ryzyka, które wpisują się też w inne ustawodawstwo Unii Europejskiej, przede wszystkim RODO. W tym zakresie, uważam, że akt o sztucznej inteligencji nie wyklucza rozwoju sztucznej inteligencji w ramach Unii Europejskiej, zwłaszcza w zakresie finansowania AI. Dlatego też mówimy o procesie pracy nad funduszem sztucznej inteligencji na poziomie krajowym oraz na poziomie Unii Europejskiej. Mam też nadzieję na ciekawą dyskusję również w przyszłości w Sejmie na ten temat podejmiemy.

Natomiast jeżeli chodzi o pytanie pana posła dotyczące negocjacji aktu o sztucznej inteligencji, to proszę mi wybaczyć, ale trilogi zakończyły się 9 grudnia, ministrem zostałem dopiero od 13 grudnia, więc tutaj pełne szczegóły będzie miało poprzednie kierownictwo…

Poseł Janusz Cieszyński (PiS):
Nie chodzi o wcześniejsze. Chodzi oczywiście o późniejsze wydarzenia.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Panie pośle, proszę dać dokończyć.

Sekretarz stanu w MC Dariusz Standerski:
Kierownictwo w międzyczasie będzie miało największe szczegóły, ale też oczywiście sprawdzę notatki, które zostały w ministerstwie po tym czasie.

Poseł Janusz Cieszyński (PiS):
Chodzi oczywiście o późniejsze wydarzenia, o czym pan minister z pewnością wie, to właśnie nie chodzi o to, co działo się w grudniu, tylko to, co działo się na początku tego roku – ta sprawa była głośno omawiana w mediach. Rozumiem, że po prostu gdzieś tam odbyła się poza Polską. Dziękuję.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Dziękuję bardzo, panie pośle.

Czy są jeszcze inne pytania bądź chęć zabrania głosu w dyskusji? Bardzo proszę. Bardzo proszę pani Joanna.

Członek Stowarzyszenia ELKApw Joanna Karczewska::
Dzień dobry. Nazywam się Joanna Karczewska, jestem absolwentką Wydziału  Elektroniki Politechniki Warszawskiej, zajmuję się cyberbezpieczeństwem, bezpieczeństwem informacji, ochroną danych osobowych. Chciałam spytać, czy wersja polska aktu, tak jak się ukazała na stronie Parlamentu Europejskiego, będzie weryfikowana?  Ponieważ już wyłapałam dwa kardynalne, wręcz niedopuszczalne błędy w tłumaczeniu. Dlaczego jest to istotne? Ponieważ jak będą kwestie sporne wyjaśniane później w sądach administracyjnych, to oczywiście będzie rozstrzygnięcie na podstawie wersji polskiej,  a nie wersji angielskiej. Jest to naprawdę zaskakujące, nawet podejrzewam, że tłumaczenie było wykonane przez sztuczną inteligencję i dlatego zdecydowanie jestem za aktem,  bo trzeba weryfikować to, co robi sztuczna inteligencja.

Natomiast jako informację chciałam przekazać, że PwC, jedna z wiodących agencji konsultingowych, wykonała niedawno badanie, to jest 27 badanie CEO. Zadali pytanie: W jakim stopniu zgadzasz się lub nie zgadzasz, że generatywna sztuczna inteligencja prawdopodobnie zwiększy poniższe w twojej firmie w ciągu najbliższych 12 miesięcy? Okazuje się, że zarówno w Polsce, jak i na świecie uznano, że zagrożenia cybernetyczne są najpoważniejsze. Drugie w rankingu jest rozpowszechnianie dezinformacji. Czyli jest o co walczyć. Dziękuję.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Dziękuję bardzo.

Sekretarz stanu w MC Dariusz Standerski:
Bardzo serdecznie dziękuję za te uwagi oraz pytanie. Jeżeli chodzi o kwestie tłumaczenia, to chciałbym poprosić o odpowiedź panią Pamelę Krzypkowską, dyrektorkę  Departamentu Badań i Innowacji w Ministerstwie Cyfryzacji.

Dyrektor Departamentu Badań i Innowacji Ministerstwa Cyfryzacji Pamela  Krzypkowska:
Dziękuję bardzo, panie ministrze. Bardzo ważne jest, żeby powiedzieć, że ta pierwsza wersja, która została opublikowana na stronie parlamentu, była opracowywana przez prawników lingwistów, jeszcze nie sztuczna inteligencja albo już nie. Ważne jest to,  że pierwsza, możemy to nazwać, runda weryfikacji już została wykonana. Jesteśmy  w ciągłych dyskusjach. Jak dojdziemy do finalnej decyzji, jeżeli chodzi o poprawki, oczywiście jesteśmy w ciągłej weryfikacji, to oczywiście będzie ona opublikowana i przekazana w finalnej, poprawionej przez prawników oraz osoby związane z lingwistyką wersji. Dziękuję.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję, pani dyrektor. Pani Joanno, jeżeli są jakieś uwagi, to proszę przesłać  do pani dyrektor, ale to już po podkomisji, na spokojnie. Dziękuję bardzo.

Czy ktoś jeszcze chciałby zadać pytanie, zabrać głos w dyskusji? Bardzo proszę. Jeżeli nie ma żadnych głosów ani pytań, to zamykam dyskusję.

Na tym wyczerpaliśmy porządek obrad podkomisji. Bardzo serdecznie dziękuję, panie ministrze, panie prezesie, pani dyrektor. Do zobaczenia na następnym posiedzeniu.  Do widzenia.