Komisja Cyfryzacji, Innowacyjności i Nowoczesnych Technologii, obradująca pod przewodnictwem posła Bartłomieja Pejo (Konfederacja), przewodniczącego Komisji, zaopiniowała:

– wniosek marszałka Sejmu w sprawie wyboru na stanowisko przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji pani Pameli Krzypkowskiej (druk nr 3078).

W posiedzeniu udział wzięli: Dariusz Standerski sekretarz stanu w Ministerstwie Cyfryzacji, Dorota Niedziela wicemarszałek Sejmu Rzeczypospolitej Polskiej, Pamela Krzypkowska kandydatka na stanowisko przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, Michał Kanownik prezes zarządu Związku Cyfrowa Polska, Maria Dymitruk koordynatorka ds. sztucznej inteligencji Izby Gospodarki Elektronicznej, Eliza Turkiewicz dyrektor Departamentu Rynku Cyfrowego Konfederacji Lewiatan, Joanna Karczewska członkini Stowarzyszenia Absolwentów Elektroniki @ELKApw.

W posiedzeniu udział wzięli pracownicy Kancelarii Sejmu: Leszek Jasiński, Magdalena Krzymowska i Adrian Maćkiewicz – z sekretariatu Komisji w Biurze Komisji Sejmowych.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dzień dobry, bardzo serdecznie witam państwa.

Otwieram posiedzenie Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii, stwierdzając jednocześnie kworum.

Witam serdecznie panie i panów posłów. Witam również serdecznie panią marszałek Dorotę Niedzielę, przedstawicielkę wnioskodawcy w procedurze opiniowania kandydata na przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Witam serdecznie panią Pamelę Krzypkowską, kandydatkę na stanowisko przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Witam serdecznie pana ministra Dariusza Standerskiego, sekretarza stanu w Ministerstwie Cyfryzacji wraz z zespołem. Witam również przedstawicieli strony społecznej: Konfederacji Lewiatan, Pracodawców RP, Związku Cyfrowa Polska oraz Izby Gospodarki Elektronicznej, a także Krajowej Izby Gospodarki Elektroniki i Telekomunikacji oraz Stowarzyszenia @ELKApw. Witam serdecznie wszystkich państwa.

Szanowni państwo, porządek dzisiejszego posiedzenia przewiduje zaopiniowanie wniosku w sprawie powołania na stanowisko przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji pani Pameli Krzypkowskiej, to jest druk nr 3078. Informuję państwa, że 11 września bieżącego roku marszałek Sejmu skierował ten wniosek do Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii, zgodnie z art. 30 ust. 5 regulaminu Sejmu.

Czy są uwagi do porządku obrad? Nie widzę, zatem przechodzimy do jego realizacji. Bardzo proszę panią marszałek o przedstawienie kandydatki na stanowisko przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Bardzo proszę, pani marszałek.

Wicemarszałek Sejmu Rzeczypospolitej Polskiej Dorota Niedziela:
Panie przewodniczący, Wysoka Komisjo, w imieniu marszałka Sejmu przedstawiam sylwetkę i kwalifikacje pani Pameli Krzypkowskiej w odniesieniu do ustawowych zadań i wymogów związanych z funkcją przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, powołanego przez Sejm za zgodą Senatu na 5-letnią kadencję, zgodnie z Ustawą z dnia 3 lipca 2026 r.  o systemach sztucznej inteligencji wdrażających rozporządzenie Parlamentu Europejskiego i Rady.

Pani Pamela Krzypkowska jest absolwentką dwóch uzupełniających się kierunków studiów. W 2023 r. uzyskała tytuł magistra inżyniera na specjalizacji metody sztucznej inteligencji na Wydziale Matematyki i Nauk Informatycznych Politechniki Warszawskiej, a wcześniej, w 2021 r. ukończyła studia licencjackie na kierunku filozofia na Wydziale Filozofii Uniwersytetu Warszawskiego. W 2023 r. ukończyła także program IT/AI Akademii Leona Koźmińskiego, obejmujący prawne aspekty technologii cyfrowych i sztucznej inteligencji. Połączenie wykształcenia informatycznego, filozoficznego i prawa odpowiada trzem wymiarom działalności komisji: technicznej ocenie systemów, ochronie praw obywateli oraz stosowanych przepisów.

W latach 2018–2023 pani Pamela Krzypkowska zdobyła doświadczenie inżynierskie w sektorze prywatnym i w spółkach Samsung, Goldman Sachs oraz Microsoft. Jest certyfikowaną architektką systemów sztucznej inteligencji oraz systemów chmurowych, a także posiada certyfikaty w zakresie inżynierii danych oraz inżynierii sztucznej inteligencji.

W 2021 r. kandydatka dołączyła do Grupy Roboczej ds. Sztucznej Inteligencji przy Kancelarii Prezesa Rady Ministrów. W 2023 r. została wicedyrektorem Departamentu Innowacji i Technologii w Ministerstwie Cyfryzacji, a w 2024 r. objęła stanowisko dyrektora nowo tworzonego Departamentu Badań i Innowacji. W obszarze infrastruktury obliczeniowej kandydatka odpowiadała ze strony resortu za działania prowadzące do pozyskania przez Polskę europejskich fabryk sztucznej inteligencji: PIAST-AI Factory w Poznaniu oraz Gaia AI Factory w Krakowie.

Pani Pamela Krzypkowska reprezentowała Polskę na europejskiej Radzie ds. Sztucznej Inteligencji w Brukseli oraz podczas licznych szczytów światowych poświęconych problematyce sztucznej inteligencji. Jej dorobek został także doceniony przez prestiżowe organizacje, a także wydawnictwa.

Przedstawiony dorobek obejmuje między innymi praktykę inżynierską w sektorze prywatnym, budowę i kierowanie departamentem w administracji centralnej, wdrożenie sztucznej inteligencji w usługach publicznych i współtworzenie krajowych dokumentów strategicznych. Dodatkowo osiągnięcia naukowe oraz reprezentacja Polski w gremiach Unii Europejskiej, na forach międzynarodowych potwierdzają łączenie przez kandydatkę kompetencji inżynierskich, regulacyjnych i menedżerskich wymaganych na stanowisku przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, co uzasadnia jej kandydaturę.

Pani Pamela Krzypkowska spełnia przesłanki określone w art. 23 ustawy o systemach sztucznej inteligencji, warunkującej możliwości powołania na stanowisko przewodniczącego, w szczególności w zakresie posiadania obywatelstwa polskiego, pełni praw publicznych, niekaralności, wykształcenia wyższego, długości stażu pracy na stanowiskach kierowniczych oraz znaczącego dorobku i wiedzy w dziedzinie sztucznej inteligencji. Spełnia również wymóg apolityczności wynikający z ustawy, ponieważ nie należy do partii politycznej ani związku zawodowego i nie prowadzi działalności publicznej niedającej się pogodzić z godnością sprawowania urzędu.

Dokładne kwalifikacje kandydatki oraz przebieg kariery zawodowej znajdują się w druku nr 3078. Pozwólcie państwo, że zarekomenduję wybór pani Pameli Krzypkowskiej.  Dziękuję bardzo.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Bardzo dziękuję, pani marszałek.

Proszę teraz o zabranie głosu samą kandydatkę, panią Pamelę Krzypkowską. Bardzo proszę.

Kandydatka na stanowisko przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Pamela Krzypkowska:
Dziękuję bardzo. Szanowny panie przewodniczący, Wysoka Komisjo, szanowni państwo, po pierwsze, dziękuję za możliwość i za przedstawienie mojej kandydatury na przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przed Komisją Cyfryzacji, Innowacyjności i Nowoczesnych Technologii i dziękuję za przedstawienie mojego doświadczenia. Chciałabym powiedzieć, że przed pierwszym przewodniczącym komisji stoi duże wyzwanie związane z połączeniem dwóch kompetencji, czyli wspieranie innowacyjności w ramach sztucznej inteligencji oraz ochrona obywateli. Uważam, że to zadania nie są tak zwaną grą o sumie zerowej, czyli nie musimy oddawać innowacyjności kosztem bezpieczeństwa obywateli, tylko możemy połączyć te dwa zadania za pomocą czterech głównych filarów. Te filary to: pewność prawa, wsparcie dla tych, którzy tworzą innowacje, edukacja oraz skuteczna współpraca.

W kontekście pewności prawa: ustawa ustanawia bardzo istotne instrumenty, takie jak opinia indywidualna, które umożliwiają komisji faktycznie pomóc przedsiębiorcy, żeby stan jego systemu był mu znany, a także, jeżeli komisja nie odpowie w terminie 30 do 60 dni, to interpretacja wnioskodawcy zostaje przyjęta za stan obowiązujący. To, co jest ważne, komisja ma także inne elementy związane z wyjaśnieniami ogólnymi, za pomocą których może zapewniać tę pewność prawa. W kontekście wsparcia dla innowacji: kluczowym instrumentem dla mnie są piaskownice regulacyjne. Chciałabym rozwijać te piaskownice jako instrument prawny, ale także jako instrument technologiczny. Uważam, że bezpieczne środowiska, w których administracja oraz biznes mogą testować swoje rozwiązania, są kluczowym sposobem do zapewnienia zgodności i umożliwienia bezpieczeństwa obywateli. Także w zakresie suwerenności technologicznej: mimo tego, że Urząd ds. AI przy Komisji Europejskiej odpowiada za modele ogólnego przeznaczenia, ale chcę, żeby dzięki temu, że komisja jest jednym punktem kontaktowym, polskie modele, takie jak PLLuM czy Bielik, miały w Polsce odpowiedzi na pytania, co muszą spełnić, czym tak naprawdę są, czyli czy modelem ogólnego przeznaczenia, czy z ryzykiem systemowym. Żeby polskie innowacje się tworzyły, muszą one móc rozmawiać z komisją i po polsku dostać informacje o tym, co jest od nich wymagane. Także checklisty i wyjaśnienia, które mam zamiar publikować, uważam za kluczowe, żeby dbać o tę pewność prawa i wsparcie dla innowacji.

W kontekście komunikacji: jeżeli mamy możliwość złożenia skargi czy złożenia wniosku o opinię indywidualną, ale nikt o tym nie wie, jest to martwy przepis. Dlatego zależy mi, żeby jasno komunikować, gdzie i jak należy składać skargi czy wniosek o opinię indywidualną, gdzie i jakie warunki istnieją, żeby dostać się do piaskownicy regulacyjnej. Zależy mi także na skutecznej współpracy, dlatego że komisja, mimo że jest organem kolegialnym, także powinna mocno współpracować z takimi organami jak Urząd Ochrony Danych Osobowych oraz innymi organami, na przykład w zakresie cyberbezpieczeństwa. Coraz częściej widzimy sytuacje, że sztuczna inteligencja przenika wiele regulacji oraz wiele tematów. Nie jest to kwestia jednej komisji czy jednego aktu prawnego. Liczę na aktywną współpracę w zakresie cyberbezpieczeństwa, a także współpracę ze stroną społeczną poprzez społeczną radę ds. sztucznej inteligencji.

Przed przewodniczącym stoi wyzwanie postawienia nowego urzędu, a także umożliwienie spełnienia najnowszych przepisów, które wchodzą w życie 28 października związanych z opiniami, skargami i kontrolami. Dziękuję jeszcze raz za przedstawienie mojej kandydatury i za możliwość kandydowania na to stanowisko. Ustawa zobowiązuje przewodniczącego do zdania sprawozdania do 31 marca każdego roku i uważam to za główny i kluczowy mechanizm. Chciałabym, żeby w tym sprawozdaniu znajdowały się nie tylko ustawowe obowiązki, które wiążą przewodniczącego, żeby udzielić sprawozdania z pewnych informacji, ale także rzeczy dotyczące technicznego zatrudnienia, współpracy i tego, jak komisja dba o innowacyjność polskiej gospodarki oraz bezpieczeństwo polskich obywateli.

Dziękuję i jestem do państwa dyspozycji.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję serdecznie.

Czy pan minister Standerski chciałby zabrać głos? Dziękuję serdecznie.

Szanowni państwo, otwieram dyskusję. Czy ktoś z państwa posłów chciałby zabrać głos? Bardzo proszę, pan poseł Uściński.

Poseł Piotr Uściński (RozwojPlus):
Panie przewodniczący, panie ministrze, szanowna pani kandydatko i Wysoka Komisjo, mam kilka pytań. Nie wiem, czy zadać wszystkie naraz, czy pojedynczo, bo będą z różnych… Zapytam, jak pani woli.

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Mogą być wszystkie na raz, ja sobie zanotuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Wszystkie naraz. Proszę bardzo.

Poseł Piotr Uściński (RozwojPlus):
Dobra. Więc pierwsza rzecz, pani jest… Po pierwsze, to będzie taka refleksja, zanim zadam pytania. Refleksja jest taka, że faktycznie jako opozycja spodziewaliśmy się, że państwo będziecie chcieli upolitycznić ten urząd. Tutaj jest moja bardzo pozytywna opinia do tego, że jest przedstawiony człowiek, który jest fachowcem po Politechnice Warszawskiej. Jako absolwent politechniki czuję, że tak powiem, pewną więź. Tutaj też jest pani ze stowarzyszenia @ELKApw, my jesteśmy po tym samym wydziale, sąsiednim z pani wydziałem, i wiemy, że jeżeli skończyła pani matematykę i informatykę na politechnice, to na pewno jest pani fachowcem, bo nie da się skończyć tej uczelni tak po prostu po łebkach.

Po drugie, jest pani… Nie chciałbym być oskarżany o tak zwany, brzydko powiem, ageizm, ale jest pani młodą osobą, a ma pani już naprawdę duży dorobek. To też jest bardzo cenne i ma pani szansę bardzo mocno przyczynić się do rozwoju Polski i sztucznej inteligencji w Polsce.

Niemniej jednak musimy pani zadać parę pytań. Niektóre pytania aż się nasuwają. To znaczy, pani pracowała w Microsofcie. To jest z jednej strony pani wielka zaleta, że pani tam pracowała, bo to jest topowa firma technologiczna, ale z drugiej strony, pełniąc urząd, który pani będzie pełniła, jeśli Sejm panią wybierze, będzie pani występowała czasami w sytuacji, gdzie może się pojawić, nie wiem, czy konflikt interesów, czy… Jest to pytanie do pani: Jak pani zamierza traktować sprawy, gdyby się okazało, że będzie sprawa z zakresu Microsoftu? Czy pani się zamierza wyłączyć z postępowań dotyczących podmiotów powiązanych z Microsoftem, czy nie widzi pani takiej potrzeby, a jeśli nie, to dlaczego?

Drugie pytanie dotyczące też sprawy Microsoftu, ale samego podejścia do właśnie gigantów cyfrowych. Przeciwko nim mamy polskie startupy, które już są, które, mam nadzieję, w najbliższym czasie będą się pojawiały. Pytanie brzmi: Jak zamierza pani wspierać właśnie te polskie startupy? Oczywiście koszty certyfikacji, spełnienia wymogów dla systemów wysokiego ryzyka są duże i to może zabić polskie startupy. Jak pani zamierza im pomagać, żeby mogły konkurować i być może, żeby z naszych startupów w przyszłości wyrośli giganci technologiczni?

Po trzecie, wiem, że pani pracowała w ministerstwie, tworzyła tam nowy zespół. Jednak ten urząd to będzie coś innego. Tutaj będzie potrzeba pani fachowców z górnej półki, którzy mogą zarabiać na rynku duże pieniądze. Jak pani to zamierza zrobić? Czy ma pani na to jakieś pomysły, w jaki sposób zatrudnić tych fachowców do prac komisji?

Jeszcze jest takie pytanie dotyczące zwykłych obywateli. Zwykli obywatele też mogą potrzebować wsparcia komisji. Mogą czuć się ofiarami dyskryminacji algorytmicznej, nie wiem, czy w banku, czy w systemie rekrutacji, czy w różnych usługach, których jeszcze nawet sobie nie wyobrażamy, jakie mogą być i korzystać z tych systemów sztucznej inteligencji. Ten zwykły obywatel trafi do pani urzędu. Jak pani zamierza to zrobić, żeby te skargi były sprawnie rozpatrywane? Najgorsze, czego byśmy sobie nie życzyli, żeby ludzie czekali latami na jakieś decyzje.  Chcielibyśmy, żeby to działało sprawnie, żeby Polacy, obywatele mogli uzyskać pomoc. Skoro powstaje ten organ nadzorczy, to on powinien funkcjonować sprawnie. Proszę, żeby pani odniosła się do moich pytań. Dziękuję bardzo.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję, panie pośle.

Bardzo proszę o odpowiedź.

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Dziękuję, panie pośle. Od razu powiem, że tak jak jest napisane w CV, oczywiście pracowałam w firmie Microsoft, ale obecnie nie jestem powiązana w żadnym stopniu z tą firmą. Wszystkie relacje albo współprace, które miałam w kontekście pracy w tej firmie, były relacjami natury służbowej. Każdy z nas pracuje w różnych miejscach pracy. Od trzech lat pracuję w Ministerstwie Cyfryzacji i oprócz tego, że nie mam żadnych powiązań z tą firmą oraz wcześniejszymi firmami, z którymi współpracowałam, nie uważam, że jest to wymagane, abym wycofywała się z postępowań, które dotyczą akurat w tym przypadku, oczywiście hipotetycznie mówiąc, firmy takiej jak Microsoft. Tak samo jak byłoby niesłuszne twierdzić, że należałoby wycofać się w momencie, kiedy już przestaję być jako powołana osoba pracowniczką Ministerstwa Cyfryzacji z postępowań. Komisja nadzoruje zarówno sektor prywatny, jak i sektor publiczny. To jest bardzo ważna,  tak jak sam pan poseł powiedział, niezależna rola. Tutaj jest moje zapewnienie, że te prace albo te zawody, które wykonywałam, nie będą miały wpływu na to, jakie decyzje i jakie rzeczy…

Poseł Piotr Uściński (RozwojPlus):
Przepraszam, że tak przerywam, dopytując, ale akurat to mi się nasuwa. Czyli jak Ministerstwo Cyfryzacji czy jakaś podległa jednostka będzie posądzona przez obywatela o dyskryminację algorytmiczną, to pani też zamierza się tym zająć niezależnie, tak? Nie będzie pani tarczą obronną dla rządu w tym zakresie?

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Tak, absolutnie. W pełni niezależnie. Jest to kluczowa rola osoby na tym stanowisku. Jestem w pełni zaangażowana w to, żeby być w pełni niezależna. Tak jak mówię, moim zdaniem tak naprawdę jest to też najważniejsza rzecz, która jest wymagana od przewodniczącego tej tworzącej się komisji, czyli pełna niezależność.

Odnosząc się do drugiego pytania, czyli kwestia gigantów cyfrowych, to wspomniałam już krótko o tym instrumencie, jakim są piaskownice regulacyjne. To, co jest ważne, jeżeli dany startup czy firma chce wejść na rynek, tworzy swoje rozwiązania, to nie dość, że taka piaskownica po stronie technologicznej może dać mu pewien łatwiejszy start, czyli dać mu środowisko testowe, ale też może mieć wyłączenia z zakresu niektórych kwestii regulacyjnych. Czyli to jest de facto, jak sama nazwa wskazuje, miejsce, gdzie twórca startupu może przyjść, przetestować to swoje rozwiązanie, a później pójść dalej. Także, co ważne, piaskownica regulacyjna i uczestnicy mogą zgłosić prośbę o opinię indywidualną, którą dostają za darmo do 14 dni po uczestnictwie w piaskownicy. To też jest kluczowe, że jest to kolejny element, tak jak mówię, tej pewności prawa, którą komisja jest w stanie oferować startupom czy polskim firmom, które właśnie chcą wejść na rynek i zostać tymi, jak to pan poseł powiedział, gigantami i można powiedzieć, że jednorożcami.

Powiedziałabym, że w wielu przypadkach w startupach chodzi także właśnie o tę pewność, gdzie są opinie indywidualne oraz wspomniany przeze mnie inny instrument, czyli wyjaśnienia ogólne. Jeżeli jest jakiś temat, w ramach którego pojawia się, będzie pojawiało się dużo wniosków o opinię indywidualną, komisja może wydać ogólne wyjaśnienie. Te wyjaśnienia są dla mnie priorytetem i z perspektywy firm, którym można dać pewność, i z perspektywy urzędu, który im więcej wyda wyjaśnień ogólnych, tym potencjalnie mniej opinii indywidualnych będzie wymaganych od urzędu.

Przechodząc dalej, kwestia fachowców jest kluczowa i absolutnie się zgadzam, że wygląda to teraz w obecnej sytuacji tak, że urząd obsługujący komisję, jednostka obsługująca komisję, jest w ramach służby cywilnej. Osoby, które pracują w służbie cywilnej, będą tymi fachowcami, ale także osobami, które będą zajmowały się, i tutaj mówię o obu nogach komisji, czyli i tą kwestią innowacyjności, i tą kwestią bezpieczeństwa, czyli na przykład postępowaniami skargowymi. To, co jest ważne, ustawa umożliwia komisji korzystanie z ekspertów z innych organów, czyli na przykład z takich jednostek jak Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy, Ośrodek Bezpieczeństwa Sztucznej Inteligencji czy Instytut Badawczy IDEAS. Zdecydowanie kluczowe jest dla mnie współpracowanie z tymi ekspertami, żeby mogli oni faktycznie wesprzeć komisję w zadaniach, które będą przed nią stały. Oczywiście zatrudnienie fachowców z rynku jest kluczowe. Przyznam, że tak jak ja odeszłam z firmy prywatnej, aby pracować dla państwa i wspierać państwo, także myślę, że jest to ważne, żeby ta komisja także miała ekspertów, którzy chcą wspierać bezpieczeństwo obywateli oraz rozwój firm i dołączą do tej komisji, czy do urzędu obsługującego komisję.

W kontekście wsparcia dla zwykłych obywateli jest to oczywiście wolumen i mówiąc o opiniach indywidualnych i o skargach, które można w pewien sposób estymować, na przykład estymując wielkość rynku sztucznej inteligencji w Polsce, ale nigdy nie będzie wiadomo, ile zacznie spływać tych skarg czy wniosków o opinię. To będzie bardzo ważne zadanie na początku istnienia komisji, żeby faktycznie zbadać ten wolumen, zobaczyć, jakie są powtarzające się elementy. Także warto wspomnieć o tym, że składane skargi prowadzą do rozpoczęcia postępowania, jeżeli naruszenie zostało wykryte. To znaczy, że jeżeli jest jedna aplikacja, jeden system, na który zostało złożone 300 skarg, jest to jedno postępowanie. Więc tutaj mówimy o tym, że komisja także może grupować te skargi, które są zgłaszane przez obywateli, po to, żeby właśnie bardziej efektywnie prowadzić te postępowania i w pewnym sensie nie rozdrabniać się, można tak powiedzieć. Jednak ten wolumen skarg i wolumen opinii indywidualnych są tutaj rzeczą, dla której kluczowe jest szybkie stworzenie zespołu i szybkie stworzenie osób, które będą w stanie procesowo, czyli także przez ułożenie tych procesów, zająć się zarówno kwestiami skarg, jak i kwestią opinii indywidualnych. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo.

Czy ktoś z państwa jeszcze chciałby zabrać głos? Bardzo proszę, pan przewodniczący.

Poseł Dariusz Stefaniuk (PiS):
Szanowny panie przewodniczący, pani marszałek, chciałem zapytać, jaki jest pani stosunek do ustawy dotyczącej wdrażania Digital Services Act. Czy pani widzi dobre strony, czy cała ustawa jest dobra, czy pani by coś zmieniła? Jak pani to określa, jak pani to widzi? Myślę, że to będzie jedna z głównych ustaw, na których też będzie pani pracowała jako przewodnicząca i cała komisja.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
To wszystkie pytania, tak? To jest pierwsze.

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Dziękuję bardzo, panie pośle. Chciałam powiedzieć, że od wdrażania DSA i organem odpowiedzialnym za DSA jest Urząd Komunikacji Elektronicznej, nie komisja. To jest bardzo ważne, że UKE jest organem współpracującym i działającym w ramach komisji. Wiele rzeczy w obszarze sztucznej inteligencji, tak jak powiedziałam wcześniej, właśnie nie jest objętych jedną regulacją, tylko jest gdzieś pomiędzy. Tutaj w przypadku DSA to są na przykład algorytmy platformowe. Czyli jeżeli korzystamy z mediów społecznościowych, to co nam się pojawia, w pewnym sensie jest algorytmicznie dobierane do tego, co chcemy zobaczyć, można tak to powiedzieć. Dlatego też uważam, że współpraca z UKE w zakresie algorytmów platformowych oraz tego, jakie rzeczy pojawiają się na mediach społecznościowych, na przykład w zakresie generowanego contentu, który nie jest oznaczony, o co też komisja musi dbać, jest dla mnie kluczowe. Nie chcę wypowiadać się o samych zapisach ustawy o DSA. Tutaj przyznam, nie jestem ekspertką od wielkich platform, ale wiem, że te kluczowe elementy związane z komisją, czyli kwestia generowanych treści oraz algorytmów platformowych, są dwoma tematami, nad którymi chcę mocno współpracować z prezesem UKE oraz z przedstawicielami komisji.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Bardzo proszę.

Poseł Dariusz Stefaniuk (PiS):
Chciałem dopytać, bo właściwie głównie o to nam chodzi. Na tej komisji była taka duża dyskusja. Czy gdy ten człowiek, który umieszcza dany post w internecie, a na przykład prezes UKE, uważa, że on łamie prawo, czy pani zdaniem to dobrze, że może mieć odwołanie do sądu i dany post zniknie dopiero w ciągu tam 28 dni, bo powiedzmy, że to idzie w terminie 14 i 14 dni? Czy prezes UKE od razu powinien likwidować ten post, co było pierwotną koncepcją rządu? Pytam też dlatego, że pani chyba do dzisiaj pracuje w Ministerstwie Cyfryzacji i pracowała pani przy systemach, regulacjach AI. Jakie jest pani zdanie?

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Dziękuję. Muszę przyznać, że personalnie nie zajmowałam się ustawą o DSA, więc to jest też ważna rzecz, którą muszę dodać. Mogę powiedzieć, że moim zdaniem oczywiście kwestie możliwości odwołania się w sądzie są ważne, tak samo jak te zapisy też znajdują się w ustawie o systemach sztucznej inteligencji w kontekście postępowań. Czyli tutaj jest sąd ochrony konkurencji i konsumentów, tam można składać zażalenia, jeżeli chodzi o ten obszar związany ze sztuczną inteligencją. Jednak już nie czuję się kompetentna, żeby skomentować coś więcej na temat samej ustawy o DSA. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo.

Jeszcze kolejne pytanie, tak? Jeszcze pan poseł się zgłasza. Dobrze, proszę bardzo.

Poseł Dariusz Stefaniuk (PiS):
Chciałem jeszcze zapytać, ponieważ w ustawie pani kadencja ma trwać pięć lat. Rocznie komisja ma dostawać mniej więcej około 24 mln zł i docelowo to jest 70 osób, które są wpisane jako na etacie, w pierwszym roku jest ich chyba 30. Jaki miernik pani sobie bierze, będąc przewodniczącą tej komisji, który pani przedstawi Sejmowi, nie wiem, za dwa, trzy lata – pewnie to będzie następna kadencja – oraz za pięć lat, który będzie miernikiem pani sukcesu? To znaczy, do czego chce pani doprowadzić i jak pani uważa, że ta komisja ma działać? Co będzie efektem na samym końcu, co będzie tym sukcesem, do którego chce pani dążyć?

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Dziękuję bardzo. Chciałabym powiedzieć, że głównym elementem, na którym mi najbardziej zależy, są piaskownice regulacyjne. Chciałabym, żeby tym wskaźnikiem była kwestia, ile przedsiębiorstw faktycznie przejdzie przez piaskownicę regulacyjną i z sukcesem wyjdzie na rynek. Myślę, że to jest jeden z kluczowych wskaźników oraz oczywiście są takie wskaźniki, które tak jak wspominałam, są obowiązkowe do raportowania w ramach sprawozdania do Sejmu 31 marca. To jest: liczba postępowań, liczba skarg, ale uważam, że ważniejsza jest efektywność, a nie sama liczba czy wolumen tych skarg. Dlatego bardzo zależy mi na tym, żeby także mówić o kwestii, ile skarg skończyło się na przykład rozpoczęciem postępowania. Oczywiście nie można też nie wspomnieć o tym, że skarga może być złożona w temacie, można powiedzieć, nieprawdziwym, więc to też jest kluczowe, żeby być w stanie odsiać te skargi, które na przykład faktycznie uderzają w obywateli i obywatelki od skarg, które są tak składane, że na przykład potencjalnie mogą być generowane. To też jest rzecz, o której trzeba wspomnieć. Kluczowa jest dla mnie liczba firm i przedsiębiorstw, która przejdzie i zrealizuje piaskownicę regulacyjną i to, żeby ulepszać tę piaskownicę. Chciałabym, żeby ona rosła i ten wolumen przedsiębiorstw, które przez nią przechodzą, także rósł i też znowu robić to skutecznie. Będziemy na pewno gotowi na feedback, na opinie tych przedsiębiorstw, żebyśmy ulepszali tę piaskownicę.

Drugą kwestią w kontekście ochrony obywateli jest to, że bardzo mi zależy na tym, żeby zwiększyć świadomość o sztucznej inteligencji w społeczeństwie. Dotyczy to kwestii, kiedy na przykład mamy do czynienia z tak zwanym AI. Wiele z nas myśli o tym w kontekście algorytmów takich jak Large Language Model (LLM-y), czyli te duże modele językowe. Właśnie, jeżeli obywatel nie wie, że jego CV… Gdzieś tam on został wybrany albo odrzucony przez AI i nie wie, że system AI może to robić, to nie wie, że w ogóle może złożyć tę skargę. Bardzo mi też zależy, jeżeli chodzi o taki drugi wskaźnik, na świadomości obywatelskiej z tym, kiedy mamy do czynienia z AI – znowu mówimy na przykład o algorytmach platformowych – oraz gdzie i jak te skargi można złożyć. Efektywność piaskownic oraz efektywność systemu skargowego oraz systemu postępowań – są to dla mnie na ten moment takie główne, nazwijmy to, mierzalne wskaźniki.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo.

Proszę bardzo.

Poseł Dariusz Stefaniuk (PiS):
Mam jeszcze jedno pytanie. Jak pani uważa: Czy treści AI powinny być w Polsce automatycznie oznakowywane, czy też pani dopuszcza, że mogą być nieznakowane? Dotyczy to zarówno obrazów, jak i treści pisanych. Jak pani widzi swoją rolę jako przewodnicząca komisji w tym zakresie?

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Dziękuję. W art. 50 aktu w sprawie sztucznej inteligencji mówi się o treściach, które mają obowiązek być oznaczane i w jakim mają być formacie. To jest tutaj bardzo ważne. Znowu wrócę do kwestii edukacyjnej. Każdy z nas musi czuć się bezpiecznie, żeby wiedzieć, co może zapostować i co musi oznaczyć, a czego nie musi oznaczyć. Jeżeli używamy generowania treści do naszego prywatnego użytku, czyli na przykład wygeneruję kartkę na święta ze mną jako mikołajem, to oczywiście jest to kwestia prywatna. Pojawiają się na przykład pytania, bo kiedy używamy AI do generowania treści, które mają związek na przykład z zarabianiem pieniędzy, możemy powiedzieć tu na przykład o influencerach, albo do promowania pewnych treści ma to szczególnie znaczenie, i to jest jasno oznaczone w akcie, dla treści, które mają wpływ na… dotyczą spraw społecznych. Czyli jest obowiązek oznaczania treści tekstowych, które dotyczą spraw społecznych. Jako że te przepisy już obowiązują, też chcę bardzo szybko wprowadzić jasne, można powiedzieć, instrukcje albo komunikat mówiący, co należy oznaczać, w jakich przypadkach, a gdzie te oznaczenia nie są potrzebne. Dlatego, że uważam, że tak jak pan poseł powiedział, kwestia tego, co musi być oznaczane, mam wrażenie, że nie zawsze jest jasna, a musi to być jasne dla wszystkich, gdzie te treści muszą być oznaczane. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję uprzejmie. Pan poseł wykorzystał już wszystkie pytania.

Pani poseł Sobolak, bardzo proszę.

Poseł Anna Sobolak (KO):
Dziękuję bardzo. Panie przewodniczący, pani marszałek, szanowni państwo, wybieramy dziś osobę, która będzie kierowała zupełnie nowym organem państwa, Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Osobiście bardzo się cieszę, że tą kandydatką jest pani Pamela Krzepkowska. Miałam okazję współpracować z panią Pamelą właśnie na linii Komisji cyfryzacji i Ministerstwa Cyfryzacji. Bardzo gratuluję i mam nadzieję, że ta kandydatura zostanie przegłosowana. Dzisiaj czuję się również zobligowana zabrać głos nie tylko jako członkini Komisji cyfryzacji czy członkini podkomisji do spraw sztucznej inteligencji, ale przede wszystkim jako posłanka z Wrocławia. Mówię o tym dlatego, że bardzo ściśle współpracuję i wspieram Politechnikę Wrocławską, która dokładnie dzisiaj została numerem jeden w obszarze sztucznej inteligencji według rankingu szanghajskiego 2026. Moje krótkie pytanie do pani jako do kandydatki jest takie: Czy widzi pani możliwość tworzenia piaskownic regulacyjnych we współpracy z najlepszymi polskimi ośrodkami akademickimi, takimi właśnie jak chociażby Politechnika Wrocławska? Dziękuję bardzo.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję.

Bardzo proszę.

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Dziękuję bardzo. Chciałam powiedzieć, że w kontekście piaskownic regulacyjnych oraz ekspertów, którzy są w akademii, bardzo ważne będzie, aby ekspertyza tych naukowców i naukowczyń była wzięta pod uwagę w ramach posiedzeń komisji, ale także różnych zadań technicznych, z którymi komisja będzie się mierzyć. Pierwsze piaskownice regulacyjne z komponentem technologicznym są tworzone we współpracy z dwoma polskimi fabrykami AI, z Gaia AI Factory oraz PIAST-AI Factory, ale jest kluczowe, żeby inne uczelnie oraz wszystkie regiony, które posiadają wysoką ekspertyzę w wyspecjalizowanych funkcjach… To też jest tak, że sztuczna inteligencja jest tak szeroka, że nie można powiedzieć, że tylko naukowcy na przykład z jednego instytutu znają się na AI. Jest to bardzo podzielona kompetencja: w zakresie cyberbezpieczeństwa AI, w zakresie trenowania modeli. Oczywiście jest także Politechnika Wrocławska, która była liderem pierwszego konsorcjum PLLuM, które zbudowało pierwszy model językowy dla administracji, i ona posiada ekspertów, co też będzie wsparciem, tak jak mówiłam wcześniej, jako jeden punkt kontaktowy dla twórcy takich suwerennych polskich modeli. Komisja może tworzyć piaskownice regulacyjne z innymi organami i także, tak jak wspomniałam wcześniej, zapraszać ekspertów do współpracy i prosić ich o ekspertyzę. Uważam to za bardzo ważny element, żeby współpracować z polskimi naukowcami i naukowczyniami w zakresie piaskownic regulacyjnych, ale także checklist, informacji, wyjaśnień, które będą publikowane do ogółu dostawców czy podmiotów stosujących systemy AI. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo.

Pan poseł Bliźniuk.

Poseł Paweł Bliźniuk (KO):
Dziękuję. Pani marszałek, szanowni państwo, pani kandydatko, mam pytanie. Jesteśmy w Sejmie podczas posiedzenia Komisji. Również w ramach podkomisji do spraw sztucznej inteligencji, gdzie przewodniczącym jest Grzegorz Napieralski, często rozmawiamy o sztucznej inteligencji, o tych pracach, które powinniśmy podejmować w tym dynamicznie zmieniającym się obszarze. Mówię o pracach legislacyjnych.

Będąc już przewodniczącą komisji, jak pani widzi współpracę z parlamentem? Pytam, ponieważ z tej praktyki rozpatrywania skarg, wniosków ze strony obywateli, z tej praktyki też będzie się wyłaniało, nie tyle co brzmienie, ile tak naprawdę faktyczna siła tych przepisów, ich istotność i ich wymiar z punktu widzenia ochrony bezpieczeństwa obywateli i obywatelek, ale też rozwoju sztucznej inteligencji w Polsce. Mówiliśmy o piaskownicach regulacyjnych. Myślę, że z naszego punktu widzenia będą to bardzo właściwe, też istotne i bardzo cenne uwagi i refleksje, gdzie moglibyśmy formułować jakieś wnioski de lege ferenda albo zastanawiać się nad tym, czy obecnie obowiązujące prawo jest właściwe, czy wystarczające w tym dynamicznie zmieniającym się świecie. Jak pani widzi tę współpracę, czy to z Komisją cyfryzacji, czy z podkomisją do spraw sztucznej inteligencji, czy też świeżo powołaną podkomisją do spraw cyberbezpieczeństwa?

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo, panie pośle.

Proszę o odpowiedź.

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Dziękuję bardzo. Chciałam powiedzieć, że współpraca z parlamentem, jako że Komisja jest także ciałem… Przewodniczący jest osobą powoływaną przez Sejm za zgodą Senatu, ta współpraca z parlamentem jest kluczowa. Także w tym zakresie, o którym pan poseł wspomniał, czyli że jest to tak szybko zmieniający się zakres, że oczywiście tworzymy regulacje, które są jak najbardziej neutralne technologicznie, które skupiają się na chronieniu albo na wysokości ryzyka pewnych wykorzystań, a nie na samej technologii, jednak to często nie jest wystarczające. Mam nadzieję, że będę miała okazję przyjść na Komisję cyfryzacji, a także na podkomisję, żeby poinformować o pierwszych miesiącach działania komisji, jakie spotkaliśmy wyzwania i jak chciałabym dalej działać z tymi wyzwaniami. Uważam tę współpracę za istotną, a także, jeżeli chodzi o zmiany regulacyjne czy legislacyjne, będą wymagane nowe zmiany w kontekście na przykład ustawy o systemach sztucznej inteligencji. Mamy nowy pakiet „Omnibus”, czyli ten pakiet symplifikacyjny, a także systemy wysokiego ryzyka, więc jest tu dużo komponentów, które już będą wymagały zmiany, a także, jako że w prerogatywie komisji jest opiniowanie takich dokumentów oraz wspieranie na przykład ministra cyfryzacji w tworzeniu nowych przepisów dotyczących AI, będę także bardzo chętnie działać z parlamentem. Uważam to za kluczowe ciało do efektywnego działania komisji. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Bardzo dziękuję.

Bardzo proszę, pan poseł.

Poseł Łukasz Osmalak (Polska2050):
Dziękuję bardzo. Mam dwa pytania. To jest pierwsze. Myślę, że w dużej części naszego społeczeństwa jednak sztuczna inteligencja to jest coś tak bardzo abstrakcyjnego, że wiele osób odsuwa to w ogóle gdzieś tam od siebie, w ogóle o tym nie myśli. Jaki ma pani być może plan na to, żeby spróbować zwiększyć świadomość obywateli związaną z tym, że jako społeczeństwo, jako ludzie ogólnie nie jesteśmy w stanie uciec przed sztuczną inteligencją, że musimy się z tym zaprzyjaźnić i traktować to jako narzędzie do pracy?

Druga rzecz, również czasami rozmawiając z osobami, szczególnie z osobami, które mają mniejszą świadomość na temat tego, jak w ogóle wygląda sztuczna inteligencja, czym jest sztuczna inteligencja, jakie ma możliwości sztuczna inteligencja, te osoby bardzo często widzą zagrożenia w sztucznej inteligencji. Jak pani widzi potencjalne zagrożenia, które może nieść ze sobą rozwój sztucznej inteligencji? Gdyby pani była w stanie powiedzieć o pani zdaniem największych szansach, jakie będzie dawała rozwijająca się sztuczna inteligencja i ewentualnie o potencjalnych zagrożeniach, jakie sztuczna inteligencja będzie ze sobą niosła? Jak pani widzi te dwa aspekty? Jak pani uważa, jak jako ludzie, jako specjaliści, jako fachowcy zajmujący się tymi tematami, jak powinniśmy właśnie reagować na potencjalne zagrożenia? Dziękuję bardzo.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo.

Tylko zwracam uwagę, że mamy jeszcze tylko 19 minut na tę Komisję, więc bardzo proszę o skondensowane pytania i krótkie odpowiedzi.

Bardzo proszę.

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Dziękuję, panie pośle. Postaram się odpowiedzieć jak najszybciej. Faktycznie kwestia świadomości obywateli i obywatelek, jeżeli chodzi o korzystanie ze sztucznej inteligencji, tak jak mówię, to często są chatboty. Mówimy o chatbotach. Myślę, że i w ramach Ministerstwa Cyfryzacji, i w ramach różnych innych ciał jest dużo fajnie działających kampanii społecznych. Taki mój główny priorytet jest związany z tym, żeby mówić do różnych grup odbiorców ich językiem. Myślę, że to jest często największy problem, z którym musimy sobie radzić, że mówimy językiem, który jest albo niezrozumiały, bo jest zbyt techniczny, albo jest urzędowy i nie trafia do różnych grup odbiorców. Musimy być tam, gdzie są nasi odbiorcy. Albo ktoś ogląda telewizję, ktoś słucha radia, ktoś ogląda tak zwanego reelsa, albo coś innego. Musimy być gotowi na to, żeby odpowiadać na te potrzeby i edukować tam, gdzie ta edukacja jest faktycznie potrzebna. Tutaj na pewno planuję – jeszcze nie jestem w stanie powiedzieć, czy kampanię informacyjną – ale właśnie w kontekście tego, żebyśmy wszyscy wiedzieli, co to jest AI i jak ona może na nas wpłynąć, żeby była świadomość i możliwość złożenia skargi wtedy, kiedy jest to potrzebne.

Jeżeli chodzi o zagrożenia i szanse, które są związane ze sztuczną inteligencją, to nie da się tutaj… Pierwsze, co chciałabym powiedzieć, że w informacjach często pojawiają się różne – może nie nazwałabym tego groźbami – ale takie bardzo kategoryczne informacje związane ze sztuczną inteligencją, że jest to najlepsza rzecz na świecie albo najgorsza rzecz na świecie. Chciałabym, żeby komisja była takim miejscem rzetelnej, prostej informacji, na przykład w kontekście różnych incydentów.

Ostatnio był taki głośny incydent na platformie Hugging Face i pojawiły się właśnie różne informacje o tym, że jest to koniec świata albo koniec internetu. Chciałabym, żeby komisja szybko reagowała na takie incydenty i publikowała pewne wyjaśnienia, czyli co jest prawdziwe, a co tak naprawdę jest pewnym przesadzonym stwierdzeniem, które można o tym powiedzieć. Uważam, że zagrożenia, które są, są oczywiście bardzo mocno związane z cyberbezpieczeństwem oraz z dezinformacją, którą można generować za pomocą sztucznej inteligencji. To jest też pierwszy temat, czyli generowanie treści, które mają obowiązek być oznaczane. Jest to jeden z pierwszych tematów, który chcę wpisać do planu kontroli, czyli żeby skontrolować faktycznie, czy treści, które powinny być oznaczane, właśnie tak zwane deepfake’i, zostały poprawnie oznaczone. Tutaj też oczywiście jest element związany z dostawcami, bo dostawcy mają obowiązek tak zwanego watermarkingu, czyli tworzyć oznaczenia, które będą czytelne dla maszyny, niekoniecznie widoczne dla bezpośredniego odbiorcy.

Jeżeli chodzi o szanse, to oczywiście zwiększenie produktywności, ale także rozwój w niszach, gdzie Polska jest najlepsza. Tutaj mówimy na przykład o sektorach takich jak MedTech czy FinTech, gdzie mamy naprawdę wielkich championów. Uważam, że sztuczna inteligencja ma wielki potencjał, żeby szeroko rozwinąć tego typu przedsiębiorstwa, a także inne przedsiębiorstwa.

Oczywiście wyzwania są także związane z tym, żeby myśleć, a nie oddawać swojego myślenia systemom sztucznej inteligencji, co ma też związek z tą edukacją i żeby faktycznie uczyć nie tylko korzystać z AI, ale myśleć krytycznie i weryfikować źródła. To także jest w moich zdecydowanych priorytetach. Tak jak państwo powiedzieli, jest to bardzo szeroki temat. Uważam, że sama komisja ma dużo pracy w kontekście i wyzwań, ale też, miejmy nadzieję, ogromnych szans związanych z tą technologią dla Polski. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo.

Jeśli nie ma więcej pytań od posłów z sali, bo oczywiście jeszcze zostawimy pytania dla strony społecznej, to pozwolicie państwo, że zadam w zasadzie trzy pytania. Otóż, nie wiem, czy państwo wiecie, ale Niemcy postanowiły nie organizować, nie powoływać takiej komisji jak ta nasza, która w tej chwili została powołana. Mam pytanie do pani: Dlaczego… Włosi również, ale nie wiem, dlaczego te uśmiechy ze strony Niemców. To Włosi, Niemcy… Z państwa strony odnośnie do Niemców.

Dlaczego pani zdaniem Polska potrzebuje takiej komisji? Jakby nie było nowych etatów, odrębnego budżetu, dlaczego w pewnym sensie te zadania, które mogłyby wykonywać takie urzędy jak na przykład Urząd Komunikacji Elektronicznej, Urząd Ochrony Danych Osobowych, Urząd Ochrony Konkurencji i Konsumentów czy Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy, ma organizować nowy byt urzędniczy? To jest pierwsze pytanie.

Drugie pytanie brzmi: Jak widzi pani możliwość rozwiązania problemów, które zamierzamy poruszyć w czwartek o 12:30 na komisji, a więc deepfake’ów i generatywnej AI, które to umożliwiają scamy, umożliwiają promocję nieprawdziwych treści związanych przede wszystkim z celebrytami, politykami, aktorami. Wiadomo, w jakim kontekście to jest przedstawiane. Jak pani to widzi, jakie narzędzia możemy wykorzystywać?

Mam jeszcze jedno pytanie. To może bardziej do pani marszałek. Otóż, jakie państwo czy jakie pan marszałek przyjął zasady przedstawiania kandydatów? Z tego, co wiem, to wpłynęła jeszcze co najmniej jedna kandydatura, ale jest też pytanie, czy są jeszcze inne kandydatury oprócz pani Pameli, chociażby kandydatura pana mecenasa Kroplewskiego. Dlaczego ta kandydatura nie jest przedstawiana przez pana marszałka? Dziękuję bardzo.

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Dziękuję, panie przewodniczący. W kontekście komisji różne kraje członkowskie podjęły różną perspektywę. Niektóre utworzyły oddzielne organy, niektóre rozdzieliły te kompetencje pomiędzy już istniejące organy, ale na pewno trzeba powiedzieć, że żadna praca w każdym z tych organów nie może się odbyć bez etatyzacji, czyli dodatkowa etatyzacja na przykład w tamtych konkretnych organach także oczywiście będzie potrzebna. Tu mogę odnieść się do kluczowej rzeczy z ustawy, czyli komisja jako siedmiu członków komisji to jest tak naprawdę organ, ale obsługę dla komisji daje Ministerstwo Cyfryzacji z departamentem, które działa w ramach ministerstwa. Czyli obsługa kadrowa, obsługa finansowa jest także realizowana ze wsparciem ministerstwa. Oczywiście, jeżeli chodzi o, nazwijmy to, oszczędność kosztów, jest sama komisja, czyli zastępca, przewodniczący, dwóch zastępców oraz czterech członków. Nie ma oddzielnego, nazwijmy to, stworzonego dodatkowego urzędu, który obsługuje samą komisję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Przepraszam, dopytam. Kolega również mówił o 70 etatach dla komisji.

Poseł Dariusz Stefaniuk (PiS):
Dla komisji to są 4 mln rocznie, więc to są dodatkowe środki.

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
To są osoby, które będą pracowały w Departamencie Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w ramach ministerstwa.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Ale jako dodatkowe etaty?

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Tak. Ale mówię, że to są etaty merytoryczne. Nie ma tutaj etatów, można powiedzieć, nazwijmy to tak potocznie, obsługowych. Czyli w przypadku takiego nowego urzędu potrzebna byłaby obsługa kadrowa, obsługa finansowa, ale to tutaj jest realizowane ze wsparciem komórek obsługowych Ministerstwa Cyfryzacji.

Jeżeli chodzi o deepfake i generatywną sztuczną inteligencję, to na pewno w kompetencjach komisji jest ten artykuł, o którym już wcześniej wspomniałam, czyli art. 50 z samego AI Act, który mówi o tym, że jest obowiązek oznaczania takich treści. To znaczy, że tak jak mówię, w planie kontroli na samym początku oprócz systemów zakazanych, tych, które już weszły oraz będą wchodzić w życie 2 grudnia 2026 r., chciałabym weryfikować oznaczanie treści. To jest, myślę, kluczowy element, ale także to, co wspomniałam, że chciałabym również stworzyć pewien biuletyn czy informację o tym, co można publikować i co trzeba oznaczać. Myślę, że wszyscy wiemy, że nie musimy oznaczać takich rzeczy, takich treści jak na przykład kot grający na ukulele, chyba że jeszcze koty nauczą się grać na ukulele.

Uważam, że też kwestie algorytmów platformowych i deepfake’ów leżą pomiędzy kompetencjami komisji oraz Urzędu Komunikacji Elektronicznej, więc tak jak mówię, liczę na bardzo bliską współpracę z UKE w kontekście platform i w kontekście właśnie tych możliwości. Należy wspomnieć, że właśnie dostawcy mają obowiązek tego watermarkingu. Co znaczy, że jeżeli dostawcy będą trzymali się tych obowiązków, do czego są zobowiązani prawnie, będzie możliwość zweryfikowania maszynowo, czy dana treść została wygenerowana. To sprawi, że to będzie dużo prostsze, żeby zweryfikować, czy coś jest deepfake’iem, czy nie.

Przepraszam, było jeszcze trzecie pytanie, ale chyba mi umknęło.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Myślę, że to do pani marszałek, tak? Jeśli chodzi o inne kandydatury.

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję.

Wicemarszałek Sejmu Rzeczypospolitej Polskiej Dorota Niedziela:
Dziękuję bardzo. Wie pani, zwierzęta są bardzo sprawne. Nigdy nie można niczego wykluczyć. Jako lekarz weterynarii stwierdzam, że są bardzo sprawne. Możemy się sami zdziwić.

Jeżeli chodzi o pytanie, jestem przedstawicielem prezydium, który przedstawia decyzje marszałka. Jeżeli pan ma pytanie do marszałka, to proszę kierować je do marszałka. Ja przedstawiam kandydaturę, którą wybrał pan marszałek. To jest decyzja marszałka Sejmu.  Więc trudno mi odpowiedzieć na to pytanie. Przedstawiam kandydatkę. Nawet nie wiem, czy był ktoś jeszcze, ale jeżeli pan poseł chce, to mogę zapytać. Wydaje mi się, że to jest pytanie do marszałka Sejmu. To nie była decyzja prezydium, tylko marszałka Sejmu. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję, choć nie czuję się usatysfakcjonowany tą odpowiedzią, ale rozumiem.

Jeszcze tak, pan przewodniczący. Faktycznie, powinniśmy skończyć za osiem minut. Jeszcze jest strona społeczna i pan przewodniczący, więc naprawdę ograniczajmy wypowiedzi.

Panie przewodniczący, bardzo proszę.

Poseł Dariusz Stefaniuk (PiS):
Mam dwa pytania, więcej już nie będę pytał. Do jednego tutaj pani kandydatka na przewodniczącą mnie natchnęła. W uzasadnieniu do ustawy w ocenie skutków regulacji rząd wyliczył pracochłonność zadań komisji – jest coś takiego – na około 34–42 tys. roboczogodzin, co przy 1600 godzinach na etat daje minimalne zapotrzebowanie na 21 do 26 etatów. To jest napisane w Ocenie skutków regulacji (OSR). Każdy z państwa może przeczytać. Tam jest maksymalnie 26 etatów. Następnie podniesiono tę liczbę do 70, tłumacząc, że będzie to wynikało ze złożoności spraw, konieczności pracy zespołowej, zastępowalności itd. Jest pytanie: Czy jako przewodnicząca będzie pani wnioskowała o pełne 70 etatów, nawet jeśli rzeczywista liczba spraw okaże się znacznie mniejsza od prognozowanej? To jest to nasze pytanie o zwiększanie tej etatowości.

Drugie moje pytanie – od razu je zadam, żeby nie tracić czasu. Co pani sądzi na temat sytuacji, którą dzisiaj mamy w Polsce? Głównie, jeżeli chodzi o AI, to są to rozporządzenia bądź dyrektywy Unii Europejskiej, które do nas wpływają i niestety takiej, powiedziałbym, złej procedurze gold platingu, gdzie polski rząd bardzo często dobudowuje dodatkowe przepisy, bardzo często o kilkaset procent zwiększając w ogóle to, co było w samym rozporządzeniu. Czy pani uważa, że to jest dobrze, czy pani uważa, że to jest źle? Czy w przyszłości, gdy będą tego typu ustawy, pani jako przewodnicząca komisji i komisja będziecie protestować, czy będziecie to wspierać? Dziękuję bardzo.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję.

Proszę o odpowiedź.

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Dziękuję bardzo. W kontekście etatyzacji, to tutaj warto wspomnieć, że zadania, które stoją przed komisją dzisiaj, nie są zadaniami, które będą stały przed komisją w 2027 czy 2028 r. Dlatego, że oprócz oczywiście zmiany tego, jak AI się rozwija, wchodzą systemy wysokiego ryzyka, czyli kolejne elementy. Oczywiście w roku 2026 ta etatyzacja jest przewidziana na 30 etatów i jeżeli okaże się, że 30 osób jest w stanie wykonać całą pracę, która jest potrzebna do realizacji zadań, nie widzę tutaj potrzeby, żeby zwiększać tę etatyzację. Jednak kwestia jest taka, ile faktycznie to będzie wniosków. Tak jak mówię, pewne estymacje właśnie zostały wpisane między innymi w OSR. Jest to teraźniejsza analiza tego, jak właśnie w 2027 czy 2028 r. wejdzie kwestia systemów wysokiego ryzyka, dodatkowych elementów, które się pojawiają w ramach AI Act. Uważam,  że 70 etatów to nie będzie dużo osób do analizy skarg, prowadzenia piaskownic, analizy dokumentów strategicznych oraz wykonywania wszystkich zadań, które są wymagane od komisji.

W kontekście tak zwanego gold platingu ważne, żeby powiedzieć, że ustawa o systemach sztucznej inteligencji nie wprowadza żadnych dodatkowych obowiązków. Nie ma tutaj tego elementu, a nawet wprowadza ułatwienia, których nie ma w AI Act. Jednym z takich elementów jest tak zwane ostrzeżenie, czyli w ramach postępowania regulator może zgłosić ostrzeżenie i umożliwić dostosowanie się do ostrzeżenia, potencjalnie widząc naruszenie. To znaczy, że jest wiele miejsc, gdzie w ramach ustawy o sztucznej inteligencji, w ramach procedury obsługi na przykład skarg albo obsługi postępowań, jest miejsce dla przedsiębiorcy, który potencjalnie naruszył  AI Act, żeby dyskutować, jest opcja układu. Jest wiele takich możliwości, które tak naprawdę dodają do AI Act, nie w kontekście regulacyjnym, tylko dają pewne uproszczenia albo ułatwienia, które mogą skutkować tym, że celem komisji nie jest karanie, tylko jest doprowadzenie do zgodności. Więc uważam, że właśnie takie działania premiujące dążenie do zgodności, a nie premiujące dodawanie dodatkowych obowiązków, są tutaj kluczowe i tak jak widzimy, są obecne w tej ustawie.

Poseł Dariusz Stefaniuk (PiS):
Pani przewodnicząca, ale mi tu nie chodzi o tę ustawę, tylko chodzi mi generalnie o ustawy, które będą regulowały tę sztuczną inteligencję. Mamy świadomość, że to będzie postępowało. Czy pani jest za tym, żeby stosować gold plating i on jest uzasadniony w jakichś wypadkach, czy uważa pani, że generalnie nie powinniśmy zwiększać tej biurokracji, tego gold platingu?

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Uważam, że absolutnie nie należy zwiększać biurokracji, ale uważam, że istnieją miejsca, gdzie można powiedzieć, że tak zwany gold plating czy dodanie czegoś może być kluczowe. Nie neguję tego, że dodanie pewnych elementów do jakiejś konkretnej regulacji może być kluczowe na łamach prawa polskiego. Też pamiętajmy o tym, że na przykład kwestie związane z rzeczami, których Unia Europejska nie reguluje, można także regulować tutaj na rynku krajowym. To tutaj, uważam, że… Na pewno jestem przeciwna zwiększaniu biurokracji, jestem za jak największymi uproszczeniami, które będą dążyły do osiągnięcia zgodności. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Bardzo dziękuję.

Pan poseł Łukaszewicz, proszę.

Poseł Sebastian Łukaszewicz (PiS):
Dziękuję bardzo, panie przewodniczący. Pani marszałek, mam pytanie do pani à propos tej dyskusji, która się toczy w przestrzeni, również w Polsce, à propos spowolnienia rozwoju zaawansowanej sztucznej inteligencji. Słyszymy te apele, które wygłaszają duzi gracze tego świata. Jakie jest pani zdanie na ten temat właśnie spowolnienia rozwoju zaawansowanej sztucznej inteligencji?

Mam też pytanie à propos tego, czy nie uważa pani, że powinna pani posiadać poświadczenie dostępu do informacji niejawnych, z tego względu, że będzie pani oceniała ryzyka związane z wykorzystywaniem sztucznej inteligencji w cyberbezpieczeństwie, w armii, w wojsku polskim, w służbach czy ochronie infrastruktury krytycznej. Czy nie powinna pani posiadać takiego poświadczenia lub o nie wystąpić? To są dwa pierwsze pytania.

Następne pytanie dotyczy tego, jak przebiegała pani droga od 2023 r. W którym momencie pani się dowiedziała, że będzie pani zgłoszona na stanowisko przewodniczącej komisji? Co pani zrobi w przypadku, kiedy zadzwoni do pani telefon z Ministerstwa Cyfryzacji i będzie chciał zaingerować w któreś konkretne postępowanie? Dziękuję bardzo.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo.

To są wszystkie pytania, tak? Bardzo proszę.

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Dziękuję bardzo. Jeżeli chodzi o poświadczenie bezpieczeństwa, to od razu mówię, że posiadam poświadczenie bezpieczeństwa. To jest pierwsza informacja, której mogę udzielić.

Druga kwestia związana z opóźnieniem rozwoju – myślę, że to jest bardzo długa i bardzo ciekawa dyskusja. To w ogóle nie jest pierwszy moment w rozwoju AI, gdy pojawiają się propozycje listów od największych twórców sztucznej inteligencji, żeby wprowadzić takie opóźnienia. Przypomnę jedną ciekawą kwestię, jak parę lat temu pewien duży przedsiębiorca powiedział, że należy zrobić duży list, że trzeba opóźnić AI, po czym parę miesięcy później otworzył swoją własną firmę, która tworzy sztuczną inteligencję, więc należy absolutnie uważać na to, że to, co mówią szefowie firm. Może to być po prostu używane jako chwyt marketingowy albo jako pewna walka z konkurencją.

Natomiast nie uważam, że nie jest to niebezpieczne, czyli na przykład autonomiczni agenci AI. Nie jest to temat, który powinien być mocno obserwowany z zakresu cyberbezpieczeństwa albo właśnie nie jest potencjalnie istotny, żeby zabezpieczać naszą infrastrukturę w kontekście tych agentów. Chciałabym powiedzieć, że moim zdaniem opóźnienie rozwoju AI jest niemożliwe do osiągnięcia. Z drugiej strony uważam, że obowiązkiem komisji i różnych organów jest jak najczęstsze i jak największe budowanie kompetencji w tym, żeby ochronić infrastrukturę przed takimi rzeczami, żeby oglądać, jak wygląda rynek i jakie systemy się pojawiają, oraz to, żeby budować na naszym polskim rynku sztuczną inteligencję godną zaufania, która nie tylko będzie na przykład tworzyć dla nas wiersze, ale także będzie nas chronić, czyli tę sztuczną inteligencję sfokusowaną na zadania cyberbezpieczeństwa. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo.

Czy jeszcze ktoś z państwa? Jeszcze pan poseł Uściński, tak? To bardzo proszę. Szanowni państwo, mamy 16.30, a jeszcze jest strona społeczna i pan przewodniczący Napieralski.

Poseł Piotr Uściński (RozwojPlus):
Króciutkie pytanie. Mam do pani takie pytanie, taki przykład, co sobie wyobrażam, że może stanowić problem i jak pani uważa, że to powinno być rozwiązane. Mamy przepisy, które zabraniają dyskryminacji z różnych przyczyn przy naborze do pracy. My te przepisy stanowimy, zdając sobie sprawę z tego, że jak ta rekrutacja jest dokonywana przez ludzi, to ludzie sobie poradzą w tych momentach, kiedy te przepisy nie do końca da się wprost zastosować. Powiedzmy, że szukamy pracownika do rozściełania asfaltu na drogach albo szukamy opieki do przedszkola. Wtedy może się okazać, że sztuczna inteligencja, która sama wyciąga wnioski, sama szuka korelacji, ta sztuczna inteligencja może w pewnym momencie zacząć preferować do rozściełania asfaltu mężczyzn, a do opieki w przedszkolu kobiety. To jest naturalny wniosek, który taka sztuczna inteligencja wyciągnie, bo wszyscy go wyciągamy. Wiemy, że są przepisy, które są w tym zakresie nieżyciowe, ale zdajemy sobie sprawę, że dyrektor przedszkola czy właściciel firmy, która rozścieła asfalt, sobie z tym poradzi i jakoś zatrudni tych pracowników tak, żeby to miało ręce i nogi. Natomiast jest pytanie, jak sztuczna inteligencja powinna się zachowywać. Jeżeli sztuczna inteligencja dojdzie do takich wniosków, że będzie chciała bardziej preferować mężczyzn do danej pracy albo kobiety, to co powinno się wydarzyć? Jak to pani zdaniem powinno być uregulowane?

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Dziękuję. Chciałabym poruszyć dwie kwestie. Po pierwsze, systemy używane do rekrutacji są absolutnie legalne, ale są systemami wysokiego ryzyka, czyli są specjalne obostrzenia, które są związane z wprowadzaniem takich systemów. Czyli na przykład jest tam element związany z transparentnością. Ważne jest to, żeby taki system AI, był w stanie powiedzieć, na bazie których danych wyciągnął jaki wniosek. To jest oczywiście później przedstawiane rekruterowi, który może właśnie wybrać, że wyciągnął taki wniosek z takich informacji, ale pamiętajmy o jednym. Dlaczego chcemy zatrudniać mężczyzn do przerzucania asfaltu, a nie kobiety? Często na przykład dlatego, że są silniejsi. Więc tak naprawdę daną, którą powinniśmy mieć, nie jest to, czy to jest mężczyzna, czy kobieta, tylko kto jak jest silny. Musimy też pamiętać, i to jest zadanie dla inżynierów, którzy tworzą takie systemy AI, że taka dana jak siła jest obiektywna względem płci. Oczywiście więcej mężczyzn jest silnych niż kobiety, ale inżynier sztucznej inteligencji powinien użyć danej związanej z siłą, a nie danej związaną z płcią. Więc tutaj jest bardzo kluczowe, żeby powiedzieć, że są te korelacje, na przykład między siłą a płcią, ale nie są one definiujące.  Taki model powinien mieć dane, które umożliwiają mu podjąć obiektywną decyzję, nawet jeżeli istnieje korelacja między tym, że to mężczyźni są zazwyczaj silniejsi niż kobiety. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Bardzo dziękuję.

Proszę stronę społeczną. Kto z państwa poza posłami… Pani chciała zabrać głos, zgłaszała się najpierw. Bardzo proszę.

Koordynatorka ds. sztucznej inteligencji Izby Gospodarki Elektronicznej Maria Dymitruk:
Dziękuję bardzo. Maria Dymitruk, Izba Gospodarki Elektronicznej.

Pozwolę sobie zadać szybkie cztery pytania. Pierwsze to: Jakie było pani osobiste zaangażowanie w procesy legislacyjne dwóch kluczowych aktów prawnych z tego zakresu, czyli Aktu w sprawie sztucznej inteligencji i samej ustawy o systemach sztucznej inteligencji?

Drugie pytanie: Jakie już… bo usłyszeliśmy dużo o samym kierunku, ale słabo usłyszeliśmy o konkretnych mechanizmach, które pani proponuje na zarządzenie niezależnością – pani niezależnością jako potencjalnego piastuna organu regulacyjnego, ale też tych ludzi, którzy obecnie będą zatrudniani do organu, a których to gwarantem niezależności jest nadal pani jako potencjalna przewodnicząca. Z tym jest tak naprawdę związane, może pośrednio, też to zagadnienie i moje trzecie pytanie dotyczące jednak tych zasobów ludzkich, które będą może 70-osobowe, może 30-osobowe. To się jeszcze okaże, ale na pewno na którymś etapie okaże się, że są ograniczone, szczególnie przy tutaj pani aktywnych deklaracjach odnośnie do działań budowania świadomości, edukacji, które wykraczają poza taką typową ścieżkę bycia organem nadzoru i działalności kontrolnej. Więc jaki tutaj będzie jeden plan priorytetów, ale też balans pomiędzy tym, że trzeba być organem nadzorczym a tym organem, który chce wspierać innowacyjność? Jest jakby kontynuacja tego pytania. Jakie, nie wiem, trzy, cztery mierzalne wskaźniki Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji mogłaby osiągnąć za pięć lat i pani byłaby z nich dumna, przedstawiając to w sprawozdaniu? Dziękuję bardzo.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo.

Proszę o odpowiedź.

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Dziękuję. Dołączyłam do Ministerstwa Cyfryzacji na ostatnim etapie negocjowania Aktu w sprawie sztucznej inteligencji w Komisji Europejskiej, więc byłam tak naprawdę związana tylko z tymi ostatnimi elementami związanymi z bardzo końcowymi instrukcjami, które były dyskutowane z przedstawicielami w Brukseli. Byłam aktywnie zaangażowana, jeżeli chodzi o tworzenie się później tych jednostek wspomnianych przeze mnie: Radzie do spraw AI i tworzącym się AI Office. W ramach tej rady są różne podgrupy, które właśnie działają, mówią na przykład o wytycznych, które się tworzą. Jako państwo mogliśmy zgłaszać pewne uwagi do tych wytycznych i mówić na przykład, że coś jest niejasne albo czegoś brakuje. Tutaj jedno to jest sam akt. Tak jak mówię, byłam obecna w ministerstwie na samym końcu negocjacji tego aktu, więc nie mogę tu powiedzieć, że byłam zaangażowana w te prace.

Jeżeli chodzi o ustawę o systemach, ten akt był tworzony w ramach mojego zespołu, czyli ustawa o systemach sztucznej inteligencji była tworzona w zespole, który ja nadzorowałam przez pierwszą część tworzenia tej ustawy. Od kwietnia 2026 r. nie jestem już częścią tego departamentu, więc nie jest to pełen nadzór nad pełnym procesem ustawowym. Oczywiście byłam zaangażowana w ten pierwszy etap.

Zarządzanie niezależnością. Niezależność pracowników jest opisana w ustawie. Jest to opisane, że pracownicy wykonują pracę na rzecz przewodniczącego i komisji, nie na rzecz ministra i dyrektora generalnego ministerstwa. To jest jedna kluczowa rzecz oczywiście w kontekście zadań komisji. Bardzo mi się podobał pomysł, który padł dzisiaj na przesłuchaniu społecznym, związany z otwartym kalendarzem, czyli musi być jasne z kim przewodniczący i zastępcy przewodniczącego spotykają się i jak to wygląda. Oczywiście mówię tu zarówno o organach publicznych, jak i o jednostkach prywatnych. Oczywiście jest kwestia, jak wdrożyć to technicznie. Potencjalnie kalendarz na BIP nie będzie za bardzo dobrze czytelny, ale uważam, że jest to bardzo ciekawy pomysł, żeby faktycznie zwiększyć tę transparentność.

Jeżeli chodzi o zasoby ludzkie, to oczywiście wszystko, jak to się brzydko mówi, wyjdzie w praniu. Oczywiście te estymacje były robione jakiś czas temu i jest to taka perspektywa, że w tym roku, tak jak już wspomnieliśmy, jest to 30 osób, w następnych latach jest to osób 70. Jeżeli tych zadań będzie więcej i tych osób faktycznie będzie potrzeba więcej, to oczywiście jest to miejsce, gdzie jako przewodniczący można zgłosić do Sejmu tę potrzebę ewentualnie zwiększenia zespołu. To oczywiście wymagałoby zmiany w samej kwestii ustawy.

Jeżeli chodzi o trzy, cztery mierniki, odniosę się trochę do wcześniejszego pytania pana posła. Myślę, że liczba przedsiębiorców biorących udział w piaskownicy regulacyjnej jest to dla mnie bardzo ważny miernik i to, żeby one faktycznie wychodziły na rynek. Drugi miernik byłby właśnie związany z jakimś poziomem takiej ogólnej świadomości związanej ze sztuczną inteligencją. Są też obsłużone skargi, bo to też jest kluczowe, czyli te obsłużone skargi, które faktycznie nie były na przykład wygenerowane albo nieprawdziwe, tylko te, które faktycznie się odnosiły i czas obsłużenia tych skarg. Myślę, że to też jest bardzo ważny element.

Wspomnę jeszcze o jednej rzeczy, czyli o postępowaniu w trybie ekspresowym, tak można to nazwać. Czyli jeżeli dane systemy mogą zagrażać bezpieczeństwu albo zagrażać życiu, to komisja także ma możliwość uruchomić takie ekspresowe postępowanie, które wtedy trwa siedem dni. Chciałabym, żeby tych postępowań było jak najmniej, ale oczywiście jeżeli będzie taki obowiązek, to takie postępowanie też będę uruchamiać. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję.

Pan poseł Łukaszewicz w ramach dopytania, tak?

Poseł Sebastian Łukaszewicz (PiS):
Pani przewodnicząca, w uzupełnieniu, bo nie odpowiedziała pani na jedno pytanie. Kto pani zaproponował kandydowanie na to stanowisko? Jakby pani mogła podać funkcję, imię, nazwisko, to będę wdzięczny.

Kandydatka na stanowisko przewodniczącego KRiBSI Pamela Krzypkowska:
Dziękuję. Kandydaturę na to stanowisko i pierwsze dyskusje, które miałam w ogóle o tym stanowisku, miałam z premierem Krzysztofem Gawkowskim.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo.

Pan przewodniczący Napieralski.

Poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie przewodniczący. Chciałem powiedzieć na samym początku, że technologia, o której dzisiaj rozmawiamy, a szczególnie instytucja, którą będzie pani tak naprawdę przewodniczyć i będzie się pani opiekowała, jest dzisiaj kwestią naprawdę istotną i najważniejszą. Musimy sobie uzmysłowić to, że każdy kraj, który będzie rozwijał bezpiecznie tę technologię, będzie stawał się liderem na rynku światowym. Ta technologia niesie za sobą absolutną możliwość rozwoju. Może dawać nam duże szanse, szczególnie w zdrowiu, w nauce, też w innych dziedzinach naszego codziennego życia. Niesie też za sobą bardzo wiele niebezpieczeństw. To będzie tak naprawdę też w pani kompetencjach. Bardzo się cieszę, że to jest pani i gratuluję tego.  Pani dyrektor, trochę zazdroszczę, bo tak naprawdę tworzy pani dzisiaj historię. Będzie pani pierwszą przewodniczącą tak ważnego ciała, istotnego miejsca tak naprawdę dyskusji i kontroli sztucznej inteligencji, ale też myślę, że wykuwania nowych doświadczeń.

Uważam, że środki, które są przekazane na radę… Chociaż dzisiaj były takie dyskusje tutaj na tej komisji, są być może za duże albo zbyt olbrzymie, uważam, że powinniśmy odejść od takiego oszczędzania pieniędzy, jeżeli chodzi o ważne instytucje państwowe, szczególnie jeżeli chodzi o nowoczesne technologie. To znaczy, przestańmy być… Jesteśmy 20. gospodarką na świecie, szczycimy się tym. W takich miejscach jak tu powinny właśnie znaleźć się pieniądze i powinny być duże pieniądze, bo będzie pani musiała i pani współpracownicy zderzyć się tak naprawdę z potężnymi firmami, gdzie trzeba tak naprawdę być silnym i też trzeba być niezależnym. Powiedzmy sobie szczerze, pieniądze i dobrze opłacani eksperci dają poczucie i dają siłę w tej niezależności. Myślę, że to jest kolejny element, który powinien być dyskutowany na naszej komisji, dotyczący takiego właśnie funduszu.

Pani dyrektor – mam nadzieję, że za chwilę „pani przewodnicząca” – cieszę się bardzo z pani drogi zawodowej, ale też z wykształcenia, że była pani w Microsofcie czy w Samsungu. Uważam, że też musimy zrzucić jakiś dziwny mit, który funkcjonuje w naszym kraju, że ktoś, kto, nie wiem, pracował w jakiejś firmie albo miał kontakt, czy współpracował z jakimiś firmami prywatnymi, jest nagle zły. Nie. To znaczy, jest to doświadczenie, które może być unikalne w tym, co będzie pani robiła, ponieważ będzie pani wiedziała również tych wielkich i tak naprawdę znała to, co oni robili. Oni bardziej powinni się bać, a nie my, bo być może to pani ma tę większą wiedzę i będzie pani mogła prowadzić bardzo brutalny dialog z nimi, jeżeli by chcieli złamać prawo albo naciągać regulacje. Myślę, że to doświadczenie, jest bardzo istotne i bardzo ważne i tego pani gratuluję.

Bardzo dużą ciekawostką, którą wyczytałem z CV, i muszę powiedzieć, że bardzo mnie to ucieszyło, jest to, że jest pani również po licencjacie z filozofii. Nie ma nic dzisiaj ważniejszego przy rozwoju sztucznej inteligencji, a tak naprawdę również mówiliśmy o tym na posiedzeniu podkomisji do spraw sztucznej inteligencji, że przecież moralność i etyka, która dzisiaj powinna zafunkcjonować w systemach sztucznej inteligencji, szczególnie jeżeli chodzi o nie tylko o media społecznościowe, lecz także w zdrowiu i w nauce, jest dzisiaj bardzo istotna. Kwestia moralności, etyki będzie bardzo istotna i bardzo ważna. Uważam, że ten element pani wykształcenia dzisiaj rozbija bank, jeżeli mogę powiedzieć tak młodzieżowo, więc bardzo serdecznie za to dziękuję.

Chciałem powiedzieć, że takie miejsce jest nam potrzebne. Jeżeli nawet popatrzymy na naszą dyskusję, którą prowadziliśmy nie tylko na komisji cyfryzacji, ale też na podkomisji do spraw sztucznej inteligencji, to powtórzę to jeszcze raz. Technologia niesie za sobą bardzo dużo pozytywnych rozwiązań, ale również dużo zagrożeń. Nie chcę wracać do filmu „Terminator”, który kiedyś pojawiał się nieraz w dyskusjach i pokazywał tę sztuczną inteligencję jako coś złego, jako coś, co nas będzie chciało unicestwić, ale jeżeli nie będziemy kontrolować sztucznej inteligencji, jeżeli nie będziemy… Tak naprawdę nie okiełznamy tego rozwoju technologii, to zamiast służyć nam, ludziom, to ona może służyć po prostu przeciwko nam. To jest bardzo niebezpieczne.  To, że pani się tym zajmie i to pani urzędowe doświadczenie, ale też to biznesowe, uważam za bardzo dobre. Więc gratuluję. Cieszę się bardzo, że to pani. Cieszę się bardzo, że ma pani tak dobre wykształcenie, takie doświadczenie. Będziemy trzymać kciuki, będziemy z panią współpracować. Mam nadzieję, że też pani kandydatura będzie w parlamencie bardziej ponad podziałami niż właśnie jakimś elementem walki politycznej, bo absolutnie widać, że nawet patrząc na pani pracę w ministerstwie, tutaj nie ma polityki. To mnie bardzo, bardzo cieszy, bo zaczynała pani pracę u pana ministra Cieszyńskiego, pracuje pani u pana premiera Gawkowskiego i to pokazuje tak naprawdę, że dobrzy ludzie z dobrymi kwalifikacjami, z dobrym doświadczeniem tak naprawdę mogą pracować w ministerstwie, bez względu na to, jak się zmienia władza w państwie polskim. Myślę, że jest to dzisiaj najlepszy argument dla nas wszystkich na tej sali, żeby podnieść rękę i zagłosować za panią. Bardzo dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję, panie przewodniczący.

Pan prezes Kanownik jako ostatni głos, szanowni państwo.

Prezes zarządu Związku Cyfrowa Polska Michał Kanownik:
Bardzo dziękuję. Panie przewodniczący, powiem bardzo krótko. Już widzę kolejkę tam za drzwiami. Po pierwsze, gratuluję panu marszałkowi wyboru kandydatki. Kandydatce dziękuję za podjęcie się tego wyzwania, bo jest to duże wyzwanie. Trochę w nawiązaniu… Oczywiście życzę, żeby zyskała pani poparcie ponad podziałami partyjnymi w parlamencie, to, co pan poseł Napieralski właśnie wyartykułował.

Natomiast trochę w nawiązaniu do tego, co już dzisiaj rano było na wysłuchaniu publicznym, nie chcąc powtarzać się i nie jest to w ramach pytań, ale bardziej zwracania uwagi na dwa kluczowe wyzwania, które stoją przed, mam nadzieję, że panią przewodniczącą. Oczywiście pamiętajmy, że komisja z jednej strony nadzoruje rynek, jest organem kontrolnym i to jest bardzo ważne, odpowiedzialne zadanie komisji, ale z drugiej strony, z punktu widzenia rynku biznesu, bardzo ważny jest drugi człon tej komisji, czyli rozwój rynku. Jest to kluczowy element, na który chciałbym zwrócić uwagę i pani kandydatce, i wszystkim państwu, żebyśmy nie zapominali o tej równowadze.

Dwie kwestie, które wybrzmiały na wysłaniu publicznym dzisiaj rano, czyli po pierwsze, to jest kluczowa współpraca między komisją a innymi organami nadzoru rynku, zarówno w zakresie cyberbezpieczeństwa, ochrony danych osobowych, ale również choćby nadzoru finansowego. To jest bardzo kluczowe, żeby ta współpraca układała się zgodnie i była efektywna.

Drugi element, który chciałbym absolutnie podkreślić, jest to kluczowe znaczenie komisji i pani kandydatki. To jest misja zwiększania absorpcji nowych technologii, w szczególności AI w polskich przedsiębiorstwach, szczególnie w małych, średnich firmach. Tutaj jest kolosalne znaczenie piaskownic regulacyjnych, za które należy podziękować rządowi. To narzędzie wpisano do ustawy wdrażającej AI Act. Mam nadzieję, że rolą komisji nie będzie ograniczenie się tylko do piaskownic, tylko właśnie szerokie działanie w zakresie zwiększania absorpcji świadomości. To jest to, co dzisiaj wybrzmiało na wysłuchaniu – i bardzo dobrze, dziękuję za to – czyli podkreślanie, po co MŚP mają implementować sztuczną inteligencję i jakie są tego korzyści. To często wybrzmiewa w dyskusji, także w Europie, że małym firmom jest ciężko przedstawić benefity, korzyści z wdrożenia. To jest ogromne wyzwanie, żeby nieść ten kaganek oświaty, po co i jak mądrze i efektywnie wdrażać technologię w MŚP, które pani również wzięła na swoje barki. Na pewno w tym zakresie rynek będzie pani gorąco kibicował i pomagał i jest do dyspozycji. Natomiast liczę właśnie na zachowanie balansu między nadzorem a rozwojem. Dziękuję bardzo.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Bardzo dziękuję.

Czy pani chciałaby się odnieść do tej wypowiedzi? Nie ma potrzeby, tak? Rozumiem. Szanowni państwo, bardzo serdecznie… Słucham? Nie, pani rezygnuje.

Bardzo serdecznie dziękuję. Zamykam dyskusję.

Przechodzimy do zaopiniowania wniosku pana marszałka w sprawie powołania na stanowisko przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji pani Pameli  Krzypkowskiej. Przechodzimy do głosowania. Można tak to ująć, jest też taki wniosek,  więc proszę przygotować swoje karty. Wszyscy są przygotowani? Tak. Kto z państwa jest za kandydaturą pani Pameli Krzypkowskiej? Kto jest przeciw? I kto się wstrzymał? Bardzo dziękuję.

Proszę o wyświetlenie wyników. Głosowało 13 posłów. Za – 8, nikt nie był przeciw, wstrzymało się 5 posłów. Stwierdzam, że wniosek uzyskał pozytywną opinię Komisji. Bardzo serdecznie gratuluję pani przewodniczącej.

Pozostał nam jeszcze wybór posła upoważnionego do przestawienia opinii Komisji na posiedzeniu Sejmu. Zgłaszam kandydaturę pana posła Grzegorza Napieralskiego. Czy pan poseł wyraża zgodę?

Poseł Grzegorz Napieralski (KO):
Tak.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję.

Czy ktoś z pań i panów posłów jest przeciw tej kandydaturze? Słyszałem, że nie. Bardzo dziękuję. Pan poseł został upoważniony przez Komisję.

Na tym wyczerpaliśmy porządek dzienny posiedzenia. Bardzo serdecznie państwu dziękuję. Zamykam dyskusję i zamykam posiedzenie. Zapraszam przedstawicieli Komisji na kolejne posiedzenie.