Podkomisja stała do spraw sztucznej inteligencji i przejrzystości algorytmów, obradująca pod przewodnictwem posła Grzegorza Napieralskiego (KO), przewodniczącego podkomisji, zrealizowała następujący porządek dzienny:

– sztuczna inteligencja w Kancelarii Sejmu – prace nad wdrożeniem strategii i zasadami wykorzystania AI;

– bezpieczne wdrożenie sztucznej inteligencji w administracji publicznej – wyzwania i gotowe recepty.

W posiedzeniu udział wzięli: Michał Gramatyka sekretarz stanu w Ministerstwie Cyfryzacji wraz ze współpracownikami, Agnieszka Wilczek dyrektor Departamentu Transformacji Cyfrowej Ministerstwa Finansów wraz ze współpracownikami, Joanna Kociankowska-Bożek dyrektor Biura Transformacji Cyfrowej Ministerstwa Spraw Zagranicznych, Piotr Dyjak dyrektor Biura Dyrektora Generalnego Ministerstwa Rolnictwa i Rozwoju Wsi wraz ze współpracownikami, Dariusz Wiater dyrektor Departamentu Informatyki Ministerstwa Rodziny, Pracy i Polityki Społecznej, Justyna Duszyńska-Cichy zastępca dyrektora Departamentu Informatyzacji i Cyberbezpieczeństwa Ministerstwa Aktywów Państwowych, Michał Goszczyński zastępca dyrektora Departamentu Innowacji i Rozwoju Ministerstwa Nauki i Szkolnictwa Wyższego, Marta Uzdowska-Lis naczelnik Wydziału Analityczno-Informacyjnego Departamentu Bezpieczeństwa i Zarządzania Kryzysowego Ministerstwa Kultury i Dziedzictwa Narodowego wraz ze współpracownikami, Adam Durka główny specjalista w Biurze Polityki Bezpieczeństwa Ministerstwa Funduszy i Polityki Regionalnej, Adam Całun główny specjalista w Departamencie Informatyzacji Ministerstwa Klimatu i Środowiska, Bartosz Jakubowski główny specjalista w Departamencie Prawa Karnego Ministerstwa Sprawiedliwości wraz ze współpracownikami, Anita Noskowska-Piątkowska szefowa Służby Cywilnej, Jacek Cichocki szef Kancelarii Sejmu wraz ze współpracownikami, Jacek Siemiończyk zastępca dyrektora Centralnego Ośrodka Informatyki Ministerstwa Cyfryzacji, Radosław Nielek dyrektor Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego wraz ze współpracownikami, Robert Janik ekspert w Departamencie Bezpieczeństwa Urzędu Komunikacji Elektronicznej, Zuzanna Morawska-Zakroczymska  naczelnik Departamentu Ochrony Zbiorowych Interesów Urzędu Ochrony Konkurencji i Konsumentów, Tomasz Ochmiński zastępca dyrektora Departamentu Prawa i Nowych Technologii Urzędu Ochrony Danych Osobowych, Marek Chochowski zastępca dyrektora Zespołu Prawa Konstytucyjnego, Międzynarodowego i Europejskiego Biura Rzecznika Praw Obywatelskich, Marcin Łukasiewicz dyrektor Departamentu Zarządzania Rozwojem Obszaru Zdrowia Publicznego Centrum e-Zdrowia, Paweł Banaś radca prezesa Najwyższej Izby Kontroli wraz ze współpracownikami, Ignacy Święcicki kierownik Zespołu Gospodarki Cyfrowej Polskiego Instytutu Ekonomicznego, Jarosław Protasiewicz dyrektor Ośrodka Przetwarzania Informacji – Państwowego Instytutu Badawczego, Maciej Lewandowski wiceprzewodniczący Komitetu Przełomowych Technologii Polskiej Izby Informatyki i Telekomunikacji, Weronika Bajbak ekspert Konfederacji Lewiatan, Marcin Paprzycki członek prezydium zarządu Polskiego Towarzystwa Informatycznego wraz ze współpracownikami, Jacek Mańdziuk kierownik Zakładu Sztucznej Inteligencji i Metod Obliczeniowych na Politechnice Warszawskiej wraz ze współpracownikami, Konrad Maj kierownik Centrum HumanTech na Uniwersytecie SWPS, Dorota Szymborska adiunkt na Uniwersytecie WSB Merito, Michał Zemełka analityk danych w Sieci Obywatelskiej Watchdog Polska, Mateusz Wrotny prawnik Fundacji Panoptykon, Joanna Karczewska członek Stowarzyszenia Absolwentów Elektroniki na Politechnice Warszawskiej  @ELKAPW, prof. ucz. dr hab. Marta Grabowska wykładowca w Centrum Europejskim Uniwersytetu Warszawskiego, Łukasz Borowiecki CEO 10 Senses, Anna Biesialska radca prawny w Logicise,  Rafał Kruszyński radca prawny w Rafał Jerzy Kruszyński Kancelaria Radcy Prawnego, Joachim Foltys dyrektor Klinicznego Szpitala Psychiatrycznego SPZOZ w Rybniku.

W posiedzeniu udział wzięli pracownicy Kancelarii Sejmu: Anna Osińska wicedyrektor Biura Komisji Sejmowych oraz Jakub Konecki i Magdalena Krzymowska – z sekretariatu Komisji w Biurze Komisji Sejmowych.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dzień dobry. Witam państwa bardzo serdecznie. Dziękuję za przybycie, że jesteście dzisiaj z nami.

Otwieram posiedzenie podkomisji stałej do spraw sztucznej inteligencji i przejrzystości algorytmów. Stwierdzam kworum.

Witam posłów – członków podkomisji oraz liczne grono ekspertów w dziedzinie sztucznej inteligencji: przedstawicieli administracji publicznej, świata nauki oraz praktyków wykorzystujących sztuczną inteligencję do swojej działalności zawodowej.

Na posiedzeniu podkomisji dyskutowaliśmy o tym, jak dla dobra i bezpieczeństwa ludzi wykorzystać sztuczną inteligencję w ochronie zdrowia, w wymiarze sprawiedliwości, w Policji. Debatowaliśmy o etycznych aspektach wykorzystania narzędzi AI, poruszaliśmy kwestie bezpieczeństwa dzieci i młodzieży w kontakcie z algorytmami. Razem z ekspertami zastanawialiśmy się nad ochroną danych osobowych i danych wrażliwych, i z wyzwaniami potrzebnymi i potrzebami uczenia maszynowego i rozwoju sztucznej inteligencji. Przysłuchiwaliśmy się wnioskom akademików na temat szans i zagrożeń, jakie niesie za sobą sztuczna inteligencja w nauce i edukacji. Dzisiaj skoncentrujemy się na wykorzystaniu sztucznej inteligencji w administracji publicznej. Zaczniemy od miejsca, tego naszego miejsca pracy i urzędu, który wspiera nas w wypełnianiu obowiązków poselskich – Kancelarii Sejmu.

W tym miejscu witam bardzo serdecznie pana ministra Cichockiego, który tak naprawdę jest inspiratorem tej podkomisji. To pan minister powiedział o tym, co dzieje się w Kancelarii Sejmu, co dzieje się tutaj na zapleczu, o czym my posłowie jeszcze nie wiedzieliśmy, ale dzisiaj się dowiemy. Myślę, że warto się tym pochwalić, warto o tym powiedzieć. Witam również bardzo serdecznie pana ministra Michała Gramatykę, sekretarza stanu w Ministerstwie Cyfryzacji, który zawsze nas wspiera jako minister, ale był także wieloletnim członkiem Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii. Bardzo dziękuję panowie, że jesteście dzisiaj z nami.

Porządek dzisiejszego posiedzenia przewiduje dwa punkty: o sztucznej inteligencji w Kancelarii Sejmu, pracach nad wdrożeniem strategii oraz zasadach wykorzystania AI będzie mówił pan minister Jacek Cichocki, szef Kancelarii Sejmu. Pan minister przekaże nam sprawy, które się toczą w Kancelarii Sejmu w segmencie wykorzystania sztucznej inteligencji. Witam serdecznie panią dr Marzenę Laskowską, dyrektor Biura Ekspertyz i Oceny Skutków Regulacji Kancelarii Sejmu, która zapozna nas ze szczegółami aktywności Kancelarii Sejmu w tym obszarze.

W drugiej części wysłuchamy informacji na temat bezpiecznego wdrożenia sztucznej inteligencji w administracji publicznej – wyzwań i gotowych recept. O tym będzie mówił dyrektor Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w Naukowej i Akademickiej Sieci Komputerowej NASK–BIP prof. dr hab. inż. Szymon Łukasik. Przy okazji witam serdecznie dyrektora NASK pana Radosława Nielka wraz ze współpracownikami, którzy jak zawsze są gotowi służyć swoją wiedzą i doświadczeniem w naszej debacie.

Czy są uwagi do porządku obrad? Nie widzę. Przystępujemy do realizacji.

Proponuję, abyśmy najpierw wysłuchali obu informacji, a następnie przeprowadzili łączną dyskusję nad obydwoma punktami porządku obrad. Jeśli nie usłyszę sprzeciwu, uznam, że podkomisja przyjęła mój wniosek. Sprzeciwu nie słyszę.

Panie ministrze, zatem oddaję panu głos. Bardzo proszę.

Szef Kancelarii Sejmu Jacek Cichocki:
Serdecznie państwa witamy razem z panią dyrektor Laskowską. Pani dyrektor jest szefową Biura Ekspertyz i Oceny Skutków Regulacji i, powiedziałbym, liderem procesu refleksji i działań związanych ze sztuczną inteligencją na takim poziomie strategicznym w Kancelarii.

Bardzo dziękujemy, panie przewodniczący, pan tak skromnie powiedział, że ja jestem inspiratorem. Ja bym to odwrócił, bo rzeczywiście miesiąc temu mieliśmy okazję rozmawiać z panem przewodniczącym Napieralskim i ja troszkę zacząłem opowiadać o tym, co my już robimy w Kancelarii i jakie widzimy możliwości związane ze sztuczną inteligencją i wtedy pan przewodniczący powiedział, że to jest właściwie moment, w którym powinniśmy o tym porozmawiać na komisji, żeby posłowie się o tym dowiedzieli, ale nie tylko posłowie, żeby stworzyć także okazję do tego, żebyście także państwo z innych urzędów mogli się zapoznać z naszymi dotychczasowymi doświadczeniami, bo może będzie to dla was inspirujące i może uznacie, że na przykład nasze doświadczenia mogą być dla was przydatne. I troszeczkę tak przygotowaliśmy nasze wystąpienie dzisiaj z panią dyrektor. Chcielibyśmy państwu opowiedzieć jak ten proces u nas wyglądał, to już trwa kilka miesięcy, w którym punkcie jesteśmy i dokąd dalej chcemy zmierzać. Nie będziemy mówili bardzo szczegółowo o tym, jak narzędzia sztucznej inteligencji już są wykorzystywane w Kancelarii oraz jak chcemy je dalej rozwijać, bo to określi strategia wdrożenia sztucznej inteligencji w Kancelarii Sejmu, która będzie gotowa do końca listopada. Natomiast chcielibyśmy państwu powiedzieć, jak dochodzimy do tej strategii, bo wydaje nam się to ważne właśnie jako ewentualne podzielenie się tymi doświadczeniami oraz żebyście państwo wiedzieli, gdzie teraz jesteśmy.

Więc geneza. Geneza jest taka, że jak pewnie większość z państwa nie wie, że nie tylko posłowie utrzymują relacje międzynarodowe, ale kancelarie między sobą również i istnieją gremia, na których spotykają się szefowie kancelarii, w żargonie międzynarodowym nazywają się sekretarze generalni. Najczęściej w parlamentach są sekretarze generalni i przynajmniej dwa razy do roku sekretarze generalni lub ich zastępcy wymieniają się doświadczeniem w jakimś miejscu. Ta wymiana jest najbardziej intensywna pomiędzy sekretarzami generalnymi parlamentów Unii Europejskiej, te spotkania są stosunkowo regularne. I mniej więcej rok temu o tej porze pan minister Deskur, mój zastępca, był w Genewie, gdzie wybuchł temat sztucznej inteligencji w parlamentach, ponieważ nie tylko u nas, ale wszyscy sekretarze generalni zorientowali się, że pracownicy kancelarii parlamentów po prostu zaczynają używać tych narzędzi. One są użyteczne, wygodne, one im pomagają w usprawnieniu pracy, ale to jest jakby ruch oddolny, bez żadnych regulacji, jako mechanizm pomagania sobie w pracy. A jednocześnie pojawiały się pierwsze informacje o tym, jak te narzędzia bywają zwodnicze czy też halucynują itd i pierwsze sygnały ostrzegawcze. I to był temat rozmowy sekretarzy generalnych rok temu w Genewie. Jak pan minister wrócił do Polski, zaczęliśmy o tym rozmawiać wewnątrz Kancelarii, stwierdziliśmy, że trzeba wziąć tego byka za rogi i postanowiliśmy wykorzystać nadarzającą się doskonałą okazję, a mianowicie polską prezydencję. I trochę na kanwie polskiej prezydencji uznaliśmy, że możemy być gospodarzami tego tematu w Unii Europejskiej na tym poziomie właśnie administracji parlamentarnych. I w związku z tym przeprowadziliśmy ankietę, taką rozmowę z sekretarzami generalnymi i ich zespołami urzędniczymi wszystkich parlamentów europejskich, zadając im pytania właśnie o sztuczną inteligencję, jak wykorzystują, jakie widzą możliwości, szanse, zagrożenia i jakie mają wewnętrzne regulacje, które określają sztuczną inteligencję wobec urzędników parlamentów europejskich.

Praca ta została wykonana siłami zespołu analitycznego pani dyrektor Laskowskiej we współpracy z ośrodkiem informatyki, który przygotował formatkę. Naprawdę muszę powiedzieć, że byliśmy zbudowani, bo odpowiedziały wszystkie parlamenty europejskie, to znaczy administracje wszystkich parlamentów europejskich. I na tej podstawie został opracowany raport, jeżeli państwo będziecie… Nie wiem, czy on dostępny, ale… Jest dostępny, leży przy wyjściu. Możecie państwo się z nim zapoznać. On jest taką fotografią, jak wykorzystywana jest sztuczna inteligencja w parlamentach europejskich, ale na wiosnę tego roku – wiosnę 2025, czyli jest już nieaktualny, powiedzmy sobie szczerze, biorąc pod uwagę tę technologię. Natomiast rzeczywiście to dało nam pewną panoramę. Zwieńczeniem tego procesu było spotkanie 30 czerwca u nas w Warszawie, w Sejmie. Przyjechali sekretarze generalni wszystkich parlamentów Unii Europejskiej. Przez półtora dnia rozmawialiśmy na ten temat, dzieliliśmy się swoim doświadczeniem. Nasza dzisiejsza frekwencja oraz ilość osób oglądających podkomisję w transmisji internetowej pokazuje, jak bardzo jest to ciekawy i gorący temat. Tak samo byłem miło zaskoczony silną reprezentacją wszystkich sekretarzy generalnych. To spotkanie się odbyło, wymieniliśmy się doświadczeniami. Powiem państwu szczerze, że dyskusje były od bardzo technicznego wymiaru, właśnie już konkretnych narzędzi, aż do bardzo wysokiego wymiaru rozmowy o takim wymiarze etycznym i humanistycznym – w ogóle co ona może zrobić z naszą pracą jako urzędników służących legislacji, ekspertyzie itd, jakie tworzy zagrożenia, a jakie możliwości. Szalenie ciekawa sprawa. Zapisy głównych wystąpień są też na sejmowym YouTube.

Natomiast mając już te doświadczenia, czyli idąc trochę dalej, jak widzicie państwo, w takim modelu: lepiej zobaczmy, jak to robią inni, bo można się nauczyć na cudzych doświadczeniach i cudzych błędach, postanowiliśmy przygotować pierwsze założenia wdrożenia sztucznej inteligencji w Kancelarii Sejmu. Takie założenia zostały opracowane także i skoordynowane przez panią dyrektor. Ale głównym wnioskiem z tych założeń było to, że tak naprawdę problem jest na tyle złożony i dotykający wszystkich aspektów pracy urzędniczej w parlamencie – jeszcze nie przechodziliśmy na poziom poselski ani biur poselskich, bo stwierdziliśmy, że najpierw trzeba zebrać i wypracować doświadczenia u nas, żeby dzielić się dalej – więc jest na tyle złożony, że tak naprawdę musimy mieć więcej czasu na pracę nad tym zagadnieniem. W związku z tym głównym wnioskiem założeń było opracowanie tzw. mapy drogowej, która pozwoli nam dojść do przygotowania już takiej całościowej strategii wdrożenia sztucznej inteligencji w Kancelarii. Proszę nie patrzeć na ten schemat, to jest ta mapa drogowa, ale nie chodzi o to, żebyście państwo się w nią wczytywali. Jak ktoś będzie zainteresowany, oczywiście chętnie się nią podzielimy. Ale pierwszym krokiem na tej mapie drogowej było powołanie zespołu, gdyby pani dyrektor była tak łaskawa, następny slajd, zespół do spraw koordynowania działań Kancelarii Sejmu związany z przygotowaniem strategii rozwoju technologii sztucznej inteligencji w Kancelarii Sejmu. Jak każda przyzwoita biurokracja, jeżeli nie ma zarządzenia szefa kancelarii, zespołu i grona ludzi, którzy mają uprawnienia do wchodzenia w różnego rodzaju działania i proszenia innych dyrektorów, to po prostu to nie działa, więc potrzebne było powołanie zespołu, określenie jego zadań i uruchomienie już w ramach tego zespołu pracy związanej ze stworzeniem strategii.

Teraz oddam głos pani dyrektor, bo w tym momencie wkracza już pani dyrektor jako osoba umocowana jako przewodnicząca tego zespołu, żeby opowiedziała o tym krótko, co się od tego czasu, to jest jak państwu widzicie wrzesień 2025, co się przez te dwa miesiące wydarzyło, gdzie w tym momencie jesteśmy. Bo jesteśmy w momencie właściwie końcowym. Proszę bardzo, pani dyrektor.

Dyrektor Biura Ekspertyz i Oceny Skutków Regulacji Kancelarii Sejmu Marzena Laskowska:
Dziękuję uprzejmie. Szanowni państwo, panie przewodniczący, Wysoka Komisjo, zbliżamy się do końca, ale etapu początkowego. To znaczy końca misji, z myślą o której został utworzony zespół. Ten zespół jest interdyscyplinarny, dlatego że ta problematyka wdrażania technologii sztucznej inteligencji ma również taki charakter. To znaczy jej wdrożenie wymaga posiadania kompetencji z różnych obszarów prawnych, technologicznych i siłą rzeczy pozyskiwaliśmy je właśnie komponując skład zespołu z osób rekrutujących się z różnych biur. Mamy elektronika z ośrodka informatyki, administratora sieci, eksperta do spraw gospodarczych, prawniczkę specjalizującą się w ochronie danych osobowych. Ten konglomerat wiedzy pozwolił nam objąć obszarem naszej analizy szereg różnych płaszczyzn, które mają istotne znaczenie z punktu widzenia wdrażania sztucznej inteligencji. Chodziło o rozpoznanie uwarunkowań prawnych, organizacyjnych, technicznych, które determinują to, w jakim tempie i z jakim rozmachem można wdrażać tę sztuczną inteligencję w Kancelarii Sejmu.

 Pierwszym krokiem, który zrealizowaliśmy, było opracowanie ankiety, już bazując na doświadczeniu, które zgromadziliśmy przy okazji przeprowadzenia ankiety wśród państw Unii Europejskiej. To była ankieta skierowana do poszczególnych jednostek organizacyjnych Kancelarii Sejmu. I była przeprowadzona dwuetapowo i na dwóch szczeblach.

Pierwsza ankieta taka bardziej rozbudowana, była skierowana do naczelników, koordynatorów w poszczególnych biurach Kancelarii Sejmu i obejmowała pytania dotyczące tego jakie procesy są najbardziej czasochłonne, żmudne, powtarzalne, czyli takie, które można byłoby objąć automatyzacją albo właśnie wsparciem ze strony technologii sztucznej inteligencji. Ale pytaliśmy również o regulacje, o zastosowania już istniejące i takie, które byłyby pożądane w tych jednostkach wewnętrznych poszczególnych biur.

Następnie, na bazie otrzymanych wyników skierowaliśmy ankiety już takie bardziej oszczędne, jeśli chodzi o liczbę pytań, do dyrektorów stojących na czele tych jednostek organizacyjnych, biur, o to, czy mogliby się ustosunkować i spriorytetyzować z tej perspektywy swojej, kierowniczej postulaty zgłaszane przez poszczególne komórki wewnętrzne i z prośbą o podzielenie się z nami pewną refleksją, taką właśnie z poziomu dyrektora biura. I jak państwo widzą, ankiet wpłynęło do nas bardzo dużo. One były przedmiotem naszej analizy po to właśnie, żeby wyłonić także te wdrożenia, do których chcielibyśmy przystąpić, a w każdym razie które chcielibyśmy rekomendować w projektowanej strategii. I prace nad tymi ankietami biegły swoim rytmem, a w tym czasie podejmowane były inne zadania.

Wprawdzie na tym głównym slajdzie przedstawiony jest proces wejścia tej strategii jako sekwencyjny, ale w istocie niektóre kroki były podejmowane synchronicznie. Właśnie w oczekiwaniu na ankiety zajmowaliśmy się badaniami porównawczymi. One były jeszcze głębszym wejściem w analizę tych narzędzi i uregulowań, które występowały w niektórych parlamentach europejskich. I owocowało to m.in. poznaniem instrumentów, które parlament europejski wdrożył już u siebie z powodzeniem i których wdrożenie w państwach członkowskich rekomenduje. W tej chwili trwają prace już na niższym szczeblu niż kierownictwa parlamentów. Krótko mówiąc, specjaliści starają się ustalić, zinwentaryzować uwarunkowania techniczne, które potencjalnie musiałyby być spełnione, żeby takie narzędzie, myślę tutaj o ArchiveBot, mogło zostać wdrożone w Kancelarii Sejmu.

Oprócz tych badań porównawczych międzynarodowych mieliśmy okazję również nawiązać robocze kontakty z pracownikami Kancelarii Senatu. To jest dla nas również bardzo interesujący poligon, który inspiruje nas w naszych dalszych krokach i myślę, że tutaj jest duży potencjał na to, żeby pewne zadania realizować wspólnie, co, biorąc pod uwagę właśnie dwuizbowy charakter naszego parlamentu, byłoby szczególnie pożądane.

Slajd, który teraz wyświetlam, to podstawowe opinie prawne, które wsparły nas merytorycznie, bo tak jak sztuczna inteligencja jest nową technologią, tak i zagadnienia prawne związane z jej funkcjonowaniem, zwłaszcza ze względu na to, że jest niezwykle dynamiczna, są obszarem, na którym jest ciągła konieczność rozwijania kompetencji. I my sięgnęliśmy do tej myśli, która jest reprezentowana w innych ośrodkach naukowych i te opinie profesorów głównie z obszaru ochrony danych osobowych, to jest specyficzna płaszczyzna zbieżna z naszymi potrzebami z uwagi na analogiczny przedmiot ochrony – europejskie źródło regulacji, tak więc wśród tych ekspertów znaleźliśmy autorów, którzy przyjęli nasze zaproszenie i z ich wsparcia merytorycznego korzystamy w naszych pracach.

Oprócz tego odbyły się również szkolenia dotyczące sztucznej inteligencji. To proces, ten krok, związany był zarówno z obowiązkami płynącymi z AI Act, jak również z dojrzewającą w nas świadomością tego, że tylko rozwój kompetencji jest w stanie zapobiec albo ograniczyć pewne niebezpieczeństwa, które związane są z tą sztuczną inteligencją i można powiedzieć, że te szkolenia na razie miały charakter wstępny i objęły, tak jak wynika to ze slajdu, kadrę kierowniczą oraz pewien wyspecjalizowany ośrodek, mianowicie ekspertów, którzy przygotowują ocenę skutków regulacji i w swojej codziennej pracy korzystają z dużych zbiorów danych. Ale mamy pełną świadomość i przewidujemy to w strategii, że szkolenia powinny być znacznie szersze podmiotowo i sprofilowane pod kątem tego, jakie zastosowania przez poszczególne grupy interesantów czy użytkowników sztucznej inteligencji będą tutaj potrzebne. Ten slajd obrazuje szkolenia, ale także konferencje, w których braliśmy udział, zarówno partycypując merytorycznie przy ich przygotowaniu, jak również po prostu w charakterze słuchaczy. To także jest mniej sformalizowane, ale forma podnoszenia kwalifikacji, szczególnie w tym gronie miło jest mi wymienić konferencję poświęconą demokracji parlamentarnej i ustawodawstwu w erze sztucznej inteligencji – perspektywa europejska. Ten tytuł to konferencja, która oczywiście została zorganizowana siłą m.in. komisji cyfryzacji oraz delegatów Sejmu i Senatu do Zgromadzenia Parlamentarnego Rady Europy.

Przewodniczący poseł Grzegorz Napieralski (KO):
I pana posła Milewskiego trzeba, bo to on bardzo mocno...

Dyrektor Biura Ekspertyz i Oceny Skutków Regulacji Kancelarii Sejmu Marzena Laskowska:
Tak, właśnie chciałam nawet wywołać pana posła jako animatora tego wydarzenia, które rzeczywiście nam wszystkim przysłużyło się merytorycznie i jest także formą zdobywania kompetencji oraz tych porównawczych informacji, inspiracji i polem do wypracowywania najlepszych praktyk stosowania sztucznej inteligencji w parlamentach europejskich.

I te wszystkie przedsięwzięcia prowadzą do skumulowania danych, wiedzy i wyobrażeń na temat tego, co powinno znaleźć się przygotowywanym projekcie strategii rozwoju sztucznej inteligencji w Kancelarii Sejmu. Ale nieodzownym wręcz palącym procesem było również zaprojektowanie regulacji, które określałyby zasady stosowania sztucznej inteligencji w Kancelarii Sejmu. Podobnie jak w wielu innych parlamentach państw Unii Europejskiej, ten obszar pozostaje w polskim Sejmie w tej chwili nieunormowany w sposób szczególny tzn. mamy świadomość, że pewne normy i ograniczenia dla administracji, dla pracowników urzędu wynikają z norm powszechnie obowiązujących i one już dziś obejmują swoim zakresem także posługiwanie się technologią sztucznej inteligencji, czyli rzetelność i bezstronność to są te obowiązki, które musi mieć na uwadze każdy użytkownik sztucznej inteligencji przy realizacji zadań na rzecz Kancelarii Sejmu. Niemniej dostrzegamy konieczność doprecyzowania, a także zaakcentowania i w ten sposób również rozwijania świadomości pracowników dotyczącej zagrożeń i ryzyk, które wiążą się z tą bezprecedensową, jeśli chodzi o technologię wspierającą pracę, właśnie sztuczną inteligencją.

I w związku z tym opracowany został projekt zasad stosowania sztucznej inteligencji.  Ma on na razie charakter roboczy i wkrótce pewnie przyjmie postać, o której będzie można mówić szerzej, natomiast dziś chciałabym w dwóch słowach przedstawić państwu założenia owych zasad. Przyjęliśmy przede wszystkim jako definicję dla nas referencyjną, tę, którą w odniesieniu do systemów sztucznej inteligencji przyjął AI Act. Po drugie, ta regulacja znajdowałaby zastosowanie do wszystkich systemów sztucznej inteligencji, które są wykorzystywane przy realizowaniu zadań na rzecz Kancelarii Sejmu, czyli systemów niezależnie od sposobu ich pozyskania, czyli to mogą być zarówno te systemy, które są ogólnodostępne, jak i te, których gotowe licencje czy subskrypcje Kancelaria Sejmu kupuje, czy te które wdraża lub będzie siłą własną wytwarzała.

Projektowana regulacja ma wąski zakres, to znaczy mamy świadomość, że docelowo pożądane byłoby kompleksowe uregulowanie problematyki również samych zasad wdrażania reguł normatywnych, wdrażania poszczególnych systemów sztucznej inteligencji w Kancelarii Sejmu, a także ich nadzorowania. Niemniej ograniczając się do najbardziej palącego obszaru wymagającego unormowania, czyli stosowania sztucznej inteligencji w Kancelarii Sejmu, regulacja na razie przyjęła taki wąski charakter także w oczekiwaniu na to, jak dalekosiężne plany i zamiary będą przewidziane w strategii. Na pewno będzie to wymagało również dalszego rozwoju regulacji wewnętrznej.

Kolejne założenie to to, że zasady będą eksponowały konieczność weryfikowania przez pracowników treści, które są wygenerowane przez sztuczną inteligencję. Ta weryfikacja powiązana jest z zasadą odpowiedzialności pracowników za treści powstałe przy użyciu AI. I korzystając z tych systemów, pracownicy zobowiązani będą respektować zakaz wprowadzania danych osobowych oraz tajemnic prawnie chronionych do tych systemów. Dopuszczamy domyślnie dalszy rozwój tych narzędzi sztucznej inteligencji w Kancelarii Sejmu, który prowadził będzie do zamknięcia zbiorów danych, do zabezpieczenia ich w taki sposób, żeby można było wspierać się tą technologią, także opracowując dokumenty zawierające na przykład dane osobowe, ale to dopiero wtedy, kiedy będziemy dysponowali bezpiecznym narzędziem AI. W tej chwili nie możemy tego zagwarantować, w związku z czym jest ustanowiony ogólny zakaz wprowadzania tego typu treści do systemów.

Wreszcie, jest przewidziana odpowiedzialność prawna za naruszenie zasad stosowania sztucznej inteligencji przez adresatów tychże zasad odpowiedzialność prawna o charakterze porządkowym lub dyscyplinarnym.

Wyobrażamy sobie również, że te zasady jak zostaną już wydane, bo przewidujemy dla nich rangę, formę zarządzenia szefa Kancelarii Sejmu, jak była już o tym mowa, jest to akt, który byłby odpowiedni do tego rodzaju regulacji. Przewidujemy liczne działania o charakterze uświadamiającym. To nie będzie tylko jeden z kolejnych aktów szefa zawieszony w internecie. Będziemy dążyć do tego, żeby pracownicy rzeczywiście mieli świadomość, że takie zasady zostały sprecyzowane i że są oni ich adresatami również wtedy, kiedy korzystają ze swoich prywatnych telefonów z Chata GPT po to, żeby czerpać stamtąd jakąś inspirację dla wykonywanych czynności zawodowych.

I te wszystkie kroki, które zostały skrótowo przedstawione, oczywiście mają znaleźć zwieńczenie w postaci projektu strategii rozwoju sztucznej inteligencji w Kancelarii Sejmu. W tej chwili dokument ma charakter bardzo roboczy. W związku z tym nie podzielimy się nim jeszcze z państwem, ale rzeczywiście będzie on miejscem, w którym znajdzie odbicie to zapotrzebowanie formułowane ze strony poszczególnych biur, z uwzględnieniem oczywiście możliwości organizacyjnych, finansowych Kancelarii Sejmu. Liczymy również na to, że w strategii będą mogły znaleźć wyraz wartości, które będą zbieżne z tymi, jakie strategii formułowanej przez rząd i przez państwo polskie są bliskie i że będziemy jako organ władzy publicznej ze szczególną odpowiedzialnością wdrażali sztuczną inteligencję. Dziękuję.

Szef Kancelarii Sejmu Jacek Cichocki:
Dziękuję bardzo, pani dyrektor. To tak już podsumowując, chciałem powiedzieć, że w przyszłym tygodniu podpiszę, mam nadzieję, zarządzenie, które wprowadzi zasady wykorzystania sztucznej inteligencji przez urzędników Kancelarii Sejmu. One będą troszkę bardziej rozbudowane od tych punktów, które pokazała pani dyrektor, ale nie dużo bardziej – tak żeby były łatwe do przyswojenia. W ciągu dwóch tygodni powstanie strategia wdrożenia i oba dokumenty oczywiście przekażemy na ręce pana przewodniczącego i szanownej podkomisji.

Chciałbym państwu zwrócić uwagę na jeden element z tej długiej prezentacji pani dyrektor, mianowicie na szkolenia dla kadry dyrektorskiej, bo jedno z wyzwań, z którym spotkaliśmy się u nas w Kancelarii, to uświadomiliśmy sobie, że wiedza dyrektorów, którzy zarządzają poszczególnymi biurami, jest bardzo różna, jeżeli chodzi o sztuczną inteligencję i często pełna różnych mitów. Więc chodziło nam o to, żeby właśnie dyrektorzy byli tymi, którzy pierwsi otrzymają pewną dawkę takiej przygotowanej wiedzy i wyrównamy wiedzę między nimi o tym, czym w ogóle jest ta sztuczna inteligencja, do czego ona się nadaje, do czego mniej, tak żeby ją też odczarować, pokazać ryzyka itd., tak że to były ciekawe szkolenia z różnymi ćwiczeniami z pisania promptów i pokazujące, jak poszczególne prompty halucynują, albo nie halucynują itd. To było bardzo ciekawe, tym doświadczeniem też możemy się podzielić.

Teraz chciałbym państwu tylko powiedzieć o dwóch bardzo ogólnych wnioskach, do których doszliśmy trochę idąc tą drogą, i które pewnie znajdą odbicie też w strategii.

Po pierwsze, zrozumieliśmy, że nie wszystko, co jest automatyzacją, musi być oparte o sztuczną inteligencję. Jest wiele procesów, które można usprawnić Kancelarii z wykorzystaniem różnych narzędzi informatycznych, ale nie trzeba do tego używać od razu zaawansowanych narzędzi sztucznej inteligencji. To wbrew pozorom dosyć ważki wniosek dla nas.

I druga rzecz, to że kluczowym wyzwaniem związanym z wykorzystaniem bardziej zaawansowanych narzędzi sztucznej inteligencji, opartych o te duże modele językowe, jest to, czym ją karmimy. To znaczy, że jeżeli ją karmimy wiarygodnymi dokumentami, wiarygodnym materiałem, dostajemy bardzo często precyzyjnie, bardzo dobrze przygotowane efekty. Natomiast jeżeli zostawiamy to na żywioł, to wtedy ryzyka radykalnie wzrastają.

I dwie ostatnie konkluzje są takie – jak będziemy mieli już zebrane te nasze doświadczenia, będziemy chcieli oczywiście wyjść też z propozycją szkoleń dla posłów, a także dla pracowników biur poselskich, żeby ta wiedza także tam była ujednolicona i pogłębiona.

I ostatnia rzecz, następnym krokiem w przygotowaniu strategii będzie dylemat, przed którym stajemy już w Kancelarii – jeżeli będziemy chcieli rozwijać nasze własne wewnętrzne narzędzia sztucznej inteligencji, to na jakim modelu językowym to oprzeć. I tutaj właściwie robię, jak to się po angielsku mówi bridge, czyli odnoszę się już teraz do kolejnej prezentacji NASK. Bardzo dziękujemy za to, że państwo też nam teraz przekażecie trochę wiedzy, bo oczywiście zastanawiamy się, na ile moglibyśmy skorzystać z polskiego modelu językowego, także rozwijając narzędzia w Kancelarii Sejmu.

Dziękuję serdecznie państwu za uwagę i jesteśmy gotowi do dzielenia się naszym doświadczeniem. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie ministrze. Bardzo dziękuję, pani dyrektor i gratuluję tego, co zrobiliście. Mam takie poczucie, że już od wielu lat stajemy się liderem, jeżeli chodzi o wdrożenie nowych technologii, jesteśmy liderem, jeżeli chodzi o rozwiązania też w administracji publicznej, co bardzo, bardzo mnie cieszy, bo nasze wizyty zagraniczne zawsze zaczynają się tym, że chwalimy się naszymi rozwiązaniami. Więc tym bardziej gratuluję, panie ministrze, pani dyrektor, że właśnie parlament znalazł się na tej liście.

Przed panem profesorem, jeżeli pan profesor pozwoli, ja bym poprosił o głos... Pan minister Gramatyka. Bardzo proszę, panie ministrze. A później przejdziemy do pana profesora.

Sekretarz stanu w Ministerstwie Cyfryzacji Michał Gramatyka:
Bardzo dziękuję. Panowie ministrowie, panie ministrze, pani dyrektor, panie przewodniczący, panie przewodniczący Pejo, czyli przewodniczący Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii polskiego Sejmu, bardzo dziękuję za to, że zaprosili mnie państwo na to spotkanie. Bardzo dziękuję za to, że w Kancelarii Sejmu podejmowane są takie prace. To jest naprawdę niezwykle cenne i to jest wyraz bycia za pan brat z nowymi technologiami. Mam nadzieję, że te prace, oprócz wygenerowania strategii, skończą się też jakimś użytecznym wdrożeniem.

Esencją i siłą każdego systemu, który polega na uczeniu maszynowym, na algorytmicznym przetwarzaniu danych są właśnie dane. Sejm jest niezmierzonym zagłębiem danych. Sejm generuje dziesiątki rekordów danych przy każdym posiedzeniu Sejmu. Generuje wręcz setki, jak nie tysiące, rekordów danych, które mogą być przetwarzane dla dobra społeczeństwa. Część z tych danych jest prezentowana na stronach Sejmu. Niestety te dane nie są otwierane, to znaczy Sejm nie przekazuje tych danych do systemu otwartych danych w serwisie dane.gov.pl, czym różni się na przykład od wspomnianego w wystąpieniu pana ministra Senatu, który te dane przekazuje już od jakiegoś czasu. To jest bardzo duże wyzwanie w jaki sposób dane generowane przez Sejm skorelować z takim czy innym modelem i w jaki sposób szukać korzyści właśnie w automatycznym przetwarzaniu tych danych, jakie korzyści wyciągnąć z tego dla dobra obywatelek i obywateli. Sam mam w tym zakresie kilka pomysłów. Myślę, że praca zespołu, o którym wspominała pani dyrektor i pan minister, zakończy się tym, że nie tylko doprowadzimy do ułatwienia urzędniczej roboty, która jest wykonywana w polskim parlamencie – czy to w Sejmie, czy w Senacie, ale przede wszystkim doprowadzimy do sytuacji, gdzie normalni ludzie będą mogli skorzystać z atutów, z przewag takich właśnie algorytmów, bo to jest w zasadzie sensem naszego istnienia i naszego funkcjonowania, żeby ułatwiać życie zwykłym ludziom – Polkom i Polakom.

Spotykamy się w świetnym towarzystwie. W Naukowej i Akademickiej Sieci Komputerowej w Ministerstwie Cyfryzacji opracowano polski model językowy PLLuM. Ten model pomaga w pracy urzędnikom polskich ministerstw. Polska społeczność skupiona wokół rozwoju algorytmów AI słynie na całym świecie rozwijaniem modelu Bielik. Ten model ma kilka, jak nie kilkanaście komercyjnych wdrożeń, ale jest przede wszystkim modelem, na którym pracuje społeczność na zasadzie społeczności internetowej. Rozwija go po prostu, wkładając w ten model to, co ma najlepszego. Wszystkie te narzędzia są dzisiaj do państwa dyspozycji. NASK to są najlepsi na świecie specjaliści w zakresie wykorzystania sztucznej inteligencji, w zakresie takiego sformatowania algorytmów, żeby te korzyści były jak największe, a zagrożenia zminimalizowane. Tak że widzę przed tą inicjatywą bardzo duże pole do sukcesu.

A korzystając z tego, że siedzę vis à vis szefa Kancelarii Sejmu, grzecznie przypominam, że serwis dane.gov.pl czeka na dane generowane przez polski Sejm. Jako że odpowiadam za rozwój tego serwisu, to nie mogłem sobie tego odmówić. Bardzo dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie ministrze, za miłe słowa. Dziękuję za wystąpienie.

Jeszcze przeproszę, ponieważ dzisiaj emocje wzięły górę i też stres – chciałem jeszcze bardzo serdeczne przywitać na naszej podkomisji przewodniczącego Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii, pana posła Bartłomieja Pejo. O nim zapomniałem, ale wybaczcie. Czasami stres bierze górę.

Dziękuję bardzo, panie ministrze, jeszcze raz i przekazuję głos panu profesorowi. Panie profesorze, bardzo proszę.

Dyrektor Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji NASK-PIB Szymon Łukasik:
Szanowni państwo, rozpocznę od przywitania. Bardzo dziękuję za zaproszenie. Szanowni państwo, panie przewodniczący, członkowie Komisji, chciałbym ponowić prośbę o dane Sejmu na dane.gov.pl, bo oczywiście nas jako wdrażających duże modele językowe tego rodzaju dane z pewnością bardzo interesują i bardzo by pomogły.

Natomiast wprowadzając państwa w temat mojego wystąpienia, zacznę od powiedzenia, że spotykamy się, by porozmawiać trochę na temat tego, jak w NASK, ale nie tylko w NASK, wdraża sztuczną inteligencję w sposób bezpieczny. Najpierw chciałbym pokazać państwu wyzwania, które staramy się adresować, a potem podać kilka recept. Usłyszycie też państwo trochę na temat różnych wdrożeń. One są czasami może nie takie oczywiste i nie takie medialne, ale one się dzieją – wdrożenia i testy polskich modeli językowych. Więc o nich również opowiem przy okazji tego wystąpienia. Bardzo się cieszę, że na sali mamy tak szerokie grono ekspertów z różnych dziedzin ze sztucznej inteligencji, także z aspektów prawnych, więc mam nadzieję, że to wystąpienie będzie dla państwa interesującym przyczynkiem do dalszej dyskusji.

Szanowni państwo, jeżeli myślimy o sztucznej inteligencji, to mówimy o dziedzinie, która tak naprawdę nie jest nowa, istnieje od wielu lat i to, co tak naprawdę się stało w ciągu ostatnich lat w dużym stopniu, to rozwój pewnej odnogi, którą nazywamy generatywną sztuczną inteligencją, czyli rozwój modeli, które na podstawie pewnego wymuszenia, nazywanego ładnie promptem, generują pewną treść. Czy to jest obraz, czy to dźwięk, czy to jest tekst, to już nie ma większego znaczenia. Nie zapominajmy jednak o tej odnodze dyskryminacyjnej, która pozwala na przykład na zaklasyfikowanie obrazu, zidentyfikowanie, czy jest to nowotwór, stwierdzenie, czy na drodze znajduje się człowiek – to są w dalszym ciągu bardzo istotne zastosowania, które też wymagają zaadresowania w kontekście bezpieczeństwa i przejrzystości. Mamy tutaj na sali pana prof. Przemysława Biecka, Centrum Wiarygodnej Sztucznej Inteligencji Politechniki Warszawskiej. To są wyzwania, które w dużym stopniu stara się on adresować.

Szanowni państwo, to, co chciałbym dzisiaj państwu powiedzieć, to są wyzwania związane z bezpieczeństwem generatywnej sztucznej inteligencji, czyli mówimy tutaj o sytuacji, kiedy model na przykład podpowiada nam, jak pozbyć się ciała po morderstwie, podpowiada nam, jak skonstruować jakieś niebezpieczne urządzenie, podpowiada nam, jak wygenerować kod, który włamie się do systemu komputerowego, czyli mówimy tutaj o sytuacjach, kiedy model w odpowiedzi na jakiś szkodliwy prompt generuje treść, która ma taki właśnie szkodliwy charakter. I to jest wyzwanie technologiczne, znaczy to jest wyzwanie polegające na tym, żeby tego rodzaju prompt zablokować albo na etapie wejścia, czyli tego promptu, który otrzymujemy, albo na etapie wyjścia, czyli tego, co ten model tak naprawdę wygenerował.

Nie wiem, czy państwo czasami korzystaliście z niektórych takich powiedzmy otwartych modeli językowych, czasami jest taka sytuacja, że model wymazuje to, co powiedział, udzielając informacji. Przede wszystkim model DeepSeek przoduje w tego rodzaju autocenzurze i polega na tym zweryfikowaniu, że ta treść wygenerowana jest treścią szkodliwą. To jest wyzwanie technologiczne i wyzwanie związane z samym bezpieczeństwem modeli.

Drugie wyzwanie, też technologiczne, ale trochę wynikające z immanentnej cechy tej technologii, to znaczy wykorzystania dużych modeli językowych, które w uproszczeniu możemy troszeczkę nazwać stochastycznymi papugami, to znaczy budowane są, wykorzystując duże korpusy tekstów i zebranych częstokroć sieci. I w związku z tym tak naprawdę to, co otrzymujemy na wyjściu, to są kolejne słowa generowane z pewnym prawdopodobieństwem. To powoduje, że doświadczamy na przykład takiej sytuacji, że mamy człowieka, którego wprowadzamy do biblioteki, każemy mu przeczytać miliardy książek i potem zadajemy mu pytanie o fabułę jakieś książki, a ten chłopiec, który przeczytał tę książkę, bardzo dobrze opisuje nam fabułę, ale na przykład podaje kogoś, kto zabił i jest to zupełnie inna osoba. Ze względu na ten charakter budowy modeli mamy do czynienia z tzw. halucynacjami, czyli my to nazywamy zmyślaniem. Model zmyśla. I teraz, to zmyślanie może mieć nieszkodliwy charakter natomiast zastosowanie w administracji publicznej chociażby na przykład w mObywatelu w sytuacji, kiedy jesteśmy na parkingu sklepu w Wejherowie i chcemy znaleźć szpital, zadajemy pytanie dużemu modelowi językowemu, gdzie ten szpital się znajduje i otrzymujemy błędną ulicę, to już jest rzeczywiście sytuacja bardzo, bardzo niebezpieczna, z różnych perspektyw – z perspektywy oczywiście osoby, która tej sytuacji doświadczyła, ale także z perspektywy twórcy modeli, który odpowiada potem za tę błędną decyzję. Więc to jest sytuacja związana z halucynacją.

Druga kwestia to jest oczywiście dostępność do aktualnej wiedzy. Proszę zwrócić uwagę, że modele są trenowane w pewnym momencie w czasie i w związku z tym nie mają informacji na temat pewnych aktualnych sytuacji, aktualnych zdarzeń, które mają miejsce. W związku z tym to też jest pewne wyzwanie związane z podawaniem błędnej informacji, czy to będzie model PLLuM, czy to będzie model Bielik, czy to będzie model ChatGPT, tego rodzaju sytuacje będziemy mieli zawsze i trzeba o tym pamiętać, także w aspekcie konstruowania tych zasad. Państwo w Kancelarii Sejmu bardzo dobrze zidentyfikowali ten problem, że taka weryfikacja musi po prostu się odbywać. To wszystko to są wyzwanie technologiczne. Natomiast proszę zwrócić uwagę, że regulacje polskie czy europejskie wymagają od nas pewnej przejrzystości w kontekście prawnym, związanej z budową tych modeli. Znaczy musimy dokumentować źródła danych, musimy dokumentować, czy zaadresowaliśmy chociażby kwestie związane z bezpieczeństwem, czy zostały zidentyfikowane wszystkie ryzyka, które związane są z użyciem tego modelu. I to są ryzyka prawne, które ciążą nie tylko na wykonawcy, na twórcy tego modelu, dostawcy, ale także na użytkowniku.

Kolejna kwestia, jeżeli już wdrażamy taki model sztucznej inteligencji, to bardzo często dostarczamy do niego własne dane. Chcemy ten model dostosować do naszych potrzeb, czyli dostarczamy mu dane. Proszę sobie wyobrazić sytuację, kiedy urząd dostarcza dane, budujemy duży model językowy i w tych danych znajdują się na przykład dane osobowe. I teraz w jednym departamencie poprosimy o wygenerowanie wzoru pisma i dostajemy w treści w treści tego pisma na przykład sugestie adresu jakiejś osoby, numeru PESEL czy jakichś innych danych, które mogą się tam znaleźć. W związku z tym to jest kolejne ryzyko związane z tym, że musimy dobrze identyfikować również kwestię związaną z danymi.

Ta kwestia wiąże się również z prawem do danych. To znaczy, czy my mamy rzeczywiście prawo do użycia tych danych, które znajdują w danym modelu językowym. Czyli to są ryzyka w gruncie rzeczy nietechnologiczne, ale tworząc taki model, musimy je adresować. W związku z tym w takim zespole budującym duże modele językowe, tak naprawdę ci inżynierowie, to jest taki malutki zespół, który tam coś sobie dłubie, natomiast w dużym stopniu musimy mieć prawników, etyków, osoby, które zajmują się tymi pozostałymi tematami.

Jeżeli wdrażamy duże modele językowe, to musimy też pomyśleć o innych rodzajach ryzyk, to znaczy ryzyku społecznym, to znaczy tym, że wdrożenia tych modeli powodują pewne zmiany na rynku pracy. To jest też temat, który w NASK adresujemy. Badanie na ten temat prowadzi pan dr Marek Troszyński obecny na sali, jeżeli ktoś państwa chciałby się dowiedzieć więcej na ten temat. Zidentyfikowaliśmy, że ten problem dotyczy naprawdę dużej grupy zawodowej. Co ciekawe, jeżeli spojrzycie państwo na ten slajd, to również zauważymy dysproporcje pod względem płci. I to jest też ważny temat, nad którym warto się pochylić. To jest jednak wyzwanie nie dla nas, popatrzmy zatem na rozwiązania, które możemy zaproponować, by w pewien sposób te ryzyka zaadresować, zminimalizować.

Po pierwsze, takim rozwiązaniem jest użycie lokalnego modelu językowego. Przykładowo w Polsce, już ta nazwa padła, wytwarzamy dwa modele językowe: model językowy PLLuM i model językowy Bielik. Mam tę przyjemność, że NASK kieruje w tym momencie konsorcjum HIVE AI, które kontynuuje prace nad rozwojem rodziny modeli językowych PLLuM. Model językowy Bielik również powstaje w tej samej infrastrukturze – infrastrukturze polskich centrów superkomputerowych. Więc można powiedzieć, że mamy dwie takie narodowe perełki, które przy wsparciu również państwa generują tę wartość dodaną. I dlaczego budowa własnego modelu językowego rzeczywiście przyczynia się do redukcji tych ryzyk, o których wspomniałem?

Po pierwsze, my wiemy, jakie dane do tego modelu wkładamy. To znaczy jesteśmy w stanie konkretnie zidentyfikować jakie zbiory danych, jakie licencje. Jesteśmy w stanie dokonać wyboru pod kątem wartości tych danych. Jeżeli bierzemy model z pudełka, tego rodzaju informacji nie mamy, nie jesteśmy w stanie dokonać tej selekcji. Sam proces treningu może również uwzględniać specyfikę modelu. Czy jesteśmy w stanie na przykład wziąć pod uwagę, że ten model ma być stosowany do celu urzędowego, w związku z tym na przykład na etapie fine-tuningu, czyli do dostrojenia modelu, możemy mu dać instrukcje, które będą podpowiadać, w jaki sposób na przykład upraszczać język urzędowy albo odpowiadać na jakieś pytania, które są specyficzne dla tej domeny.

I wreszcie na ostatnim kroku mamy wychowanie, czyli ten model jesteśmy w stanie wychować pod kątem tego, żeby w sposób bezpieczny funkcjonował, nie odpowiadając właśnie na te szkodliwe wymuszenia.

Efekty są takie, proszę państwa, że model PLLuM jest najbezpieczniejszym otwartym polskim modelem językowym, przynajmniej w naszych badaniach dotyczących podatności na ataki tego typu, jak na przykład wygenerowanie szkodliwych treści. Oczywiście to się odbywa pewnym kosztem, to znaczy tym, że czasami będzie odmawiał. To znaczy w sytuacji, kiedy ten prompt będzie bezpieczny, czasami ten model rzeczywiście nie będzie odpowiadał na te pytania, twierdząc, że na tego rodzaju wymuszenia odpowiadać nie może. I jeżeli mamy jednak model, który nie jest zabezpieczony, to możemy do niego dołożyć coś, co go dodatkowo zabezpieczy i o tym za chwilę państwu powiem.

Efekty są takie, że dzięki temu dostosowaniu do kontekstu języka polskiego, ale także zabezpieczeniu modeli, mam tę przyjemność, że mogę powiedzieć, że te pierwsze wdrożenia już się zadziały, pomimo tego, że model został udostępniony w lutym. To znaczy na przykład funkcjonuje w ChatERP Comarch, w PKO Banku Polskim czy też w asystencie klienta w Gdyni, gdzie podpowiada, gdzie wyszukuje dokumenty adekwatne do zapytania osoby, która chce uzyskać informacje ze stron urzędu. Trwają również testy tego modelu w kolejnych jednostkach. Na slajdzie wymieniam kilka: Poznań, Łódź, Ministerstwo Cyfryzacji, gdzie też staramy się dopasować do potrzeb pracowników ministerstwa pod kątem zadań urzędowych, ale także w Kancelarii Prezesa Rady Ministrów testowany jest ten model w kontekście oceny skutków regulacji. Więc to jest też bardzo ciekawy przykład testów modelu w tej domenie.

Wspomniałem, że jeżeli już mamy ten model, to możemy go jeszcze dodatkowo zabezpieczać. W tym celu w NASK w czerwcu tego roku powstał dodatkowy model, który nazywa się  HerBERT-Guard. Jest to nasz model, który zabezpiecza wejścia bądź wyjścia modeli językowych przed 14 kategoriami zagrożeń zidentyfikowanych wcześniej w ramach budowy klasyfikatora Llama-Guard. Czyli innymi słowy taki modelik dopinamy sobie do dużego modelu językowego i on reaguje, kiedy prompt rzeczywiście może prowadzić do generacji treści szkodliwej. Efekt jest taki, że nawet w przypadku modeli, które mamy niezabezpieczone, jesteśmy w stanie w znacznym stopniu zredukować ryzyko tego, że taki model wygeneruje tę treść szkodliwą. Możemy go podpiąć na wejściu, możemy go podpiąć na wyjściu. Najskuteczniejsze jest podpięcie na wejściu. Z przyjemnością mówię, że to nie jest jedyna inicjatywa tego rodzaju guardów. Również zespół Bielika wytworzył tego rodzaju guard. On wykrywa inne kategorie, jest troszkę węższy w swoich zadaniach, natomiast rzeczywiście ten temat bezpieczeństwa jest adresowany szeroko, nie tylko w naszym zespole.

Wspomnieliśmy o tych ryzykach związanych z samym funkcjonowaniem dużych modeli językowych i o tych halucynacjach aktualności wiedzy, czyli tematach, które na pierwszy rzut oka dosyć trudno jest obejść. Pewnym pomysłem na to jest wykorzystanie do modelu językowego nie samodzielnie, ale w pewnej architekturze, którą nazywamy RAG – Retrieval-Augmented Generation, czyli generalnie poza wykorzystaniem modelu językowego do generowania odpowiedzi wykorzystujemy również dodatkowy model, który selekcjonuje dokumenty. Czyli mamy zbiór dokumentów, na których ten model ma pracować, dodatkowy model, który selekcjonuje dokumenty, które mogą być adekwatne dla danego zapytania i potem te dokumenty wrzucamy do modelu językowego jako kontekst. Dzięki temu ta odpowiedź jest generowana na podstawie dostarczonego kontekstu. Większość takich praktycznych wdrożeń dużych modeli językowych w urzędach administracji dotyczy właśnie tego, czyli pracy na dokumentach, które dostarczamy bądź to dokumentach wewnętrznych, jeżeli RAG ma służyć do tego, żeby podpowiadać urzędnikom bądź to na dokumentach, które są wystawione na przykład na stronie BIP, by odpowiadać obywatelom na ich pytania.

Mówiliśmy tutaj bardzo dużo i będziemy pewnie jeszcze mówić o dużych modelach językowych. Natomiast generatywna sztuczna inteligencja prowadzi nas również do różnych zagrożeń, które nie są związane z dużymi modelami językowymi. Te zagrożenia eskalują. Obserwujemy ich coraz więcej. Jako NASK przechwytujemy coraz więcej tego rodzaju materiałów i skala ich doskonałości również wzrasta, czyli są one rzeczywiście wykonywane coraz lepiej. Mówimy tutaj o treściach typu deepfake, czyli treściach, które zawierają wygenerowane sztucznie audio, obraz, wideo, ale także tekst celem dezinformowania, podszywania się pod tożsamość danej osoby. W związku z tym jest to rzeczywiście bardzo dobre narzędzie do działalności przestępczej, w gruncie rzeczy, ale także do wywierania wpływu. Tych materiałów mamy coraz więcej i problemem jest również to, że te materiały są coraz lepsze. Początkowo obserwowaliśmy materiały polegające na tym, że mieliśmy gotowe nagranie i jedyne, co było podłożone, to na przykład tekst z jakimś przekazem, często jeszcze ten przekaz był generowany sztucznie, w związku z tym zawierał błędy gramatyczne itd. W tym momencie mamy już materiały, gdzie jest cały komplet: mamy bardzo dobrze wygenerowane wideo, audio i do tego przekaz, w którym jest coraz mniej błędów. W związku z tym te istniejące rozwiązania, które macie państwo wymienione tutaj na slajdzie, zagraniczne, nie radzą sobie z tym dobrze. Sporządzamy ekspertyzy na temat tego rodzaju materiałów i rzeczywiście nasze wewnętrzne detektory dopiero doprowadzają do tego, że jesteśmy w stanie zaklasyfikować tego rodzaju materiały jako materiały sztuczne. Jedyne, co mogę powiedzieć, że ten wyścig zbrojeń trwa. Pracujemy nad tym, żeby dostarczyć narzędzia do tego, żeby ten problem również adresować. Mam nadzieję, że niedługo usłyszycie państwo o tego rodzaju narzędziach, także ogólnodostępnych.

Podsumowując, szanowni państwo, wymieniłem wiele zagrożeń płynących ze stosowania sztucznej inteligencji w administracji publicznej. Staramy się je konsekwentnie adresować, tworząc polskie modele językowe, tworząc modele, które służą do zabezpieczania tego rodzaju modeli i analizując, jakie zagrożenia, ale i korzyści, ta technologia niesie z perspektywy społecznej.

Bardzo się cieszę, że to wystąpienie wypadło akurat w rok po powołaniu naszego ośrodka i mogę powiedzieć, że w ciągu tego roku udało się, jak widać, zrobić bardzo dużo. Mamy nadzieję, że w dalszym ciągu będziemy przez państwa wspierani, by wygrywać ten wyścig technologiczny, nie tylko w kontekście deepfake, i żebyśmy mogli się chwalić tymi rezultatami również za granicą. Dziękuję państwu bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie profesorze. Dziękuję za tę prezentację, dziękuję też za trochę optymizmu, które pan w nas wlał, jeżeli chodzi o te zagrożenia. I chciałem podziękować panu dyrektorowi Nielkowi, panu i całemu zespołowi za to, co robicie w NASK, bo faktycznie w dobie zagrożeń, które mamy, szczególnie jeżeli chodzi o działania wojenne tuż przy naszej granicy, jeżeli chodzi o walkę z dezinformacją, jest to bardzo, bardzo ważne. Jeszcze raz bardzo dziękuję, panie profesorze.

Szanowni państwo, mamy już za sobą wystąpienia, które są na samym początku każdej komisji bądź podkomisji. Otwieram teraz dyskusję. Jeżeli są jakieś pytania, wypowiedzi – bardzo proszę, proszę się zgłaszać. Po zgłoszeniu proszę się również przedstawić, bo to wszystko jest rejestrowane, żebyśmy mogli później sporządzić z tego protokół.

Tu pani najpierw, tak? I później pani Joanna. Bardzo proszę. Zrobię instrukcję. Tu jest taka pinezka, trzeba ją przyłożyć do lewego głośnika, o, pani Joanna...

Adiunkt na Uniwersytecie WSB Merito Dorota Szymborska:
Super, dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):
Przepraszam, tylko powiem. Lewy głośnik i prawy przycisk.

Adiunkt na Uniwersytecie WSB Merito Dorota Szymborska:
Super, dziękuję za pomoc. Dorota Szymborska, adiunktka z Uniwersytetu WSB Merito.  I też mocno zaangażowana osoba w Sójce. Bardzo dziękuję, że mogłam się tutaj znaleźć z racji akademickości i etyczności, bo wszystko, co państwo powiedzieliście, to są działania dość doraźne, ale moim zdaniem właśnie to, że jestem tutaj obecna i też państwo współpracujecie z etykami, z etyczkami, jest na tyle ważne, że budując kodeksy etyczne, coś, co jest super potrzebne też w instytucjach rządowych, jesteśmy w stanie nie tylko reagować doraźnie, ale zaproponować coś, co będzie po prostu na tyle ogólne i aplikowalne do wszystkiego. I tylko ze swojego podwórka powiem, że w Sójce pracujemy nad aplikacją dotyczącą cnót Arystotelesa i etyki troski Giliigan, więc na dużym stopniu abstrakcyjności bronimy, żeby Bielik nie dawał tych złych porad. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję za ten głos. Tylko dodam, że mieliśmy specjalne posiedzenie podkomisji dotyczące etyki i moralności, jeżeli chodzi o sztuczną inteligencję. Na początku, jak w ogóle planowaliśmy to przedsięwzięcie, to wydawało się dosyć... – szukam słowa – nie to, że śmieszne, ale takie, że wszyscy patrzyli na to z dystansem. Natomiast samo posiedzenie podkomisji, które było naprawdę bardzo ciekawe, doprowadziło nas do wniosków, że to będzie jedno z wielu takich spotkań, gdzie będziemy zapraszać etyków, bo bez tego budowanie dobrych rozwiązań nie będzie dla nas bezpieczne.

Pani Joanno, bardzo proszę o zabranie głosu.

Członek Stowarzyszenia Absolwentów Elektroniki na Politechnice Warszawskiej @ELKAPW  Joanna Karczewska:
Dzień dobry. Nazywam się Joanna Karczewska. Jestem absolwentką Wydziału Elektroniki Politechniki Warszawskiej. Zajmuję się cyberbezpieczeństwem, bezpieczeństwem informacji i ochroną danych osobowych. I z tej racji bacznie przysłuchuję się wszystkim wypowiedziom dotyczącym sztucznej inteligencji właśnie pod kątem chociażby ochrony danych osobowych. I generalnie, mówiąc o sztucznej inteligencji, mówimy też o prawach podstawowych człowieka, o jego godności, o prawie do prywatności, prawie do ochrony danych osobowych. Trochę mi zabrakło tego wątku, ale znalazłam bardzo pozytywny punkt w postaci zasad, i za to bardzo dziękuję. Pierwszy raz się trafiło, że instytucja państwowa zwraca na to uwagę. Natomiast ja jestem osobą poszkodowaną przez sztuczną inteligencję. Wielokrotnie już o tym mówiłam na posiedzeniu Komisji, na posiedzeniach podkomisji.

To, co stwierdziłam na własnej skórze, to brak ścieżki postępowania w momencie, kiedy sztuczna inteligencja czy algorytmy popełnią błąd i błąd jest później akceptowany przez daną instytucję i na tej podstawie są podejmowane automatyczne decyzje bez jakiejkolwiek możliwości odwołania się, analizy, rozpatrzenia. Działa automat. Ja jestem w pierwszej grupie, która jest w tej chwili zagrożona wykluczeniem bankowym. I to się zaczęło dziać w 2022 r. i przeszłam całą ścieżkę zdrowia. Najnowsza odsłona była w poniedziałek w sądzie administracyjnym. Okazało się, że sędziowie nie są w ogóle przygotowani do rozpatrywania spraw, które w tle mają sztuczną inteligencję i algorytmy. Natomiast jest też druga grupa – dowiedziałam się ze strony Biura Rzecznika Praw Obywatelskich – która już jest wykluczona bankowo. To są osoby, które urodziły się w krajach wysokiego ryzyka i po prostu algorytmy bankowe z definicji je odrzucają, nie pozwalają im na korzystanie z usług bankowych w Polsce. Czyli to, co mi grozi, u nich już nastąpiło. I rzecznik podjął działania w tej sprawie. I co się okazało? Zwrócił się do ministra finansów… Do ministerstwa – ja wiem, GIIF, czyli Generalny Inspektor Informacji Finansowej, to jest przecież część Ministerstwa Finansów – i proszę państwa to, co Ministerstwo Finansów odpisało, to zasługuje na dosłowne cytowanie, bo tam też użyto, uwaga: „Stosowanie praktyki polegającej na automatycznym i bezrefleksyjnym wykluczaniu tego rodzaju osób należy ocenić negatywnie i automatyczna odmowa prawdopodobnie nie powinna w ogóle mieć miejsca w takim przypadku”. Czyli samo Ministerstwo Finansów mówi o bezrefleksyjnym stosowaniu algorytmów i braku możliwości odwołania się od decyzji automatycznej. Po czym co robi Ministerstwo? Odsyła. Biuro Rzecznika Praw Obywatelskich do UOKiK, czyli znowu umywa ręce. I ja potwierdzam. Przeszłam całą ścieżkę zdrowia przez ostatnie trzy i pół roku i to jest permanentne umywanie rąk. Więc jak ja słucham, że są udane wdrożenia i jak to – jak to powiedział pan minister – ułatwia życie Polkom i Polakom, to ja mówię nie. Właśnie nie ułatwia. Mnie utrudniło. 1294 osoby oprócz mnie są zagrożone wykluczeniem bankowym. Nie wiem, jaka jest grupa osób, które już są wykluczone bankowo. To wszystko się dzieje automatycznie i nikt, absolutnie nikt nie chce zająć się tą sprawą. Jest umywanie rąk. Ja przeszłam przez długą listę instytucji.  Tak jak mówię, najnowsza odsłona to jest Wojewódzki Sąd Administracyjny w Warszawie. Ponieważ wyrok był, jaki był, to zostałam zmuszona do naruszenia swojej prywatności, do zrzeczenia się mojej prywatności, do opisania, jaka jest moja sytuacja prawna. Jestem zmuszona, bo inaczej zostanę wykluczona bankowo, do ujawnienia setkom różnych osób jak jest i dlaczego ja nie powinnam podlegać pod to, co mnie spotkało. To jest dla mnie poniżające, upokarzające i bardzo przykre, że państwo polskie nie potrafi tego zrobić, chociaż tyle mówimy o różnych deregulacjach i szybkim reagowaniu na sytuacje. Więc jeżeli mówimy o dalszym wdrażaniu sztucznej inteligencji, o automatycznym podejmowaniu decyzji, o stosowaniu algorytmów, to warto skorzystać chociażby z metodologii, która była prezentowana na międzynarodowej konferencji, bo ona się skupia na prawach człowieka. Czyli każde wdrożenie sztucznej inteligencji, jaka by ona nie była, w polskim urzędzie, powinno być poprzedzone staranną analizą. Jest w tej chwili metodologia, można się temu przyjrzeć. W moim przypadku zabrakło tej analizy, zabrakło rozpatrzenia wszystkich możliwych przepisów. Teraz, kiedy został popełniony błąd, to wszyscy prawnicy umywają ręce. Wszystkie instytucje umywają ręce. Dlatego ja na siebie wzięłam w tej chwili ogromny ciężar przypominania, że sztuczna inteligencja to nie jest tylko zagrożenie dla rynku pracy, to jest zagrożenie dla naszych praw podstawowych, dla naszej godności, dla naszej prywatności, dla ochrony naszych danych osobowych i należy wrócić do źródła, czyli zacząć się zastanawiać nad tym, czy właśnie jest ochrona, a nie tylko jakie to przyniesie korzyści, chociażby finansowe, bo będzie łatwiej, bo będzie szybciej. Nie. Na koniec dnia musi być człowiek. Musimy wrócić do człowieka, żeby można było z kimś porozmawiać w cztery oczy, a nie tak jak ja, że muszę cały czas gdzieś tam elektronicznie się porozumiewać. Bo tak jak mnie sąd spytał, jak pani sobie wyobraża sytuację, jak można było ją rozwiązać…

Przewodniczący poseł Grzegorz Napieralski (KO):
Pani Joanno, mamy jeszcze innych, którzy chcą zabrać głos.

Członek Stowarzyszenia Absolwentów Elektroniki na Politechnice Warszawskiej @ELKAPW Joanna Karczewska:
Tak oczywiście. Ja wiem, przepraszam, ale to jest... Po prostu emocje wzięły górę, tak że dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo. Chciałem tylko powiedzieć, że po to powstała ta podkomisja, żeby przygotować też prawne regulacje w tej sprawie. To nie jest prosta rzecz. Dlatego też była rozmowa na temat etyki, ale w pracach podkomisji, ale również w administracji państwowej zawsze podkreślamy jedną rzecz – że na końcu najważniejszy jest człowiek i tego będziemy się trzymać i tego będziemy pilnować.

Przechodzimy teraz na tamtą stronę. Głos, później przejdziemy do środka, znowuż wrócimy na tę stronę. Bardzo proszę.

Dyrektor Ośrodka Przetwarzania Informacji – Państwowego Instytutu Badawczego Jarosław Protasiewicz:
Dziękuję serdecznie. Jarosław Protasiewicz, dyrektor Ośrodka Przetwarzania Informacji – Państwowego Instytutu Badawczego, pracujemy pod nadzorem Ministerstwa Nauki i Szkolnictwa Wyższego. Serdecznie dziękuję za prezentację NASK. W pełni popieram wszystko, co było tam powiedziane. Jesteśmy partnerem w tym projekcie, współtworzymy też ten model. Niemniej jednak chciałem dodać do prezentacji Kancelarii Sejmu troszkę informacji, które można rozważyć. Oczywiście projekt PLLuM i ten model byłby wspaniałym rozwiązaniem dla Kancelarii Sejmu. Chciałem też powiedzieć o tym, jak zachowują się firmy komercyjne. My na przykład dla Banku Polskiego PKO BP tworzymy dedykowany model, zamknięty wyłącznie dla nich ze względu na bezpieczeństwo. Ten model jest uczony wyłącznie dla danych PKO BP, więc będzie całkowicie zamknięty, ponieważ w przyszłości będzie obsługiwał procesy biznesowe PKO BP. Nie wiem, czy to jest dobre rozwiązanie dla Kancelarii Sejmu, bo to wymaga dużo nakładów. Niemniej jednak taki model jest dużo mniejszy, wymaga bardzo mało sprzętu.

Chciałem powiedzieć o drugim trendzie, bo duże modele językowe to jest klucz francuski, który chcemy dopasować do wszystkich śrub. PKO BP zaufał nam i wybrał inną drogę. Oni chcą klucz nr 13 na pewno, który będzie realizował wyłącznie potrzeby PKO BP, procesów finansowych i biznesowych tego banku. Być może dla Kancelarii Sejmu to też jest rozwiązanie, czy decydować się na uniwersalny model, czy na model dedykowany, przy czym wtedy to wymaga specjalnych nakładów i zbudowania modelu wyłącznie w oparciu o dane Kancelarii Sejmu. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo. To przejdziemy teraz do środka. Bardzo proszę i potem wrócimy do tamtego rzędu. Proszę bardzo.

Analityk danych w Sieci Obywatelskiej Watchdog Polska Michał Zemełka:
Dziękuję bardzo za głos. Michał Zemełka, analityk danych w Sieci Obywatelskiej Watchdog Polska.

Szanowni państwo, obie prezentacje były bardzo interesujące i myślę, że to, co powiem, jakoś nawiązuje do rzeczy, które zostały w nich zaadresowane, również do niektórych wypowiedzi, które już padły. Generalnie chcę powiedzieć o dwóch rzeczach, postaram się mówić krótko.

AI Act i wynikające z niego, czy też wdrażające go akty prawne, zawierają wiele mechanizmów ochronnych, czy też można powiedzieć bezpieczników, intencjonalnie służących ochronie przed szkodami, jakie może wyrządzić sztuczna inteligencja. Jednak te bezpieczniki zadziałają tylko w tych przypadkach, tylko w tych miejscach, w których zostaną zastosowane. A żeby móc egzekwować ich stosowanie, to potrzebna jest wiedza o tym, gdzie ta sztuczna inteligencja jest zastosowana. I tu dochodzimy do realnego problemu, z którym mierzymy się jako organizacja.

Od kilku miesięcy próbujemy zmapować wykorzystanie systemów opartych na sztucznej inteligencji przez administrację publiczną w Polsce, również przez centralne organy. Być może niektórzy z państwa tutaj na sali są adresatami naszych wniosków w tej sprawie. Zaobserwowaliśmy ciekawe zjawisko, bo najpierw wysłaliśmy bardzo ogólny wniosek, prosty wniosek z krótkimi pytaniami, jak dany organ czy urząd wykorzystuje sztuczną inteligencję. I na to otrzymaliśmy wiele ciekawych odpowiedzi, z których wybraliśmy niewielki podzbiór, potencjalnie najbardziej interesujących i poprosiliśmy o szczegóły. To znaczy do tych systemów, które zostały zadeklarowane, że są używane w urzędach, poprosiliśmy o bardziej szczegółowe pytania. I nagle się okazało, że duża część – nie chcę teraz powiedzieć, jaki to jest dokładnie odsetek, ponieważ jesteśmy jeszcze na etapie kolekcjonowania tych danych, jeszcze ich nie przetworzyłem –  ale ewidentnie duża część urzędów nagle zaczęła się wycofywać z tego, że to jednak nie, to jednak nie są w takim razie systemy sztucznej inteligencji, wykorzystujące sztuczną inteligencję czy bazujące na sztucznej inteligencji. I to jest takie niepokojące, tak jakby perspektywa zmierzenia się właśnie z tymi regulacjami wynikającymi z AI Act czy z tymi bezpiecznikami powodowała, że wygodnie jest uznać, że to jednak w takim razie nie jest sztuczna inteligencja. To jest nasza obawa.

Do czego zmierzam? Dlatego wydaje się że bardzo ważnym narzędziem, które może wzmocnić ten obszar, jest rejestr systemów sztucznej inteligencji używanych przez administrację publiczną. Taki rejestr został wspomniany w projekcie polityki rozwoju sztucznej inteligencji do 2030 r., który już przeszedł chyba nawet dwa etapy konsultacji i teraz zdaje się, że czekamy. Według informacji, które przeczytałem chyba na cyberdefence24.pl, Ministerstwo Cyfryzacji miało przedstawić, zdaje się, do końca października efekt tych konsultacji, znaczy nową wersję projektu tego dokumentu, uwzględniającą, mniej lub bardziej, uwagi zgłoszone w konsultacjach. Więc być może... Bo nasza uwaga była taka: w tym projekcie wspomniano, że warto, żeby powstał taki rejestr i w tym projekcie wiele rzeczy… Oczywiście było wiele innych fajnych rzeczy i wiele z nich, by zostało owskaźnikowanych, to znaczy zidentyfikowano, kto jest odpowiedzialny za daną rzecz, jak zmierzymy, czy została zrealizowana. Natomiast nie było wskaźnika odnoszącego się do tego rejestru. I to jest pytanie, które być może mógłbym skierować do ministra Gramatyki, gdyby nie to, że chyba nas niestety opuścił. Ale być może ktoś inny również będzie miał jakąś wiedzę, na jakim etapie jest praca nad tym dokumentem i czy ten postulat uwzględnienia wskaźnika dotyczącego rejestru systemów AI używanych przez administrację publiczną w Polsce został uwzględniony. Tu też pozostaje pytanie, czy tak naprawdę ten rejestr nie powinien również się znaleźć, a może przede wszystkim, w ustawie o systemach sztucznej inteligencji, nad którą wciąż trwają prace. Być może to jest takie miejsce, gdzie powinno to być zaznaczone. Wydaje mi się, że tam tego nie ma, ręki sobie nie dam uciąć, ale wydaje mi się, że tego nie ma. I ten rejestr to jest jeden wątek. Już go kończę, znaczy, już go zakończyłem.

Chciałbym jeszcze wspomnieć o jednej rzeczy – o czymś, co się tak brzydko po angielsku nazywa shadow AI, nie wiem, jaki jest polski odpowiednik – generalnie o tym zjawisku była mowa w prezentacji pana profesora, a również w pierwszej prezentacji. Chodzi o sytuację, w której urzędnik używa narzędzi sztucznej inteligencji w powiedzmy taki trochę niechlujny sposób i nie weryfikuje do końca tego, co dostaje i efektem może być niekorzystna dla obywatela decyzja bądź uzasadnienie decyzji poprzez jakieś wymyślone, wyhalucynowane przepisy. I wydaje się, że to może bardzo godzić w autorytet państwa i wymierzać taki cios w poszanowanie prawa, jeżeli administracja publiczna generuje decyzje, które, już nie wnikając, czy ten urzędnik zapytał: „ChacieGPT, powiedz mi, czy powinienem się na to zgodzić, czy nie?” czy tylko po prostu poprosił: „Napisz mi uzasadnienie decyzji odmownej”, ale jeżeli na koniec to uzasadnienie jest oparte o wymyślone, wyhalucynowane przepisy, to myślę, że to jest duży problem. Takim pomysłem, postulatem, który mógłby jakoś zaadresować tę sytuację, jest być może to, że wszystkie… I to jest też trochę do Kancelarii Sejmu, która pracuje nad wewnętrznymi zasadami stosowania sztucznej inteligencji, jak nam tu opowiedziano. Być może wszystkie dokumenty, przy których – zresztą chyba minister cyfryzacji też postulował to w dokumentach gdzieś na stronie – żeby wszystkie dokumenty, które zostały wytworzone przy współudziale sztucznej inteligencji w taki sposób, że może to wpłynąć na decyzję… Bo ja już nie mówię, że ktoś sobie ozdobił dokument jakimś obrazkiem, który został wygenerowany przez sztuczną inteligencję, mniejsza o to. Ale jeżeli tam padają jakieś dane, padają jakieś przepisy i to gdzieś – czy to na poziomie dokładnie tego dokumentu, czy danych, z których on czerpał była użyta sztuczna inteligencja, to taki dokument po prostu powinien być oznaczony, powinien być może jakiś przypis, nawet małym druczkiem gdzieś na dole, cokolwiek, żeby osoba, która zderza się potem z tym dokumentem, mogła go zweryfikować pod odpowiednim kątem. Zasadniczo jeżeli człowiek, zwłaszcza bez wiedzy prawniczej, dostaje jakąś decyzję, w której padają jakieś przepisy, to przecież nie przychodzi mu do głowy sprawdzać, czy te przepisy są prawidłowo zacytowane, czy w ogóle istnieją te przepisy, na które urzędnik powołał się w swojej odmownej decyzji. Natomiast gdyby był przypis, że urzędnik podparł się sztuczną inteligencją, to już byłby to jakiś sygnał, że może jest potrzebna większa czujność. Tak że dziękuję, to jest wszystko ode mnie.

Znaczy nie sformułowałem może pytań, ale jeżeli ktoś z państwa tu na sali ma oczywiście coś do powiedzenia w tych tematach, jakieś inne pomysły na zaadresowanie tego, czy coś wie na przykład o tym rejestrze, to to jest moje pytanie. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo. Jeżeli chodzi o pana pierwszy punkt, to mogę pana zapewnić, że w takim razie, na podstawie pana wypowiedzi, ja jako podkomisja skieruję takie zapytanie do Ministerstwa Cyfryzacji.

Natomiast jeżeli chodzi o drugi punkt, to jest takie bardzo poważne zagadnienie. Nie wiem, czy dzisiaj jest taki czas na tę dyskusję, ale ja też zapraszam pana, bo będziemy procedowali nad tą ustawą. To będzie trudne zadanie dla nas, my już to wiemy dziś. Pierwsze założenia ustawy dyskutowaliśmy na komisji cyfryzacji, mieliśmy taką pierwszą przymiarkę do tego, to jest wielkie przedsięwzięcie, więc też zapraszamy. Stosujemy, i tutaj na podkomisji, i na komisji cyfryzacji u pana przewodniczącego Pejo, taką zasadę, że nie zamykamy dla nikogo drzwi, w sensie każdy, kto chciałby zabrać w danej sprawie głos, może przyjść i po prostu nam powiedzieć, jakie jest jego stanowisko, więc być może, kiedy będziemy pracowali nad tymi dokładnymi rozwiązaniami ustawowymi regulacji na temat sztucznej inteligencji, zapraszam na taką dyskusję, bo dla nas też każdy głos z zewnątrz jest bardzo cenny.

Proszę bardzo, jeszcze tamten rząd, dwie osoby. Potem przejdziemy do pani profesor i znowuż do pana. Tak jest.

Dyrektor Centrum Wiarygodnej Sztucznej Inteligencji na Politechnice Warszawskiej  Przemysław Biecek:
Dziękuję. Przemysław Biecek, Centrum Wiarygodnej Sztucznej Inteligencji Politechnika Warszawska. Chciałem podzielić się takim doświadczeniem w analizie różnych systemów zbudowanych przez inne zespoły, mianowicie na przykład systemu Whisper, to jest taki system do translacji wypowiedzi do tekstu. Okazało się, że system, który działa fantastycznie ogólnie, w pewnych zastosowaniach działa źle. Udało się tam znaleźć problem, że system, który był trenowany, żeby generować wypowiedzi, które są przyjazne w szpitalach, był stosowany w dyskusji lekarza z pacjentem, podmieniał niektóre wypowiedzi w ten sposób, żeby były bardziej przyjazne, ale przez to usuwał zwroty związane z bólem, z cierpieniem, z brakiem komfortu, co oczywiście w zastosowaniach medycznych nie ma sensu. A dlaczego to mówię? Dlatego o tym mówię, że jestem pod wielkim wrażeniem Kancelarii, że podejmuje ten pionierski wysiłek, to chyba jest naprawdę pionierski wysiłek, żeby stosować AI w swojej pracy i to jest fantastyczne, ale chciałbym zasugerować, żeby być może rozważyć taki scenariusz, którym inny zespół niż tworzący takie wdrożenie, będzie mógł po tym wdrożeniu krytycznie spojrzeć, co mogłoby się wydarzyć złego, dlatego że w tych nowych technologiach bardzo trudno nam jest przewidzieć, co złego może się wydarzyć. Twórca modelu niestety ma klapki na oczach, jest przekonany, że wszystko sprawdził, dopiero zewnętrzny zespół czasami dostrzeże takie nieoczywiste problemy. Tak więc mam taką propozycję, żeby przy takich wdrożeniach kluczowych rozważyć zewnętrzny audyt. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo. Tak rozmawiamy z panem ministrem i chcieliśmy podziękować, że to dobry pomysł i faktycznie pan minister głową – tak będzie.

Bardzo proszę, jeszcze teraz ten rząd, wracamy do środka i do pani profesor.

Członek prezydium zarządu Polskiego Towarzystwa Informatycznego Marcin Paprzycki:
Dzień dobry. Marcin Paprzycki, Polskie Towarzystwo Informatyczne. Przysłuchuję się i po pierwsze, bardzo dziękuję za bardzo ciekawe wypowiedzi i chciałem zwrócić na coś państwa uwagę. Otóż mamy dwa polskie modele: PLLuM i Bielik, a mój przedmówca mówił o ChatGPT, co natychmiast pokazuje, że jest tendencja do niewiedzy o tym, że mamy dwa polskie modele i w momencie, w którym jakikolwiek urzędnik polski użyje ChatGPT do czegokolwiek, to dokumenty Rzeczypospolitej Polskiej, nad którymi on czy ona pracuje, natychmiast wyciekają do Stanów Zjednoczonych i stają się częścią własności intelektualnej OpenAI. Musimy sobie zdawać z tego sprawę, że ktokolwiek w administracji używa nie PLLuM i nie Bielika, to natychmiast te rzeczy zostają wessane przez Stany Zjednoczone, z którymi konsekwencje są, jakie są. Ale to prowadzi mnie do następnej obserwacji.

Mamy wspaniałą robotę, jaka jest robiona w Sejmie. Gdybyśmy teraz na to spotkanie wymienili panów i mielibyśmy przedstawicieli Kancelarii Prezydenta Rzeczypospolitej Polskiej, to prawdopodobnie mielibyśmy podobnie wspaniałe rozwiązanie robione totalnie niezależnie w Kancelarii Prezydenta Rzeczypospolitej Polskiej. Potem wymieniamy ludzi i mamy kancelarię premiera, która też robi wspaniałe rozwiązanie, które jest totalnie niezależne od poprzednich, a potem bierzemy sobie urzędy marszałkowskie, urzędy wojewódzkie, które są skonfrontowane ze sztuczną inteligencją i każda z tych jednostek administracji publicznej, sądownictwo – każdy usiłuje jakoś się z tym zmagać. W związku z tym, proszę państwa, wydaje mi się, że jest niezwykle istotne, żebyśmy nie robili tego każdy po swojemu, bo to się źle skończy.

I chciałem zwrócić uwagę na jeszcze jedną rzecz w kontekście wypowiedzi pana profesora Łukasika – czas. Mamy dwa modele. Załóżmy, że jeden z nich już dostał dane dotyczące czegoś, co się dzieje związanego z, powiedzmy, procesami legislacyjnymi, bo został wybrany jako ten model, który jako pierwszy będzie dostawał dane, czyli w tym momencie PLLuM, prawda? PLLuM będzie, a Bielik jeszcze tego nie wie. Tylko że administracja publiczna, powiedzmy, w Bydgoszczy, zdecydowała się pójść z Bielikiem i oni nie wiedzą, że coś się dzieje, ponieważ oni jeszcze nie mają danych, a PLLuM już ma dane. W związku z tym wydaje mi się, że jest niezwykle ważne, żebyśmy zdawali sobie sprawę z tego, że jeżeli mamy dwa modele i różne jednostki administracji publicznej, to część wybierze jeden, część wybierze drugi z różnych powodów i bardzo rozsądnych, i absolutnie do obronienia, to jeżeli te modele nie będą dostawać danych równocześnie, to będziemy mieli piękną asynchronię. I to samo pytanie zadane jednemu modelowi i zadane drugiemu modelowi będzie prowadziło do różnych odpowiedzi i to będzie wspaniale świadczyło o Rzeczypospolitej Polskiej. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo. Jeżeli chodzi o drugi punkt, to chciałem powiedzieć, że po to jest dzisiaj to spotkanie. Tak naprawdę jako podkomisja... Sugestia była od pana ministra Cichockiego – rozpocznijmy taką dyskusję o administracji państwa polskiego. Jeżeli Sejm już podjął tę pracę i zrobił ten pierwszy krok, jest dzisiaj pionierem tak naprawdę też na mapie Europy, zrobił to pan minister, pani dyrektor, to porozmawiajmy o tym, jak to właśnie koordynować, stąd dzisiaj ta pierwsza dyskusja. Wiedzieliśmy, że ona nie będzie prosta. Jeżeli chodzi o pana pierwszą uwagę, to pan profesor zabierze głos.

Dyrektor Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji NASK-PIB Szymon Łukasik:
Bardzo dziękuję, panie profesorze. Rzeczywiście tak, to jest problem i w najbliższym czasie pokażemy, bo nie wiem, czy państwo analizowaliście polityki prywatności dużych modeli językowych opublikowanych w tak zwanym internecie. My to zrobiliśmy i postaramy się podzielić z państwem tą wiedzą. Generalnie wnioski są zatrważające w kontekście możliwości wykorzystania danych do trenowania chociażby przez podmioty, które te modele tworzą.

Natomiast odpowiadając na drugie pytanie pana profesora, to przyznam szczerze, my na to pytanie odpowiedzieliśmy sobie już rok temu. To znaczy rzeczywiście, jeżeli jest to potrzebne, czyli taka możliwość budowy takiego ekosystemu danych, który pozwalałby na trenowanie modeli czy PLLuM czy Bielika na tych samych danych, które będą dostarczone, to jesteśmy w przygotowaniu inicjatywy, która ten problem zaadresuje.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo. Do tego rzędu właśnie wracamy. Bardzo proszę i później do pani profesor. Jeżeli są jakieś głosy, to za chwilkę.

Wiceprzewodniczący Komitetu Przełomowych Technologii Polskiej Izby Informatyki i Telekomunikacji Maciej Lewandowski:
Dziękuję bardzo, panie przewodniczący. Maciej Lewandowski, Polska Izba Informatyki i Telekomunikacji. Rozumiem, że dzisiaj nie spotkaliśmy się, żeby dyskutować o polityce AI czy nawet o ustawie, tylko o wdrożeniu narzędzi sztucznej inteligencji w Kancelarii Sejmu i postaram się w mojej wypowiedzi ograniczyć do pytań i postulatów bezpośrednio z tym związanych.

Po pierwsze, wprowadzenie. Izba grupuje przedsiębiorców. Jak większość z państwa wie, życie przedsiębiorcy w Polsce jest proste i łatwe, ponieważ jego działalność musi spełnić tylko trzy kryteria: użyteczności, opłacalności i zgodności z prawem. W tym kontekście pozwolę sobie sformułować pierwsze pytanie, jak na wstępie wyraził się pan przewodniczący, podejmując pracę nad zastosowaniem sztucznej inteligencji w Kancelarii Sejmu,

Kancelaria – takie odniosłem wrażenie, być może mylne – nie sporządziła wymagań użyteczności, nie określiła oczekiwań użytkowników. Posłowie, zgodnie z wypowiedzią pana przewodniczącego, mają okazję dowiedzieć się o tych pracach dzisiaj na posiedzeniu. Użytkownicy w postaci na przykład wchodzących na stronę podmiotową Kancelarii Sejmu też chyba nie byli pytani o zdanie. W związku z tym zastanawiam się, w jakim stopniu ten aspekt użyteczności wyrobu czy też usługi został zagospodarowany. I teraz przykładowo, gdyby przy badaniu użyteczności narzędzi sztucznej inteligencji dla posłów i obywateli, okazało się, że na przykład jest oczekiwanie, że będzie można zadać pytanie na stronie podmiotowej Sejmu, w jaki sposób dany problem, dana sprawa, dane zagadnienie, dana sytuacja została już uregulowana w ustawach uchwalonych przez Sejm RP, to będzie możliwość zrealizowania takiego projektu, czy to w ramach zakładanej strategii, czy to obok tej strategii, czy to zamiast strategii, ponieważ zapewne byłaby to odpowiedź na konkretne oczekiwania użytkowników. To jest pierwsze pytanie: w jaki sposób określono oczekiwania bezpośrednich użytkowników sztucznej inteligencji poza korpusem urzędników Kancelarii Sejmu?

Drugie pytanie z tym związane, i tutaj chciałem nawiązać do apelu zarówno ministra Gramatyki, jak i innych osób o udostępnianie danych. Chyba 15 czy 20 lat temu Kancelaria Sejmu była pionierem włączenia metadanych ELI, jeżeli chodzi o ustawy i przepisy wykonawcze przyjmowane przez rząd i to w jakiś sposób działa, a kilka osób tutaj podkreślało potrzebę jakości zbiorów danych, w tym również dobrego opisu tych zbiorów danych. I w związku z tym przyłączam się do apelu, żeby ten korpus danych w posiadaniu Kancelarii Sejmu wraz z opisem jakościowo możliwym był udostępniony w portalu otwartych danych.

Trzecia kwestia – rejestru, podniesiona tu przez kolegę. Trzy lata temu administracja federalna w USA po prostu zwróciła się do jednostek szczebla centralnego o przedstawienie listy wykorzystywanych narzędzi sztucznej inteligencji i to zostało opublikowane. Naprawdę nie trzeba tworzyć wielkiego rejestru, obudowywać, jest to działanie, które można wykonać w ramach administracji rządowej, opublikować jego wyniki.

Kolejny postulat, trochę nawiązujący do mojej nadziei, że mam nadzieję, że Kancelaria Sejmu będzie korzystać z wiedzy merytorycznej NASK. My mamy dobrą tradycję takiego merytorycznego dialogu z NASK i naprawdę warto wiedzę NASK wykorzystywać. Ale to, co wspomniał pan prof. Łukasik – jeżeli NASK dokonał analizy polityk prywatności, która jest istotna dla każdego obywatela RP korzystającego z ogólnie dostępnych narzędzi, to może byłoby fajnie, gdyby wyniki, wnioski z tej analizy polityk prywatności zostały publicznie udostępnione, nie tylko na użytek prac Komisji Sejmowej, gdzie również się przydadzą, ale żeby przynajmniej ta część obywateli Polski, którzy chcą świadomie korzystać z różnych narzędzi, miała tę dodatkową informację i dzwoneczek do zastanowienia się. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo. Pan minister jednym zdaniem chciał się odnieść do tych słów. Panie ministrze, bardzo proszę, oddaję głos.

Szef Kancelarii Sejmu Jacek Cichocki:
Dziękuję serdecznie. Za chwilę państwa przeproszę, ponieważ mam kolejną komisję, na której będę występował, tym razem regulaminową. To jest komisja, która nadzoruje bezpośrednio funkcjonowanie Kancelarii Sejmu i jej szefa, więc muszę się do nich przygotować.

Dziękuję za wszystkie podpowiedzi, inspiracje i wskazania, które państwo nam przekazaliście. Będziemy to z panią dyrektor przetwarzali i jak najbardziej starali się tym kierować. Krótko odpowiadając, jeżeli chodzi o apel o dane, został usłyszany. Cieszę się, że został podbity przez pana, pierwszy raz został sformułowany przez ministra Gramatykę. Po zakończeniu posiedzenia Sejmu, bo rzeczywiście jak trwa posiedzenie Sejmu, trudno jest poza bieżącymi rzeczami skoncentrować się na bardziej systemowych, pewnie w przyszłym tygodniu usiądę z ośrodkiem informatyki i będziemy rozmawiać o tym, jak je udostępnić, bo to jest ze wszech miar dobra praktyka, jak najbardziej ważna.

Kolejna rzecz, jak najbardziej... Zresztą widzieliście państwo w prezentacji i mówiła o tym także pani dyrektor, staramy się korzystać z wiedzy merytorycznej wszystkich, którzy mogą nas wesprzeć jako Kancelarię Sejmu i NASK, i zacnego grona naukowców, i praktyków i będziemy to rozwijać dalej, bo sami mamy poczucie deficytu tej wiedzy, znaczy mamy wiedzę w innych dziedzinach, natomiast tu się musimy uczyć.

Jeżeli chodzi o użyteczność, jednak stwierdziliśmy, że nim wyjdziemy do posłów, to najpierw musimy jako korpus urzędniczy zająć się problemem i go opanować na poziomie naszej pracy, bo trudno wychodzić do posłów z pewnymi propozycjami, poczynając od szkoleń itd, itd, póki my, jak to się mówi kolokwialnie, nie jesteśmy ogarnięci. Właśnie kończymy ten proces, ale jak najbardziej będziemy szli dalej w tych działaniach i widzimy, że i posłowie, a zwłaszcza też pracownicy, których posłowie zatrudniają w biurach, to jest bardzo ważny korpus, który powinien być włączony w nasze działania.

I czy coś jeszcze mam z tych tematów... Chyba nie. Dziękuję serdecznie państwu za tę inspirację i wszystkie dobre podpowiedzi.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie ministrze za obecność, za wykonaną pracę i trzymamy kciuki za kolejne komisje i wystąpienia.

Szef Kancelarii Sejmu Jacek Cichocki:
Dziękuję serdecznie.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję. Natomiast jeszcze odnosząc się do tego, co powiedział pan minister i do tych głosów, które padają, myślę, że być może na kolejnym etapie prac Kancelarii Sejmu jeszcze raz zrobimy takie spotkanie, żeby z nami podyskutować, bo czym więcej takich rozmów, czym więcej takich dyskusji... Zakładając podkomisję do spraw sztucznej inteligencji, powiedzieliśmy wprost, że my też chcemy się tego nauczyć, bo my będziemy podnosili rękę za konkretnymi rozwiązaniami, a to właśnie praktycy czy naukowcy, czy ci, którzy mają potężną wiedzę, będą nam służyć pomocą i to wy tak naprawdę jesteście tą grupą ludzi, my musimy tylko was posłuchać i potem podjąć racjonalne decyzje.

Przechodzimy teraz do tego rządu, do pani profesor. Bardzo proszę, oddaje głos, proszę. I później wracamy, tam jest głos – tak, widzę – i wracamy do pana.

Wykładowca w Centrum Europejskim Uniwersytetu Warszawskiego prof. ucz. dr hab.  Marta Grabowska:
Dzień dobry państwu. Marta Grabowska, Centrum Europejskie Uniwersytetu Warszawskiego. Bardzo dziękuję za te niezwykle interesujące prezentacje i muszę wyrazić naprawdę bardzo pozytywną opinię, że takie pionierskie działania są jednak podejmowane. Nie tylko zresztą w Sejmie, już nie ma tutaj pana ministra Gramatyki, ale również ta decyzja o udostępnieniu wszystkim obywatelom podpisu kwalifikowanego w mObywatelu to też jest wielki krok naprzód. Polska jest pierwszym krajem, który się zdecydował na to rozwiązanie. To było przewidziane w Unii Europejskiej na przyszły rok, dopiero na 2026, a wyszliśmy z tym troszkę wcześniej.

Ale wracając do tej problematyki, to może tylko zacznę od tego, że jakiś czas temu, nie wiem, miesiąc, może dwa, wystosowałam na piśmie zapytanie do ministra cyfryzacji, czy jest jakieś ciało, czy jest jakiś zespół, który albo już koordynuje, albo dopiero będzie koordynował wprowadzanie systemów sztucznej inteligencji w ogóle w administracji publicznej, bo w moim przekonaniu to jednak wymaga właśnie, tak jak tutaj słyszeliśmy, pewnej koordynacji, bo zapewne będzie podejmowany szereg decyzji, jakie modele będą przyjmowane itd. Proszę pamiętać, że to wszystko schodzi później do najniższego szczebla – na szczebel gmin i innych jednostek. I my już przeżyliśmy, niestety bardzo złe... Mamy złe doświadczenia, kiedy właśnie nie ma takiej koordynacji, bo my dobrze wiemy, że każda gmina ma zupełnie inne…Znaczy schodzę tu na poziom cyfryzacji, ma zupełnie inne, bardzo różne systemy, to wszystko bardzo różnie działa, nie ma wspólnych standardów, obywatel, przechodząc na przykład z gminy do gminy jest zagubiony, gdzie czego szukać, bo każda gmina ma inny system. Niestety nie dostałam odpowiedzi na to moje zapytanie, które skierowałam do Ministerstwa Cyfryzacji, to już chyba ze dwa miesiące albo może i więcej, czy przewiduje się jakieś ciało, które będzie ewentualnie koordynować choćby jeśli chodzi o te podstawowe decyzje dotyczące czy to modeli językowych, czy procedur na przykład informowanie obywatela, gdzie ta sztuczna inteligencja jest wmontowana, a gdzie jej nie ma. To jest takie moje pytanie, na to niestety odpowiedzi do dziś nie mam. Apeluję o to, żeby jednak wziąć pod uwagę takie rozwiązanie.

Następna kwestia jest taka, że należałoby sobie na dzisiaj zadać pytanie, co nas broni przed tą sztuczną inteligencją. Czy my mamy jakiekolwiek przepisy prawa, które dzisiaj na przykład tutaj, w Polsce bronią obywatela, tak żeby on się mógł obronić, żeby mógł wszcząć jakieś postępowanie. Zaczynam od przepisów o skali międzynarodowej. Te, które zostały przyjęte, żaden z nich jeszcze nie obowiązuje, że tak powiem. Mam tu na myśli trzy takie duże dokumenty.

Pierwszy to jest rezolucja ONZ dotycząca systemów sztucznej inteligencji, ale rezolucje ONZ, jak wiadomo, są niewiążące. Więc ona i tak z urzędu nas nigdy nie będzie przed czymkolwiek bronić, dlatego że w Organizacji Narodów Zjednoczonych wiążące są wyłącznie rezolucji Rady Bezpieczeństwa, bo dalej za tym stoi trybunał w Hadze, natomiast za pozostałymi rezolucjami nic nie stoi. To jest de facto wyrażenie takiej sugestii. Co tam w środku jest, to ja nie będę tutaj streszczać. Każdy z państwa może wejść sobie na stronę Organizacji Narodów Zjednoczonych i przeczytać, ale cała Organizacja Narodów Zjednoczonych, oczywiście oparta jest na deklaracji praw człowieka i one są niejako wbudowane. Głównym celem tej rezolucji ONZ jest to, ażeby sztuczną inteligencję stosować do różnych spraw związanych z równoważonym rozwojem, ale to już jest inna kwestia, bo one i tak nigdy nie będą wiążące.

Drugi to jest ten nasz unijny Artificial Intelligence Act, który de facto mówi nie o samej sztucznej inteligencji, bo ona jest w gestii nauki, nauka zawsze korzysta z wolności badań. Ten akt mówi o systemach sztucznej inteligencji, które mogą zagrażać ewentualnie człowiekowi. I w związku z tym ta regulacja powstaje, żeby w pewnych sytuacjach nas przed czymś bronić. Ona w niektórych krajach już jest przyjęta, u nas jeszcze nie. Ona ewentualnie mogłaby nas bronić, jeżeli my ją w końcu w Polsce już uruchomimy. Tylko jest pytanie, bo legislacja to legislacja, ale co z orzecznictwem. Czy są przygotowane sądy? Czy są przygotowane organy ścigania do tego wszystkiego? Ażeby jeżeli ktoś się powoła na ten Artificial Intelligence Act, żeby mógł rzeczywiście uzyskać z tego jakieś rozwiązanie. Tego na razie nie ma. Jeżeli chodzi o sam akt, to chyba jeszcze nie mamy nawet informacji, gdzie będzie można ten system rejestrować. To jeśli o pana chodzi, żeby ujawniać, jaka część pisma na przykład pochodzi z systemu sztucznej inteligencji, to tu też, jeśli chodzi o ten akt, byłaby pewna wątpliwość, dlatego że właściwie otwarcie tego... Znaczy obywatel ma prawo dowiedzieć się, w jaki sposób ta decyzja zapadła, ale raczej przede wszystkim w stosunku do tych systemów najwyższego szczebla zagrożenia, bo tam są pewne szczeble, jedni mówią, że cztery, ja uważam, że tam są trzy, przynajmniej sędziowie tak twierdzą, że są trzy poziomy i właściwie tylko w stosunku do tego najwyższego poziomu poszkodowany mógłby się ubiegać o to, żeby mu otworzyć ten black box i pokazać, na jakiej podstawie ta decyzja została podjęta. Ja nie wiem, jak będzie to traktował sąd, bo nie mamy jeszcze jakichś wykładni sądowych, znaczy orzeczeń, w których moglibyśmy zobaczyć w ogóle, jak to wszystko będzie działać. To wszystko jest jeszcze chyba w sferze dość długiego czasu.

I jest trzeci dokument, o którym się prawie w ogóle nie mówi, a chyba trzeba go tutaj przypomnieć i zmobilizować parlament, żeby Polska w tym zakresie zaczęła pewne działania.  Myślę tutaj o Konwencji Rady Europy. Jak wiadomo, Rada Europy, która właśnie rozszerza na przykład ten Artificial Intelligence Act Unii Europejskiej o tę sferę praw człowieka, bo ona teraz idzie bardziej w kierunku ochrony praw człowieka, niż to jest nawet zawarte w Artificial Intelligence Act. Ta konwencja jak wiadomo z numerem 225 została przyjęta we wrześniu 2024 r. Zresztą wszystkie trzy dokumenty, o których mówię, pochodzą z 2024 r. Na razie wstępnie szereg krajów ją podpisało, Polska chyba jeszcze w ogóle nie. Ona pewnie za prędko nie wejdzie w życie, bo tam są warunki, ile krajów musi ratyfikować ten dokument, ale to jest w toku i jeżeli my chcemy być takimi pionierami, to ja nie wiem, czy parlament nie powinien jednak, ażeby zamknąć całą problematykę prawną sztucznej inteligencji, podjąć działań w celu wdrożenia Konwencji Rady Europy. To jest zupełnie nowa konwencja i jak ją przeczytać, to ona rozszerza zdecydowanie to, co jest w Artificial Intelligence Act w kierunku praw człowieka. Co więcej, ten dokument jest również wiążący, bo rezolucja ONZ nie jest wiążąca, natomiast nasz AI Act i Konwencja Rady Europy to są dokumenty wiążące, a więc chroni obywatela, on może gdzieś dalej zacząć jakąś walkę i stoi za tym Trybunał Praw Człowieka. Więc żeby zamknąć tę problematykę, w moim przekonaniu wisi nam Konwencja Rady Europy, co do której też trzeba podjąć chyba jakieś działania.

Natomiast trzeba jasno powiedzieć, że na razie nic nas nie broni, po prostu nic nas nie broni przed tą sztuczną inteligencją, a my również w kraju nie mamy jakiegoś aktu narodowego. Nie wiem, może można skarżyć z tytułu jakichś innych przepisów, jakieś szkody czy czegoś takiego. Nie mamy żadnych narodowych przepisów. W związku z tym krótko mówiąc, hulaj dusza, piekła nie ma. Natomiast tutaj w Sejmie, jeśli się podejmuje te działania, to ja rozumiem, że one są na etapie właśnie eksperymentalnym do czasu, do kiedy nie będzie wdrożonego jakiegokolwiek aktu prawnego, który pozwoli obywatelom, w stosunku do których ta sztuczna inteligencja będzie stosowana, nie będzie aktem prawnym wiążącym i nie będzie uruchomione orzecznictwo. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo, to ja szybko wytłumaczę. Jeżeli chodzi o szkolenia administracji rządowej, administracji publicznej, to są takie zainicjowane przez Ministerstwo Cyfryzacji.

Jeżeli chodzi o rezolucję, przyjrzymy się, dlaczego ona jeszcze nie została ratyfikowana. To sprawdzę.

Wykładowca w Centrum Europejskim Uniwersytetu Warszawskiego prof. ucz. dr hab.  Marta Grabowska:
I Konwencje Rady Europy.

Przewodniczący poseł Grzegorz Napieralski (KO):
Czy konwencje. Sprawdzimy to, pani profesor. Natomiast jeżeli chodzi o ustawy, jedyny akt, który będzie przyjęty, który po części będzie nas bronił, to jest ta ustawa, nad którą dyskutujemy teraz na komisji cyfryzacji, czyli DSA. Nad innymi pracujemy oczywiście, ale i tak i tak, jeżeli chodzi o zaawansowanie prac nad przepisami, to my jesteśmy naprawdę pionierami. W Stanach Zjednoczonych był jeden taki przepis i właśnie Trump go zniósł, więc są tak naprawdę tylko przepisy, które są powoływane na poziomie stanowym.

Jest tam pośrodku głos i jeszcze tutaj. I szanowni państwo, ponieważ są obrady Sejmu i musimy zwolnić salę o godzinie 12.00, proponuję, żeby jeszcze te dwa głosy wybrzmiały i jeżeli jest taka potrzeba, zwołam jeszcze raz podkomisję, jeżeli będą kolejne etapy naszej pracy, bo widzę, że dyskusja jest naprawdę bardzo ciekawe i chętnie byśmy się jej przysłuchiwali. Obiecuję, że niebawem jeszcze zwołamy kolejne takie posiedzenie, dobrze?

Czyli bardzo...Głos, tu głos i ten.

Kierownik Centrum HumanTech Na Uniwersytecie SWPS Konrad Maj:
Postaram się krótko. Konrad Maj, Uniwersytet SWPS, Centrum HumanTech. W zasadzie chciałbym wzmocnić te apele, które były tutaj wygłoszone. Też pani o tym wspomniała, też profesor Paprzycki, jeśli chodzi o koordynację działań, jeśli chodzi o silną współpracę. Tak się składa, że ja też pracuję w Krajowej Szkole Sądownictwa i Prokuratury i tam też prowadzę szkolenia ze sztucznej inteligencji i to jest w odpowiedzi na ich zapotrzebowanie, ponieważ sędziowie, prokuratorzy, administracja, bo tutaj musimy też pamiętać, że oni też szkolą administrację, takie zapotrzebowanie zgłaszali. I jakkolwiek oczywiście Kancelaria Sejmu i przypuszczam, że administracja rządowa ma pewnie wielkie potrzeby i problemy, ale musimy pamiętać, że administracja sądowa, wymiar sprawiedliwości to jest być może miejsce, od którego powinniśmy zacząć, jeśli chodzi o wprowadzanie pewnych rozwiązań, które mogą wspierać ich pracę.

Natomiast teraz jest taka sytuacja, że oni oczywiście potrzebują się dowiedzieć, i to jest moja rola, na temat narzędzi sztucznej inteligencji, natomiast tak naprawdę nie mamy w tym momencie możliwości zaoferowania im – oczywiście tutaj była mowa o Bieliku, była mowa o PLLuM, ale tak naprawdę to jest jeszcze kwestia nieuregulowana, jeśli chodzi o wykorzystywanie w sądownictwie przez sędziów, prokuratorów, administrację sądową. I wiem od nich, że oni pomimo tych swoich pewnych refleksji i obaw, używają takich narzędzi. Oczywiście zdając sobie sprawę z tego, że muszą czasami zanonimizować te rzeczy, które tam rzucają. Mają tę świadomość, to nie jest tak, że robią to bezrefleksyjnie. Ale bez wątpienia część ludzi może tutaj zaliczyć jakąś wpadkę, powiedzmy sobie. Boję się tego, że za kilka lat możemy mieć dużo uzasadnień wyroków, które będą pełne rozmaitych halucynacji itd.

I teraz, do czego zmierzam? Do tego zmierzam, że ta koordynacja, zwłaszcza z Ministerstwem Sprawiedliwości… Aczkolwiek ja wiem, że też, bo byłem na jednej podkomisji, gdzie ona była sfokusowana, skoncentrowana na tej kwestii, ale jednak bez wątpienia na tej komisji moim zdaniem przedstawiciele Ministerstwa Sprawiedliwości również powinni być obecni. My byliśmy też na spotkaniu z ministrem Żurkiem. On też ma świadomość tego i widzi w tym duży potencjał, ponieważ w wielu kwestiach, jeśli chodzi o przygotowywanie pewnych dokumentów, nawet w tej chwili czasami przepisuje się je ręcznie. A przecież wiemy doskonale, że są takie rozwiązania OCR, które potrafią ten problem rozwiązać. Więc jest masa możliwości, ale tak naprawdę sędziowie czekają na jakiś ruch i czekają na to, że dostaną jakieś konkretne rozwiązania od góry. Tak że mój apel jest ogólny, po prostu żeby pamiętać o tej koordynacji i zwłaszcza jeśli chodzi o Ministerstwo Sprawiedliwości, zwłaszcza jeśli chodzi o problemy naszego wymiaru sprawiedliwości. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję. Bardzo dziękuję za ten głos, bo trochę pan mnie zmobilizował, bo pamiętam, że mamy zapowiedziane drugie spotkanie naszej podkomisji w Ministerstwie Sprawiedliwości. Myślę, że oprócz systemu ochrony zdrowia, to faktycznie jest dzisiaj najbardziej wrażliwy element naszej administracji, który powinniśmy tak naprawdę uzbroić nie tylko w przepisy, ale też wiedzę. Mam nadzieję, zapraszam bardzo serdecznie. Postaram się, żeby do takiego spotkania w Ministerstwie Sprawiedliwości doszło jak najszybciej. I za ten głos bardzo dziękuję. I jeszcze tutaj głos po tej stronie i pani dyrektor, bardzo proszę.

Dyrektor Biura Analiz i Badań Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego Filip Konopczyński:
Filip Konopczyński NASK, cyfryzacja. Chciałem odpowiedzieć na pytanie pani profesor o Konwencję Ramową Rady Europy. Polska jest już stroną tej konwencji na mocy decyzji komisji. Polska nie? Komisja Europejska na podstawie decyzji Rady Unii Europejskiej, co wynika z prawa traktatowego, więc jakby nie mogliśmy nawet tego podpisać przynajmniej ani ratyfikować...

Wykładowca w Centrum Europejskim Uniwersytetu Warszawskiego prof. ucz. dr hab.  Marta Grabowska:
Nie, nie, nie. Przepraszam, mogę?

Przewodniczący poseł Grzegorz Napieralski (KO):
Pani profesor, ale tę dyskusję już następnym razem poprowadzimy. Pani dyrektor, bardzo proszę, bo ja niestety muszę zwolnić salę.

Dyrektor Biura Ekspertyz i Oceny Skutków Regulacji Kancelarii Sejmu Marzena Laskowska:
Dziękuję bardzo. Króciutko. Kancelaria Sejmu również jest podmiotem, który czeka na pewne decyzje strategiczne na poziomie państwa, ale czeka aktywnie, to znaczy w tych granicach, które dzisiaj już regulują, bo AI Act jako rozporządzenie przecież obowiązuje bezpośrednio w państwach członkowskich, tak że w tych granicach, które dziś stwarza już system prawny, my staramy się tworzyć bezpieczne środowisko dla stosowania sztucznej inteligencji w Kancelarii Sejmu. Natomiast oczywiście, jeśli chodzi o infrastrukturę, którą zdecydowalibyśmy się rozwijać przy uwzględnieniu takich lub innych modeli, przyłączamy się do postulatu, żeby najszybciej te prace, bo one tylko wtedy będą efektywne i będą służyć dobru publicznemu, jeśli będą właśnie odpowiednio planowane, tak żeby mogły być także uwzględnione w naszych pracach. Dziękuję uprzejmie.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję, pani dyrektor. Bardzo dziękuję za ten głos, dziękuję za tę wykonaną pracę, a szczególnie dziękuję państwu za dzisiejsze spotkanie i za to, że otworzyliście nam oczy na niektóre sprawy. I to, że czasami czegoś nie udało się do tej pory zrobić, to nie wynika z naszej jakby indolencji czy niechęci pracy. Czasami po prostu też kilku rzeczy nie widzimy, na które powinniśmy spojrzeć. Dlatego też stworzyliśmy tę podkomisję, żeby ona nawet była mniej taką podkomisją, gdzie po prostu są klepane, mówiąc tak oględnie czy trywialnie, ustawy, tylko bardziej, żeby ona była właśnie takim miejscem dyskusji, wymiany poglądów między wami – ekspertami, praktykami, ludźmi, którzy mają na ten temat wiedzę i nami – parlamentarzystami, którzy będą podejmowali decyzje. Chciałem bardzo serdecznie za to podziękować. Obiecuję jeszcze jedno spotkanie w takiej tematyce w Ministerstwie Sprawiedliwości, tak patrzę na pana, spotykamy się.  Oczywiście jeżeli ktoś ma ochotę, zapraszam. I tak jak powiedziałem, te wszystkie głosy, te nasze obietnice zrealizujemy.

Na tym wyczerpaliśmy porządek obrad. Zamykam posiedzenie podkomisji, a państwu jeszcze raz bardzo, bardzo serdecznie za dzisiaj dziękuję. Do zobaczenia i do widzenia.