Podkomisja stała do spraw sztucznej inteligencji i przejrzystości algorytmów,  obradująca pod przewodnictwem posła Grzegorza Bernarda Napieralskiego (KO), zrealizowała następujący porządek dzienny:

– prezentacja aktualnego stanu wiedzy na temat sztucznej inteligencji;

– dyskusja na temat projektu ustawy o zmianie ustawy o związkach zawodowych.

W posiedzeniu udział wzięli: Krzysztof Gawkowski wiceprezes Rady Ministrów, minister cyfryzacji wraz ze współpracownikami, Radosław Nielek dyrektor Naukowej i Akademickiej Sieci  Komputerowej Państwowego Instytutu Badawczego wraz ze współpracownikami, Jacek Oko prezes Urzędu Komunikacji Elektronicznej wraz ze współpracownikami, Łukasz Wroński dyrektor Departamentu Ochrony Zbiorowych Interesów Konsumentów Urzędu Ochrony Konkurencji i Konsumentów wraz ze współpracownikami, Tomasz Ochmiński zastępca dyrektora Departamentu Nowych  Technologii Urzędu Ochrony Danych Osobowych wraz ze współpracownikami, Bartosz Kopeć  wicedyrektor Departamentu Prawnego Państwowej Inspekcji Pracy, Wojciech Sałabun profesor w Instytucie Łączności Państwowego Instytutu Badawczego wraz ze współpracownikami,  prof. ucz. dr hab. Krzysztof Stefański kierownik Kolegium Doktorskiego i Studiów Podyplomowych Ochrony Danych Osobowych Wydziału Prawa i Administracji Uniwersytetu Łódzkiego, prof. ucz. dr hab. Marta Grabowska wykładowca w Centrum Europejskim Uniwersytetu Warszawskiego, Maria  Ganzha prezes Oddziału Mazowieckiego Polskiego Towarzystwa Informatycznego wraz ze współpracownikami, Rafał Wieczerzak koordynator e-Izby ds. AI Izby Gospodarki Elektronicznej, Krzysztof Pstrong dyrektor generalny Polskiej Izby Gospodarki Elektronicznej, Jacek Silski prezes zarządu Polskiej Izby Radiodyfuzji Cyfrowej wraz ze współpracownikami, Magdalena Bublewicz kierownik Związku Pracodawców Branży Internetowej IAB Polska wraz ze współpracownikami, Robert Lisicki dyrektor departamentu pracy w Konfederacji Lewiatan wraz ze współpracownikami, Paweł  Śmigielski dyrektor Wydziału Prawno-Interwencyjnego Ogólnopolskiego Porozumienia Związków Zawodowych, Arkadiusz Pączka wiceprzewodniczący Federacji Przedsiębiorców Polskich, Paweł Łangowski członek zarządu w Biurze Pracodawców Medycyny Prywatnej wraz ze współpracownikami, Michał Smagowicz wiceprezes THINKTANK, Joanna Karczewska członek Stowarzyszenia ELKApw oraz Adam Jadczak redaktor naczelny ITwiz.

W posiedzeniu udział wzięli pracownicy Kancelarii Sejmu: Jakub Błoński i Magdalena  Krzymowska – z sekretariatu Komisji w Biurze Komisji Sejmowych.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Dzień dobry, witam bardzo serdecznie. Otwieram posiedzenie podkomisji stałej do spraw sztucznej inteligencji i przejrzystości algorytmów. Stwierdzam kworum. Witam panów posłów, członków Komisji. Przede wszystkim chciałbym serdecznie powitać pana premiera Krzysztofa Gawkowskiego i podziękować za dzisiejszą obecność – to wielki zaszczyt dla członków podkomisji. Dzień dobry, panie premierze. Chciałbym powitać również pana Radosława Nielka – dyrektora Naukowej i Akademickiej Sieci  Komputerowej. Dzień dobry, panie dyrektorze.

Szanowni państwo, ponieważ mam aż trzy strony zaproszonych gości, to wymienię tylko tytuły czy nazwy instytucji, żebyśmy nie zmarnowali całej podkomisji na wyczytywanie, ale bardzo cieszymy się, że jesteście państwo z nami, że chcecie uczestniczyć w tej podkomisji. Myślę, że to bardzo istotna sprawa dla całego tematu. Bardzo ważne jest dla nas zainteresowanie wszystkich środowisk, które reprezentujecie i bardzo za to dziękujemy.

Ministerstwo Cyfryzacji, które reprezentuje pan Krzysztof Gawkowski wicepremier Rady Ministrów oraz minister cyfryzacji, Urząd Komunikacji Elektronicznej, Urząd Ochrony Konkurencji i Konsumentów, Urząd Ochrony Danych Osobowych, Państwowa Inspekcja Pracy, Instytut Łączności Państwowego Instytutu Badawczego, Wydział Prawa i Administracji Uniwersytetu Łódzkiego, Centrum Europejskie Uniwersytetu Warszawskiego, Polskie Towarzystwo Informatyczne, Izba Gospodarki Elektronicznej, Polska Izba Komunikacji Elektronicznej, Polska Izba Radiodyfuzji Cyfrowej, Związek Pracodawców Branży Internetowej IAB Polska, Konfederacja Lewiatan, Federacja Przedsiębiorców Polskich, Stowarzyszenie Przyjazna Gospodarka, Biuro Pracodawców Medycyny Prywatnej, Komisja Krajowa NSZZ „Solidarność”, Polska Izba Książki, THINKTANK, Stowarzyszenie ELKApw – przepraszam, jeżeli coś źle przeczytałem, proszę wybaczyć – ITwiz i to wszystko. Witam jeszcze Związki Zawodowe OPZZ, bardzo przepraszam, dziękuję za obecność. Czyli dzisiaj na sali mamy dwie największe centrale związkowe. Bardzo nas to cieszy.

Szanowni państwo, porządek dzisiejszego posiedzenia przewiduje w punkcie pierwszym prezentację aktualnego stanu wiedzy na temat sztucznej inteligencji. W drugiej części mamy dyskusję na temat projektu nowelizacji ustawy o związkach zawodowych, od razu dopowiem, że to dotyczy algorytmów, jeżeli chodzi o pracowników. Czy są uwagi do takiego porządku dziennego obrad? Nie widzę. Przechodzimy do porządku obrad.

Szanowni państwo, jeżeli pozwolicie to cztery zdania przed panem premierem. Sztuczna inteligencja to coś, co tak naprawdę zmieni nasz świat bardzo gwałtownie i na zawsze. Wszyscy, którzy myśleli, że internet i komputery zmienią świat…oczywiście ten świat się zmienił, ale jeszcze nie wiemy, jak zmieni życie sztuczna inteligencja. Na pewno to będzie o wiele większy przełom niż to, co wydarzyło się w erze internetu i w erze komputerów. Polska ma tutaj do odegrania bardzo ważną rolę. Rewolucję sztucznej inteligencji można przyrównać do rewolucji przemysłowej, tylko że Polska w tamtym czasie niestety nie była w awangardzie tych zmian, byliśmy pod zaborami, musieliśmy tak naprawdę walczyć o swoją niepodległość i te przemiany naturalnie były dla nas bardzo trudne. Dziś nasza sytuacja polityczna, geopolityczna, gospodarcza absolutnie jest zmieniona i naprawdę możemy być liderem tych pozytywnych zmian. Mamy duży potencjał i wszystkie narzędzia, które są nam potrzebne. Po pierwsze wspaniale przygotowanych ludzi, dobry klimat, w Polsce cały czas i znów chce nam się zmieniać, do tego mamy infrastrukturę, więc moim zdaniem jesteśmy na to bardzo dobrze przygotowani.

Chciałbym też podziękować panu premierowi Krzysztofowi Gawkowskiemu, który tak naprawdę jako pierwszy wyszedł z inicjatywą, aby po pierwsze poważnie o tym dyskutować, po drugie powołał specjalny zespół, który w ministerstwie będzie zajmował się tylko i wyłącznie tematem sztucznej inteligencji. Musimy pamiętać, że sztuczna inteligencja to oczywiście coś, co będzie nam dawało wielkie szanse, ale może też stwarzać zagrożenia. Rolą podkomisji, w ogóle rolą tej dyskusji w parlamencie, którą zaplanowaliśmy jest to, żebyśmy wspólnie wypracowali wszystkie narzędzia, tak aby to, co będzie się budować w naszym kraju, służyło nam ludziom i abyśmy my jako Polska naprawdę stali się liderem tych zmian.

Jeszcze raz dziękuję panu premierowi i od razu oddaję głos. Proszę bardzo,  panie premierze.

Minister cyfryzacji Krzysztof Gawkowski:
Dzień dobry. Panie przewodniczący, szanowni państwo, to duży zaszczyt być na jednym z pierwszych posiedzeń podkomisji – pierwszym w aspekcie merytorycznym, ale jednocześnie jednym z pierwszych elementów głębokiej rozmowy i szerokiego namysłu o tym, gdzie jesteśmy, jeżeli chodzi o sztuczną inteligencję, gdzie możemy być, jakie są perspektywy Polski i jakie są szanse dla świata.

Chciałbym bardzo serdecznie podziękować panu przewodniczącemu Napieralskiemu i przewodniczącemu Komisji za to, że inicjujecie takie dyskusje, że chcecie o tym rozmawiać i że możemy zarysować polską koncepcję AI, nie tylko na polu wykonawczym, ale również w Sejmie, na polach ustawodawczych. Jeżeli chcemy stać się awangardą wśród państw, które myślą, że sztuczna inteligencja może nas zaprowadzić do szybszego rozwoju technologicznego, ale i szeroko pojętego bezpieczeństwa, takie dyskusje bez wątpienia powinny się odbywać, powinny być szeroko konsultowane i powinny też dawać poczucie, że wnioski z tych dyskusji są później realizowane i wykonawczo wdrażane. To na początek. Bardzo serdecznie dziękuję, bo myślę, że takie miejsca i takie pola są dla nas bardzo ważne.

W tym wstępnym wystąpieniu chciałem też poprosić państwa o pewne zrozumienie dla metodyki dzisiejszego spotkania, które chciałem zaprezentować i pól, jakie przedstawimy. Po pierwsze chciałbym, żebyśmy mimo wszystko porozmawiali trochę o przeszłości, żeby później skupić się na teraźniejszości i też wskazać, jakie są pola przyszłości. Tylko takie myślenie o pewnym etapowaniu tego, gdzie jesteśmy i dokąd chcemy pójść, wyświetli miejsce, dlaczego sztuczna inteligencja jest taka ważna i co może zrobić dla Polski, polskiego obywatela, polskiej gospodarki i dla polskiego rozwoju w perspektywie pięciu, dziesięciu i kilkudziesięciu najbliższych lat.

Zacznę od tego, że w Polsce o sztucznej inteligencji przez wiele lat mówiono, ale nie za wiele robiono. Na bazie polityk edukacyjnych rozwoju technologicznego powstały znakomite książki, powstały procesy systemowego opisania tego, co powinno się wydarzyć i została też opisana koncepcja, jak Polska powinna pracować dla rozwoju sztucznej inteligencji. Niestety oprócz dyskusji akademickich, NGO, pracy na poziomie organizacyjnym, ta dyskusja nie była zaprowadzona tam, gdzie moglibyśmy powiedzieć, czyli na metodę realizacji i działania. Szczególnie miało to miejsce na polu dotyczącym polityki dla rozwoju sztucznej inteligencji w Polsce, która powstała i działała,  ale była to strategia rozwoju sztucznej inteligencji do roku 2020. Jak państwo wiecie, jest  rok 2024 – 4 lata w rozwoju różnego rodzaju języków generatywnych, pól, które w międzyczasie zostały określone, to olbrzymi okres, który nie został odpowiednio wykorzystany. Dlatego jednym z pierwszych elementów dotyczących teraźniejszości – bo będę już zamykał tematy dotyczące tego, gdzie jesteśmy – jest doprowadzenie do powstania odpowiednio przygotowanej i zorganizowanej polityki rozwoju sztucznej inteligencji, która w Polsce będzie obowiązywała od roku 2024. Wraz z zespołami w ministerstwie i na międzyresortowym komitecie do spraw cyfryzacji przystąpiliśmy do rozpoczęcia prac nad polityką dla rozwoju sztucznej inteligencji, która ma opierać się o kilka filarów, zarówno tych społecznych, dotyczących biznesu, jak i tych, które dotyczą szeroko pojętego bezpieczeństwa. Jak zatem widzimy te pola dotyczące polityki AI w społeczeństwie i w tym, jakie powinniśmy realizować zadania?

Po pierwsze AI dla obywatela, AI dla społeczeństwa, czyli sztuczna inteligencja w służbie człowiekowi. Podkreślam to mocno, żeby była świadomość, że algorytmy muszą służyć człowiekowi, a nie że w którymś momencie człowiek będzie zniewolony przez algorytmy. Aby włączyć się w działania dotyczące procesów obywatelskich, chcemy obywatelsko konsultować politykę sztucznej inteligencji i takie założenia przedstawiliśmy już na pierwszych spotkaniach w grudniu 2023 r. Aby wykorzystać potencjał sztucznej inteligencji należy też przede wszystkim elastycznie, ale i stale reagować na rozwój technologii poprzez ustanowienie prawodawstwa, które w zakresie badań i rozwoju będzie konsultowane w Sejmie w trybie rządowym. To, co chcemy zrobić dla polityki sztucznej inteligencji, to prowadzić cały proces w pracach rządowych, czyli bez takiego procesu poselskiego, który był stosowany przez wiele ostatnich lat.

Po drugie AI w formie wsparcia biznesowego, ale i biznes w polityce wsparcia AI. Chcemy wesprzeć polskie firmy w tworzeniu różnego rodzaju języków generatywnych, wykorzystać rozwiązania AI, które tworzą Polacy tutaj w Polsce, ale i za granicą dla promowania firm polskich i promowania sektora publicznego, czyli rozwoju gospodarczego, który będzie z tego wynikał. Zarówno w Polsce, jak i w Europie podjęliśmy działania do tego, żeby stworzyć specjalny fundusz AI, który będzie opierał się na środkach finansowych, które będzie można wykorzystywać w sferze publicznej na poziomie pieniądza, który będzie dostępny dla firm i NGO, i edukatorów, i uczelni wyższych. Planujemy, że ten fundusz zostanie wdrożony wtedy, kiedy będzie przygotowana nowa praca nad budżetem, czyli mówimy o roku 2025.

Po trzecie wspomniana już edukacja, czyli sztuczna inteligencja dla edukacji – wzmocnienie wysokiej pozycji Polski na poziomie osiągnięć uczniów szkół średnich. I to jest miejsce, które – trzeba uczciwie powiedzieć – ma znakomite osiągnięcia w Polsce i które jest naszym wielkim, niewykorzystanym zasobem. Polska jest dzisiaj na drugim miejscu na świecie – na drugim miejscu na świecie – jeżeli chodzi o umiejętności programistów i różnego rodzaju działania w ramach konkursów mistrzostw świata, zwycięstwa w olimpiadach światowych etc. To działanie należy zmotywować do tego, żeby Polacy, którzy są tak mocno znani na rynku edukacyjnym na świecie, pracowali nie tylko na rynku światowym. Stąd podjęliśmy działania dotyczące wdrożenia części naszych specjalistów, w tym trzech mistrzów świata, ale i pracowników najważniejszych korporacji światowych – którzy kiedyś wyjechali i pracowali w wielkich korporacjach za granicą – żeby działali dla Polski. Dlatego powstała grupa robocza, która nazywa się PLAI, czyli są to specjaliści światowi, ale polskiego pochodzenia. Chcemy, żeby oni pracowali w Polsce. Było dużo różnego rodzaju wątpliwości, więc chciałbym wszystkim wyjaśnić, bo czytałem dużo na ten temat – wszyscy ci eksperci pracują tutaj pro bono, nikt nie pobiera żadnych środków finansowych. Myślę, że wszyscy są na tyle majętni, że nikt nie musi nawet o tym myśleć. Chodzi po prostu o to, żebyśmy nie marnowali ich potencjału. Oni chcą dla nas pracować. Zgłosili się, więc będziemy to wykorzystywać.

Po czwarte rozpoczęta przez poprzedni rząd polityka sztucznej inteligencji w sektorze publicznym. Zamierzamy to kontynuować i chciałbym mocno podkreślić, że jestem głęboko przekonany, że rozwiązanie, które będzie łączyło sektor publiczny, czyli administrację, z różnego rodzaju wykorzystaniem sztucznej inteligencji, jest właściwe.  Rozpoczęliśmy prace projektowe, podkreślam, a nie legislacyjne nad rozpoczęciem myślenia, jak powinna wyglądać nowa architektura informatyczna państwa, jak powinniśmy integrować dane, jak powinna wyglądać interoperacyjność między systemami. Uważam, że to jest najtrudniejsze, to znaczy najtrudniejszym owocem przyszłości wykorzystania będą dane, które posiadamy – żebyśmy je dobrze zabezpieczyli, umieli je wykorzystywać, zapewnili ich bezpieczeństwo, żeby jednocześnie można było je wykorzystywać na przykład do tego, żeby powstawały nowe funkcjonalności w mObywatelu i w różnego rodzaju instytucjach, które też prowadzą swoje rejestry. W Polsce cyfryzacja kojarzy się z takim przeświadczeniem, że wszystko dzieje się w Ministerstwie Cyfryzacji. Otóż dużo dzieje się w Ministerstwie Cyfryzacji, ale również dużo dzieje się w resorcie ochrony zdrowia, edukacji, polityki społecznej, obrony narodowej, spraw wewnętrznych i administracji, polityki ekologicznej, energii itd. Nie wiem, czy jest dzisiaj w Polsce miejsce, gdzie różnego rodzaju języki generatywne dotyczące tego, jak ma wyglądać interoperacyjność między systemami nie działają w ministerstwach … w rzeczywistości działają, skupiają się też w rękach tego, co zostało przez lata udostępniane w mObywatelu. Oczywiście żeby otwierać różnego rodzaju nowe funkcjonalności potrzeba czasu, bo nie wszystko da się zrobić ze względu na to, że mamy chociażby ustawę o ochronie danych osobowych. Jesteśmy przed dyskusją na temat tego, jak powinna ona zostać zmieniona, żebyśmy mogli wykorzystywać te dane.

W końcu usprawnienie efektywności działania administracji rządowej i samorządowej – tu mamy najtrudniejsze wyzwania. Nie będę ukrywał. Wszyscy z państwa, którzy interesujecie się cyfryzacją, algorytmami, sztuczną inteligencją – panie przewodniczący, taką dyskusję mieliśmy też w tamtej kadencji – wiecie, że administracja ma największe problemy, dlatego że ma najtrudniejszą absorbcję to znaczy często przekonanie do papieru, jednocześnie brak sytuacji, które pozwalają wykorzystywać zebrane dane, czyli ich wprowadzanie do systemów, które są kontrolowane, później wykorzystywanie tych danych, nakładanie logistyki, czyli algorytmów i na koniec sztuczna inteligencja to jest najtrudniejszy proces. Ile on zajmie? Nie potrafię odpowiedzieć. Nawet nie wyobrażam sobie tego, chciałbym, żeby to następowało szybko, ale to są przestrzenie, o których będę mógł państwu powiedzieć pewnie po wszystkich debatach, które przejdziemy w ramach grup roboczych. Chcemy również otworzyć specjalne miejsce do rozmowy w ramach grup współpracy międzynarodowej. W ministerstwie stworzyliśmy nowy departament, który będzie zajmował się polityką międzynarodową i dużą część tych aktywności chcemy przełożyć na ramy współpracy międzynarodowej dotyczącej tego, jak rozwija się sztuczna inteligencja i jeżeli chodzi o legislacje na świecie. Podkreślam – legislacje, to znaczy interesują nas na przykład rozwiązania brytyjskie, które są wdrażane, interesują nas zbiory danych, które są i będą przetwarzane w państwach europejskich, ale chcemy też wyjść dalej. Na przykład jestem po spotkaniu z ambasadorem Japonii, gdzie rozmawialiśmy o możliwościach bilateralnej współpracy między państwami, które już rozpoczęły działania w ramach swoich polityk wewnętrznych w państwach wysoko rozwiniętych. To jest też pole do 2024 r.

W końcu chcemy doprowadzić do szóstego elementu, który z perspektywy sztucznej inteligencji ma walor kluczowy, to znaczy objęcie tych wszystkich obszarów – społeczeństwo, obywatel, innowacje, edukacja, sektor publiczny i sektor międzynarodowy – bezpieczeństwem. Bez odpowiedniego zapewnienia bezpieczeństwa sztuczna inteligencja jest groźna. Musimy zacząć zdawać sobie z tego sprawę, bo jesteśmy w zachwycie – i bardzo dobrze, ja też jestem fanem i entuzjastą sztucznej inteligencji, jestem fanem jej wykorzystania dla gospodarki, rozwoju i przyszłości człowieka – ale sztuczna inteligencja bez odpowiednich hamulców może doprowadzić do sytuacji – bardzo to spłycę, więc specjalistów za to przepraszam – że do kogoś z państwa zadzwoni syn, córka, brat albo żona i jak zadzwoni, to porozmawiacie, uznacie, że rozmawialiście z osobą, która wyświetlała wam się na żywo i może okazać się, że zostaliście wprowadzeni w błąd przez to, że sztuczna inteligencja wygenerowała bliskiego członka waszej rodziny, który z wami rozmawiał i wydobył od was dane, czyli was oszukał, wprowadził w błąd, doprowadził do kryzysu. To jest najprostszy z tematów rozwiązań, ale możemy sobie też wyobrazić wszystkie rzeczy, które można wygenerować już dzisiaj, a jesteśmy przecież w polach przyszłości, do których teraz będę powoli przechodził, bo i języki generatywne będą się rozwijały i pola dotyczące przechodzenia z algorytmów do prawdziwej sztucznej inteligencji również będą się poszerzały.

Zatem czym jest bezpieczeństwo, cyberbezpieczeństwo w AI? Jest myśleniem o tym, jak przygotować się do świata rewolucji technologicznej, który będzie wdrażał sztuczną inteligencję i nie będzie zagrażał człowiekowi. W związku z tym toczą się prace na dwóch poziomach: poziomie europejskim – pierwszym z tych elementów jest AI Act,  czyli akt o sztucznej inteligencji, który jest przygotowywany, wdrażany i jest zatwierdzony na poziomie już Unii Europejskiej i drugi element – polskie przepisy, które będą starały się wyprzedzać takie myślenie, które później mogłoby sztucznej inteligencji w Polsce na przykład przeszkodzić w rozwoju gospodarczym albo wpłynąć na to, że obywatele będą gdzieś zagrożeni. Odtwarzamy zatem współpracę i chcemy ponownie zbudować porozumienie społeczne w ramach grupy roboczej AI, która wytworzyła już kilka ważnych dokumentów m.in. białą księgę wykorzystania AI w praktyce klinicznej, przygotowała raport o piaskownicach regulacyjnych dotyczący infrastruktury i różnego rodzaju działań sztucznej inteligencji w Polsce, zbiorów danych, które wykorzystują języki programowania. Chcemy, żeby grupa robocza przygotowała różnego rodzaju strategie działań, które pozwolą skutecznie przeciwdziałać świadomości społecznej, że AI może być groźne. Chcemy bardzo dużo postawić na higienę cyfrową w ramach sztucznej inteligencji. W tej sprawie jestem w koordynacji z panią minister edukacji i uważamy, że na poziomie kompetencji cyfrowych powinniśmy wdrożyć do programu nauczania takie elementy, które już w nauczaniu wczesnopodstawowym, czyli mówimy o klasach 1–3 doprowadzą do tego, że dziecko będzie miało świadomość tego, jak należy wykorzystywać cyfrową higienę na poziomach języków generatywnych, które mogą je zaskakiwać, które będą podkładały mu dezinformacje, fake newsy, deepfake, różnego rodzaju działania, które może absorbować jako prawdę. Jednocześnie jak skonsultować te działania, żebyśmy tę kompetencję cyfrową wdrożyli też wśród najstarszych. To jest dla nas jeden  z ważnych elementów. Wyjdę poza temat sztucznej inteligencji, ale chciałbym go zaznaczyć i też zaadresować na jakąś Komisję w przyszłości – to kompetencje cyfrowe w sektorze wiekowym 65 plus. Mamy jedne z najniższych kompetencji w sektorze 65 plus i to nie chodzi o jakiekolwiek zaniedbanie, chodzi o to, że po prostu polska struktura społeczna wykształciła się tak, że od szerokiego wejścia na rynek smartfonów, a wcześniej telefonii komórkowej, po prostu zawsze na poziomie 65-70 był ten problem. W końcu trzeba powiedzieć, że on jest i spróbować go rozwiązać. Czy jesteśmy dzisiaj w stanie zbudować kompetencje cyfrowe na tym poziomie? Nie powiem, że możemy, tylko że musimy. W związku z tym, że jest w planie, abyśmy na przykład realizowali nowy poziom  e-Doręczeń, realizowali zadania, które będą wynikały nie tylko z tego, że po prostu możemy zaadresować sobie grupy, które chodzą i dostają receptę w telefonie i kod, to musimy mieć świadomość, że sztuczna inteligencja będzie dotyczyła też starszych, którzy mogą być jeszcze bardziej skażeni i problemami – widzicie to państwo pewnie po takim specjalnym smsie, który niektórzy z was dostali, fachowo zwanym phishingiem – ale generalnie chodzi o to, że ktoś z was mógł być oszukany i to jest tylko mała komóreczka tego, co może zrobić sztuczna inteligencja gdyby na przykład generowała kilkaset tysięcy maili do najstarszej grupy obywateli. Więc świadomość tego jest dla nas również bardzo ważna i dlatego ta grupa gra(?)21:28 i ożywienie całego tego procesu, który jest ważny.

Na koniec, jeżeli chodzi o języki generatywne i współpracę w Polsce dotyczącą sztucznej inteligencji – uważamy, że jeżeli w Polsce nie wykształcimy myślenia strategicznego, międzyresortowego o sztucznej inteligencji, to ile by cyfryzacja i edukacja do tego nie włożyły, to będziemy mieli problem. Dlaczego ten problem będzie? Dlatego, że sztuczna inteligencja wkrada się w różne pola powoli, ale skutecznie. Otworzę obszar zdrowia, który nie jest w moim kompetencyjnym zainteresowaniu, ale ze względu na współpracę ministerstwa i NASK – będę też chciał panu dyrektorowi oddać głos w tej sprawie – współpracujemy na przykład z Centrum e-Zdrowia, które odpowiada za cesję zdrowia, które odpowiada m.in. za to, żeby w systemie ochrony zdrowia, w szpitalach był pewien poziom bezpieczeństwa. On jeszcze wzrośnie po nowelizacji krajowego systemu cyberbezpieczeństwa, ale co to oznacza dla sztucznej inteligencji? Oznacza to tyle, że dzisiaj ilości danych zbieranych w systemach, które można by było przetwarzać i które można by było wygenerować, oznaczają że oczywiście możemy wcześniej zdecydować się na badania, bo odkryjemy, że ktoś jest zagrożony chorobą onkologiczną, bo zbierzemy dane, które pozwolą stwierdzić, że jesteś w grupie podwyższonego ryzyka, czyli na przykład w okresie trzech lat zachorujesz na raka. To możemy robić już dziś. Ale w związku z tym jeżeli te dane nie będą odpowiednio zabezpieczone, to można je też wykorzystywać do tego, żeby na przykład firmy wiedziały, co wydarzy się z naszym życiem i w związku z tym nie chciały z nami podpisywać umów, żeby ubezpieczyciele nie chcieli z nami generować przez trzy czy pięć lat wcześniej żadnych sytuacji kryzysowych. W związku z tym, poprzez wiedzę, algorytmy, zebrane dane, ich szczegółowe obrazowanie, nasze życie tak naprawdę mogłoby nam zostać bardzo skomplikowane. W związku z tym w tym akcie europejskim AI Act w polskich przepisach, które poleciłem wdrażać w ministerstwie i prowadzić nad nim praktyki, będzie kilka wytycznych, które na koniec chciałbym zostawić jako pole przyszłości.

Pierwsza wytyczna jest taka: jesteśmy i będziemy – jako rząd polski i wierzę, że jako parlament i wspólnie wszystkie siły polityczne – przeciwko temu, żeby stosować szeroką biometrię w czasie rzeczywistym, jeżeli chodzi o użycie języków programowania.  Jestem głębokim przeciwnikiem tego, żeby algorytmy i sztuczna inteligencja mogły wykorzystywać nasze dane, na przykład jak chodzimy po ulicy, czyli algorytmować nasze ruchy, żeby można było w trybie rzeczywistym podawać, co robimy. Jestem przeciwnikiem i będę próbował też państwa tym zarazić, Wysoką Komisję, Komisję Cyfryzacji i wszystkie ciała sejmowe, żebyśmy nie pozwalali sztucznej inteligencji na bycie ostatnim decydentem. To znaczy ostatnie słowo powinno zawsze należeć do człowieka i wszystkie akty prawne, które będziemy konstruowali powinny wykluczać, że gdzieś na końcu procesu algorytmy same podejmują decyzje. Czyli wszystkie procesy adresowane  u człowieka – tak to będzie się nazywało.

I w końcu trzecia rzecz –musimy i powinniśmy wypracować kodeks praktyk etycznych na różnych polach, jeśli chodzi o współpracę międzyresortową w obszarze sztucznej inteligencji, bo bez niego będzie niezmiernie trudno, żeby nauczyć społeczeństwo, ale przede wszystkim obywatela – bo on jest clue zainteresowania resortu i myślę też, że całego społeczeństwa – że najważniejszy jest obywatel, który musi mieć poczucie, że w obszarze algorytmów państwo się nim opiekuje, a nie algorytmem opiekują się obywatele. Dziękuję. Jeżeli pan poseł przewodniczący pozwoli, to jeszcze chciałem poprosić o głos pana dyrektora.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Jasne. Panie premierze, bardzo dziękuję za zabranie głosu, za wyczerpujące wystąpienie. Chciałem powiedzieć i zadeklarować, że ta podkomisja będzie miejscem ponad podziałami politycznymi, miejscem szerokiej dyskusji, jeśli chodzi o sztuczną inteligencję i algorytmy. Jeśli pan premier i pan dyrektor pozwolą, chciałem jeszcze przywitać prezesa Urzędu Komunikacji Elektronicznej pana prezesa Oko, który do nas dotarł.  Bardzo dziękuję, panie prezesie, że jest pan z nami. Chciałem również powitać pana profesora Krzysztofa Stefańskiego z Uniwersytetu Łódzkiego, ponieważ niebawem pan profesor i uczelnia będą nas gościć jako Komisję i będziemy tam dyskutować również o algorytmach. Panie premierze jeszcze raz bardzo dziękuję. Panie dyrektorze, oddaję panu głos.

Dyrektor Naukowej i Akademickiej Sieci Komputerowej Państwowego Instytutu Badawczego Radosław Nielek:
Dzień dobry państwu. Panie przewodniczący, bardzo dziękuję za możliwość zabrania głosu. Czy mogę prosić o…ach, ona już się wyświetla. Postaram się, żeby to, o czym mówię, było dość krótkie, bo widzę, że jest sporo osób, które pewnie chciałyby zabrać głos.

Pan premier mówił o szansach, które tworzy sztuczna inteligencja, ale także trochę o zagrożeniach. Powiem szczerze, że my jako NASK, powołani do tego, żeby bronić bezpieczeństwa polskiej przestrzeni internetowej, koncentrujemy się głównie na kwestiach związanych z zagrożeniami. Koncentrujemy się na nich nie po to, żeby hamować rozwój sztucznej inteligencji, tylko właśnie po to, żeby ona mogła rozwijać się jak najlepiej, bo wtedy, kiedy pojawią się obawy, kiedy pojawi się strach z tym związany, to będziemy mieć także potencjalny problem z jej rozwojem.

Mogę prosić kolejny slajd? To jest taki krótki slajd wprowadzający do tego jak bardzo sztuczna inteligencja jest obecna w świadomości. I o ile większość z nas jest świadoma tego, że sztuczna inteligencja jest obecna w niektórych produktach, to bardzo niewiele osób jest w stanie faktycznie zidentyfikować, w jak wielu produktach jest ona obecna już dzisiaj. Oznacza to także, że jak bierzemy przedmiot do ręki, korzystamy z technologii, to często nie mamy świadomości, że pod spodem, w zasadzie już od wielu, wielu lat, czają się – może nie jest to najlepsze słowo – ale jakoś tam wspierają nasze działania algorytmy sztucznej inteligencji.

Mogę prosić kolejny slajd? My w NASK patrzymy na sztuczną inteligencję z trzech perspektyw i o tych trzech perspektywach chciałbym krótko powiedzieć, potem oddam głos panu profesorowi Bieckowi, który jest dyrektorem jednego z centrów zajmujących się bezpieczeństwem sztucznej inteligencji. Te trzy rzeczy na przecięciu słów bezpieczeństwo i sztuczna inteligencja to jest zastosowanie sztucznej inteligencji w zabezpieczaniu internetu w Polsce czy generalnie naszych doświadczeń w korzystaniu z komputerów. Te algorytmy, rozwiązania sztucznej inteligencji, algorytmy, które my już teraz wykorzystujemy w większości produktów, które NASK oferuje i którymi zabezpiecza istniejące w Polsce rozwiązania. Jeśli korzystają państwo z mObywatela, to w mObywatel jest rozwiązanie BotSense, a BotSense w wersji mobilnej w pewnym zakresie korzysta już z rozwiązań sztucznej inteligencji po to, żeby chronić użytkowników mObywatela. Podobnie rozwiązane są kwestie ochrony anty DDoS czy ochrony związanej generalnie z wykrywaniem phishingowych domen w internecie. Tam także bardzo wiele rozwiązań z zakresu sztucznej inteligencji jest już teraz wdrożonych i wykorzystujemy sztuczną inteligencję po to, żeby nasz internet był bezpieczniejszy.

Mogę kolejny slajd? To jest chyba jeden z takich przykładów, o których pewnie państwo wiedzą mniej, to znaczy w ramach NASK działa także Dyżurnet, który zajmuje się treściami CSAM. Tak profesjonalnie nie używa się tego sformułowania, bo ono jest szersze, w pewien sposób nacechowane nie tak, jak byśmy chcieli. Specjaliści używają słowa CSAM z angielskiego, natomiast tu chodzi o pornografię dziecięcą. Dyżurnet zajmuje się analizą takich zgłoszeń, ich wykrywaniem i reakcją na nie. Oczywiście w tym zakresie, do którego jest upoważniony. Już teraz mamy model sztucznej inteligencji, który jest wykorzystywany do tego, żeby w tym zakresie wstępnie kategoryzować przychodzące treści. To pozwala zmniejszyć obciążenie pracy analityków, priorytetyzować zgłoszenia, a także pozwala w przyszłości – w tej chwili jeszcze dokładnie tak to nie działa – przeszukiwać internet pod kątem obecności takich treści i ewentualnie reagować na ich pojawienie się. Natomiast jest to o tyle ważne, że to także bardzo dobry przykład tego, jak sztuczna inteligencja i taki model, który jest ogromnie wartościowy, może zostać wykorzystany do złych celów. Bo ten model, który był pokazany na poprzednim slajdzie, wyciągnięty z NASK, udostępniony publicznie, mógłby zostać wykorzystany do nauczenia innych sztucznych inteligencji do generowania takich treści. To jest jeden z rodzajów ataków, które można przeprowadzać na takie modele. Dotyczy to odzyskiwania danych treningowych. To pokazuje, że jest potrzebna nie tylko regulacja, ale czasem także taka fizyczna obrona tych modeli.

Dobrze, to, co państwu teraz opowiedziałem, to było trochę o tym, jak w tej chwili wykorzystujemy modele sztucznej inteligencji do obrony cyberprzestrzeni, czyli to bezpieczeństwo i sztuczna inteligencja. Jest jeszcze drugi, równie ważny obszar. Już teraz widzimy wzrost różnego typu ataków przeprowadzanych z wykorzystaniem sztucznej inteligencji pod spodem. Proszę sobie wyobrazić, że jeszcze dwa, trzy, cztery lata temu przeprowadzanie takiego bardzo zaawansowanego ataku na wybraną osobę, prezesa dużej firmy, premiera, ministra, bardzo istotną osobę, która podejmuje decyzje lub ma dostęp do ważnych danych wymagało kilku osób, wysokiej klasy specjalistów, oczywiście ich nielegalnego zaangażowania. Oni musieli poświęcić czas, często tygodnie na znalezienie wektorów ataku, na zebranie informacji o tej osobie, na przygotowanie komunikatów o nich i na wysłanie tych komunikatów jakimiś różnymi kanałami. W tej chwili sporą część tych rzeczy da się zrobić za kilka lub kilkanaście dolarów korzystając z już istniejących modeli sztucznej inteligencji. Czyli rodzaje ataku, ich zaawansowanie, które były możliwe tylko dla kilkudziesięciu, kilkuset wybranych osób w danym kraju, za chwilę ten rodzaj zaawansowanych ataków będzie dostępny dla wszystkich, tzn. w ten sposób za kilka dolarów będzie można zaatakować każdego w Polsce. A za rok, dwa, trzy pewnie nie za kilka dolarów, a za kilkanaście centów. Niektóre rzeczy, takie jak generowanie głosu, który udaje głos osoby, którą znamy, generowanie wiarygodnego wideo osoby, którą znamy były w ogóle niemożliwe To wszystko już jest lub za chwilę będzie możliwe w cenie, która nie będzie przekraczała ceny kubka kawy w Starbucks. Musimy być tego świadomi, bo to wymaga zupełnie nowych sposobów odpowiedzi, ochrony, regulacji i rozwiązań, które będą nas bronić.

Czy mogę prosić kolejny slajd? Jak patrzymy na sztuczną inteligencję, która jest godna zaufania, to mówimy o takich trzech aspektach.

Pierwszy to zgodności z prawem. Pan premier dużo mówił o tym, w jakim kierunku będzie starało się posuwać to prawodawstwo m.in. w kontekście tego, że ostateczna decyzja powinna należeć do człowieka, więc sztuczna inteligencja, która istnieje w jakimś otoczeniu, działa w Polsce, działa w konkretnym kraju, powinna być zgodna z prawem. Tylko trzeba też mieć świadomość tego, że Polska jest sporym krajem, bez wątpienia z ambicjami, ale na mapie świata jesteśmy tylko jednym z wielu krajów, a modele sztucznej inteligencji są tworzone w bardzo wielu krajach i są dostępne zdalnie. To także wpływa na to, że coś, co jest zgodne z prawem w Polsce, to ten model może być niezgodny z prawem w Polsce, natomiast może być dostępny zdalnie lub być dystrybuowany na bazie na przykład open source. Dyskusja będzie pewnie dotyczyła tego, czy jeżeli model może nie być zgodny z prawem, to czy jego użycie może być zgodne z prawem.

Drugi istotny aspekt to solidność, o której też często zapominamy, bo trenujemy modele na konkretnych danych, w konkretnym momencie, zebranych w jakimś tam czasie. Solidne modele sztucznej inteligencji powinny zachowywać się przewidywalnie i zgodnie z naszymi oczekiwaniami w każdych warunkach, z jakimi mogą się zetknąć. To nie jest tak, że mamy autonomiczny samochód, który został nauczony i świetnie jeździ po Kalifornii, natomiast niezbyt rewelacyjnie jeździ po górach w Polsce, bo spadł śnieg albo mamy mgłę albo mamy opady deszczu albo bo w Skandynawii jest dużo silniejszy wiatr niż to, z czym model spotkał się w Kalifornii. Musimy być świadomi tego, że solidny oznacza działający poprawnie, zgodnie z całymi warunkami, z jakimi może się zderzyć.

Wreszcie ostatnia rzecz, która trochę łączy się ze zgodnością z prawem, też jest ważna i chyba jest jeszcze trudniejsza niż kwestia oceny zgodności z prawem, to kwestia etyczności tego modelu, tzn. zachowania tego modelu, odpowiedzi modelu muszą być etyczne. Jestem informatykiem i nie posunę się dalej w dyskusji na temat tego, co to znaczy etyczne, ale tak, jak wszyscy tutaj siedzimy, mamy świadomość i takie poczucie, że jest jakaś szara strefa, o której możemy dyskutować, jest cała przestrzeń zachowań, które na pewno są nieetyczne i takich, które moglibyśmy uznać za etyczne.

Dobrze, w tym miejscu postawię kropkę i może przekażę głos panu profesorowi, bo chciałbym państwa jeszcze zapoznać z trzema przykładowymi atakami na modele sztucznej inteligencji, bo to jest ten trzeci rodzaj zagrożeń. Powiedziałem już o dwóch. Trzecim rodzajem są potencjalne ataki na same modele sztucznej inteligencji to znaczy model został zbudowany z założeniem, że będzie przestrzegał prawa, etycznie, w sposób solidny – tak nam się przynamniej na początku wydawało – ale wciąż jest cała masa różnego rodzaju ataków, nie z wykorzystaniem modeli sztucznej inteligencji jak na przykład miarowanie głosu, tylko na same modele sztucznej inteligencji. Tutaj oddaję głos panu profesorowi. Bardzo dziękuję.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję, panie dyrektorze. Proszę bardzo pana profesora.

Kierownik Zakładu Bezpieczeństwa, Harmonizacji i Przejrzystości Sztucznej  Inteligencji Państwowego Instytutu Badawczego NASK Przemysław Biecek:
Dzień dobry. Przemysław Biecek, Uniwersytet Warszawski, Politechnika Warszawska, NASK. Zacznę od tego, że moim celem nie jest to, żeby kogoś straszyć. Chciałbym pokazać kilka przykładów problemów, które mogą dostarczać modele, po to, żeby być może też powiększyć naszą świadomość, czego można się spodziewać i co może pójść źle.

Jednym z przykładów ataków na modele, który wydaje się być bardzo trudny, ale w rzeczywistości jest prowadzony, to zaburzanie informacji wyjściowych w taki sposób, żeby pozyskać jakiś pożądany efekt. Przykładowo, jeżeli mamy model, który rozpoznaje twarze, okazuje się, że można takim modelem oszukiwać w taki sposób, że dodając małą informację na zdjęciu, na przykład plakietkę, możemy spowodować, że ten model będzie działał inaczej. Czyli jeżeli mamy model, jestem w stanie wygenerować dla niego plakietkę, która oszuka ten model i nagle okaże się, że on może zbadać moją twarz i będzie uważał, że można zrobić kogoś innego. To dotyczy nie tylko rozpoznawania twarzy, ale też innych obiektów, nie chcę odwoływać się do takich najbardziej klasycznych przykładów militarnych typu czołgi, ale dotyczy też różnych obiektów w obszarze zdrowia. Poproszę kolejny slajd. Tych ataków jest znacznie więcej. Przykładowym atakiem, który często jest wykonywany na etapie trenowania modelu jest atak, który polega na modyfikacji złośliwych danych treningowych. To jest kluczowe. Myślimy o modelu jako wyjściowym, gotowym rozwiązaniu, ale bardzo ważne jest, żeby kontrolować sposób, w jaki ten model był trenowany. Dlatego często dostępność danych wpływa na to, jak funkcjonuje model. Posłużę się prostym przykładem – jeżeli model jest językowy, ma za zadanie rozpoznać znaczenie skrótu „op”, w zależności od tego, co jest trenowane bardziej, na analizie jakichś zapisków lekarskich może rozpoznać ten opis „op” jako opakowanie, a jeżeli byłby trenowany bardziej na danych diagnostycznych, to może rozpoznać go jako oko prawe. Dla specjalisty z kontekstu będzie wynikało czym jest „op”. Jeżeli nasze dane treningowe są źle przygotowane, jeżeli nie mamy kontroli nad tym, które dane są wykorzystane, to może okazać się, że model, który otrzymujemy, nie działa zgodnie z naszym oczekiwaniem w naszym środowisku. Poproszę kolejny slajd.

Kolekcja rzeczy, które mogą pójść źle jest bardzo duża. Żeby pokazać najbardziej oczywiste przykłady, to posłużę się jeszcze przykładem, który jest w stanie z modelu wytrenowanego, mamy taki ChatGPT Midjourney – modele, które już istnieją w naszej przestrzeni, okazuje się, że z takiego modelu można czasami wyciągnąć informacje o danych, na których ten model był trenowany. To nie zawsze jest coś, co byśmy chcieli. Jeżeli na przykład mamy model, który pracuje w obszarze medycyny i diagnozuje on bardzo rzadką, ale być może wstydliwą chorobę i jeżeli jestem w stanie odgadnąć czy jakaś obserwacja była użyta w danych treningowych, to tym samym możemy odgadnąć, czy dana osoba miała tę wstydliwą chorobę. Pamiętamy pandemię COVID, była taka wstydliwa sytuacja, że nie każdy chciał być identyfikowany z tym, że był chory na COVID. Nie ma co prawda żadnej winy tej osoby, ale nie każdy chciał być tak postrzegany. Jeżeli mielibyśmy model rozpoznający COVID, to przy użyciu pewnych ataków jestem w stanie określić, czy wśród danych treningowych była na przykład określona osoba. Więc to jest jeszcze jeden przykład potencjalnych ataków na model. Poproszę kolejny slajd. Tych przykładów jest dużo więcej. Nie zawsze one mają takie bardzo oczywiste konsekwencje. Przykładowo prowadziliśmy ze studentami na Uniwersytecie Warszawskim analizę modeli do segmentacji obrazu i okazało się, że modele w internecie nie potrafią rozpoznawać naszych pierogów. Na polecenie „dumplings” one były trenowane na chińskich danych. Na chińskich danych pierogi wyglądają inaczej, więc nie potrafią rozpoznawać pierogów polskich. Czy to jest problem, który nas niepokoi? Okazuje się, że może nas niepokoić, dlatego że taki sam problem zauważyła badaczka Timnit Gebru, która pracowała w Google. Odkryła ona, że w jej przypadku model nie rozpoznaje jej twarzy. Ona akurat ma bardzo ciemny kolor skóry i modele nie były w stanie rozpoznawać jej koloru skóry. Taki sam problem – niedobrze skalibrowane dane, brak rozpoznawania pewnego obiektu – doprowadził do tego, że Timnit Gebru uruchomiła całą fundację, która zaczęła walczyć, żeby modele były równie skuteczne też dla grup mniejszościowych. Jeżeli chcemy chronić nasze dziedzictwo niematerialne, takie jak na przykład pierogi, to oczywiście analiza stronniczości, uczciwości modeli jest bardzo ważna. Nie tyko dla pierogów, ale też dla innych istotnych podgrup ludzi czy innych obiektów. Poproszę kolejny slajd.

Tematem, który bardzo często pojawia się w dyskusji o AI jest kwestia transparentności i wyjaśnialności. Jest to temat, który jest szalenie ważny, ponieważ jeżeli mówimy o zaufaniu do narzędzi AI – a takich narzędzi będzie coraz więcej i będą one coraz bardziej obecne – to szalenie ważne jest, żebyśmy mogli też sprawdzić i zrozumieć jak te modele działają. Trudno sobie wyobrazić sytuację, że model, który ma sygnalizować chorobę, wypluje jakiś wynik i osoba, która później ma się podpisać pod tą diagnozą bez mrugnięcia okiem stwierdzi, że tak, oczywiście, nie ma żadnych szans, żeby tego pacjenta wyleczyć, albo trzeba przepisać tę konkretną, bardzo agresywną terapię. Kluczowe jest, żebyśmy wymagali, żeby tworzone modele były transparentne, żebyśmy mogli analizować powody dla których są podejmowane dane decyzje.

Jest świetna książka Cathy O’Neil „Broń matematycznej zagłady”, w której autorka opisuje serię przykładów, dla których brak transparentności prowadzi do problemów. Przykładowo została zwolniona nauczycielka, dlatego że jej algorytm uznał, że nie ma żadnej poprawy, nie generuje zwiększania produktywności i poziomu wiedzy studentów. Jej studenci byli świetni i z roku na rok przychodzili do niej Ci najlepsi.  Dla algorytmu ten brak progresu był argumentem za zwolnieniem nauczycielki. Bez zrozumienia, co stoi za decyzjami, ryzykujemy tego typu problemy. Poproszę kolejny slajd.

Ponownie – mam nadzieję, że nikogo nie nastraszyłem, ale też nie chciałbym, żeby opowiadanie o problemach, które stoją przed modelami było zniechęceniem do ich używania. Wręcz przeciwnie. Wydaje mi się, że jesteśmy w miejscu, kiedy w obszarze bezpiecznej AI z takim potencjałem intelektualnym, które mamy w naszym kraju, możemy nie tylko poradzić sobie z tymi problemami, ale też możemy być liderem – w obszarze czy europejskim czy szerszym – w jaki sposób bezpiecznie wdrażać rozwiązania SI. Poproszę kolejny slajd. A to już chyba dla dyrektora.

Dyrektor Naukowej i Akademickiej Sieci Komputerowej Państwowego Instytutu Badawczego Radosław Nielek:
Pomijając ten slajd pokuszę się o trzy zdania podsumowania. Bardzo dziękuję panie profesorze za przedstawienie tych ataków. Mam wrażenie, że jesteśmy na początku drogi wymyślania ataków na takie modele, więc tych rodzajów, klas i pomysłów na ataki pewnie będzie jeszcze więcej. Ze swojej strony jako dyrektor NASK chciałem zadeklarować, że NASK –oczywiście w miarę swoich możliwości – będzie starał się być aktywny w obszarze bezpieczeństwa AI i to niezależnie od tego jak to przedsięwzięcie wygląda, czy to jest bezpieczne AI, czy to jest wykorzystywanie AI do zabezpieczania systemów informatycznych, czy testowanie tego, czy konkretne AI da się zaatakować. Mamy w tej kwestii trzy różne toczące się projekty i zespoły, które dopiero się budują, ale mam nadzieję, że w perspektywie miesięcy, być może kilku, kilkunastu, będą w stanie świadczyć takie usługi – od usługi certyfikacji po usługę testowania, kończąc na usłudze wykorzystania AI do zabezpieczania cyberprzestrzeni. Bardzo serdecznie dziękuję.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję, panie dyrektorze. Panie premierze, panie dyrektorze, panie profesorze, chciałbym tylko powiedzieć, że nie tyle się przestraszyliśmy, tylko zobaczyliśmy ogrom prac przed nami. To, co mówił pan premier w zakresie choćby budowania naszych możliwości, potencjału i bycia w awangardzie – jak to nazwał – ale też to, o czym wy mówiliście w kwestii bezpieczeństwa – bez ekspertów, bez współpracy ze środowiskiem naukowym, instytucjami państwowymi, ale również bez współpracy z biznesem będzie nam naprawdę ciężko budować dzisiaj dobre prawo i dobre regulacje, więc będziemy liczyć na taką współpracę.

Bardzo dziękuję, otwieram dyskusję. Jeżeli ktoś chce zabrać głos, bardzo proszę. Proszę, żeby przedstawić się po zgłoszeniu, wtedy będzie najszybciej i najłatwiej. Proszę bardzo.

Członek Stowarzyszenia ELKApw Joanna Karczewska:
Nazywam się Joanna Karczewska. Jestem absolwentką Wydziału Elektroniki Politechniki Warszawskiej. Zajmuję się cyberbezpieczeństwem, bezpieczeństwem danych i ochroną danych osobowych.

Niestety chciałabym postraszyć. Sama jestem ofiarą sztucznej inteligencji. Proszę mi wierzyć, to absolutnie nie jest miłe przeżycie, dlatego że wszyscy umywają ręce, a szczególnie państwo polskie i nie tylko państwo polskie. Państwo amerykańskie też umyło ręce. Dlatego chciałabym dowiedzieć się jakie są plany – ale bardzo konkretne  – możliwości weryfikacji, odwołania się od decyzji chociażby państwa polskiego wymyślone czy też opracowane przez sztuczną inteligencję. Jeżeli sztuczna inteligencja będzie wdrożona do administracji samorządowej i rządowej, to proszę mi wierzyć – wszyscy będą zwalać winę właśnie na sztuczną inteligencję. Nikt nie będzie dociekać – ja już tego doświadczyłam – tylko będzie „a to algorytm tak wymyślił i tak ma być”.

Zalecałabym bardzo daleko idący sceptycyzm i przede wszystkim opracowanie algorytmów postępowania w przypadku wątpliwości obywatela, co do decyzji podejmowanych w imieniu państwa polskiego przez sztuczną inteligencję. Nawet jeżeli państwo zarzekacie się, że ostateczna decyzja będzie należała do człowieka, znając podejście człowieka w urzędach – tak, jak mówię, ja tego doświadczyłam – to będzie, „no cóż, system tak zrobił, system tak wskazał i tak ma być. Koniec, kropka”.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję. Proszę bardzo. Najpierw pan poseł Cieszyński. Nie? Proszę bardzo. Panie pośle, dziękuję bardzo za życzliwość.

Jest taka pinezka i przykładamy tę pinezkę do lewego głośnika.

Przewodniczący Sekcji Aktualnych Wyzwań Sztucznej Inteligencji Polskiego  Towarzystwa Informatycznego Michał Nowakowski:
Bardzo dziękuję. Za dużo tej techniki. Dzień dobry Michał Nowakowski, przewodniczący Sekcji Aktualnych Wyzwań Sztucznej Inteligencji przy Polskim Towarzystwie Informatycznym.

Na początku w ogóle chciałbym podziękować za otwarcie tej dyskusji, bo tej dyskusji na poziomie bardziej zinstytucjonalizowanym brakowało przez wiele lat. Bardzo mi się podobało – myślę, że to nie tylko moje zdanie – samo wystąpienie pana premiera, ale także pana dyrektora z NASK. Natomiast chciałbym zwrócić uwagę na trzy rzeczy. W zasadzie dwie rzeczy podkreślić w kontekście tych propozycji czy tak naprawdę planów działania i wskazać jedną rzecz, która się tutaj nie pojawiła, a która naszym zdaniem jest bardzo istotna.

Po pierwsze kwestia wytycznych w zakresie etycznego wykorzystania sztucznej inteligencji. Chcielibyśmy zwrócić uwagę na to, że oczywiście jest to bardzo potrzebne, także łącząc to z tym, o czym powiedział profesor Biecek, czyli kwestią wyjaśnialności, przejrzystości algorytmów. Ale to muszą być wytyczne, które rzeczywiście będą stosowane, które nie będą martwym dokumentem, tylko rzeczywiście będą one po pierwsze adresowane do sektora publicznego i do sektora prywatnego i po drugie muszą być w jakiś sposób – nie mówię, że egzekwowalne, bo tego nie da się zrobić na takim poziomie, pewnie to nie będzie na poziomie przepisów ze względu na samą specyfikę etyki jako takiej. Natomiast podkreślamy, że rzeczywiście to jest potrzebne i mówimy tutaj także o kwestii operacjonalizacji tej etyki sztucznej inteligencji, żeby nie było to traktowane tylko jako pewna filozofia.

Druga kwestia to kwestia usieciowienia prac w sprawie sztucznej inteligencji, zarówno w kontekście współpracy z różnymi jednostkami akademickimi, stworzenia jakiejś platformy do wymiany myśli, pomysłów w tym zakresie, ale także głębszej współpracy pomiędzy biznesem, NGO czy w ogóle takim czynnikiem społecznym, a właśnie tymi środkami akademickimi oraz sektorem publicznym, co jest bardzo istotne. Kwestia interdyscyplinarności jest absolutnie podstawowa.

Trzecia rzecz, która tutaj nie wybrzmiała, która – jak zakładam – wynika trochę z prac, które toczą się na poziomie Unii Europejskiej w kontekście AI Act uważamy, że jest potrzebna instytucjonalizacja w zakresie sztucznej inteligencji, czyli de facto powołanie instytucji i organu, który będzie za to odpowiadał. Oczywiście projekt rozporządzenia w sprawie sztucznej inteligencji zakłada, że każde państwo będzie musiało mieć taki swój organ, który będzie odpowiadał za realizację samego rozporządzenia, ale trochę idąc tropem chociażby Hiszpanii, która wcześniej powołała swoją instytucję, która ma zdecydowanie szerszy zakres kompetencji niż tylko kwestie związane z AI Act, wydaje nam się, że powinno się to zadziać na poziomie krajowym, co też wpisuje się w to, o czym było wspominane wcześniej, czyli żeby Polska była liderem w zakresie sztucznej inteligencji. To są nasze trzy punkty, postulaty, które chcielibyśmy podkreślić w kontekście realizacji.

Może dodam jeszcze taki czwarty element, który jest bardzo istotny. Ponieważ mówimy o tym, że od 2024 r. ma powstać nowa polityka, to dwie rzeczy będą bardzo istotne. Po pierwsze ustalenie jakichś wskaźników wykonalności, a po drugie te wskaźniki wykonalności muszą być komunikowane takiemu obszarowi społecznemu. To znaczy my obywatele, różne organizacje, musimy mieć świadomość tego, w jaki sposób realnie jest realizowana ta polityka. Wiemy, że na przykład dzisiaj ta polityka od 2020 r. jest też realizowana, ale nie mamy szerszych informacji na przykład jakie konkretnie punkty zostały zrealizowane. To nie jest zarzut, zawsze kwestia przejrzystości rodzi pewne trudności też ze względu na różne podejmowane działania, ale chcielibyśmy podkreślić, że ta kwestia komunikacji jest dla nas bardzo istotna. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo panu dziękuję za ten głos. Pan poseł Janusz Cieszyński, bardzo proszę.

Poseł Janusz Cieszyński (PiS):
Bardzo dziękuję. Pan premier podsumowywał to, co zastał wtedy, kiedy wszedł do resortu, więc chciałem dopytać o parę szczegółów. Na przykład pan dyrektor Nielek chwalił się tym modelem PLLuM i co pan premier sądzi na ten temat, jak pan ocenia – czy to jest dobry kierunek działań, czy nie? Chciałem też dopytać jak postępują prace nad rozwojem Wirtualnego Asystenta mObywatela opartego właśnie o sztuczną inteligencję, który korzysta z danych portalu Gov.pl oraz o to, jak pan ocenia program AI Tech, który zakończył się w ubiegłym roku. Czy będzie on kontynuowany? I jeszcze jakie dane publiczne – bo o tym pan premier mówił – już dzisiaj są wykorzystywane w mObywatelu? Mówię o tych danych spoza resortu cyfryzacji, takich, które są dostępne w portalu otwartych danych. Pan premier podkreślał, że będzie lepsza współpraca z danymi resortami i chciałem zapytać, czy w mObywatel są już dostępne jakieś usługi z innych resortów czy to jest dopiero pieśń przyszłości. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję. Pan premier, tak? Proszę.

Minister cyfryzacji Krzysztof Gawkowski:
Pan minister wszystko w tej sprawie wie, to po co mnie pytać? Nie rozumiem tych pytań, które pewnie są determinantem tego, że chce pan usłyszeć czy jesteśmy w procesie chwalenia tego, co robiło Ministerstwo przed tym jak przyszliśmy. Są takie rzeczy, które chwalimy, są takie rzeczy, które nam się nie podobają. PLLuM – byłem zwolennikiem na etapie tworzenia się koncepcji tego. Przyszliśmy do resortu, informacje, które pierwsi dostawaliśmy były takie, że kierunkowo program jest dobrze przygotowany i optymalizacja też jest warta kontynuowania. Podjęliśmy takie decyzje. Zaczynają do nas spływać informacje – już po decyzjach o realizacji – które zaczynają budzić wątpliwości w różnych kwestiach, które się toczą. Zwracają się do nas też inne uczelnie, mówiąc o swoich kierunkach. Pan minister powiedział o dyrektorze NASK, że się chwalił – jedynie wyświetlił, a nie chwalił się. Na tę chwilę jesteśmy w procesie decyzji. Nie chciałbym nic przesądzać, chciałbym, żebyśmy używali takiego języka, żebyśmy nad nimi pracowali…Uważam, że warto inwestować w polską sztuczną inteligencję. Chciałbym to robić. Generalnie o tym mówiłem w kampanii i dalej będę to realizował. Chciałbym, żeby program przynosił jakieś efekty, żeby na koniec nie było tak, że wylądujemy – jak mogłoby się wydawać, nie mówię, że tak jest z PLLuM – w sytuacji, że wydamy dużo pieniędzy, ale na koniec będziemy w miejscu, z którego wszyscy nas wyprzedzą. Czyli okaże się, że zbudowaliśmy coś, co już jest na rynku, nie w pierwszej lidze, nawet nie w drugiej. I co do tego mam największe wątpliwości i mam je do wszystkich tych elementów.

Co do interoperacyjności z aplikacjami – oczywiście, że działają, ale najwięcej tych spraw dotyczących działań i otwartości w mObywatel chciałbym położyć na szali integracji z Centrum e-Zdrowia, z Ministerstwem Zdrowia i w tej agendzie budować też jakieś nowe funkcjonalności, bo po tym jak przyszliśmy do resortu, bardzo dużo osób zwraca nam uwagę, że brakuje im takiej integracji mObywatela z Systemem Ochrony Zdrowia, że chcieliby, żeby tam pojawiło się na przykład więcej elementów, które pozwalałyby na niesięganie po dodatkowe aplikacje, tylko żeby wszystko było tam. Myślimy o tym. To jest tak, że Departament Transformacji Cyfrowej razem z Centralnym Ośrodkiem Informatyki mają plan, żeby do końca marca przedstawić nam taki zintegrowany obraz tego, co można by tam włączyć, więc czekam na ostateczną rzecz. Zresztą poinformowałem państwa przewodniczących – tutaj informacja do pana ministra – że na 100 dni rządu będziemy chcieli zorganizować w Ministerstwie Cyfryzacji wspólną konferencję, spotkanie Komisji Cyfryzacji razem z kierownictwem Ministerstwa Cyfryzacji, żebyśmy sobie omówili te wszystkie rzeczy i porozmawiali o tym, co warto kontynuować, a co nie. Uważam, że taka dyskusja też jest przed nami i też mam takie poczucie, że ta dyskusja nie dotyczy wcale tego, czy krytykujemy coś z tego, co było – bo nie chciałbym tak do tego podchodzić – tylko bardziej co zrobić, żeby realizować projekty, które rzeczywiście się opłacają, a te, które można by było jakoś przeorganizować, żeby rzeczywiście je przeorganizować.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Panie pośle, panie premierze, mam taką propozycję do pana posła, że skoro mamy to spotkanie u pana premiera, to dalibyśmy dzisiaj głos, taką szczegółową dyskusję byśmy prosili...

Poseł Janusz Cieszyński (PiS):
Oczywiście. Jeszcze tylko program AI Tech.

Minister cyfryzacji Krzysztof Gawkowski:
Drodzy, odpowiem na piśmie, bo mam minutę i mam spotkanie, na które wychodzę. Informowałem, że o godzinie 11:00 niestety muszę wyjść. Bardzo przepraszam, ale jest 11:01 i muszę wyjechać, bo pan minister wie, jak jest w resorcie.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Czy jeszcze jakieś ostatnie szybkie pytanie do premiera?

Minister cyfryzacji Krzysztof Gawkowski:
Nie, nie mogę. Przepraszam bardzo.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Nie można, tak?

Minister cyfryzacji Krzysztof Gawkowski:
Muszę, bo jest 11:01.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Panie premierze, w ogóle bardzo dziękujemy za obecność. Trzymamy kciuki i do zobaczenia.

Minister cyfryzacji Krzysztof Gawkowski:
Dziękuję bardzo, wszystkiego dobrego.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Proszę bardzo, kontynuujemy dyskusję. Jest pan dyrektor NASK, więc…Proszę bardzo, proszę się przedstawić.

Nie wiem, że firma Bosch wymyśliła takie kapsułki to…

Ekspert Związku Pracodawców Branży Internetowej IAB Polska Radosław Kita:
Udało się, super. Bardzo przepraszam za zamieszanie. Radek Kita, jestem tutaj z ramienia IAB, pracuję w TVN Warner Media Bros.

Bardzo się cieszę z tego sześciopunktowego programu, który przedstawił pan premier. Uważam, że to jest początek drogi i to taki znakomicie zarysowany. Zabrakło mi tutaj jednej kwestii dotyczącej ochrony praw autorskich. Wydaje mi się, że powinniśmy myśleć w dwóch kierunkach. Z jednej strony modele fundamentalne dość obficie i chętnie korzystają z danych dostępnych na stronach internetowych, danych, do których różne firmy często mają prawo własności i niespecjalnie się tymi prawami własności przejmują.  Z drugiej strony powstaje też kwestia ochrony, które zbudowały jakieś systemy z oparciem modeli fundamentalnych i tam może dojść do nadużycia wskutek tego, że firma budująca model niekoniecznie zadbała o ochronę czy uzyskanie praw autorskich do wszystkich treści, które się tam pojawiają. To tyle. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję. Pan dyrektor, proszę bardzo.

Dyrektor Naukowej i Akademickiej Sieci Komputerowej Państwowego Instytutu Badawczego Radosław Nielek:
Przygotowałem taką krótką odpowiedź, szkoda, że nie ma pana ministra Cieszyńskiego. Natomiast chciałem tylko zwrócić uwagę na jedną rzecz związaną z PLLuM, nie dyskutując o tym, czy ten program jest dobrze zaprojektowany, czy dobór konsorcjów jest słuszny, jaki był klucz doboru konsorcjantów – NASK jest jednym z sześciu konsorcjantów, ma ok. 2,5 mln zł. Chciałbym zwrócić uwagę na jeden aspekt, to znaczy jeśli my uważamy, że naszym flagowym projektem, jeśli chodzi o sztuczną inteligencję jest projekt, który ma budżet 14 mln zł. na rok i ma na celu zbudowanie dużego modelu językowego, to chyba coś jest nie tak. Bo ten model, z którego mieli państwo okazję korzystać, na przykład Chat GPT to jest model, który kosztował dużo powyżej miliarda dolarów. Rozumiem, że pan minister Cieszyński to podnosił, to był jego pomysł,  natomiast to nie jest ta skala, to nawet nie jest ta skala, o której powinniśmy moim zdaniem rozmawiać na Komisji czy podkomisji jeśli chodzi o coś, co kształtuje AI w Polsce. Chyba jednak trochę brakuje czy brakowało pewnej wyobraźni jak to jest ważne i jakie za tą ważnością powinny iść środki. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję. Na koniec wypowiedzi akurat wchodzi pan minister, pan poseł.  Ale odtworzy sobie. Czy są jeszcze jakieś głosy w dyskusji? Bardzo proszę.

Ekspert Związku Pracodawców Branży Internetowej IAB Polska Kamila Sotomska:
Super, udało się. Bardzo dziękuję. Kamila Sotomska, firma Google, z ramienia IAB Polska. Przede wszystkim chciałam bardzo podziękować za to spotkanie i chciałam też wyrazić nasze ogromne zainteresowanie pracami Komisji, ale również to, jak cieszymy się, że zobaczyliśmy przedstawicieli tylu instytucji, naprawdę tak ogromne zaangażowanie w ten dialog. Jesteśmy za to bardzo wdzięczni i bardzo cieszymy się, że możemy uczestniczyć w tych pracach.

Powiedzieliśmy bardzo dużo o zagrożeniach, z czym się absolutnie zgadzam. Sztuczna inteligencja jest czymś, co musimy dobrze uregulować, niesie ze sobą bardzo dużo zagrożeń, ale również bardzo wiele szans. Wiem, że wypowiedzi pana dyrektora, jak również pana profesora miały na celu podniesienie świadomości na temat tego, jakie zagrożenia idą za sztuczną inteligencją, natomiast chciałabym, żebyśmy w tej dyskusji nie zgubili też szans, które sztuczna inteligencja przed nami otwiera. Dla przykładu nasz opensource’owy AlphaFold już kilka lat temu, dwa–trzy lata temu przewidział wszystkie struktury ludzkich białek, to jest osiągnięcie na poziomie dekodowania ludzkiego genomu. Ten model jest udostępniony w domenie open source i w tym momencie korzysta z niego 1,7 mln badaczy na całym świecie, żeby tworzyć nowe leki, nowe szczepionki, ale też nowe sposoby walki z zanieczyszczeniem środowiska. To tak tylko w celu wyrównania, może trochę dyskusji. Absolutnie nie deprecjonując zagrożeń, które są związane ze sztuczną inteligencją, nie zapominajmy też o szansach, które ona niesie.

Chciałam też odnieść się do wypowiedzi pana profesora Biecka, w której pobrzmiewały produkty Google. Dlatego też chciałabym nie tyle sprostować, co po prostu dodać.

 Jeśli chodzi o samochody autonomiczne trenowane w Kalifornii – w tym momencie są to samochody Waymo, z półki Alphabet, nawet nie firmy Google. Natomiast na ten moment nie ma żadnych planów, żeby jeździły one po polskich górach ani nawet po ulicach Unii Europejskiej. To tylko takie delikatne sprostowanie. Jednocześnie rzeczywiście case badaczki Google, która zauważyła, że modele nie rozpoznają w odpowiedni sposób twarzy mniejszości narodowych, oczywiście jest to sprawa, która jest znana publicznie, natomiast to się odbyło dobrych kilka lat temu, bodajże 2016 czy 2018. Od tej pory był w tej dziedzinie bardzo duży postęp. W tym momencie Google jest liderem dostarczania narzędzi opensource’owych, które pomagają badaczom na całym świecie tworzyć narzędzia, które pomagają zwiększać tzw. equity sztucznej inteligencji. To są na przykład narzędzia What-If-Tool, które umożliwiają programistom sprawdzenie, w jaki sposób ich aplikacja działa dla różnych grup społecznych. Tak samo Google udostępnia w domenie opensource’owej narzędzie Know Your Data, które pozwala sprawdzić czy zbiór danych treningowych, dla których jest trenowana dana aplikacja sztucznej inteligencji rzeczywiście spełnia wytyczne etyczności.

Wydaje mi się, że to wszystko, jeśli chodzi o kwestie bezpieczeństwa, bo oczywiście pozostajemy w stałym kontakcie z regulatorami, organizacjami pozarządowymi, organizacjami naukowymi, aby upewnić się, że sztuczna inteligencja, którą tworzymy, spełnia najwyższe standardy etyczności i bezpieczeństwa, żeby była użyteczna dla wszystkich.

Ostatni punkt, który chciałabym poruszyć, to jest właśnie kwestia kompetencji, które tutaj wybrzmiały. Absolutnie zgadzamy się ze skalami wyzwań, które stoją przed społeczeństwem i ze skalami zmian. Rozwój kompetencji jest kluczowy dla tego, żeby sztuczna inteligencja i rewolucja technologiczna – która w tym momencie trwa – była korzystna dla wszystkich, a nie tylko dla wybranych grup społecznych. Dlatego też w zeszłym tygodniu Google ogłosił nowy program „AI Opportunity Initiative for Europe”, w ramach którego przeznaczy 25 mln euro na szkolenia z zakresu sztucznej inteligencji, na programy wsparcia dla grup najbardziej narażonych oraz na programy wsparcia dla start-upów oraz organizacji pozarządowych. Dziękuję.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję. Też zapiszemy się na taki kurs. Chciałem powiedzieć, że my absolutnie mamy świadomość tej rewolucji technologicznej i jej zalet. W tej dyskusji może nie rozwijaliśmy za bardzo tych szans, które dotyczą sztucznej inteligencji, bo one są oczywiste. Powiedziałem to na samym początku, że była rewolucja przemysłowa, potem pojawiła się era komputera, a teraz jest totalna rewolucja, jeżeli chodzi o sztuczną inteligencję, której być może nawet jeszcze sobie nie wyobrażamy. Na pewno będziemy chcieli rozmawiać o tym, co jest pozytywne w każdym sektorze. Pan premier mówił o edukacji – będziemy rozmawiali o edukacji, będziemy rozmawiali o systemie ochrony zdrowia, będziemy rozmawiać naprawdę o każdym sektorze, nawet tym związanym choćby z przemysłem filmowym czy telewizyjnym, czyli o tych tradycyjnych mediach, które też korzystają z takich rozwiązań. Właśnie po to jest to miejsce, żeby prowadzić taką dyskusję ze wszystkimi środowiskami.

Natomiast proszę się nie martwić o ten samochód, który tam jeździł, bo to był raczej przykład, żeby pokazać jak sztuczną inteligencję trzeba wszystkiego uczyć, żeby mogła jeździć nie tylko po Kalifornii, ale także po naszych pięknych polskich górach i żeby nie było żadnego problemu.

Proszę bardzo, czy jest jeszcze jakaś chętna osoba do zabrania głosu? Jeżeli nie ma, to zamknę ten po…Pan dyrektor, bardzo proszę.

Dyrektor Naukowej i Akademickiej Sieci Komputerowej Państwowego Instytutu Badawczego Radosław Nielek:
Ja tylko chciałem powiedzieć, że to był raczej mój apel i zachęcenie do tego, żeby Google otworzył w Polsce swoje research lab, w którym taka sztuczna inteligencja będzie  m.in. rozwijana. To będzie z korzyścią i dla Google i dla samochodów Google, i przede wszystkim z korzyścią także dla Polski. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
A jutro w takiej codziennej gazecie posłuchamy, że firma Google była obecna na podkomisji i lobbowała najbardziej. Nie, nie, żartuję oczywiście.

Poseł Janusz Cieszyński (PiS):
Jutro ta gazeta się nie ukazuje. Magazyn.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Ale oczywiście my jesteśmy otwarci na każdą współpracę, na każde podpowiedzi w tej kwestii i chciałem za to bardzo serdecznie podziękować. I też poinformować, że dzięki panu przewodniczącemu Komisji Cyfryzacji ustaliliśmy, że będziemy pracować na podkomisji sektorowo i będziemy chcieli się z wami konsultować, jeżeli chodzi właśnie… bo tak naprawdę te regulacje, które musimy przygotować, tak naprawdę w większości będą dotyczyły zagrożeń, żeby one się nie pojawiły i żeby je wyeliminować. Chciałbym to zaznaczyć. Bardzo dziękuję i zamykam ten punkt.

Przechodzimy do drugiego punktu. Drugi punkt to jest ustawa o zmianie ustawy o związkach zawodowych. Zrobię krótkie wprowadzenie, ponieważ ta ustawa była przedmiotem dyskusji parlamentarnej w poprzedniej kadencji. Wtedy z Uniwersytetem Łódzkim, z zespołem pana profesora Stefańskiego, ze związkami zawodowymi, ale również korzystając z ekspertów, którzy pracowali z naszą podkomisją, przygotowaliśmy taki projekt ustawy, który w najprostszych słowach miał dotyczyć tego, aby było poczucie sprawiedliwości i była wiedza, co dzieje się w tych firmach, gdzie pracę człowieka tak naprawdę oceniają algorytmy. Chciałbym otworzyć dyskusję na ten temat. Czy pan profesor? Bo tak patrzę. Bardzo proszę, panie profesorze. Oddaję głos. A potem jeżeli związki zawodowe chcą zabrać głos, to też bardzo proszę. I przejdziemy do dalszej  dyskusji. Proszę bardzo.

Kierownik Kolegium Doktorskiego i Studiów Podyplomowych Ochrony Danych Osobowych Wydziału Prawa i Administracji Uniwersytetu Łódzkiego dr hab. Krzysztof Stefański:
Dziękuję bardzo, panie przewodniczący. Krzysztof Stefański, Uniwersytet Łódzki. Proszę państwa projekt komisyjny, który powstał jeszcze w zeszłej kadencji i przy opracowaniu którego współpracowaliśmy, to była pewna odpowiedź na różne postulaty, głównie związków zawodowych, które spotkały się z odmową udzielania im informacji dotyczących zarządzania algorytmicznego pracowników. Nie ukrywam, że ta regulacja jest niezwykle podobna do regulacji hiszpańskiej. Hiszpania jest jedynym krajem Unii Europejskiej, który wprowadził w swoim wewnętrznym prawie taką regulację. Nie mamy takich regulacji w innych krajach, nie mamy też regulacji unijnych poza soft law. Po przekazaniu tego projektu podkomisji ta dyskusja w zasadzie się zakończyła. Pan przewodniczący może mnie poprawić, ale mam wrażenie, że ten projekt trafił trochę do zamrażarki. Natomiast myślę, że jest to ważny projekt, aczkolwiek oczywiście dostrzegamy pewne jego mankamenty.

Po pierwsze, mogę powiedzieć o tym, że jasne jest dla nas, że jest to pewien pierwszy krok, bo regulacja sztucznej inteligencji w zakresie prawa pracy musi być znacznie, znacznie szersza. Tak jak powiedziałem – to jest pewna odpowiedź na postulaty i na te najbardziej palące potrzeby.

Po drugie, zdaję sobie też sprawę z pewnych mankamentów tego rozwiązania i myślę, że jest to jeszcze do przepracowania choćby z punktu widzenia tego największego oporu pracodawców, bo z reguły pracodawcy, którzy posługują się algorytmami w celu zarządzania pracownikami odmawiają udzielania takich informacji, dlatego że uznają  te schematy działania algorytmów za tajemnicę firmy, za tajemnicę handlową. I być może warto by było odnieść się do takiego przepisu Kodeksu pracy, to jest bodaj art. 241 ze znaczkiem 4 Kodeksu pracy, który nakazuje pracodawcy udzielania przedstawicielom związków zawodowych informacji o swojej sytuacji ekonomicznej i objętej rokowaniami. Również nakazuje przedstawicielom związków zawodowych nieujawnianie szerzej tych informacji. Być może warto byłoby wprowadzić takie zastrzeżenie również do tego projektu. To jest oczywiście pewna ważna kwestia, ale nie zmienia to faktu, że ta regulacja jest naszym zdaniem potrzebna i bardzo cieszę się, że Komisja zajęła się tą regulacją.  Oczywiście w pełni jesteśmy do dyspozycji gdybyśmy mogli w czymkolwiek pomóc w dalszych pracach parlamentarnych. Bardzo dziękuję.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję. Panie profesorze, dziękuję za pomoc całego zespołu pod pana  kierownictwem. Pan przewodniczący, bardzo proszę.

Poseł Paweł Bliźniuk (KO):
Dziękuję, panie przewodniczący. Mam jedno krótkie pytanie, bo ten projekt już w zeszłej kadencji Sejmu był wniesiony do laski marszałkowskiej, a jestem nowym posłem.  Chciałem się zapytać, czy były jakieś konkretne powody, dla których ten projekt nie został przeprocedowany w IX kadencji Sejmu.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Dziękuję bardzo za pytanie. Trudno mi dokładnie ocenić, ponieważ projekt został jednogłośnie przegłosowany w podkomisji, potem jednogłośnie w Komisji Cyfryzacji, ale nie dostał akceptacji, został zatrzymany na drodze Komisji Polityki Społecznej u pani przewodniczącej Ruseckiej. Próbowaliśmy wtedy negocjować, ale nie udało się. Dlatego jeszcze raz spróbujemy do tego tematu…tym bardziej, że była pozytywna opinia i projektu, ale przede wszystkim strony społecznej, więc jakby też tego nie…ale mam nadzieję, że teraz się uda i że zrobimy to ponad podziałami.

Przedstawiciele związków zawodowych OPZZ, tak? Nie? Solidarność? Proszę,  przepraszam.

Dyrektor Departamentu Pracy Konfederacji Lewiatan Robert Lisicki:
Panie przewodniczący, niestety nie strona związków zawodowych, strona pracodawców, Konfederacja Lewiatan.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Przepraszam bardzo.

Dyrektor Departamentu Pracy Konfederacji Lewiatan Robert Lisicki:
Nie, nie mam akurat tutaj…

Poseł Janusz Cieszyński (PiS):
To zawsze zostaje w interesie pracowników.

Dyrektor Departamentu Pracy Konfederacji Lewiatan Robert Lisicki:
Myślę, że pozostajemy w dobrych stosunkach z partnerami społecznymi, tak?  Tak że myślę, że bynajmniej to nie ta kwestia, tylko kwestia doprecyzowania – Konfederacja Lewiatan, Robert Lisicki, dyrektor departamentu pracy.

Podchodzimy do tego projektu z dużą ostrożnością. Skierujemy do państwa naszą opinię na piśmie, natomiast chciałbym pozwolić sobie na kilka uwag dotyczących tego projektu.

Po pierwsze, dlaczego z ostrożnością i pewnymi obawami podchodzimy do tej regulacji? Pewnie lepiej ode mnie wiecie państwo jak złożoną kwestią jest sztuczna inteligencja i pojęcie zarządzania algorytmicznego. Na dzień dzisiejszy nie odnajduję w naszym ustawodawstwie definiowania tych pojęć, być może jestem w błędzie, to będę prosił pana profesora o sprostowanie. Natomiast mamy takie obawy co do projektu ustawy, że rzecz, która wymaga systemowego podejścia i przeanalizowania próbujemy wprowadzić w fragmentaryczną regulację, nie do końca dając odpowiedź przyszłym użytkownikom tych przepisów, co tak naprawdę chcielibyśmy osiągnąć przez pojęcia parametrów, zasad, instrukcji algorytmów i sztucznej inteligencji. Obecnie członkowie naszej firmy nie za bardzo wiedzą, czego tak naprawdę się od nich oczekuje albo jak daleko pójdzie wymagana informacja w kierunku związków zawodowych. Sprawa jest o tyle złożona, że tak naprawdę – o ile dobrze wiem – kończymy pracę nad rozporządzeniem unijnym w sprawie sztucznej inteligencji gdzie pojawi się ta definicja i gdzie też pojawią się obowiązki podmiotów stosujących systemy sztucznej inteligencji w stosunku do przedstawicieli pracowników i samych pracowników. Mam wrażenie, że po wejściu w życie tego rozporządzenia trzeba będzie dokonać pewnego uszczegółowienia krajowych przepisów w kontekście tego rozporządzenia unijnego. Nie udało się zamknąć prac nad dyrektywą w sprawie pracowników platform cyfrowych gdzie był osobny, bardzo rozbudowany, rozdział dotyczący stosowania zarządzania algorytmicznego.

I trzeci wątek – myślę, że też warto by było poświęcić temu jeszcze chwilę  – Komisja Europejska zapowiedziała w tym roku przeprowadzenie badań i analiz w kontekście zastosowania algorytmów sztucznej inteligencji w obszarze zatrudnienia w latach 2025–2027. Bodajże w tym okresie, nie chcę skłamać. Przynajmniej komisja do spraw zatrudnienia zapowiadała inicjatywę legislacyjną w tym obszarze, ale powiedziała, że po prostu potrzebuje więcej informacji i badań rynku na temat tego, jak to wygląda. Rozmawiałem z naszymi firmami członkowskimi, mamy zdiagnozowane firmy członkowskie, które mają świetną świadomość tego, że korzystają z zarządzania algorytmicznego bądź też ze sztucznej inteligencji. Myślę, że w tej chwili zdecydowana większość małych i średnich firm nie ma świadomości czy program, którego pracodawca używa do rekrutacji, wykorzystuje systemy sztucznej inteligencji i zarządzania algorytmicznego.

Jesteśmy otwarci na dyskusje, tak naprawdę widzimy potrzebę odniesienia się do kwestii zastosowania sztucznej inteligencji i zarządzania algorytmicznego na rynku pracy. Natomiast mam taki postulat o jeszcze trochę czasu na zastanowienie się w kontekście i legislacji unijnej i samych pojęć użytych w tym projekcie, które w naszej ocenie będą budziły wiele wątpliwości i problemów w przyszłości, jeżeli chodzi o zastosowanie tego przepisu.

Na koniec dnia dodam – i to jest pewnie też pytanie do strony związkowej – wydaje nam się, że na ten moment art. 28 z ustawy o związkach zawodowych daje już prawo pytania się pracodawcy o stosowane systemy, które mają wpływ na zatrudnienie. Tylko pytanie, co my chcemy uzyskać. Czy chcemy znać parametry, zasady, instrukcje, czego do końca dzisiaj nie potrafimy zdefiniować, czy chcemy dać związkom zawodowym prawo, żeby mieli świadomość, że te systemy są stosowane, w jakim celu są stosowane, jak tak naprawdę mogą wpływać na warunki zatrudnienia pracownika. Moim zdaniem to są dwie różne sprawy. Czyli pytanie, co chcemy uzyskać, jaką informację i czemu ona ma służyć w kontekście związków zawodowych. Bo nie wiem, czy sama informacja o parametrach, zasadach i instrukcjach da odpowiedź przedstawicielom związków zawodowych jak ona wpływa na możliwość i warunki zatrudnienia pracownika.  Dziękuję bardzo.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję, panie dyrektorze. Jeszcze raz przepraszam za moją pomyłkę. Za chwilę.

Otóż po pierwsze, chciałabym pana uspokoić. Przygotowaliśmy ten projekt w zeszłej kadencji, czekając tak naprawdę na przepisy unijne, ponad podziałami, współpracując również z izbami gospodarczymi, że to są ważne przepisy. Pracownicy też przychodzili i nam to mówili. To jest rzecz pierwsza.

Rzecz druga – my dzisiaj nie rozstrzygniemy tej ustawy, że ona już zostanie przegłosowana przez podkomisję, bo ona musi trafić na Komisję, potem przejść całą drogę legislacyjną w Sejmie i Senacie, gdzie spokojnie możemy dyskutować. To po drugie.

Po trzecie, czekając na wszystkie badania rynków, na wszystkie rozwiązania,  które są, to możemy tak czekać jeszcze kilka lat, a przepisy są konieczne tu i teraz.  Proszę zwrócić uwagę, że ta ustawa daje tak naprawdę tylko możliwość informacji.  Tam nie ma takich regulacji, o których pan mówi, które coś nakazują, zakazują itd.

Panie dyrektorze, moja propozycja jest taka – jeżeli pozytywnie zaopiniujemy to dzisiaj na podkomisji i trafi to do prac Komisji Cyfryzacji, to spokojnie tam możemy przeprowadzić tę dyskusję. My jesteśmy absolutnie otwarci na taki dialog.

Przed przedstawicielem związków zawodowych, pan poseł Cieszyński, bardzo proszę. Tak, tak, proszę bardzo.

Poseł Janusz Cieszyński (PiS):
Szanowni państwo, to bardzo dobrze, że pan poseł Zandberg wyszedł, bo po tym, co powiem, to by mnie chyba zapisał do Partii Razem. To, że na forum Unii  Europejskiej doprowadzono do tego, że ta dyrektywa czy rozporządzenie pracy platformowej nie przeszło, to jest naprawdę gruby skandal, bo widzimy wszyscy jak na naszych oczach w ordynarny sposób łamane są wszystkie prawa pracownicze. Ludzie, którzy pracują od rana do wieczora w nienormowanym czasie za takie wynagrodzenie, jak to się mówi za fuszkę. To nie jest proszę państwa żadna fuszka, to jest normalna praca.  Wszyscy doskonale wiedzą, że tak to wygląda i nie uważam, żeby przymykanie na to oczu było dobre. Co więcej, uważam, że ta ustawa dotyczy jakiegoś tam wycinka, ale uważam, że nie powinniśmy czekać na regulacje europejskie, bo uważam, że one w tych sprawach technologicznych często są mocno spóźnione, tylko powinniśmy popracować także w sprawie tak zwanej pracy platformowej –zresztą bardzo zgrabne i inżyniersko-społeczne określenie – pracować też w polskim parlamencie, czy z polskim rządem, bo naprawdę nie powinno to tak wyglądać. Dla przeważającej większości pracujących w Polsce skończyliśmy już z tym, że pracuje się za 3,4,5 zł za godzinę. Straszono nas, że przez to wzrośnie bezrobocie – nigdy nie było niższe. W gospodarce i społeczeństwie mamy czas taki, jaki mamy i należy to wykorzystać i przestać udawać, że człowiek, który przez 10 godzin jeździ z pizzą na rowerze to jest przedsiębiorca czy tam fuszkowicz. To jest pracownik taki, jak każdy inny, kto ciężko pracuje. Mam nadzieję,  że – nie wiem – podkomisja czy Komisja Cyfryzacji, może połączone Komisje Cyfryzacji, Rodziny i Pracy zajmą się tym i to jak najszybciej.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję, panie pośle. Przedstawiciel związków zawodowych, dobrze? I zaraz panu oddam głos.

Dyrektor Wydziału Prawno-Interwencyjnego Ogólnopolskiego Porozumienia  Związków Zawodowych Paweł Śmigielski:
Dziękuję bardzo. Szanowny panie przewodniczący, szanowni goście, patrząc na historię ja też zastanawiam się, dlaczego od 2022 r., kiedy ten projekt się pojawił, no tak jakoś leżał w tych zamrażarkach sejmowych. Mam tylko nadzieję, że było to spowodowane tym, że ten rok 2023 był rokiem rewolucyjnych zmian w prawie pracy i być może nie wystarczyło czasu na przeprocedowanie tego przepisu do końca. Natomiast proszę państwa, ten przepis jest niezwykle ważny, dlatego że dzisiaj z uwagą przysłuchiwałem się tej sztucznej inteligencji, ma ona wpływ na wiele obszarów naszego życia, natomiast ma ona coraz większy wpływ też w sferze zatrudnienia. Proszę państwa, my w OPZZ otrzymujemy coraz więcej sygnałów, że w każdym procesie zatrudnienia, sprawdzania pracownika czy też kwalifikacji, czy też zwolnień grupowych, a także kandydatów do pracy, te algorytmy w taki czy inny sposób wybierają tych ludzi. Proszę państwa, brak jakiejkolwiek kontroli tego czynnika pracowniczego w tym trybie uważam za niezgodny z tym, co dzisiaj widziałem na tych prezentacjach, prawda? Żeby ta sztuczna inteligencja była sprawiedliwa, transparentna, zrozumiała, przyda… i etyczna przede wszystkim, tak jest. Tak więc bazując już na tych wskazywanych przez państwa przykładach, ten przepis jest niezwykle ważny. Proszę państwa, oczywiście nawiązując do mojego kolegi – znam stanowisko pracodawców, ale oczywiście nie zgadzam się z nimi, ponieważ my od samego początku wskazujemy na potrzebę funkcjonowania tego przepisu.  Mam też na uwadze takie porozumienie ramowe w sprawie cyfryzacji. W 2020 r. partnerzy społeczni na poziomie Unii Europejskiej obiecali, że uregulują w kraju kilka spraw i m.in. to była właśnie sztuczna inteligencja, godność pracownika, nadzór nad tą sztuczną inteligencją. Tak więc w mojej ocenie ten mały przepis, ta propozycja, która jest w tym projekcie ustawy w taki czy w inny sposób w jakiejś części także nawiązuje do tego porozumienia ramowego, w obszarze którego nie ma żadnego dialogu.  Żadnego. A mija już bodajże trzeci czy czwarty rok, spotykamy się na zespołach, ale drogi  Robercie, niestety urobek tego zespołu jest bardzo, bardzo znikomy.

Nawiązując też do pana profesora w przedmiocie obaw pracodawców, co do ochrony tajemnicy przedsiębiorstwa – proszę państwa, w mojej ocenie przecież mamy już dzisiaj stosowne przepisy Kodeksu pracy, myślę o art. 100, który mówi, że w ramach obowiązków pracowniczych jest dbanie o mienie pracodawcy, o dobro zakładu pracy, a także o zachowanie informacji w tajemnicy, jeżeli ta informacja miałaby przynieść zakładowi pracy szkodę, prawda? Jest także ustawa o nieuczciwej konkurencji, tam też są daleko idące przepisy – nawet karne – w stosunku do osoby, która ujawnia tajemnicę przedsiębiorstwa. Proszę państwa, w mojej ocenie ten projekt ustawy jest ważny i OPZZ od samego początku go wspiera i ma nadzieję, że jak najszybciej wejdzie do ustawy o związkach zawodowych. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję. A ja was nie przywitałem, widzicie to…Sekundkę. Bardzo proszę,  jeszcze ten jeden głos. Pan, proszę bardzo.

Przewodniczący Sekcji Aktualnych Wyzwań Sztucznej Inteligencji Polskiego  Towarzystwa Informatycznego Michał Nowakowski:
Dziękuję bardzo, raz jeszcze Michał Nowakowski, Polskie Towarzystwo Informatyczne. Pozwolę sobie na zrównoważenie tej dyskusji czy tych poglądów, które się pojawiają. Jako prawnik całkowicie popieram kwestie związane z koniecznością doprecyzowania pewnych pojęć. Bo rzeczywiście jeżeli patrzymy na ten projekt to jest wieloznaczny, co będzie powodowało konflikty zarówno po jednej, jak i po drugiej stronie. Jedna strona będzie chciała więcej, druga będzie chciała dać mniej i będzie dochodziło do tych konfliktów, które być może później będą musiały być rozstrzygane na poziomie sądu, co jest kosztowne i bardzo często też niepotrzebne. Rzeczywiście zgadzam się też z tym, że trzeba tutaj mimo wszystko uwzględnić to, co jest na poziomie Unii Europejskiej.  Nie możemy powiedzieć, że AI Act jest przesądzony, ale myślę, że tak nieformalnie mówiąc, można powiedzieć, że tak rzeczywiście będzie. Abstrahując od kwestii stricte legislacyjnych, czyli właśnie doprecyzowania tych pojęć i dookreślenia tych realnych obowiązków po stronie pracodawcy, ale też pewnych obowiązków po stronie organizacji związkowych, chciałbym zwrócić uwagę jeszcze na dwa elementy, które – jak mi się wydaje – nie padły.

Po pierwsze, to kwestia ewentualnej ochrony tajemnicy przedsiębiorstwa oraz interesu pracodawcy. One muszą zostać w jakiś sposób uwzględnione, być może są uwzględnione na poziomie innych przepisów, nie twierdzę, że nie, ale być może trzeba bardziej przeanalizować i być może jeszcze w jakiś sposób wzmocnić to odpowiednimi przepisami.

I druga kwestia, to jest kwestia ochrony prywatności, de facto też danych osobowych. Wydaje mi się, że w tym projekcie nie zostało to w żaden sposób uwzględnione. Być może wynika to z tego, że takiego problemu nie ma, ale obawiam się, że jednak jeżeli mamy bardzo niedookreślone przepisy, to mogą pojawić się sytuacje, łącząc to na przykład z tym, o czym powiedział profesor Biecek, czyli kwestią wyjaśnialności algorytmów itd, że na przykład dane osobowe czy kwestie związane z ochroną prywatności pracowników, w ramach tego ważnego przepisu mogą zostać ujawnione.

W związku z tym mam taki postulat, żeby uwzględnić te kwestie właśnie na etapie ewentualnych zmian do samego przepisu. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Dziękuję bardzo. Tam jest jeszcze jeden głos. Pan dyrektor też się zgłaszał. Szanowni państwo, my dzisiaj mamy tylko taką dyskusję wprowadzającą. Ona i tak musi przenieść się piętro wyżej, więc dałbym teraz pani ostatni głos. Natomiast moja propozycja jest taka, że jeżeli dzisiaj zaopiniujemy pozytywnie, przeniesiemy ponowne wniesienie do laski marszałkowskiej. Tak jak powiedziałem, my jesteśmy na taką dyskusję absolutnie otwarci, tak? Ja bym tę dyskusję poprowadził już wtedy, tam, gdzie będziemy mogli wnosić poprawki i ewentualne uwagi. Bardzo proszę, oddaję pani głos.

Naczelnik Wydziału Legislacji w Departamencie Orzecznictwa i Legislacji Urzędu Ochrony Danych Osobowych Weronika Kowalik:
Dzień dobry, bardzo dziękuję. Weronika Kowalik, jestem naczelnikiem Wydziału  Legislacji w Departamencie Orzecznictwa i Legislacji Urzędu Ochrony Danych Osobowych.  Bardzo dziękuję za ten głos i dlatego też zgłosiłam się, gdy pan zechciał nawiązać do tematu prywatności ochrony danych osobowych. W 2022 r. jako Urząd Ochrony Danych Osobowych widzieliśmy ten projekt, zechcieliśmy do pana przewodniczącego skierować stanowisko i chciałam przyłączyć się do tego głosu, że oczywiście to zagadnienie jest bardzo ważne, natomiast – nie jestem specjalistką prawa pracy – ale z punktu widzenia przetwarzania informacji osobowych dotyczących pracowników, z punktu widzenia systematyki prawa pracy, Kodeksu pracy i tych regulacji, które tam się znajdują, uzasadnionym wydaje się też przedyskutowanie, przeanalizowanie tej problematyki od strony tak naprawdę tego, czy i jakie informacje o pracowniku w ogóle są przetwarzane. W sytuacji podejmowania decyzji w sposób zautomatyzowany, profilowania pracowników, używania do tego sztucznej inteligencji – wiemy, że to się dzieje – tak naprawdę mamy dodatkowe informacje, informacje wywnioskowane. I teraz jest pytanie o to, czy i jakie warunki jako państwo powinniśmy wprowadzić w przepisach dotyczących prawa pracy. A zatem, co powinno się dziać i jak powinno się dziać, co pracownicy w ogóle powinni o tym wiedzieć. Ale oczywiście ta rola przedstawicielstwa, jaką jest rola związków zawodowych, jest tu bardzo ważna.

Jeśli tylko mogę króciutko podpowiedzieć – są dwie regulacje, w których już zautomatyzowane podejmowanie decyzji i uwzględnienie praw osób, których to dotyczy w rozumieniu też RODO, czyli Rozporządzenia o Ochronie Danych Osobowych i art. 22 są w tej chwili w dwóch ustawach, oczywiście dotyczących innych zagadnień, a mianowicie jest to prawo bankowe i ocena zdolności kredytowej w sposób zautomatyzowany oraz ustawa ubezpieczeniowa oraz reasekuracyjna, czyli używanie zautomatyzowanego podejmowania decyzji oceniania w sytuacji oceny ryzyka ubezpieczeniowego. Tam też są regulacje.

Jesteśmy otwarci na to, żeby jak najbardziej wspierać, uczestniczyć w dyskusjach, myślę, że jeszcze dodatkowo przedstawimy opinię, a ta, która już została przedstawiona jest jak najbardziej aktualna, chodzi o kompleksową ocenę skutków regulacji.  Bardzo dziękuję.

Przewodniczący poseł Grzegorz Bernard Napieralski (KO):
Bardzo dziękuję za ten głos, za tę sugestię i deklarację współpracy. Pani profesor, ja widzę, tylko że mamy już dzisiaj trochę napięty czas, bo są dzisiaj jeszcze inne komisje i posłowie muszą być na tych komisjach, a chcielibyśmy przenieść ten projekt dalej do laski marszałkowskiej. Natomiast możemy się tak umówić, że wszystkie osoby zainteresowane tym projektem…jeżeli tylko dostaniemy informacje dotyczące nadaniu druku i wprowadzenia go dalej do prac parlamentarnych, absolutnie jesteśmy otwarci na tę dyskusję. Chcielibyśmy, żeby to prawo, które wyjdzie, przede wszystkim broniło naszych pracowników, pracownice, żeby oni czuli się sprawiedliwie oceniani  za wykonaną pracę. Ale te uwagi, które wnosiliście – szczególnie pan z Polskiego  Towarzystwa Informatycznego i pani z Urzędu Ochrony Danych Osobowych – na pewno będziemy chcieli uwzględnić, żeby nikt nie zarzucił nam niczego złego. Dobrze? Możemy tak się umówić?

Pytam teraz kolegów parlamentarzystów, bo skończyła się kadencja Sejmu i musimy jeszcze raz wnieść to do laski marszałkowskiej – rozumiem, że jest zgoda moich kolegów parlamentarzystów? Nie słyszę sprzeciwu. Rozumiem, że pozytywnie zaopiniowaliśmy ten wniosek.

Na tym wyczerpaliśmy porządek obrad dzisiejszej podkomisji. Bardzo serdecznie chciałem wam podziękować, mam nadzieję, że do zobaczenia niedługo.