Komisja do Spraw Dzieci i Młodzieży oraz Komisja Cyfryzacji, Innowacyjności i Nowoczesnych Technologii, obradujące pod przewodnictwem posła Bartłomieja Pejo (Konfederacja), przewodniczącego Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii, przeprowadziły:

– pierwsze czytanie rządowego projektu ustawy o ochronie małoletnich przed dostępem do treści pornograficznych w internecie (druk nr 2697).

W posiedzeniu udział wzięli: Michał Gramatyka sekretarz stanu w Ministerstwie Cyfryzacji wraz ze współpracownikami, Magdalena Kolega zastępca dyrektora Departamentu Polityki Rodzinnej Ministerstwa Rodziny, Pracy i Polityki Społecznej wraz ze współpracowniczką, Katarzyna Hernandez dyrektorka Zespołu Edukacji Cyfrowej i Bezpieczeństwa w Sieci Biura Rzecznika Praw Dziecka wraz ze współpracownikiem, Patryk Juhre dyrektor Departamentu Multimediów oraz Agnieszka Wąsowska dyrektor Departamentu Monitoringu Krajowej Rady Radiofonii i Telewizji wraz ze współpracownikami, Martyna Różycka kierownik Działu Reagowania na Nielegalne Treści w Internecie Dyżurnet.pl i Ewa Domańska kierowniczka Zespołu ds. Ochrony Dzieci i Młodzieży przed Zagrożeniami w Internecie Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego, Katarzyna Szymielewicz prezeska Fundacji Panoptykon, Renata Szredzińska wiceprezeska Fundacji Dajemy Dzieciom Siłę, Rafał Dorosiński dyrektor Centrum Polityki Rodzinnej i Edukacji Instytutu Ordo Iuris, Katarzyna Nowicka rzeczniczka prasowa Stowarzyszenia Twoja Sprawa, Aneta Cielebąk-Zduniak ekspert Krajowej Izby Gospodarczej Elektroniki i Telekomunikacji, Joanna Karczewska członek Stowarzyszenia Absolwentów Elektroniki na Politechnice Warszawskiej @ELKApw, Filip Mikołajczyk radny Rady Młodzieżowej przy Parlamentarnym Zespole ds. Młodzieży, Piotr Aszkiełowicz asystent przewodniczącej oraz Anna Krawczak stały doradca Komisji do Spraw Dzieci i Młodzieży.

W posiedzeniu udział wzięli pracownicy Kancelarii Sejmu: Jakub Konecki, Magdalena Kowalska, Magdalena  Krzymowska i Grażyna Kućmierowska – z sekretariatu Komisji w Biurze Komisji Sejmowych; Monika Bies-Olak i Ewelina Roguska – legislatorzy z Biura Legislacyjnego.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dzień dobry, witam państwa bardzo serdecznie.

Otwieram wspólne posiedzenie Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii oraz Komisji do Spraw Dzieci i Młodzieży.

Stwierdzam kworum w jednej i drugiej Komisji.

Witam panią przewodniczącą Monikę Rosę, witam panie i panów posłów, członków obu Komisji. Witam bardzo serdecznie pana ministra Michała Gramatykę, sekretarza stanu w Ministerstwie Cyfryzacji, wraz ze współpracownikami. Witam przedstawicieli Naukowej i Akademickiej Sieci Komputerowej, panią Martynę Różycką, kierownika Działu Reagowania na Nielegalne Treści w Internecie Dyżurnet.pl, oraz panią Ewę Domańską, kierownika Zespołu ds. Ochrony Dzieci i Młodzieży przed Zagrożeniami w Internecie. Witam również reprezentację Ministerstwa Rodziny, Pracy i Polityki Społecznej, Biura Rzecznika Praw Dziecka, Urzędu Komunikacji Elektronicznej oraz Krajowej Rady Radiofonii i Telewizji.

Witam serdecznie przedstawicieli strony społecznej: Konfederacji Lewiatan, Polskiej Izby Komunikacji Elektronicznej, Krajowej Izby Gospodarczej Elektroniki i Telekomunikacji, Związku Pracodawców Branży Internetowej IAB Polska, Fundacji Panoptykon, Rady Młodzieżowej przy Parlamentarnym Zespole ds. Młodzieży, Fundacji Dajemy Dzieciom Siłę, Stowarzyszenia Twoja Sprawa, Stowarzyszenia „Przyjazna Gospodarka”, Inicjatywy Czysty Start oraz Stowarzyszenia @ELKApw.  Witam bardzo serdecznie wszystkich państwa.

Drodzy państwo, porządek dzisiejszego posiedzenia przewiduje: pierwsze czytanie rządowego projektu ustawy o ochronie małoletnich przed dostępem do treści pornograficznych w internecie (druk nr 2697).

Czy są uwagi do porządku dziennego? Nie widzę. Wobec niestwierdzenia uwag porządek dzienny uważam za przyjęty.

Przechodzimy do jego realizacji.

Przypominam, że zgodnie z art. 39 ust. 1 regulaminu Sejmu pierwsze czytanie obejmuje uzasadnienie projektu przez wnioskodawcę, debatę w sprawie ogólnych zasad projektu oraz pytania posłów i odpowiedzi wnioskodawców.

Bardzo proszę przedstawiciela wnioskodawców, pana ministra Michała Gramatykę, o przedstawienie uzasadnienia projektu. Bardzo proszę.

Sekretarz stanu w Ministerstwie Cyfryzacji Michał Gramatyka:
Bardzo dziękuję.

Szanowni państwo przewodniczący, panie posłanki, panowie posłowie, szanowni goście, wpisaliśmy ten projekt do rejestru aktów legislacyjnych rządu dokładnie w sylwestra 2024 r., 31 grudnia. Ten projekt trafia pod obrady Wysokiego Sejmu po nieco ponad półtora roku pracy – po wszechstronnych konsultacjach i po wielu zmianach treści.

Jest to projekt ustawy, która ma na celu wprowadzenie ładu w zakresie dostępu osób małoletnich do treści pornograficznych. Każdy dostawca tego typu treści, każda platforma, która udostępnia treści pornograficzne, będzie musiała weryfikować wiek swoich użytkowników w taki sposób, żeby wykluczyć kontakt osób małoletnich z takimi treściami. Coś, co wydaje się naturalne, coś, co wydaje się, że powinno funkcjonować od zawsze, powinno funkcjonować od dawna, niestety naturalne nie jest.

W polskich warunkach jedyną barierą, która – w cudzysłowie – „chroni” dzieci przed dostępem do treści pornograficznych, jest tzw. autoweryfikacja. To znaczy, komunikat: „Mam 18 lat, wchodzę dalej”, możliwość postawienia tzw. checkboxa przy tym komunikacie. Po postawieniu takiego znacznika wszystkie strony zawierające treści dla dorosłych stoją otworem dla dzieci i dla młodzieży. Nikomu z państwa nie trzeba tłumaczyć, jak pornografia działa na młode umysły. Wystarczy posłuchać znanej piosenki Taco Hemingwaya pod tytułem „W.N.P.”, czyli „Wychowała nas pornografia”. Tam chyba jest to wytłumaczone w najbardziej syntetyczny sposób, co dzieje się z młodymi umysłami przy ekspozycji na takie treści.

Koncepcja, którą chcemy państwu zaproponować, obejmuje wprowadzenie obowiązku weryfikacji wieku, obowiązku potwierdzenia pełnoletności, czyli potwierdzenia tego momentu, który upoważnia nas do przeglądania takich treści, czyli „ukończyłem lat 18”. Przyjęliśmy ukończenie 18 lat jako wiek przyzwolenia. Koncepcja wzorowana jest na działającym – zdaje się, że wprowadzonym w poprzedniej kadencji Sejmu – Rejestrze Domen Służących do Oferowania Gier Hazardowych Niezgodnie z Ustawą. Taki rejestr jest prowadzony w Ministerstwie Finansów. Zabezpiecza on nas przed wchodzeniem na strony, które nie są zgodne z polskim prawem, a oferują możliwość grania w nielegalnych kasynach, w takich kasynach, które nie są opisane normami polskiego prawa.

W założeniu ustawy jest prowadzenie tego rejestru przy Urzędzie Komunikacji Elektronicznej, ale ze względu na koncentrację kompetencji swoją rolę w tym prawie ma również Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy. NASK od lat prowadzi działania z jednej strony edukacyjne, zmierzające do ochrony małoletnich, do zapewnienia im bezpiecznego środowiska przeglądania sieci, ale z drugiej strony działania zmierzające do eliminowania z internetu treści, które w jaskrawy sposób są z tym sprzeczne, które pokazują po prostu obrazy przestępstw, obrazy nielegalnych zachowań skierowanych wobec osób małoletnich. W ustawie uwzględniamy również rolę Krajowej Rady Radiofonii i Telewizji, która ma władztwo nad streamingowymi przedsięwzięciami dostarczającymi treści pornograficznych.

Ustawa została przyjęta przez rząd. Tak jak mówiłem, zmieniała co pewien czas swoje zapisy, ze względu na to, że kiedy startowaliśmy, mieliśmy taką ambicję, żeby wzorem rozwiązań angielskich i australijskich objąć ustawą nieco więcej niż pornografię. To znaczy, wszystkie treści, które mogą być negatywne, mogą być drastyczne, z którymi małoletni nie powinni mieć interakcji. W tzw. międzyczasie zawęziliśmy działanie tej ustawy wyłącznie do treści pornograficznych. Wysłaliśmy ustawę do notyfikacji, dlatego że ze względu na to, że działamy na wspólnym rynku europejskim, ustawa wymaga notyfikacji przez Komisję Europejską. Wiele przepisów powiela rozwiązania i pomysły z projektu obywatelskiego, jeszcze raz z dużym szacunkiem wobec autorów projektu obywatelskiego, który został odrzucony przez Komisję Cyfryzacji, Innowacyjności i Nowoczesnych Technologii ze względu na to, że próbował regulować ten sam odcinek prawa. To było głównym argumentem. Nie wypowiadaliśmy się na temat potrzeby stosowania tych rozwiązań, na temat ich słuszności. Komisja odrzuciła tamten projekt tylko ze względu na to, że była to próba regulowania tego samego fragmentu rzeczywistości, tego samego fragmentu prawa.

Jestem oczywiście otwarty na wszelką dyskusję.

Tzw. standstill, czyli ten moment, kiedy nie wolno nic zmienić w projekcie, kończy się na początku września, co daje szansę na to, że na początku września będziemy mogli podjąć ponownie pracę w Sejmie nad przepisami tej ustawy.

Z istotnych i ciekawych rzeczy: procedura wpisywania stron, które nie wprowadzą weryfikacji do rejestru, jest podobna jak wpisywania stron do rejestru zawierającego zakazane domeny hazardowe, ale ten rejestr jest niejawny. Co więcej, ta procedura daje możliwości odwołania zarówno od decyzji prezesa Urzędu Komunikacji Elektronicznej – to właśnie w Urzędzie Komunikacji Elektronicznej ten rejestr i te kompetencje będą skoncentrowane – jak i potem odwołania od decyzji prezesa Urzędu Komunikacji Elektronicznej na drodze postępowania administracyjnego.

W mojej ocenie bardzo dobrym elementem tej ustawy jest to, że zakreślamy tam finansowanie, i to zarówno finansowanie po stronie Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego, jak i finansowanie po stronie Urzędu Komunikacji Elektronicznej. Ta ustawa daje nowe kompetencje prezesowi UKE. W UKE od pewnego czasu jest budowany departament, który ma zająć się interakcją z internetem. UKE ma kompetencje wynikające na przykład z dyrektywy Digital Single Market – chodzi o negocjacje pomiędzy twórcami treści a wydawnictwami i tzw. big techem, czyli wielkimi firmami technologicznymi. UKE zaczyna tutaj być coraz bardziej aktywny. Udało się zapewnić finansowanie dla części nowych kompetencji, które pojawią się w UKE. Udało się zapewnić również finansowanie dla NASK, w którym te kompetencje są już realizowane. Po wprowadzeniu tych rozwiązań będzie dużo większy nacisk na to, aby rozszerzać kompetencje.

Ustawa referuje wprost do pomysłu Komisji Europejskiej, a w zasadzie do prawa, które zostało określone czy opisane w rozporządzeniu eIDAS 2.0, czyli do Europejskiego Portfela Tożsamości Cyfrowej, wskazując go jako jedną z technologii weryfikacji wieku, której można użyć. Idea europejskiego portfela tożsamości cyfrowej jest taka, że użytkownik takiego portfela może się wylegitymować dowolnym atrybutem, który jest potwierdzony przez zaufaną trzecią stronę, przez wystawcę dokumentu, na przykład tylko atrybutem pełnoletności, bez przekazywania jakichkolwiek innych danych. To znaczy – na zasadzie pełnej prywatności.

Ta pełna prywatność była dla nas wyznacznikiem od początku do końca prac nad tą ustawą. Staraliśmy się zrobić wszystko, żeby po pierwsze nie zamykać wachlarza technologii, jakie może zastosować dostawca, ale po drugie, żeby właśnie zadbać o prywatność użytkowników. Wychodzimy z założenia, że dorosły człowiek może wchodzić w interakcje z takimi treściami w internecie, z jakimi tylko chce. Ta ustawa ma chronić wyłącznie dzieci. Stąd nie określamy wachlarza technologii, nie zamykamy tego wachlarza, natomiast obowiązek zabezpieczenia stron przerzucamy na dostawców treści pornograficznych. To dostawcy treści pornograficznych zarabiają na tym pieniądze, a więc ich obowiązkiem jest, aby treści dla dorosłych trafiały wyłącznie do osób dorosłych.

Nie chcę przedłużać. Wiem, że mamy ograniczony czas. Jesteśmy do państwa dyspozycji, i to w takiej bardzo mocnej ekipie. Są reprezentanci NASK, reprezentacja Ministerstwa Cyfryzacji i reprezentacja Ministerstwa Kultury i Dziedzictwa Narodowego. Jesteśmy do państwa dyspozycji podczas dyskusji. Bardzo mocno liczę na to, że praca nad tym projektem, co zresztą charakterystyczne dla tych Komisji, będzie wyłącznie merytoryczna, pozbawiona wątków politycznych. Jak tu robić politykę na czymś, co jest tak oczywiste. Bardzo dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję, panie ministrze.

Czy ktoś z państwa posłów chciałby zabrać głos w tym punkcie? Bardzo proszę, pan poseł Uściński.

Poseł Piotr Uściński (PiS):
Panie przewodniczący, panie ministrze, Wysoka Komisjo, szanowni goście, cieszę się, że zaczynamy wreszcie debatę nad tym projektem. To jest już kolejny projekt dotyczący ograniczenia pornografii dla dzieci i młodzieży, który pojawia się w Sejmie.

Tak jak mówiłem przy poprzednim projekcie, który był projektem obywatelskim, który był procedowany na pierwszym czytaniu w Sejmie już chyba ponad rok temu: ważne jest, żebyśmy przyjęli te przepisy jak najszybciej. Zagrożenie jest coraz większe. Nawet trudno sobie wyobrazić, żeby w przyszłości było większe. Pewnie będzie jeszcze większe, ale zagrożenie jest bardzo duże. Darmowy dostęp do pornografii dla dzieci nie jest w żaden sposób ograniczony. Przecież wszyscy zdajemy sobie sprawę, że zaznaczenie tego ptaszka, o którym mówił pan minister, w żaden sposób nie zabezpiecza dzieci i młodzieży przed dostępem do pornografii. Chyba nawet jest lepiej powiedzieć, że naszych dzieci przed dostępem do pornografii. To jest właśnie… Trzeba by było patrzeć na to w tę stronę, że to pornografia ma nieograniczony dostęp do naszych dzieci.

Gdy osiem lat temu, w czerwcu 2018 r., robiliśmy w Sejmie konferencję, połączone zespoły parlamentarne robiły konferencję o nazwie „Porno – kokaina na kliknięcie. Medyczne, psychologiczne i prawne uwarunkowania współczesnej pandemii”. Eksperci wypowiadali się o tym, jak działa pornografia, jak wpływa na rozwój młodego człowieka, młodego mózgu młodego człowieka, jak potrafi uzależnić i jak naprawdę całe życie młodego człowieka, który jest narażony na pornografię, może się w przyszłości zmienić w związku z uzależnieniem, w które popada.

Panie ministrze, nawiązując do ostatniego zdania, które pan powiedział, żeby nie upolityczniać tej sprawy – wtedy niestety te liberalne media, typu TVN, „Szkło Kontaktowe”, „Gazeta Wyborcza”, portal natemat.pl, bardzo naśmiewały się z podejmowanego przez nas tematu. To nie był temat podejmowany przez którąś z partii. To było w pewnym sensie ponadpartyjne. Brali w tym udział przedstawiciele różnych ugrupowań, ale raczej konserwatywnych ugrupowań. Wtedy strona liberalna naśmiewała się, szydziła z tego tematu. Już nie będę wchodził we wszystkie argumenty, które podawali, ale możecie państwo sobie wyobrazić, jakie to były argumenty.

Dzisiaj mamy niesamowicie pozytywną sytuację. Nie słyszę tego w tej chwili w przestrzeni publicznej czy w polskim Sejmie na debacie rok temu, gdy była ta debata nad projektem obywatelskim. Mimo że ten projekt nie został wtedy przyjęty przez Sejm, to nie było negatywnych komentarzy z żadnej strony sceny politycznej co do potrzeby ograniczenia dostępu pornografii do naszych dzieci. To jest niesamowicie pozytywny moment w historii, kiedy nie ma tego sprzeciwu. Nie możemy tracić czasu. Musimy jak najszybciej przyjąć te rozwiązania.

Panie ministrze, długo na nie czekaliśmy, ale dobrze, że są. Dobrze, że nie są pod koniec kadencji, bo czasami w takich sytuacjach to się nie udaje. Liczę na to, że zostaną przyjęte, wejdą wreszcie w życie w ciągu najbliższych dwóch, trzech posiedzeń Sejmu i zaczniemy chronić nasze dzieci.

Co do rozwiązań technicznych to oczywiście niezależnie od tego, czy ta ustawa będzie lepsza, czy gorsza, trzeba ją przyjąć. Z pewnością ją poprzemy, ale będziemy chcieli pracować na Komisji, żeby była jeszcze lepsza niż ta przygotowana. Brakuje w tej ustawie m.in. definicji pornografii. Państwo twierdzicie w uzasadnieniu, że nie trzeba tego definiować. Ewentualnie sądy będą rozpatrywały, co jest pornografią, a co nie jest. Jednak wydaje się konieczne, żeby wszystkie podmioty, na które nakładamy obowiązki w związku z tą ustawą, po pierwsze miały konkretną wiedzę, co jest, a co nie jest pornografią. Oczywiście, jeżeli chodzi o jakieś portale pornograficzne, to jest jasne. Nie ma co się zastanawiać.

Natomiast czasami jest tak, że są strony internetowe, portale, media społecznościowe, w których pojawiają się treści, które być może są na granicy. Nie do końca jesteśmy w stanie, a nawet sztuczna inteligencja, która być może będzie się tym zajmowała, nie będzie w stanie określić, czy to jest już pornografia czy nie. Musi być taka legalna definicja pornografii, będziemy składali taką poprawkę do ustawy. Z tego, co wiem, na etapie prac nad tym projektem kilkanaście organizacji, m.in. Ministerstwo Sprawiedliwości, zwracało wam na to uwagę, że taka legalna definicja, czym są te treści pornograficzne, które chcemy ograniczyć, powinna się zostać zawarta w ustawie.

W związku z tym mam jeszcze pewne pytania do pana ministra. Też nie do końca jest to dla mnie jasne: Jak będzie wyglądała weryfikacja wieku? Jest pewna dyskusja, czy ta weryfikacja wieku ma się odbywać za każdym razem, kiedy użytkownik ma chcieć skorzystać z pornografii, czy też może sobie raz zweryfikować ten wiek i potem już być zweryfikowanym na swoim urządzeniu i korzystać z niej dalej. Tutaj oczywiście pojawiają się spory, jak to powinno wyglądać. W moim przekonaniu, jeśli ktoś się zaloguje na urządzeniu i już nie będzie musiał potwierdzać wieku kolejny raz, to znowu wchodzimy w sytuację zagrożenia. Jakieś dziecko usiądzie przy komputerze, na którym ktoś dorosły zalogował się wcześniej. Dorosły nie wie o tym, że to dziecko będzie chciało skorzystać, a skorzysta.

Pojawia się sytuacja, w której pełnoletni kolega zaloguje się czy wykorzysta swoje poświadczenie europejskie, że ma 18 lat, i swoim niepełnoletnim kolegom, dzieciom… Zresztą to może dotyczyć każdego dorosłego. Nie musi to być 18-letni kolega. To może być wujek, który chce zdemoralizować jakieś dzieci czy zaloguje się jakiemuś dziecku na komputerze, na komórce i ono będzie potem mogło z tego korzystać. To oczywiście powinno być penalizowane.

Nie wiem, czy jest prośba o wytłumaczenie przez pana ministra, czy takie działania dorosłego wobec dziecka będą karane, ale pytam ogólnie: Jak pan minister podchodzi do tego? Czy to jest zgodnie z tym projektem? Czy ktoś będzie musiał uzyskać poświadczenie pełnoletności do każdorazowego dostępu? Czy będzie to mogło być tak, że ktoś skorzysta, zrobi to raz, a potem będzie bezpośrednio z tego korzystał cały czas na swoim urządzeniu, na swojej przeglądarce?

Kolejny aspekt. Mamy korzystać z tego europejskiego poświadczenia pełnoletności. Bardziej znam polskie rozwiązania typu mObywatel. Znam jego możliwości i wiem, na ile on może chronić dane osobowe. Europejskie rozwiązania nie są mi do końca znane. Jest prośba do pana ministra o odpowiedź na pytanie: Czy ktoś, kto będzie wielokrotnie korzystał z europejskiego poświadczenia pełnoletności… Czy dane o tym mogą być zbierane przez jakąś instytucję europejską? Czy ktoś w Europie będzie mógł legalnie zbierać dane, że ktoś tam, jakiś Kowalski czy jakieś inne nazwisko, Iksiński, wielokrotnie poświadcza, że jest pełnoletni? Jeżeli tak, to wyobrażam sobie, że jednak jest to jakieś naruszenie prywatności.

Na razie to tyle pytań. Dziękuję bardzo i jeszcze raz dziękuję za to, że ten projekt trafił wreszcie pod obrady Komisji i Sejmu. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Bardzo dziękuję.

Panie ministrze, może zbierzemy kilka pytań i odpowie pan łącznie?

Sekretarz stanu w MC Michał Gramatyka:
Panie przewodniczący, oczywiście.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Jeszcze pani przewodnicząca Rosa, bardzo prosimy.

Bardzo proszę, pani przewodnicząca.

Poseł Monika Rosa (KO):
Bardzo dziękuję, panie przewodniczący.

Panie ministrze, po pierwsze, bardzo się cieszę, że w końcu jest ten projekt ustawy i że będzie zawierał narzędzie realnej weryfikacji wieku, również stworzone przez państwa w Ministerstwie Cyfryzacji, powiązane z portfelem tożsamości elektronicznej.

Zwracam państwa uwagę na to, że jedna trzecia badanych nastolatków deklaruje, że kontakt z pornografią nastąpił nieintencjonalnie. Było to tak, że nie wchodzili na dedykowaną stronę, chociaż jak wykazuje raport „Internet dzieci 2026” te strony są w top 10 stron, z których korzystają osoby młode. Sporo tych nastolatków trafiło na nie poprzez algorytmy czy też spotkało się z nimi w internecie, na mediach społecznościowych, niekoniecznie na platformach przeznaczonych do korzystania z treści pornograficznych. Jak wskazuje brytyjska komisarz do spraw dzieci, te treści są coraz bardziej brutalne, mają w sobie coraz więcej przemocy i są coraz bardziej powszechne w mediach społecznościowych, ich algorytmy kierują osoby młode na takie treści.

Stąd moje pytanie, nieprzekreślające pełnej akceptacji założeń projektu, jest takie: W jaki sposób będzie możliwe ograniczenie dostępności do treści pornograficznych na platformach, które nie są platformami stricte z treściami pornograficznymi? Mówiąc wprost, na TikToku, na Instagramie, na Facebooku czy na portalu X. Wiem, że jest Digital Services Act (DSA). Natomiast mam pytanie: Czy jest to wystarczające narzędzie do tego, żeby chronić przed takimi treściami w mediach społecznościowych? Bardzo dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo.

Pan poseł Bliźniuk.

Poseł Paweł Bliźniuk (KO):
Dziękuję, panie przewodniczący.

Rozumiem, że jesteśmy w fazie, w której możemy zadawać pytania. Mam dwa pytania. Pójdę trochę dalej, w ślad za tym pytaniem, które zadała pani przewodnicząca Monika Rosa.

Czy obszarem regulacji, o których dzisiaj rozmawiamy, będą i są portale społecznościowe, na których są treści pornograficzne? Czyli jeżeli jest tam możliwość zapoznania się z treścią pornograficzną, to czy będzie obowiązywała weryfikacja wieku? Mówimy o konkretnych portalach społecznościowych, na których rzeczywiście z punktu widzenia badań, którymi dysponujemy, dostępność do tych treści przede wszystkim ze strony osób młodych jest duża. Często odbywa się w sposób nieintencjonalny. Algorytm po prostu sugeruje te treści młodym użytkownikom tych portali. W związku z tym mam pytanie: Czy ta ustawa również to obejmuje? Czytając treść tej ustawy, można odnieść takie wrażenie, ale chciałbym, żebyśmy mieli jednoznacznie rozstrzygniętą tę kwestię.

Druga sprawa to taka uwaga ogólna. Mówimy o treściach pornograficznych. Kodeks karny posługuje się pojęciem treści pornograficznych, nie definiując tego pojęcia w sposób szczególny. Jest ono opisane w wykładni w ramach orzecznictwa m.in. Sądu Najwyższego. Myślę, że wczytując się w to orzecznictwo, nie mamy wątpliwości, że w obszarze interpretacji pojęcie treści pornograficznych w prawnym ujęciu jest zdefiniowane nie wprost w Kodeksie karnym, ale w ramach orzecznictwa. To jest taka uwaga na marginesie. Chyba art. 202 Kodeksu karnego mówi o treściach pornograficznych. W Kodeksie karnym nie mamy legalnej definicji treści pornograficznych. To jest taka uwaga na marginesie. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo.

Pan przewodniczący Napieralski, proszę bardzo.

Poseł Grzegorz Napieralski (KO):
Dziękuję. Dopytam jeszcze w tym samym duchu, co pani przewodnicząca Rosa i pan przewodniczący Bliźniuk.

Faktycznie w mediach społecznościowych, w różnych miejscach pojawiają się nie tylko takie treści, ale też różne aplikacje, które proponują różnego rodzaju działania. Każdy może być obecny w mediach społecznościowych. Wystarczy kliknąć. Link odsyła od razu do sklepu. Możemy po prostu odnaleźć taką aplikację czy jakieś takie miejsce i sobie tam spokojnie tworzyć bądź oglądać różnego rodzaju treści. Czy ustawa zagwarantuje, że będziemy chronili dzieci przed takimi treściami? Co innego, jak dorosły sobie coś tam zobaczy, a co innego, jeżeli zobaczy to dziecko, które ma dzisiaj dostęp do mediów społecznościowych od bardzo niskiego wieku. Może mieć dostęp do takich treści właśnie poprzez takie aplikacje, które można kupić. To są nieduże pieniądze. Można spokojnie korzystać z tych aplikacji, a są tam też treści niedozwolone, treści pornograficzne.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo. Ktoś z państwa chciałby zabrać głos?

Pan poseł Cieszyński, proszę bardzo.

Poseł Janusz Cieszyński (PiS):
Panie przewodniczący, panie ministrze, mam pytanie dotyczące możliwości wykorzystania urządzenia jako nośnika informacji o wieku. Pan poseł Uściński już trochę o tym mówił. Takie rozwiązania są wprowadzane za granicą. Nasza ustawa w ogóle nie przewiduje takiego rozwiązania. Mówi o tym, że w stu procentach jest to przekazane na platformę.

Mam pytanie: Czy to było rozważane? Podzielam z jednej strony zastrzeżenia, na które wskazuje pan poseł Uściński, a z drugiej strony można sobie wyobrazić, że przyjęte rozwiązanie nie jest idealne. Tak że mam pytanie: Dlaczego zdecydowano się na model, w którym w ogóle nie został wykorzystany tryb wykorzystania urządzenia? Dołączam się do pytania przedmówców w sprawie tych platform. Byłoby doskonale, gdyby pan minister się odniósł. One chyba nawet były wymienione z nazwy. Po prostu tak po kolei, tak jak pan minister zna internet, zna te platformy. Które z nich w ocenie pana ministra w obecnym brzmieniu przepisów podlegałyby wpisowi na tę listę? Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo. Czy jeszcze ktoś z państwa chciałby zabrać głos?

Bardzo proszę, pani poseł.

Poseł Barbara Okuła (Centrum):
Tak, oczywiście ja też się cieszę, że ten projekt jest. Jest bardzo potrzebny. Mam takie pytanie do ministerstwa. Jakie konsekwencje będą ponosiły podmioty, które nie wdrożą skutecznej weryfikacji wieku dzieci, szczególnie platformy, które są platformami pornograficznymi dla dorosłych, a powinny zabezpieczyć dzieci przed wchodzeniem na te strony? Czy ministerstwo rozważa dodatkowo jakąś edukację cyfrową dla dzieci i rodziców, żeby ewentualnie uniknąć ryzyka kontaktu małoletnich z nieodpowiednimi treściami pornograficznymi? Dziękuję bardzo.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Bardzo dziękuję.

Pani prezes Szymielewicz, proszę bardzo.

Prezeska Fundacji Panoptykon Katarzyna Szymielewicz:
Bardzo dziękuję za zaproszenie i za możliwość zabrania głosu.

Panoptykon przygląda się temu projektowi od początku. Chciałabym, żeby było tak dobrze poza tym pokojem, jak pan poseł Uściński to odbiera, że nie ma sprzeciwu. Myślę, że ten sprzeciw pojawi się na samo hasło blokowania stron. Musicie być państwo gotowi na to, że ten projekt, być może nierzetelnie opowiedziany przez niektóre media, będzie budził kontrowersje, dlatego tak ważne jest, żeby już od początku zaadresować pewne obawy.

Też zgłaszaliśmy poprawkę, sugestię doprecyzowania definicji, czym są treści pornograficzne. Jeszcze w ministerstwie usłyszeliśmy, że nie ma takiej potrzeby, bo mamy orzecznictwo sądów i że każdy wie, co to jest pornografia. Wydaje mi się, że jest potrzebna przynajmniej dyskusja na ten temat.

Mamy treści artystyczne, mamy treści edukacyjne. Śledząc to, co dzieje się na dużych portalach typu TikTok, YouTube i chodząc na Komisję pani poseł Moniki Rosy, słuchamy opowieści ekspertów, którzy zajmują się na przykład wspieraniem dzieci w różnych kryzysach, że ich treści są blokowane, bo zawierają różne słowa kluczowe, a treści szkodliwe nie są, prawda? Z takiego samego klucza możemy się spodziewać kontrowersji. Treść edukacyjna, która, nie wiem, przedstawia nagie ciało, będzie uznana za pornografię, a treść – podobno jest takich sporo – która jest właśnie na granicy, jak państwo powiedzieliście, ale jednak jest tam świadome granie podnieceniem seksualnym, ta treść nie będzie wyłapana, bo jest tam na przykład za mało nagości.  Ona nie wykorzystuje akurat nagiego ciała, tylko wykorzystuje jakiś inny trik, który mimo wszystko działa na mózg dziecka. Rozumiem, że rozmawiamy o tym w tym kontekście. Tak że wydaje mi się, że to jest sprawa, która będzie wracała.

Druga sprawa, jaka będzie wracała w tej dyskusji, to jest kwestia definicji zakresu podmiotowego. Dopytywaliśmy o to, o co pytają posłowie, posłanki, czy chodzi o wyspecjalizowane serwisy. Wtedy mamy dosyć prostą sprawę, ale musimy to napisać inaczej. Dzisiaj projekt ustawy mówi „umożliwiające”. Twitter bardzo umożliwia. Ewidentnie to się zmieniło i tak się mówi. Słyszę o tym, czytam w danych NASK, w danych polskiej komisji, która przeciwdziała pedofilii, że Twitter jest portalem numer jeden, jeśli chodzi o dostęp do tego typu treści. Tak jak powiedziała pani poseł Rosa, treści niechcianego dostępu, czyli jest to wpierane przez algorytm. Wcześniej to był TikTok. Teraz panowie stwierdzili, że jest to Twitter. Za chwilę to będzie coś innego.

Co z tymi portalami? Tak jak państwo się domyślacie, nie jestem tu, żeby ich bronić. Marzyłby mi się scenariusz, w którym Polska, używając takiego czy innego mechanizmu prawnego, je blokuje. Czemu nie? Zróbmy to. Czy taki jest zamiar ustawodawcy? To na pewno wywoła ogromną batalię z klucza wolności słowa itd. Czy mamy taką gotowość, czy taki jest zamiar? Jeżeli nie, to jest problem z zakresem podmiotowym i z mechanizmem odwoławczym do sądu administracyjnego, który nie będzie miał jak ocenić meritum sporu, bo sąd tego nie ocenia.

Trzecia rzecz, która zwróciła naszą uwagę. W ustawie były wcześniej bardzo dobre przepisy dotyczące minimalizacji danych w kontekście weryfikacji wieku. Było wykluczenie możliwości wykorzystania danych biometrycznych i był wyraźny przepis, który mówił, że nie można wykorzystać inaczej danych pozyskanych do tego celu, czyli platforma, która bierze dodatkowe dane, żeby weryfikować wiek, nie może użyć ich inaczej. Oba te przepisy zniknęły. Dlaczego?

Bardzo dziękuję za możliwość dyskusji.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Bardzo dziękuję.

Czy ktoś z państwa jeszcze chciałby zabrać głos? Bardzo proszę. To pani za chwileczkę, tylko jeszcze pan się zgłaszał. Proszę bardzo.

Radny Rady Młodzieżowej przy Parlamentarnym Zespole ds. Młodzieży Filip Mikołajczyk:
Szanowny panie przewodniczący…

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Proszę się jeszcze przedstawić.

Radny Rady Młodzieżowej przy Parlamentarnym Zespole ds. Młodzieży Filip Mikołajczyk:
Filip Mikołajczyk. Jestem reprezentantem Rady Młodzieżowej przy Parlamentarnym Zespole ds. Młodzieży.

Nasza rada wspiera działania mające na celu budowę spójnego systemu ochrony najmłodszych użytkowników internetu przed nieodpowiednimi treściami. Z aprobatą przyjmujemy starania zmierzające do ograniczenia dostępu małoletnich do treści pornograficznych. Cyberprzestrzeń to dzisiaj płaszczyzna, w której koncentruje się ogromna część aktywności osób w różnym wieku. Z sieci korzystają starsi i młodsi, jednakże nie każda grupa użytkowników jest w stopniu równym przygotowana, aby robić to w sposób w pełni świadomy. Prawo w sposób szczególny chroni osoby małoletnie, dzieci i młodzież. Powszechnie wiadomo, że należy chronić ludzi młodych przed szkodliwymi wpływami czynników zewnętrznych. Do chwili obecnej sprowadzało się to głównie do ochrony przed zagrożeniami występującymi w świecie rzeczywistym, pomijając często negatywne aspekty życia wirtualnego. Wręcz wstrząsający jest fakt, że styczność z pornografią mają już osoby w wieku 11–12 lat, a nawet i wcześniej.

Oglądanie pornografii w młodym wieku w sposób patologiczny wpływa na zdrowie i relacje międzyludzkie. Może także prowadzić do uzależnienia porównywalnego z uzależnieniem od substancji psychoaktywnych. Zgadzając się co do motywów stojących u podstaw założeń projektowanej ustawy, Rada Młodzieżowa przy Parlamentarnym Zespole ds. Młodzieży zwraca uwagę na konieczność zapewnienia anonimowości przy weryfikacji użytkowników korzystających z domen umożliwiających dotarcie do treści pornograficznych. W związku z tym rada stoi na stanowisku, że mechanizm weryfikacji wieku powinien zostać oparty na standardzie dowodu z wiedzą zerową.

Przepis ustawy powinien gwarantować realizację procedury tzw. ślepej autoryzacji, w której logi systemowe rejestrują wyłącznie sam fakt wygenerowania zerojedynkowego potwierdzenia pełnoletności, przy jednoczesnym technicznym i bezpowrotnym wymazaniu zapisu nazwy oraz adresu IP domeny docelowej, do której token jest przekazywany. Nie można dopuścić do tego, aby dane wrażliwe pełnoletnich obywateli, chociażby dotyczące preferencji seksualnych, mogły być w jakikolwiek sposób ujawnione, na przykład wskutek późniejszego ataku cybernetycznego. Nie można budować demokratycznego społeczeństwa i walczyć z brutalizacją życia codziennego, podczas gdy pornografia ukazuje młodym drugiego człowieka jako przedmiot, a nie jako podmiot.

Podsumowując, założenia projektowanej ustawy są dobrym krokiem w kierunku ograniczenia dostępu małoletnich do nieodpowiednich i szkodliwych treści. Najważniejsze, aby przepisy ustawy zapewniały prywatność osobom dokonującym weryfikacji swojego wieku przed uzyskaniem dostępu do danej domeny. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo.

Proszę uprzejmie.

Rzeczniczka prasowa Stowarzyszenia Twoja Sprawa Katarzyna Nowicka:
Katarzyna Nowicka, Stowarzyszenie Twoja Sprawa.

Przede wszystkim chciałam powiedzieć, że bardzo się cieszymy, że ten projekt jest. Jako organizacja przedstawiamy te postulaty już od lat, tak że tutaj są duże podziękowania. Chciałam tylko zgłosić taką uwagę w naszym imieniu, ponieważ uważamy, że do tej ustawy powinien być wprowadzony zakaz udostępniania usług płatniczych na stronach wpisanych do tego rejestru, o którym mowa w ustawie. Tu chodzi na przykład o bramki płatnicze umożliwiające płatność kartą lub blik. Takie rozwiązania są już wprowadzone chociażby w ustawie hazardowej. Uważamy, że takie usługi nie powinny być świadczone na rzecz podmiotów, które nie stosują weryfikacji wieku. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję uprzejmie. Nie widzę więcej chętnych.

Widzę. Bardzo proszę.

Dyrektor Departamentu Multimediów Krajowej Rady Radiofonii i Telewizji Patryk Juhre:
Witam serdecznie. Patryk Juhre, Krajowa Rada Radiofonii i Telewizji, z takim wnioskiem, aby w projekcie ustawy uwzględnić również Krajową Radę Radiofonii i Telewizji, jeżeli chodzi o podział środków finansowych na realizację zadań.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo.

Czy ktoś z państwa chce jeszcze zabrać głos? OK.

W takim razie oddaję głos panu ministrowi. Panie ministrze, bardzo proszę o odpowiedzi, ustosunkowanie się do tych komentarzy i sugestii.

Sekretarz stanu w MC Michał Gramatyka:
Bardzo dziękuję. Bardzo dziękuję za wszystkie pytania, za ich merytoryczny wymiar. Rozmowa w takich warunkach i na takim poziomie jest bardzo dużym komfortem.

Pan poseł Uściński wywołał temat definicji pornografii. W polskim prawie karnym definicja pornografii, zjawiska pornografii jest przywoływana, zdaje się, od 1949 r. Została wtedy opublikowana jedna z iteracji Kodeksu karnego. Już wtedy pojawiały się tam przestępstwa na przykład pokazywania treści pornograficznych osobom małoletnim czy wspomniany przez pana posła Bliźniuka art. 202.

Kodeks karny z różnych względów nigdy nie definiował zjawiska pornografii jako takiego. To znaczy, ze względu na to, że po prostu oddano tę definicję doktrynie. Ten model, ten mechanizm działa w prawie karnym, które z samej swojej istoty jest niezwykle precyzyjne, dlatego że żeby skazać kogokolwiek za przestępstwo, trzeba przede wszystkim udowodnić, że zostały zrealizowane znamiona tego przestępstwa. W polskim prawie karnym nigdy nie było sytuacji, że nie byliśmy w stanie udowodnić, że właśnie takie znamiona, polegające na prezentowaniu na przykład treści pornograficznych osobom małoletnim, nie zostały udowodnione. Dorobek doktryny w tym zakresie jest ogromny. To jest kilkadziesiąt lat doświadczeń. To są wyroki. To są glosy. To jest orzecznictwo. To są publikacje. Uznaliśmy, że wpisywanie do tej ustawy definicji pornografii…

To też jest paradoksalne. Ktoś z państwa posłużył się argumentem, że nawet Ministerstwo Sprawiedliwości apelowało o to, żeby zdefiniować tę pornografię. Tak, odbyłem taką dyskusję na rządzie z wiceministrem sprawiedliwości. Na posiedzeniu rządu Ministerstwo Sprawiedliwości wycofało tę uwagę, jak gdyby dając się przekonać, że to, co działa w Ministerstwie Sprawiedliwości, czyli brak definicji pornografii w Kodeksie karnym, zadziała równie dobrze w świecie cyfrowym. Zresztą w świecie cyfrowym jest to dużo prostsze, dlatego że na tzw. platformach społecznościowych, które wolę nazywać algorytmicznymi kanałami reklamowymi, algorytmy w bardzo prosty i jasny sposób wychwytują wszystkie treści, które są niezgodne na przykład z amerykańskimi uregulowaniami, z tą słynną ustawą, która na przykład uniemożliwia pokazanie niektórych fragmentów ludzkiego ciała. Takie treści oczywiście najczęściej bywają automatycznie usuwane, zanim dotrą do choćby jednego użytkownika. Co warto wspomnieć, pod warunkiem, że taki kanał czy taki portal przestrzega prawa, co wcale nie jest oczywiste na przykład w przypadku Twittera, wywołanego przez jedną z pań dyskutantek.

Oczywiście jest anegdotyczna sytuacja z 1964 r., słynna sprawa Jacobellis v. Ohio, dotycząca francuskiego filmu „Kochankowie”, gdzie sędzia amerykańskiego Sądu Najwyższego mówił: „Ja nie wiem, jak zdefiniować pornografię, ale pokażcie mi to, to ja wam powiem, czy to jest, czy to nie jest pornografia”. Jest to autentyczne wydarzenie opisywane w literaturze właśnie jako punkt odniesienia, że niekoniecznie trzeba legalnie definiować, że można stosować definicję przez postulaty, definicję, która jest w orzecznictwie, w literaturze przedmiotu. To naprawdę bardzo dobrze się sprawdza w polskim prawie karnym. Będzie się też sprawdzać w tym świecie cyfrowym.

Bardzo dziękuję za wypowiedź przedstawiciela Rady Młodzieżowej. Mówi o sprawach, które są wprawdzie technologiczne, ale wybrzmiewają też w pytaniu pana posła Uścińskiego. To znaczy, europejski portfel tożsamości cyfrowej jest oparty o atrybut tzw. dowodu o wiedzy zerowej. To jest właśnie ta technologia wspomniana przez naszego młodego gościa, która polega na tym, że przekazujemy do platformy, do dostawcy treści pornograficznych tylko informację, że jesteśmy pełnoletni, nie przekazując żadnych innych danych na swój temat. Tak jak polski mObywatel nie umożliwia tego na dzień dzisiejszy, bo jakby przekazujemy całą paczkę danych, to europejski portfel tożsamości cyfrowej jest tak napisany, że właśnie będzie umożliwiał coś takiego. Będzie można na przykład logować się do sklepów internetowych tylko pseudonimem, nie pokazując swoich danych osobowych. Będzie można potwierdzać swoją pełnoletność tylko tym jednym argumentem.

Nawet aplikacja udostępniona przez Komisję Europejską w tym celu, czyli w celu zachowania weryfikacji wieku przy logowaniu się do portali społecznościowych albo do dostawców usług pornograficznych, aplikacja opublikowana w otwartym kodzie, czyli aplikacja open source – ona też bazuje na dowodzie z wiedzą zerową, na dowodzie z warstwą zerową, czyli przekazujemy tylko dwie informacje. Pierwsza: jestem pełnoletni i druga informacja: moja pełnoletność została zweryfikowana przez tzw. zaufaną trzecią stronę. Dostawca takich usług wie, że to jest po prostu prawda.

Weryfikacja wieku na poziomie urządzenia, która weszła ostatnio w Wielkiej Brytanii, została wywołana przez pana posła Cieszyńskiego. W wyniku zmian w prawie, które tam nastąpiły, każdy nowy posiadacz systemu operacyjnego czy telefonu wyposażonego w dominujące systemy operacyjne musi przy instalacji tego systemu zweryfikować, czy jest pełnoletni, czy nie. Jak się okaże, że nie jest pełnoletni, to automatycznie włącza mu się na tym telefonie coś na kształt kontroli rodzicielskiej. To jest bardzo dobre rozwiązanie. To jest rozwiązanie, które w mojej ocenie mogłoby funkcjonować, tylko że w ten sposób dotykamy czegoś więcej niż tematu, który załatwia ta ustawa.

Ta ustawa ma ochronić dzieci przed treściami, które są adresowane tylko dla widzów dorosłych. Ta ustawa jest kierowana do dzieci czy dla bezpieczeństwa dzieci, natomiast zobowiązania, obowiązki wynikające z tej ustawy mają dotykać dostawców treści pornograficznych. Nie mieliśmy ambicji regulowania całych systemów operacyjnych, całych wielkich firm technologicznych, które są autorami tych systemów operacyjnych. Aczkolwiek warto wspomnieć, że rozwiązania, które przynosimy w tej ustawie, pewnie będą pewnym wzorcem dla przecież istniejących planów ograniczenia wieku w dostępie do tych platform algorytmicznych, do tych platform społecznościowych. One pewnie będą mogły tam zostać wykorzystane.

Pan poseł Cieszyński, ale też jeszcze ktoś inny z dyskutantów zaadresował temat tego, jak często będzie się trzeba weryfikować. Nie wystarczy nam zapisanie ciasteczek w oknie przeglądarki. To jest za mało. Weryfikacja będzie musiała nastąpić przy każdym wejściu na taką platformę, przy każdym kontakcie z takimi treściami skierowanymi do dowolnego użytkownika. Na tych platformach zwykle mamy dwa typy użytkowników. Jedni to są użytkownicy zalogowani, którzy dostają dostęp do tej platformy po zalogowaniu się, czyli jak gdyby użytkownicy zweryfikowani przez platformę – co ciekawe, ich jest ogromna większość. Jest też druga grupa – to są użytkownicy, którzy nie są zalogowani, dostają dostęp do jakichś tam podstawowych treści oferowanych przez platformę. Nie wystarczy nam zapisanie tej informacji w cookies. Potrzeba każdorazowej weryfikacji.

Dlaczego z naszego projektu wyleciała biometria? To jest bardzo dobre pytanie. Byłem gorącym zwolennikiem pozostawienia biometrii w projekcie, ale dałem się przekonać swojemu szefowi, który w zasadzie ma rację, mówiąc, że po pierwsze, biometria jest regulowana przez AI Act. To jest jak gdyby pierwszy argument. AI Act bardzo precyzyjnie mówi o obrazach biometrycznych, o tym, kiedy wolno, kiedy nie wolno, na jakich zasadach wolno, na jakich warunkach wolno. Po drugie, mamy cały ekosystem tzw. RODO, czyli General Data Protection Regulation (GDPR), czyli tych wszystkich uregulowań związanych z danymi osobowymi. Nawet w tej ustawie jest odesłanie, jest taka kompetencja prezesa UKE, że w momencie, kiedy on ma wątpliwości, może zasięgnąć opinii prezesa Urzędu Ochrony Danych Osobowych czy Urzędu Ochrony Danych Osobowych.

Doszliśmy do wniosku na rządzie, że wykluczając biometrię spośród dostępnych metod, dokonujemy zawężenia tych metod. Wskazujemy europejski portfel tożsamości cyfrowej jako pożądaną technologię, ale nie zawężamy wachlarza technologii tylko do europejskiego portfela tożsamości cyfrowej. Jeżeli dostawca treści pornograficznych będzie miał jakąś swoją technologię albo na przykład postanowi ograniczyć swój dostęp tylko do użytkowników zalogowanych, albo na przykład postanowi ograniczyć dostęp tylko do użytkowników, którzy regularnie płacą mu za te usługi, to może stosować dowolną technologię, byle ona była skuteczna i byle gwarantowała prywatność. Dlatego w uzasadnieniu zostawiliśmy kwestię wykorzystania danych gromadzonych przy weryfikacji, natomiast postanowiliśmy usunąć z projektu ewidentny zakaz biometrii na jednym z etapów prac rządowych, żeby po prostu nie zawężać możliwych technologii.

Warto powiedzieć, że zresztą dzisiaj ta ustawa ma 12-miesięczne vacatio legis właśnie po to, żeby ten europejski portfel tożsamości cyfrowej już był. On jeszcze dzisiaj nie obowiązuje, zacznie obowiązywać w grudniu tego roku. Polska jest akurat w forpoczcie wprowadzania europejskiego portfela tożsamości cyfrowej. To po prostu będzie kolejna iteracja mObywatela, przepisana w taki sposób, żeby spełniała warunki rozporządzenia eIDAS 2.0, ale nie jest powiedziane, że już w grudniu wszystkie kraje będą na to gotowe. Stąd tak długie vacatio legis i stąd właśnie pozostawienie tych zastrzeżeń.

Bardzo dziękuję za pytanie pani posłanki Okuły związane z konsekwencjami.

Mamy tam dwa rodzaje konsekwencji. To znaczy, generalnie wpisanie strony do rejestru powoduje, że strona znika z polskiego internetu. Ona przestanie być dostępna w polskim internecie. Na straży tego stoi Urząd Komunikacji Elektronicznej, który jest właścicielem rejestru. Są dwa rodzaje konsekwencji dla firm, które dostarczają takie treści. Jeżeli one nie zabezpieczą swojego ekosystemu weryfikacją wieku, jest kara finansowa do miliona złotych, ale jest też konsekwencja dla dostawców sieci.

Jeden z projektów, który był negocjowany czy rozpatrywany przez Sejm w poprzedniej kadencji, zakładał pełną odpowiedzialność dostawców sieci za jak gdyby wycinanie tych materiałów pornograficznych. Dostawcy sieci również mogą spotkać się z konsekwencjami, jeżeli nie zaimplementują do swojej sieci wpisów z rejestru prowadzonego przez Urząd Komunikacji Elektronicznej. Te rozwiązania są lustrzanym odbiciem tego, co dotyczy rejestru domen hazardowych. One działają, nie sprawiają przedsiębiorcom większych problemów. Na etapie konsultacji mieliśmy wiele takich zdań, że to dobrze, że nie wymagamy tego od przedsiębiorców dostarczających internet, że to jest jakby pozytywne stanowisko.

Zwracam też uwagę, że sygnalistami, którzy będą przekazywać do Urzędu Komunikacji Elektronicznej informacje o tym, że jakaś domena czy jakiś serwis nie stosuje takich zabezpieczeń, mogą być też osoby anonimowe. Z przepisów ustawy wynika, że podawanie danych personalnych jest dobrowolne. Wcale nie trzeba się przedstawiać urzędowi, przekazując informację, że jakiś serwis, jakiś ekosystem, jakiś system internetowy dostarcza treści pornograficzne, a nie jest zabezpieczony. Prezes UKE będzie mógł podejmować takie działania z urzędu. Będzie mógł podejmować je na wniosek Naukowej i Akademickiej Sieci Komputerowej. Tam jest największa koncentracja kompetencji w tym zakresie. Będzie mógł też podejmować takie działania na wniosek prywatnych osób albo na podstawie anonimowych zgłoszeń. Na tym to polega. Prezes UKE nigdy nie będzie w stanie wyśledzić wszystkich dostawców takich treści. Istotne jest, żeby tych dostawców po prostu odciąć w polskim internecie, żeby nie mogli siać takich treści wtedy, kiedy nie zabezpieczą swoich stron.

Pani Katarzyna Nowicka, jeżeli dobrze zapamiętałem nazwisko, zwróciła uwagę na koncepcję bramek płatniczych. To też jest bardzo ciekawe rozwiązanie. To jest rozwiązanie, które było w projekcie obywatelskim. Doszliśmy do wniosku, że nie będziemy się odwoływać do tego rozwiązania. Skoro te strony znikną z polskiego internetu, to siłą rzeczy ich po prostu nie będzie, więc nie uznaliśmy jeszcze zwiększana sankcji za potrzebne.

Jeżeli chodzi o dyskusję na temat platform społecznościowych czy tych kanałów algorytmicznych, to jest to dyskusja, w której nie jestem państwu w stanie dziś udzielić precyzyjnej odpowiedzi. To znaczy, zawsze wtedy, kiedy na takim kanale, na takiej platformie zostanie zidentyfikowany dostawca treści pornograficznych, to w oparciu o naszą ustawę będzie musiał zabezpieczyć te treści przed dostępem dla osób małoletnich, pod warunkiem, że przestrzega prawa. Niestety w Polsce są takie platformy społecznościowe, które nie przestrzegają prawa, pomimo tego, że mają do czynienia z obowiązującymi w Unii Europejskiej przepisami, na przykład z DSA, Digital Services Act, który jest jak gdyby takim podstawowym zabezpieczeniem. Mówiąc obrazowo, mają to DSA po prostu w głębokim poważaniu i nie przestrzegają tego prawa. Zakładam, że po implementacji do polskiego systemu prawnego DSA będzie można wyciągać konsekwencje wobec takich platform. Akurat Sejm będzie chyba dyskutował nad tym jutro, więc to też pewnie się stanie w ciągu kilku miesięcy.

Europejskie uregulowania dość dobrze działają w Unii Europejskiej. To znaczy, widać wśród tych platform jakiś progres, że one muszą się dostosowywać do europejskich uregulowań. Najbardziej merytoryczna odpowiedź, jakiej mogę udzielić, brzmi: tak, jeżeli dostawca treści pornograficznych będzie na dowolnym medium, platformie społecznościowej czy takim właśnie kanale przekazywania informacji, to on też będzie musiał zabezpieczyć te treści obowiązkiem weryfikacji wieku. Natomiast nie obejmujemy działaniem tych przepisów prywatnej komunikacji, prywatnych szyfrowanych komunikatorów. To jest jak gdyby w osobnym strumieniu.

Toczy się dyskusja w Unii Europejskiej. Myślę, że jeszcze niejedno przed nami, aczkolwiek to też jest pole, gdzie można się spodziewać wielu nadużyć. Pracownicy NASK doskonale o tym wiedzą.

Starałem się odpowiedzieć na wszystkie pytania. Jeżeli nie odpowiedziałem, to proszę mnie napiętnować. Postaram się wrócić do pytań, które przeoczyłem. Bardzo dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Bardzo dziękuję, panie ministrze.

Czy jeszcze ktoś z państwa na sali chciałby zabrać głos?

Pan poseł Uściński, proszę.

Poseł Piotr Uściński (PiS):
Panie ministrze, przepraszam, inni twierdzą, że pan podobno odpowiedział na to pytanie.  Nie do końca to usłyszałem. Rozumiem, że ciasteczka nie wystarczą, żeby ten wiek został zapamiętany, zweryfikowany. Jest sytuacja, w której ktoś loguje się do jakiejś platformy, czyli przy pierwszym logowaniu weryfikuje swój wiek. Czy on będzie musiał jeszcze raz weryfikować wiek przy kolejnych logowaniach, czy nie? To jest ważna sprawa. Jakby pan mógł krótko odpowiedzieć, to ja to dalej ewentualnie skomentuję.

Sekretarz stanu w MC Michał Gramatyka:
Z tej ustawy, którą mamy na stole, nie wynika obowiązek każdorazowej weryfikacji przy każdorazowym logowaniu.

Poseł Piotr Uściński (PiS):
Widzi pan. W takim razie nasuwa mi się od razu kolejne pytanie. Okazuje się, że jednak dobrze zrozumiałem wypowiedź, a tu inni źle.

Panie ministrze, wyobraźmy sobie hipotetyczną sytuację, że ktoś dorosły, kto ma skończone  18 lat, loguje się do platformy pornograficznej, weryfikuje swój wiek, zdobywa login i hasło do kolejnych logowań. Udostępnia ten login i hasło w sposób wolny w internecie. Nieletni dostają do tego dostęp. Potem, gdy ci nieletni chcą spróbować skorzystać z tego, to czy będą mogli zalogować się bez weryfikacji wieku? Przecież w ten sposób każda platforma będzie mogła puścić w eter login i hasło, które umożliwią logowanie na kogoś sprawdzonego już wcześniej.

Sekretarz stanu w MC Michał Gramatyka:
Czy już? Cieszę się, że zgadzamy się co do ciasteczek.

Większość platform już dzisiaj stosuje tzw. logowanie dwuskładnikowe, bardzo charakterystyczne i bardzo często spotykane na przykład przy serwisach bankowych albo przy serwisie mObywatel. To wyklucza możliwość zalogowania się samym loginem i hasłem. Potrzebny jest jeszcze jeden składnik weryfikujący. Platforma udostępniająca treści pornograficzne nigdy nie daje loginu i hasła, dlatego że nas lubi. Ona nam daje login i hasło, żebyśmy kupowali treści, które ta platforma oferuje. To są przedsięwzięcia biznesowe. W momencie, kiedy platforma prowadzi na tym biznes, procedura dwuskładnikowego logowania jest podstawowym zabezpieczeniem tego, żeby ktoś nie korzystał z wykradzionego czy z opublikowanego w internecie loginu i hasła.

Można oczywiście ukraść urządzenie, na które kod weryfikacyjny będzie przychodził, ale to już jest kazuistyka bardzo wysokiej próby. Jestem przekonany, że ten obowiązek wystarczy, aczkolwiek mamy jeszcze trochę czasu w standstill. Zobaczymy, co powie Komisja Europejska.  Nie jest powiedziane, że wprowadzenie wymogu logowania dwuskładnikowego, który po prostu wyeliminuje opisaną przez pana posła sytuację, będzie słuszne.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Proszę jeszcze, pan poseł Uściński.

Poseł Piotr Uściński (PiS):
Pan minister odnosi się do sytuacji, w której platforma internetowa daje logowanie osobom, które płacą za usługi. Natomiast jestem przekonany, że jeśli chodzi o dostęp dzieci i młodzieży do pornografii, to w większości dzieci korzystają z darmowej pornografii. Nie logują się, płacąc za to, tylko korzystają z tego, co jest dostępne za darmo. Pewnie wyświetlają się jakieś reklamy i z tego jest biznes dla platformy, która to prowadzi.

Jeżeli platforma, która darmowo udostępnia treści, będzie chciała dalej funkcjonować, to być może te platformy, żeby udostępniać darmową pornografię, stworzą możliwość prostego logowania bez zabezpieczenia swoich interesów. Czyli oni nie będą musieli zabezpieczać interesów, żeby ludzie się nie logowali. Im będzie zależało, żeby jak najwięcej ludzi się logowało w sposób wolny, bez płacenia. Jeżeli tak będą chcieli obejść nasz system, to dopuszczą do tego, żeby można było się łatwo logować. Przy pierwszym logowaniu, przy zdobyciu loginu ktoś sprawdzi, zweryfikuje swój wiek, a potem udostępni to innym ludziom. Jeżeli w ten sposób, takie obejście będzie mogło być zastosowane, to trzeba już przeciwdziałać, panie ministrze.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Panie ministrze, jeszcze do tego.

Sekretarz stanu w MC Michał Gramatyka:
Pani Szymielewicz się zgłaszała. Myślę, że w tym samym temacie. Tak przynajmniej mi się wydaje.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Widziałem panią Szymielewicz. OK. Jeszcze pan poseł Bliźniuk.

Bardzo proszę, pani prezes.

Prezeska Fundacji Panoptykon Katarzyna Szymielewicz:
Dziękuję uprzejmie. Dziękuję też za merytoryczną dyskusję. Bardzo dobrze pracuje się z państwem nad tym projektem.

Panie ministrze, nie powiedział pan jeszcze o minimalizacji danych i o tym, czy tutaj nie widzicie jakichś zagrożeń. Przyznam, że gdy powiedział pan ogólnie, że chcielibyście… Kiedy napisaliście, że te metody weryfikacji wieku mają być skuteczne, czyli nieomijalne łatwo i bezpieczne, to bardzo się ucieszyłem. To brzmi nawet sensowniej niż kazuistyka, ale nie widzę tego w projekcie.

Jak czytam te przepisy, to mamy tak: „mechanizm weryfikacji wieku nie może polegać na samodzielnej deklaracji wieku”, czyli jest wykluczenie tego, o którym wiemy, że nie działa. Potem jest ust. 2:, „w szczególności wykorzystanie” i odwołanie do mechanizmu, który zaoferuje państwo. Chyba nie ma niczego więcej. Czy ja czegoś nie doczytuję, czy to jest tylko tyle? Jeżeli to jest tylko tyle, to pierwsze, najprostsze obejście tego, co byśmy chcieli… To jest to, co mamy dzisiaj, czyli nie weryfikacja poprzez deklarację, ale jest tam selfie albo jakiś quiz, albo dane behawioralne. Jest mnóstwo metod, które stosują wielkie platformy, twierdząc, że to jest estymacja wieku, którą się posługują. O ile mi wiadomo, weryfikacji do wejścia nie stosuje żadna. Stosują ją tylko do sprzedaży reklam.

One są w naszej ocenie nieskuteczne i niebezpieczne, czyli prowadzą do profilowania, gromadzenia danych, tak jak platformy lubią. Nie są skuteczne, jeśli chodzi o niewpuszczanie dzieci czy osób dorosłych podszywających się pod dzieci, jeżeli to są platformy dla dzieci. Widzę duże pole do obchodzenia zamiaru ustawodawcy.

Mam drugie powiązane pytanie. O tym nie mówiliśmy – chodzi o VPN. Co z sytuacją, kiedy – tak jak w wielu krajach, które testowały to rozwiązanie – pojawią się na rynku darmowe VPN-y? Już się chyba pojawiają w przeglądarkach, nawet z tego co słyszę, mają być wbudowywane w przeglądarki. Słyszymy, że wystarczy kliknięcie, żeby obejść blokadę strony na poziomie krajowym. Wtedy cały ten wysiłek… Przepraszam, nie cały, to znaczy, wtedy być może wykluczamy problem nieintencjonalnego dostępu, czyli ciężko będzie natknąć się na pornografię, ale nie będzie ciężko uzyskać do niej dostęp intencjonalnie.

Jeśli mogę, mam ostatnie dopytanie. Jak to będzie z tymi big techami? Pan tak powiedział, że wolałby chyba dzisiaj tego nie komentować. Czyli dobrze rozumiem, że nie ma zamiaru ustawodawcy…Jeszcze nie rozstrzygnęliście, czy waszym zamiarem jest regulowanie tylko portali wyspecjalizowanych w pornografii, czy całego rynku? Czy dobrze to zrozumiałam, czy to już jest jakoś rozstrzygnięte? Dziękuję.

Sekretarz stanu w MC Michał Gramatyka:
Bardzo dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Panie ministrze, jeszcze może zbierzmy pytania przynajmniej, już tak mówiąc kolokwialnie.

Pan poseł Bliźniuk.

Poseł Paweł Bliźniuk (KO):
Tak. Dziękuję, panie przewodniczący.

W ślad za wątkiem poruszonym przez moją przedmówczynię chciałem jednak dopytać. Dobrze by było, żeby jednak kwestia, jaką intencję ma ustawodawca i jak mamy rozumieć te przepisy, była rozstrzygnięta. Jednak jest to bardzo ważny temat. Myślę, że jednoznaczna odpowiedź na to pytanie jest istotnym elementem pracy nad tym projektem ustawy.

Czy te regulacje będą i są wymierzone tylko i wyłącznie w portale, które specjalizują się w udostępnianiu treści pornograficznych? Czytając art. 3 ust. 1 „usługodawca umożliwiający dostęp do treści pornograficznych”, rozumiem, że jeżeli na jakimś portalu społecznościowym mamy treści pornograficzne, ten portal społecznościowy umożliwia dostęp do tych treści, to jest zobowiązany, po pierwsze, stosować mechanizmy weryfikacji wieku – o tym rozmawiamy – ale i uniemożliwiać dostęp małoletnim do takich treści. Rozumiem też, że z tego akurat płynie wątek skutecznych mechanizmów, że ta skuteczność jednak wynika może nie wprost, nie literalnie z połączenia tych dwóch aspektów. Nie chodzi o samą weryfikację wieku, ale również uniemożliwianie dostępu małoletnim do tych treści.

Natomiast zasadniczą sprawą jest rozstrzygnięcie, czy te przepisy są tylko dedykowane, czy są też wymierzone w stronę portali, które zajmują się w sposób pełnoetatowy, że tak powiem, w pełnym wymiarze udostępnianiem treści pornograficznych, czy też po prostu do portali umożliwiających dostęp do treści pornograficznych, czyli w tym przypadku chociażby omawianych mediów społecznościowych, gdzie tych treści pornograficznych jest bardzo dużo i można na treści pornograficzne w sposób spontaniczny się natknąć. Chciałbym jednak uzyskać bardziej precyzyjną informację w tym obszarze. Myślę, że ta kwestia jest dość istotna z punktu widzenia rozmowy nad tym projektem.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Bardzo dziękuję.

Czy ktoś z państwa chciałby jeszcze zabrać głos? Proszę uprzejmie.

Kierownik Działu Reagowania na Nielegalne Treści w Internecie Dyżurnet.pl Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego Martyna Różycka:
Martyna Różycka, NASK, Dyżurnet.pl.

Chciałam powiedzieć, że podoba mi się to, co pan podkreślił w ostatniej wypowiedzi, że to jest z jednej strony ustawa, która jest wymierzona przeciwko platformom pornograficznym, ale ona z drugiej strony ma przede wszystkim chronić dzieci i wspomagać rodziców, o których trochę nie mówimy. Oni są takimi wielkimi nieobecnymi tego wszystkiego, całej naszej sytuacji. Niestety to na nich dużo będzie spoczywało, żeby chociażby wspomagali swoje dzieci i ochraniali je tam, gdzie one są po prostu w domu i chcą korzystać czasami z tych platform, bo są na przykład ciekawe. Więc myślę sobie, że oprócz tego, co mówimy, że regulacja jest wymierzona przeciwko platformom, to mówmy od razu jednym głosem i w jednym zdaniu, że jest to w celu ochrony dzieci i w celu wsparcia rodziców.

Powiem też to od razu. Odniosę się do definicji pornografii, której czasami państwu brakuje. Zespół Dyżurnet.pl, który ocenia treści przedstawiające seksualne wykorzystywanie osób małoletnich, nie ma za bardzo z tym problemu. Robimy to od 20 lat i dużo rozmawialiśmy z osobami odpowiedzialnymi za technologię przy Ogólnopolskiej Sieci Edukacyjnej, ponieważ NASK jest operatorem OSE. Zastanawialiśmy się, jak bardzo wrażliwe powinny być te filtry i byliśmy bardzo jednoznaczni. Nie jestem w stanie państwu podać tej definicji. Nie mam jej w głowie, bo tego nie da się do końca zdefiniować – mówię to po 20 latach oglądania pornografii. Nie da się, po prostu się nie da, ale bardzo chętnie podyskutuję. Jeżeli państwo mają pomysł, to ja bardzo chętnie zderzę to, co państwo definiują, z tym, co ja widzę na co dzień, i powiem, czy to się wymyka, czy się nie wymyka. I możemy dalej rozmawiać. Natomiast nie jestem pewna, czy na potrzeby tej ustawy potrzebujemy mieć tę definicję. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo.

Proszę uprzejmie.

Dyrektor Centrum Polityki Rodzinnej i Edukacji Instytutu Ordo Iuris Rafał Dorosiński:
Dzień dobry państwu.

Szanowny panie przewodniczący, szanowne panie i szanowni panowie posłowie, wszyscy goście, szanowni państwo, Rafał Dorosiński, Instytut Ordo Iuris. Jestem pełnomocnikiem komitetu inicjatywy obywatelskiej, który przygotował obywatelski projekt ustawy chroniącej dzieci przed pornografią.

Chciałem na wstępie wyrazić ogromną radość z faktu, że możemy dyskutować ten projekt. Chyba nie będę się różnił od wielu moich przedmówców. Zmierzając na tę Komisję, starałem się słuchać jej przebiegu i z dużą radością zauważyłem, że jeśli jest coś, co do czego wszyscy się zgadzamy, to właśnie satysfakcja z tego, że ten projekt jest w końcu dyskutowany i to zjawisko łatwego dostępu do pornografii przez dzieci powinno zostać w końcu uregulowane i ukrócone. Sam fakt, że ten projekt jest dyskutowany, poczytujemy sobie za ogromny sukces wielu środowisk. Bardzo się z tego cieszymy.

Wiem, że może powtarzam to, co wielu z państwa powiedziało, ale wydaje mi się, że nie mogłem tego pominąć. Całe miesiące i lata, które spędziliśmy nad naszym projektem, nad pracą wokół tego projektu, zresztą nad notyfikacją Komisji Europejskiej, nad zbiórką podpisów, wymaga tego, żeby to podkreślić. Zatem, ciesząc się z tego, że taki projekt powstał w rządzie i że możemy nad nim dyskutować, zgadzając się z ogólnym kierunkiem tego projektu, z potrzebą ograniczenia tego zjawiska, mamy kilka podstawowych wątpliwości, zastrzeżeń do tegoż projektu, które zresztą wielokrotnie zgłaszaliśmy i podkreślaliśmy. Są to wątpliwości, które, jak też zauważyłem, są podzielane przez wielu uczestników dzisiejszej debaty. Były one już artykułowane. Pozwolę sobie bardzo krótko jeszcze raz do nich wrócić.

Otóż pierwszą z takich wątpliwości jest z pewnością kwestia braku definicji. Wydaje się, że gdyby istniała rzeczywista niemożność sformułowania definicji, wówczas można by przyjąć argumentację, którą przedstawia pan minister, że mamy dorobek doktryny, mamy orzecznictwo i możemy się na nim oprzeć. Istnieje pewnie pewna zasada, wyrażona w zasadach legislacji, mówiąca o tym, że jeżeli można zdefiniować jakieś zjawisko, zwłaszcza zjawisko, które ma wiązać się z ograniczeniem dostępu do pewnych treści w internecie, to należałoby to zjawisko właśnie zdefiniować. Przedstawiliśmy taką definicję. Zresztą jest to definicja oparta na Konwencji Rady Europy o cyberprzestępczości z 2001 r.

Jest to definicja, którą Stowarzyszenie Twoja Sprawa też formułowało w oparciu o tę konwencję, co do której mówiąc szczerze jeszcze nigdy nie usłyszałem żadnego konkretnego i poważnego zastrzeżenia, jakoby była nieszczelna, niedokładna, nieprecyzyjna albo jakoby miała inne wady. Mamy na podorędziu gotową definicję, którą moglibyśmy wprowadzić do tego projektu, a tego nie robimy. To budzi nasze zdziwienie, tym większe, że na przykład definiowane jest pojęcie małoletniego, które przecież, zgodzą się państwo, rodzi mniej wątpliwości niż pojęcie treści pornograficznych. Raczej wszyscy jesteśmy w stanie wskazać, kim jest małoletni. Mało tego, Kodeks cywilny stwierdza, kim jest małoletni, a mimo to ustawa definiuje małoletniego. Definiując małoletniego, jednocześnie nie definiuje pornografii, co oczywiście może potencjalnie rodzić cały szereg negatywnych konsekwencji z paraliżem egzekucyjnym na czele.

Zresztą o tym, że trzeba będzie jakoś dokonać oceny, czy dana treść jest pornograficzna, czy nie, świadczy fakt, że projekt przewiduje, iż takie zadanie będzie ciążyło poniekąd na Krajowej Radzie Radiofonii i Telewizji oraz na NASK. Nie jest to jednak tak oczywiste, jak przedstawia nam strona rządowa. Oczywiście istnieją też inne punkty, w których może to doprowadzić do pewnego zatoru, jak korzystanie przez właścicieli stron pornograficznych z możliwości skarżenia i przechodzenia całej drogi sądowej w celu ustalenia, czy dany content jest pornograficzny. Oczywiście będą z tego korzystały. Z doświadczeń krajów zachodnich wiemy, że tak właśnie się dzieje. Tego wszystkiego można by uniknąć po prostu poprzez wprowadzenie do projektu definicji zjawiska, które chce się ograniczyć. To jest pierwsze zastrzeżenie.

Kolejne dotyczy zbyt szerokiego zakresu podmiotowego ustawy przez brak przesłanki kwalifikacyjnej istotnej części. To jest też wątpliwość, która była już podnoszona. Otóż sprowadza ona się do pytania: Czy chcemy blokować wszystkie strony, na których pojawi się choć jeden materiał pornograficzny? Jest to pytanie właśnie o portale społecznościowe, o Facebooka, o Instagram, o X. Pisząc projekt obywatelski, zdawaliśmy sobie sprawę z tego rodzaju obszaru, który musi być uregulowany. Uznaliśmy, że należy skoncentrować się na stronach, które stanowią pierwszoplanowe zagrożenie dla dzieci i młodzieży, czyli po prostu na stronach pornograficznych. Nie chcieliśmy… To znaczy, mówiąc zupełnie szczerze uznaliśmy, że takie rozwiązanie, które polegałoby na zablokowaniu de facto wszystkich portali społecznościowych, byłoby zbyt radykalne. W debacie publicznej mają na tyle duże znaczenie, że ich zablokowanie ze względu na pojawiające się treści pornograficzne byłoby zbyt daleko idącym krokiem.

W związku z tym umieściliśmy w projekcie taką przesłankę istotnej części. To znaczy, należałoby ocenić, czy treści pornograficzne na stronie stanowią istotną część. W ten sposób moglibyśmy uznać, czy mamy do czynienia ze stroną pornograficzną, czy nie. W projekcie rządowym nie ma takiej kwalifikacji, co oznacza, że literalnie rzecz biorąc, każdy portal społecznościowy po wejściu tej ustawy powinien zostać zablokowany. Taka jest konsekwencja przyjęcia takiego brzmienia.

Teraz jest pytanie: Czy pan minister i czy strona rządowa są w stanie otwarcie zadeklarować, że taka jest ich intencja? To by było uczciwe postawienie sprawy. Chcemy zablokować wszystkie strony, na których można znaleźć treści pornograficzne. To byłoby konsekwentne, logiczne stanowisko, ale wymaga jasnego wyartykułowania. W tym momencie mamy do czynienia z sytuacją, w której projekt przewiduje zablokowanie wszystkich stron, ale nikt nie chce się do tego przyznać, więc jest to daleko idąca niekonsekwencja.

Jeszcze jedna uwaga. Niektórzy powiedzą, że sformułowanie „istotna część” jest niejasne, więc zastrzegam, że to i podobne to są dość powszechne sformułowania w ustawodawstwie. Takie sformułowania występują w ustawie o radiofonii i telewizji, w Prawie zamówień publicznych, w ustawie o ochronie baz danych i w innych. Można odpowiedzieć na to zastrzeżenie w taki sposób.

Ostatnia wątpliwość – może nie ostatnia, trzecia – to jest brak skutecznej sankcji. To też było podnoszone w debacie, która się tutaj toczyła – brak skutecznej sankcji. Pan minister Gramatyka odpowiada, że nie potrzebujemy blokować usług płatniczych i usług świadczonych przez podmioty typu Visa i inni operatorzy na rzecz stron pornograficznych, ponieważ te strony zostaną zablokowane. Jak już słusznie ktoś zauważył, istnieją sposoby obejścia tej blokady. Wszyscy od początku zdajemy sobie sprawę, że tego typu regulacja nie będzie doskonałą regulacją. To znaczy, ona nie usunie tego całkowicie, nie wymaże tego zjawiska w stu procentach z powierzchni ziemi. Ona ma je istotnie ograniczyć. Jeżeli istnieją sposoby jej obejścia, to znaczy, że powinniśmy spróbować innego sposobu zmuszenia stron pornograficznych do tego, aby wprowadziły weryfikację wieku. Takim sposobem jest właśnie zablokowanie im płatności.

Szanowni państwo, jeżeli ograniczymy się do nałożenia kar, to jeżeli podmioty pornograficzne, różne strony mają siedzibę gdzieś na Bahamach, w różnych, naprawdę przedziwnych miejscach świata… Nie łudźmy się, że wyegzekwujemy te kary. Natomiast zablokowanie możliwości korzystania z usług płatniczych byłoby mechanizmem, który natychmiast byłby dla nich dotkliwy i natychmiast by go odczuwali. Zamiast formułować ileś stopni kar: 10, 50, 100 tys. zł… To nie ma znaczenia. Istotna jest skuteczność regulacji i dolegliwość sankcji. Ona będzie dużo większa, kiedy odetniemy im w ogóle możliwość korzystania z usług płatniczych w sytuacji, w której nie dostosowują się do wymogu, jaki przewiduje ustawa, czyli do wymogu weryfikacji wieku.

Co do samego projektu to są trzy podstawowe zastrzeżenia. Oczywiście istnieją też wątpliwości dotyczące mechanizmu weryfikacji wieku i związanej z nim anonimowości. Może póki co ograniczę się tylko do jednej wątpliwości. Projekt nie przewiduje zakazu wiązania ze sobą kolejnych poświadczeń wieku tego samego usługobiorcy. To jest wątpliwość, która już też była podnoszona. Zgodnie z projektem ustawy nie ma… To znaczy, ustawa nie przewiduje takiego wymogu, aby rozwiązanie służące do weryfikacji wieku przewidywało niemożność identyfikowania, czy też zbierania kolejnych weryfikacji wieku.

Jest jeszcze kilka podobnych wątpliwości w tym obszarze, ale nie chcę już też zabierać czasu, bo wiem, że już chwilę przemawiam. Chciałem poprzestać na sformułowaniu tych podstawowych i fundamentalnych zastrzeżeń do projektu i apelować też do państwa o ich uwzględnienie, o wprowadzenie odpowiednich poprawek. Wydaje mi się, że wtedy wszelkie wątpliwości i jakieś mankamenty tego projektu zostałyby usunięte i wszyscy moglibyśmy podać sobie ręce i powiedzieć, że wykonaliśmy świetną robotę. Bardzo dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Bardzo dziękuję.

Pani przewodnicząca Rosa, bardzo proszę.

Poseł Monika Rosa (KO):
Bardzo dziękuję.

Tak, chciałabym dopytać pana ministra o kwestię portali społecznościowych, cyfrowych, zwał jak zwał. Jak ustawa będzie się do nich konkretnie odnosiła? Pytam też w tym kontekście.  Już wymieniłam ileś nazw dużych portali, a jest kilka mniejszych, jeszcze bardziej niebezpiecznych. Pytam też o na przykład OnlyFans. 35% nastolatków ma dostęp do OnlyFans. Chyba wszyscy wiemy, co to jest za portal i jakie treści oferuje. Czy ta ustawa będzie miała wpływ również na to, w jaki sposób weryfikacja wieku będzie się tam odbywała?

Kolejna kwestia, na którą chciałam zwrócić państwu uwagę. Zgodnie z Kodeksem karnym prezentowanie treści pornograficznych osobie dopiero poniżej 15. roku życia jest czynem zabronionym i karanym. Tutaj mamy na szczęście 18. rok życia, ale być może w przyszłości warto będzie to ujednolicić. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Dziękuję bardzo. Czy jest jeszcze ktoś z państwa?

Bardzo proszę, panie ministrze.

Sekretarz stanu w MC Michał Gramatyka:
Bardzo dziękuję.

Mam taką generalną uwagę, odnoszącą się głównie do dyskusji o platformach społecznościowych. Nasza ustawa to jest tylko jeden z elementów systemu zabezpieczenia dzieci. Ta ustawa referuje przede wszystkim głównie do dostawców treści pornograficznych. Żeby to było kompletne, potrzebujemy jeszcze dwóch aktów prawnych. To znaczy, potrzebujemy jeszcze DSA, który mówi o stworzeniu bezpiecznego środowiska przeglądania internetu, w szczególności tam, gdzie chodzi o osoby małoletnie. Pewnie potrzebujemy jeszcze kolejnej inicjatywy legislacyjnej, nad którą prace już toczą się w rządzie, to znaczy – ograniczenia wieku przy dostępie do platform społecznościowych. To też za chwilę nas czeka. Z tej ustawy pewnie pożyczymy mechanizm weryfikacji faktu pełnoletności, może tak to ujmę. Natomiast ona będzie musiała po prostu mieć swoją treść. Ta ustawa dotyczy dostawców treści pornograficznych. To jakby pierwsza refleksja.

Jeżeli nad dowolnym…

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Przepraszam, panie ministrze. Jakby idąc tym tokiem, to przecież portal społecznościowy też jest, może być dostawcą treści pornograficznych. I co wtedy?

Sekretarz stanu w MC Michał Gramatyka:
Jeżeli więc dostawca treści pornograficznych pojawi się na dowolnym portalu społecznościowym, to on wchodzi w reżim tej ustawy. To znaczy, jest dostawcą treści pornograficznych.

Portal społecznościowy jako taki sam nie dostarcza treści. Na portalach społecznościowych funkcjonują osoby, które przekazują do nich treść, czyli tzw. content, chociaż akurat jestem z tego pokolenia, które słowo content rozumie w nieco inny sposób. Jeżeli będziemy mieli do czynienia z dostawcami treści pornograficznych, na przykład na OnlyFans albo na przykład na Facebooku, chociaż nie za bardzo sobie to…

Przepraszam?

To oczywiście podpada to pod reżim tej ustawy. Natomiast tak jak mówię, to jest tylko jeden z trzech elementów systemu, który widzę. Dopiero wszystkie trzy elementy systemu spowodują, że będziemy bezpieczni.

Jeżeli chodzi o kwestię Kodeksu karnego, ona wprawdzie mówi o 15-latkach czy tam o osobie, która nie ukończyła 15 lat, ale nie to jest najistotniejsze w odniesieniu do Kodeksu karnego. Istotne jest to, że Kodeks karny nie definiuje pornografii. Zresztą już mówiłem na ten temat, więc nie chcę się powtarzać.

Odpowiadając na pytanie przedstawiciela Ordo Iuris – definiujemy małoletniego, żeby zakreślić wiek graniczny. Małoletnim w polskim systemie prawnym przestaje być dziewczyna, która wyszła za mąż w wieku na przykład 17 lat. Nie musi osiągnąć 18 lat, żeby przestać być małoletnim.  Więc tutaj po prostu stawiamy konkretną granicę. Myślę, że co do tej granicy nikt nie ma wątpliwości. Wiek 18 lat jest OK.

Jeżeli chodzi o VPN-y, to VPN-y działają w taki sposób, że przenoszą nas do innego systemu prawnego. Jeżeli ktokolwiek będzie chciał ominąć uregulowania tej ustawy, ale też dowolnej innej polskiej ustawy chroniącej nas przed dowolnymi treściami, na przykład ustawy antyhazardowej albo ustawy antyfraudowej, albo dowolnego innego prawa, które działa w polskiej przestrzeni… OK, jeżeli ktokolwiek będzie chciał to intencjonalnie ominąć, to nic nie poradzimy na VPN-y. Nie mamy ambicji blokowania używania w Polsce VPN-ów, bo to by było ograniczenie swobody prowadzenia działalności gospodarczej. Nie mamy ambicji ograniczania dorosłym osobom dostępu do takich treści, bo to byłoby naruszenie ich wolności. Mamy ambicje chronienia dzieci, które najczęściej, bardzo często trafiają na te treści przypadkowo. Trafiają na te treści właśnie dlatego, że nie są one w odpowiedni sposób zabezpieczone.

Z badań, które prowadzi NASK, wynika, że średni wiek pierwszego kontaktu dziecka z internetową pornografią w Polsce to jest 11 lat. Jestem w stu procentach pewien, że to dziecko nie użyje VPN tylko po to, żeby zyskiwać dostęp do takich treści, bo ono po prostu nie chce takiego dostępu uzyskiwać. Ono trafia przez przypadek, bo na przykład siada do komputera rodziców, bo strony nie są w odpowiedni sposób zabezpieczone. Takich powodów może być wiele.

Nie chcę się wypowiadać odnośnie do istotnej części. To rzeczywiście jest różnica pomiędzy projektem rządowym a projektem obywatelskim.

Jeżeli chodzi o skuteczność tego zabezpieczenia, to ta skuteczność będzie oceniana w trójkącie: prezes UKE, NASK i prezes UODO. Tam będzie następowała weryfikacja, czy zastosowane zabezpieczenie spełnia funkcje, które przypisuje mu ustawa. Jeżeli prezes UKE po konsultacji z NASK stwierdzi, że nie spełnia, to w dalszym ciągu dysponuje sankcją tego rejestru, tego killfile’a. Czyli tutaj jest ten element weryfikacji. To nie jest przypadek, że wskazujemy UKE i NASK. Wskazujemy UKE ze względu na to, że zyskuje coraz więcej uprawnień w dziedzinie kontroli infosfery, a NASK ze względu na kompetencje, które tam cały czas są. Jestem spokojny, że nie wystarczy selfie, że nie wystarczy test. To po prostu momentalnie zostanie zaraportowane przez sygnalistów, którzy mają prawo przesyłać takie informacje do Urzędu Komunikacji Elektronicznej. Każda z takich informacji musi być przeanalizowana i zweryfikowana przez Urząd Komunikacji Elektronicznej.

Jeżeli strona znika z polskiego internetu, to pozbawienie takiej strony możliwości instalacji polskiej bramki płatniczej moim zdaniem nie jest potrzebne. Jeżeli strona zostanie pozbawiona instalacji bramki płatniczej, to w dalszym ciągu może oferować tego typu usługi bezpłatnie. To też jest jak gdyby przeciwskuteczne. Nie mówię o całym świecie kryptoaktywów, które przecież coraz częściej są wykorzystywane do regulacji zobowiązań w internecie, a które wymykają się jakimkolwiek sposobom uchwycenia tego prawnie.

Dobrze, że dzisiaj jest akurat 1 lipca, czyli pierwszy dzień, kiedy w Unii Europejskiej zaczyna funkcjonować w pełni rozporządzenie Markets in Crypto-Assets (MiCA), które reguluje rynek kryptoaktywów. Miejmy świadomość, że tak samo atrakcyjnym sposobem regulacji zobowiązań jak polski blik jest na przykład wstawienie tam dowolnego kryptoportfela typu JSON czy Curve, czy jakiegokolwiek innego, który obsługuje kryptoaktywa. Możemy pozbawić stronę internetową polskich bramek płatniczych, co wcale nie znaczy, że ta strona nie będzie miała możliwości regulacji zobowiązań. Wolę, żeby ona zniknęła z polskiego internetu, tak jak znikają strony fraudowe albo hazardowe.

Bardzo się cieszę na zapowiedź poprawek, bo to jest bardzo dobra, merytoryczna zapowiedź. Zakładam, że po otrzymaniu notyfikacji będzie kolejna tura tej dyskusji. Wtedy będziemy mogli rozmawiać nad konkretnymi rozwiązaniami. To, co stawiamy dziś na stole, jest wypracowane po serii konsultacji, po bardzo drobiazgowych pracach. Jestem głęboko przekonany, że to są dobre rozwiązania, ale też nie zamykam dyskusji nad poprawkami. Każda z nich zostanie przeanalizowana i do każdej pojawi się stanowisko rządu, bo jest to projekt rządowy. Bardzo dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Bardzo dziękuję.

Jeszcze pani prezes i za momencik sąsiad.

Prezeska Fundacji Panoptykon Katarzyna Szymielewicz:
Panie ministrze, krótkie ad vocem.

Sprawdzam w tej ustawie i nie widzę „dostawcy treści pornograficznych”, tylko widzę  „usługodawcę”. Cały czas projekt ustawy odwołuje się do usługodawcy, który umożliwia dostęp. Wręcz wprost mamy przy blokowaniu „Abonent nazwy domeny, która została wpisana do rejestru”, „nazwa domeny” i „domena”, do której można mieć dostęp. To dla mnie cały czas brzmi, jakbyśmy rozmawiali o całych serwisach, a nie o kontach. Dopytuję o to, bo to jest zasadnicza różnica. Jeżeli państwo chcielibyście blokować dostęp do kont twórców pornograficznych, gdy specjalizuje się w czymś takim twórca na Twitterze, już tak to nazwijmy, TikToku, YouTubie – oni tam naprawdę są – to jest to chyba dosyć duży fikołek technologiczny, żeby to zrobić. Szczerze mówiąc, nawet nie wiem, czy można wprowadzić taką bramkę wewnątrz platformy. Jeżeli mówimy o potencjalnej blokadzie domeny, to jest blokada domeny twitter.com czy tam twitter.pl, nawet nie wiem, jaka ona jest. Zwracam na to uwagę.

Jeszcze dopytam. Rozumiem, że to, że zniknęła minimalizacja danych, to jest ta sama logika, tak? Czyli że odwołaliście się państwo do RODO i do innych przepisów i nie chcecie ich uszczegóławiać. OK, dziękuję bardzo.

Sekretarz stanu w MC Michał Gramatyka:
Tak, to jeszcze raz powiem. Jeżeli chodzi…

Przepraszam?

Ekspert w Departamencie Multimediów Krajowej Rady Radiofonii i Telewizji Witold Kołodziejski:
Chciałem powiedzieć… Tylko odwołam się do konkretnego zapisu z projektu, dobrze? Będzie łatwiej odpowiadać.

Art. 11 ust. 1 tego projektu, tam, gdzie jest mowa o konsultacjach i opinii przewodniczącego KRRiTV, mówi o przypadku, po pierwsze, „usługodawcy dostarczającego audiowizualną usługę medialną”, ale po drugie „lub dostawcy platformy udostępniania wideo”, czyli cytowanego Facebooka czy Twittera. To jest dostawca platformy. Nie ma tutaj zniuansowanego działania i całej procedury, jaka była w przypadku na przykład DSA, gdzie to dostawca platformy blokował konto.

Jednym toporem, jedną maczetą możemy odciąć i właściwie musimy odciąć wszystko, bo nie ma uznaniowości. Jeżeli to jest treść pornograficzna, to taka domena jest wpisana do rejestru UKE.

Sekretarz stanu w MC Michał Gramatyka:
Dobrze, to ja jeszcze raz powtórzę to, co, mam wrażenie, powiedziałem już kilka razy.

Celem tej ustawy nie jest odcięcie w Polsce domen takich jak facebook.com, twitter.com, onlyfans.com. Ta treść, o której mówi przedstawiciel Krajowej Rady Radiofonii i Telewizji, wynika wprost z ustawy o Krajowej Rady Radiofonii i Telewizji. Ta właściwość, to jest po prostu przepisane. Natomiast my nie chcemy zablokować dostawców treści pornograficznych, tylko wymóc na nich, żeby weryfikowali wiek. O resztę zadba DSA, dlatego że w DSA są konkretne uregulowania związane z bezpieczeństwem małoletnich. O reszcie będziemy rozmawiać wtedy, kiedy będziemy określać wiek dostępu do mediów społecznościowych.

Ta ustawa nie widzi Facebooka czy Twittera jako dostawców treści pornograficznych. Trudno jest stworzyć taką definicję. My chcemy zablokować dostawców treści pornograficznych. Chcemy, żeby wszędzie tam, gdzie dzisiaj pojawia się autoweryfikacja, tej autoweryfikacji nie było, tylko żeby to była metoda, która rzeczywiście weryfikuje pełnoletność takiego użytkownika.

Myślę, że kwestia platform społecznościowych to jest naprawdę osobna dyskusja, dlatego że z jednej strony są wymogi wprowadzone przez DSA, z drugiej strony jest kwestia obowiązku logowania się na przykład do platformy OnlyFans, do tzw. błękitnej platformy, gdzie treści pornograficzne to jest rzeczywiście ogromna większość treści, które są tam pomieszczone. To jest inna dyskusja. To nie jest dyskusja o tej ustawie. Ta ustawa wskazuje dostawców treści pornograficznych poprzez ich domeny. Staraliśmy się to ująć najbardziej precyzyjnie, jak mogliśmy to zrobić

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Panie ministrze, myślę, że wiele osób na tej sali ma jednak wątpliwości, że to nie jest tak precyzyjnie ujęte. Mamy taki zapis w art. 3: „usługodawca umożliwiający dostęp do treści pornograficznych”. W takim rozumieniu taki portal, medium społecznościowe typu X czy Facebook w moim przekonaniu też jest takim dostawcą.

Mam pytanie do legislatorów. Czy państwo podobnie rozumiecie ten zapis? Czy możemy poznać państwa opinię na ten temat?

Legislator Ewelina Roguska:
Dziękuję.

W tym zakresie wydaje się, że ministerstwo powinno mieć ostatni głos co do merytorycznego odniesienia się. Natomiast faktycznie jest różnica pomiędzy usługodawcą a dostawcą treści. Wydaje się, że to wymaga jeszcze pogłębionej analizy na tym etapie. Faktycznie pewne wątpliwości mogą się zrodzić na tym etapie.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):
Bardzo dziękuję.

Panie ministrze, jak widać, są wątpliwości, więc myślę, że powinniśmy jeszcze o tym rozmawiać na dalszym etapie.

Rozumiem, że już państwo nie zgłaszacie chęci zabrania głosu w tej dyskusji w dniu dzisiejszym. Szanowni państwo, w takim razie bardzo serdecznie dziękuję. Zamykam dyskusję.

Stwierdzam zakończenie pierwszego czytania.

W związku z tym, że projekt zawiera przepisy techniczne w rozumieniu rozporządzenia Rady Ministrów z dnia 23 grudnia 2002 r. w sprawie sposobu funkcjonowania Krajowego systemu notyfikacji norm i aktów prawnych, czyli podlega notyfikacji Komisji Europejskiej, razem z panią przewodniczącą proponujemy, abyśmy zaczekali z rozpatrywaniem szczegółowych zapisów projektu do zakończenia okresu standstill.

Zamykam posiedzenie. Bardzo serdecznie dziękuję.