Komisja Nadzwyczajna do spraw zmian w kodyfikacjach, obradująca pod przewodnictwem poseł Barbary Dolniak (KO), przewodniczącej Komisji, zrealizowała następujący porządek dzienny:

– dyskusja na temat patostreamingu i deepfake jako nowych form przemocy cyfrowej oraz kierunków zmian legislacyjnych w zakresie ich penalizacji.

W posiedzeniu udział wzięli: Tomasz Kuźma zastępca dyrektora Departamentu Prawa Karnego w Ministerstwie Sprawiedliwości wraz ze współpracownikami, Piotr Turek szef Centrum Implementacji Sztucznej Inteligencji Dowództwa Komponentu Wojsk Obrony Cyberprzestrzeni wraz ze współpracownikami, Piotr Zakrzewski naczelnik Wydziału ds. Legislacyjnych i Ustrojowych w Zespole Prawa Karnego Biura Rzecznika Praw Obywatelskich wraz ze współpracownikami, ppłk Izabela Tomaszewska p.o. naczelnik Wydziału Psychologii Departamentu Wojskowej Służby Zdrowia MON wraz ze współpracownikami, Robert Wojtasik zastępca komendanta Centralnego Biura Zwalczania Cyberprzestępczości, Wanda Mende naczelnik w Biurze Prewencji w Komendzie Głównej Policji, Katarzyna Hernandez dyrektor Zespołu Edukacji Cyfrowej i Bezpieczeństwa w Sieci w Biurze Rzecznika Praw Dziecka wraz ze współpracownikami, Filip Konopczyński  dyrektor Biura Analiz i Badań Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego wraz ze współpracownikami, Ewelina Cała-Wacinkiewicz przewodnicząca Komisji Praw Człowieka Krajowej Rady Radców Prawnych wraz ze współpracownikami, Krzysztof Socha radca prawny w Zespole Prawnym Dowództwa Komponentu Wojsk Obrony Cyberprzestrzeni, Mikołaj Małecki przedstawiciel Fundacji Obserwatorium Demokracji Cyfrowej, Agnieszka Kwaśniewska-Sadkowska radca prawny w Fundacji Dajemy Dzieciom Siłę wraz ze współpracownikami, Błażej Wodyński przedstawiciel Helsińskiej Fundacji Praw Człowieka, Michał Kanownik prezes Związku Cyfrowa Polska, Arkadiusz Cyman ekspert w Konfederacji Lewiatan.

W posiedzeniu udział wzięła pracownica Kancelarii Sejmu Agnieszka Grybska – z sekretariatu Komisji w Biurze Komisji Sejmowych.

Przewodnicząca poseł Barbara Dolniak (KO):
Proszę państwa, rozpoczynam posiedzenie Komisji. Dzień dobry, witam wszystkich państwa. Naprawdę bardzo dużo osób zechciało przyjąć zaproszenie na dzisiaj i wszystkich państwa serdecznie witam. Będę miała prośbę, w momencie zabierania głosu bardzo proszę o przedstawienie się z imienia i nazwiska, jednocześnie podanie instytucji, którą państwo reprezentujecie.

Temat jest poważny, bo dotyczący patostreamingu. W tej chwili w Sejmie są dwa projekty ustaw, nad którymi będą debatować panie posłanki i panowie posłowie. Natomiast jeżeli chodzi o deepfake’i, to tutaj jeszcze nie mamy żadnego projektu, ale nie ulega wątpliwości, że jeden i drugi temat jest bardzo poważny, bo jak wynika z badań, 37% nastolatków już w wieku 13-15 lat przyznaje się do tego, że oglądało w internecie patotreści, a 43% ma z nimi kontakt co najmniej raz w tygodniu. Jeżeli dzieje się to w tak dużej grupie i w tak dużej częstotliwości, to nie ulega wątpliwości, że ma to ogromny wpływ na młodych ludzi, których osobowość, rozumienie dobra i zła, jak w dorosłym życiu, nie jest jeszcze dostatecznie rozwinięte, więc naszym zadaniem, ustawodawców, dorosłych, jest przygotowanie takich przepisów, które ochronią młodych ludzi przed negatywnymi treściami. Na szczęście 82% uważa, że tego typu treści powinny być zakazane, co oznacza, że nawet młodzi ludzie, którzy to oglądają, a więc wpływa to na nich, uznają, że patotreści nie powinny być emitowane i powinny być zakazane. Proszę państwa, jeżeli chodzi o deepfake’i, to sytuacja również nie przedstawia się pozytywnie, a rozwój sztucznej inteligencji umożliwia tego typu działanie w przestrzeni publicznej, a więc także oddziaływanie na ludzi, którzy doświadczają kontaktu z takimi zdarzeniami. Niestety mamy naturalną skłonność do ufania temu, co słyszymy i widzimy, a jeszcze jak pod daną treść podłożony jest głos, który ma pozytywne cechy, na przykład tak zwany radiowy, to chętniej tego słuchamy. Jeżeli jest to osoba znana publicznie i jej głos jest znany, to jesteśmy skłonni dać wiarę przedstawianym komunikatom. Metody tworzenia deepfake’ów są dzisiaj łatwo dostępne, tanie i niewymagające specjalistycznej wiedzy. Główne obszary manipulacji to wykorzystanie wizerunków znanych osób, modyfikacja treści przekazu oraz dopasowania kontekstu i formy. To jest swoistego rodzaju, znacie to państwo, broń psychologiczna, a więc takie narzędzie, które pozwala wpływać zarówno na psychikę młodych, jak i starszych osób. Rodzi się pytanie, jak daleko powinny sięgać zmiany w prawie. Wydaje się, że zarówno prawo cywilne, jak i prawo karne, ale także ustawa o ochronie danych osobowych, to wszystko są elementy, które powinny być w tej dziedzinie uregulowane. Dzisiaj mamy poszczególne przepisy, które pozwalają na ochronę, chociażby z zakresu prawa autorskiego, niemniej skoro wydarzają się takie sytuacje, wydaje się, że powinniśmy nad tym popracować. Chciałabym żebyśmy mogli podyskutować, bo są dwa projekty dotyczące patostreamingu, trwają prace nad deepfake’ami, toczą się dyskusje, jeżeli chodzi o działania przeciwko temu zjawisku. Chciałabym żebyśmy pokazali w tej dyskusji, jak to istotne problemy i jak prawo powinno nadążać nad zmianami w tym zakresie. Jeżeli państwo pozwolicie, to przedstawicieli ministerstw zapytamy na końcu, natomiast zaczniemy od osób, które reprezentują inne instytucje, na przykład pan mecenas Michał Wawrzyńczak, przedstawiciel rzecznika praw obywatelskich. Panie mecenasie, bardzo proszę.

Naczelnik Wydziału ds. Legislacyjnych i Ustrojowych w Zespole Prawa Karnego Biura Rzecznika Praw Obywatelskich Piotr Zakrzewski:
Piotr Zakrzewski, też to samo biuro, jestem naczelnikiem wydziału, w którym pan mecenas pracuje. Proszę państwa, w związku z tym, troszkę wywołano nas jako pierwszych, to jest najmniej wygodna forma wypowiedzi, natomiast rzecznik praw obywatelskich już jakiś czas temu skierował wystąpienie generalne do ministra sprawiedliwości w zakresie zarówno patostreamingu, jak i możliwości publikowania przemocy, wskazując na potrzebę ograniczenia czy penalizacji zachowań, które polegają na utrwalaniu i transmisji przemocy, troszkę na zasadzie art. 200, kiedy mamy ograniczenie dostępu do treści pornograficznych dla małoletnich, wskazując na to, że można by było tutaj wykorzystać pewien model kryminalizacyjny, ograniczając możliwość dostępu do treści przemocowych, tak jak się ogranicza możliwość dostępu do treści pornograficznych wobec osób poniżej lat 15. To był ten jeden pomysł. Drugi pomysł z perspektywy świata cyber, bo przecież o tym świecie mówimy, to jest wystąpienie generalne rzecznika praw obywatelskich w zakresie kryminalizacji czegoś, co nazywaliśmy stalkingiem zbiorowym, to znaczy takiej fali hejtu, która jest wywoływana inaczej niż to wygląda w przypadku zwykłego stalkingu. W przypadku zwykłego stalkingu mamy sytuację, w której przez kilka miesięcy czy tygodni SMS-y, wiadomości, maile, czy jeżeli chodzi o kontakt elektroniczny, ktoś wysyła jednej osobie pewne ilości treści, to nawet jeżeli będzie to więcej niż jedna osoba, to musi dojść do porozumienia pomiędzy nimi. Natomiast z perspektywy takiej fali hejtu mamy sytuację, w której wiele osób, nie porozumiewając się wcześniej, w krótkim odstępie czasu wysyła jednej osobie albo też komentuje jedną osobę w ilościach tysięcy, setek sztuk. I takie uderzenie może być nawet bardziej dotkliwe niż takie, które wynika z, dodam tutaj cudzysłów, standardowego stalkingu. Tym samym rzecznik praw obywatelskich zaproponował, aby doszło tutaj do kryminalizacji zachowań, mających za przedmiot właśnie nękanie innej osoby. W taki sposób możemy doprowadzić ją do znamion opisanych w art. 190a, ale nie w sposób jeden na jeden, tylko w kilkaset osób masowo w jednym momencie, wskazując na możliwość wykorzystania znowu modelu kryminalizacji, który jest typowy z kolei dla zbiegowiska. Mamy skryminalizowane zbiegowisko, gdzie wspólnymi siłami dokonuje się zamachu na jedną osobę i teraz sam udział w takim zbiegowisku jest kryminalizowany. Tak samo tu udział w takim zbiorowym stalkingu byłby podstawą kryminalizacji. Do tego pomysłu też pozytywnie odniosła się rzeczniczka praw dziecka, a także Komisja Kodyfikacyjna Prawa Karnego również oceniła sam pomysł, samą ideę pozytywnie, natomiast kwestia ujęcia tego legislacyjnie to jest wiadomo kwestia dalszych prac. Nadto obecnie jeszcze jesteśmy w trakcie przygotowywania większego wystąpienia na temat implementacji dyrektywy przeciwko przemocy wobec kobiet. To jest dyrektywa, która musi być implementowana  do 27 czerwca 2027. W ramach tej dyrektywy, oprócz tego, że jest to pewna odpowiedź Unii Europejskiej na konwencję stambulską i część typów czynów zabronionych wskazanych w konwencji jest już u nas skryminalizowana, tak pojawiają się nowe zjawiska, mianowicie właśnie związane z deepfake’ami i z wykorzystaniem technologii informatycznych, wykorzystanie nagiego wizerunku osoby dorosłej, kiedy mamy ten wizerunek cyfrowo wygenerowany. Pamiętajmy, że pierwotnie art.191a Kodeksu karnego, można go oczywiście reinterpretować, został wymyślony na takie wizerunki, które zostały utrwalone bez zgody osoby pokrzywdzonej i rozpowszechniane bez jej zgody. Natomiast dzisiaj, jeżeli mamy różnicę między art. 202 § 4b, gdzie mówi się o cyfrowym wizerunku małoletniego poniżej lat 15, tam jest „wytworzony albo przetworzony”, jednocześnie w tym samym kodeksie w art. 191a nie ma tego rozróżnienia na „wytworzony” i „przetworzony”, to pojawia się tutaj problem, kiedy wygenerujemy treści, kiedy mamy do czynienia z nagim wizerunkiem, który nie jest jednocześnie treścią pornograficzną. To będzie dotyczyć zarówno małoletnich i był ostatnio taki przypadek, gdzie koledzy wygenerowali treści, nagi wizerunek koleżanki, ale nie w charakterze pornograficznym, tylko po prostu na podstawie zdjęcia z ubraniami. To budzi szerokie wątpliwości, czy to może dzisiaj podlegać pod przepis, mamy lukę kryminalizacyjną. To jest kwestia wykorzystania, bo pamiętajmy, że to jest tylko technologia. Technologia deepfake może być wykorzystana między innymi przy szeroko pojętych treściach pornograficznych i potrzeby ochrony wolności seksualnej drugiej osoby. Tutaj w tym zakresie dyrektywa przemocy wobec kobiet proponuje pewne rozwiązania, które musimy implementować, mamy na to rok. Wydaje mi się, że w zakresie oszustw na legendę czy oszustw inwestycyjnych, to tu już więcej do powiedzenia będzie miało biuro CBZC. Bardzo dziękuję.

Przewodnicząca poseł Barbara Dolniak (KO):
Rozumiem, że pan jest jedynym przedstawicielem rzecznika?

Naczelnik Wydziału ds. Legislacyjnych i Ustrojowych w Zespole Prawa Karnego Biura RPO Piotr Zakrzewski:
Nie, obok mnie jeszcze jest kolega, pan Michał.

Przewodnicząca poseł Barbara Dolniak (KO):
Michał Wawrzyńczak? Panie Michale, bardzo proszę.

Prawnik w Zespole Prawa Karnego Biura RPO Michał Wawrzyńczak:
Bardzo dziękuję. Michał Wawrzyńczak, Biuro Rzecznika Praw Obywatelskich. Ja zasadniczo nie mam dużo więcej do dodania, poza tym, że mamy w sumie przygotowaną wewnętrznie taką opinię co do tego, jak daleko idące zmiany w naszym prawie krajowym trzeba by było wprowadzić, jeśli chodzi o implementację dyrektywy 2024/1385. Natomiast myślę, że też najlepiej by było, biorąc pod uwagę tę dosyć odległą datę, 2027, może nie jest aż tak bardzo odległa, natomiast mamy jeszcze trochę czasu na prowadzenie prac, abyśmy mogli przedstawić te nasze uwagi w formie pisemnej, również jeśli chodzi o kwestie związane ze zmianami proceduralnymi w Kodeksie postępowania karnego, które też będą konieczne pod kątem implementacji prawa Unii Europejskiej. Na ten moment myślę, że wszystko, co powiedział pan naczelnik Zakrzewski...

Przewodnicząca poseł Barbara Dolniak (KO):
Czy to oznacza, że państwo jeszcze toczycie dyskusję, w jakim kierunku powinny być te rozwiązania, czy też pracujecie już nad opracowaniem swojego stanowiska w bardzo konkretnym kierunku i konkretnym zapisem przepisów?

Naczelnik Wydziału ds. Legislacyjnych i Ustrojowych w Zespole Prawa Karnego Biura RPO Piotr Zakrzewski:
W bardzo konkretnym kierunku i w bardzo konkretnym zakresie.

Przewodnicząca poseł Barbara Dolniak (KO):
A możemy coś w tym zakresie usłyszeć?

Naczelnik Wydziału ds. Legislacyjnych i Ustrojowych w Zespole Prawa Karnego Biura RPO Piotr Zakrzewski:
Podsumowując, w zakresie koniecznych zmian w prawie karnym materialnym, implementacja dyrektywy wiąże się z rozszerzeniem zakresu kryminalizacji art. 191a Kodeksu karnego w zakresie, w którym powiedziałem, czyli ten wizerunek przetworzony i wytworzony, wprowadzenie wyraźnej penalizacji treści seksualnych, zmanipulowanych deepfake, dotyczących osób dorosłych, bo tego w ogóle tutaj nie mamy, uzupełnienie kryminalizacji, ujawnienie materiałów intymnych, gdyż to nie podlega nam pod art. 190, groźbę oraz zmuszanie, art. 191. Dalej, rozważenie wprowadzenia odrębnego typu czynu zabronionego, cybernękania, to jest art. 6 dyrektywy, gdyż ten nam nie będzie podlegał pod art. 267. Co prawda, złapiemy to troszkę przy dostępie do informacji, ale to chyba nie jest istota tego przestępstwa oraz złapiemy to trochę przez kradzież tożsamości, art. 190a § 2, ale to też nie jest istota tego przestępstwa. Uzupełnienie ochrony karno-prawnej w zakresie stalkingu zbiorowego, to o czym powiedziałem, wprowadzenie odrębnej penalizacji istniejących przepisów w zakresie ochrony danych osobowych, to jest art. 107 ustawy o ochronie danych osobowych, należałoby w szczególności nieuprawnione przetwarzanie danych osobowych, ale nie obejmują w pełni sytuacji, w których sprawca rozpowszechnia także wcześniej ujawnione dane osobowe w celu nakłonienia innych osób do wyrządzenia ofierze szkody fizycznej albo poważnej szkody psychicznej, o czym mówi dyrektywa i doprecyzowanie ochrony dzieci przed cyberflashingiem, to jest w odniesieniu do osób dorosłych, powtarzające się przesyłanie niechcianych materiałów przedstawiających genitalia innych osób. To też wymaga kryminalizacji i teraz jeszcze rozszerzenie regulacji dotyczących cyfrowej przemocy seksualnej na przypadki masowego gromadzenia i udostępniania materiałów przedstawiających realny lub też przetworzony wizerunek osoby bez jej zgody. Pozwoliłbym sobie przedstawić szczegółowe rozwiązania, co do przepisów, już po wersji pisemnej, bo wtedy wchodzimy już w technikalia.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo dziękuję. Mam też na liście przedstawicieli rzecznika praw dziecka, panią dyrektor Zespołu Edukacji Cyfrowej i Bezpieczeństwa w Sieci, Katarzynę Hernandez i głównego specjalistę w Zespole Edukacji Cyfrowej i Bezpieczeństwa w Sieci, pana Kacpra Jeziora. Czy państwo jesteście na sali?

Dyrektor Zespołu Edukacji Cyfrowej i Bezpieczeństwa w Sieci w Biurze Rzecznika Praw Dziecka Katarzyna Hernandez:
Tak, dzień dobry.

Przewodnicząca poseł Barbara Dolniak (KO):
Dzień dobry. W takim razie ja i obecni goście oraz posłanki i posłowie chcielibyśmy usłyszeć od państwa stanowisko rzecznika, a więc osoby, która funkcjonuje w samym środku tego tematu. Bardzo proszę.

Dyrektor Zespołu Edukacji Cyfrowej i Bezpieczeństwa w Sieci w Biurze Rzecznika Praw Dziecka Katarzyna Hernandez:
Dzień dobry państwu. W imieniu pani rzecznik, pani Moniki Horna-Cieślak, chciałabym podziękować przede wszystkim za to, że zajmujemy się tymi tematami, ponieważ te tematy patotreści i deepfake’ów są dla nas tak naprawdę codziennością, bo zarówno do Biura Rzecznika Praw Dziecka, jak i do telefonu rzecznika praw dziecka, telefonu zaufania, codziennie zgłaszają się osoby, rodzice, dzieci, które są narażone na tego typu treści w sieci. Widzimy, że aktualne prawo nie nadąża. Internet jest środowiskiem tak dynamicznym, zmienia się tak szybko, że po prostu potrzebujemy nowych regulacji. Rzecznik praw dziecka apelował już wielokrotnie do właściwych resortów z prośbą o podjęcie inicjatywy legislacyjnej, wprowadzenie rozwiązań legislacyjnych związanych z patotreściami w sieci. Patotreści to jest temat już dosyć stary, powiedziałabym, bo my już słuchamy prawie od 10 lat o tym problemie, a nadal nie mamy rozwiązań prawnych w tym zakresie, a jak pani przewodnicząca powiedziała, w zasadzie wszystkie dzieci w swoim życiu napotkały tego typu treści w sieci. To są naprawdę treści, z którymi, chyba wszyscy się zgodzimy, że młodzi ludzie nie powinni mieć kontaktu. Jest to przemoc fizyczna, psychiczna, seksualna, bardzo często nawoływanie do spożywania substancji odurzających czy przemoc wobec innych osób czy zwierząt. Dodatkowo tutaj zauważanym problemem przez biuro i też zgłaszanym przez osoby, które do nas piszą, jest kwestia monetyzacji tych działań, bo to, że można wpłacać datki, tak zwane donate’y, powoduje, że te działania eskalują i tak naprawdę zachęcają zarówno oglądających, jak i osoby, które tworzą tego typu treści, do dalszych działań. Dlatego bardzo prosimy o wprowadzenie rzeczywistych regulacji. Z dużą nadzieją patrzymy tutaj na propozycje rozwiązań, ustaw, zarówno tą, nad którą już procedowano w podkomisji, ale także tą, która została niedawno zgłoszona. Liczymy na to, że zostaną one połączone i wspólnymi siłami po prostu wprowadzimy tego typu regulacje, które są po prostu bardzo potrzebne. Dodatkowo rzeczniczka praw dziecka w kontekście deepfake’ów też zwracała się do resortów z prośbą. Tutaj dwutorowo prosiliśmy o rozwiązania. Tutaj chodzi o takie deepfake’i, które pozwalają na produkowanie treści zawierających seksualne wykorzystanie dziecka, ale też rozbieranie takich zdjęć dorosłych. Proszę państwa, takie aplikacje w opinii rzecznika są aplikacjami przeciwko dzieciom. Nie widzimy w ogóle żadnej wartości tego typu aplikacji, dlatego zaapelowaliśmy po pierwsze, o to, że jeżeli taka aplikacja jest w stanie zdjąć ubranie ze zdjęcia de facto, to powinna być też w stanie rozpoznać, że jest to zdjęcie dziecka lub osoby małoletniej i po prostu nie pozwolić na takie działanie. To jest pierwszy apel. Drugim apelem było to, żeby po prostu w ogóle tego typu aplikacje i strony wpisać na listę stron zakazanych i po prostu nie dopuścić do tego, żeby młodzi ludzie mieli możliwość korzystania z nich. Dodatkowo wierzymy w to, że to też nie wyrządzi naprawdę żadnej szkody nikomu z nas, jeśli takich aplikacji po prostu nie będzie w Polsce. To jest drugi taki apel i liczymy na rozwiązania legislacyjne w tym zakresie. Ponadto zwracamy bardzo wyraźnie uwagę na potrzebę edukacji w tym zakresie, bo my możemy wprowadzić wszelkiego rodzaju rozwiązania prawne, ale jeżeli nie będzie za tym szła edukacja systemowa obejmująca nie tylko dzieci i młodzież, ale też nauczycieli, rodziców, dziadków, to naprawdę niewiele osiągniemy, bo też żeby móc skutecznie walczyć z tego typu treściami w sieci, potrzebujemy wiedzy, zrozumienia i po prostu wiedzieć, że tego typu treści są złe i dlaczego takie są. Dziękuję bardzo.

Przewodnicząca poseł Barbara Dolniak (KO):
Czy pan Kacper Jezior chce jeszcze dodatkowo zabrać głos?

Główny specjalista w Zespole Edukacji Cyfrowej i Bezpieczeństwa w Sieci w BRPD Kacper Jezior:
Bardzo dziękuję za możliwość zabrania głosu. Szanowni państwo, tutaj właściwie tylko pozostaje mi podzielić stanowisko przedstawione przez panią dyrektor, bo w istocie cieszy nas, że ustawodawca podjął tutaj inicjatywę zmierzającą do skutecznej penalizacji tego typu treści, które jak najbardziej są szkodliwe. Rzecznik praw dziecka jako organ, który często stoi na tej pierwszej linii ochrony praw dziecka, często faktycznie widzi sytuacje, w których właśnie, czy to patotreści, czy deepfake’i, faktycznie i realnie szkodzą młodym ludziom. Niemniej jednak, mając na względzie troskę o ich dobro, należy aprobować zaproponowany kierunek zmian legislacyjnych. Mówię tutaj o druku nr 1613. Niemniej jednak, potrzeba stworzenia skutecznych ram przemawia za tym, żeby zwrócić uwagę na kilka zastrzeżeń co do tego projektu, które zostały szerzej opisane w opinii pisemnej przedłożonej do właściwej podkomisji. W tejże opinii zwracaliśmy przede wszystkim uwagę, że choćby proponowana nowelizacja przewiduje nadmiernie wysoki próg karalności przewidziany w paragrafie, to jak najbardziej zapraszam do zapoznania się z opinią pisemną. Natomiast tutaj mogę zwrócić uwagę, że Kodeks karny wielokroć przewiduje kwalifikowane typy przestępstw w takich sytuacjach, w których pokrzywdzonym jest małoletni i w ramach tej opinii również przedłożyliśmy pomysł do rozwagi, aby w ramach dalszych prac legislacyjnych po prostu zastanowić się nad dodaniem typu kwalifikowanego tego przestępstwa.

Przewodnicząca poseł Barbara Dolniak (KO):
Proszę nam przypomnieć, na czym miałaby polegać ta propozycja kwalifikowanego przestępstwa?

Główny specjalista w Zespole Edukacji Cyfrowej i Bezpieczeństwa w Sieci w BRPD Kacper Jezior:
Typ kwalifikowanego przestępstwa polega po prostu na obostrzeniu odpowiedzialności karnej sprawcy, a w przypadku wystąpienia dodatkowych znamion w opinii pisemnej wskazaliśmy, że taką dodatkową okolicznością powinien być udział małoletniego jako pokrzywdzonego w tym transmitowanym czynie.

Przewodnicząca poseł Barbara Dolniak (KO):
Czyli ta przesłanka małoletności jest jedyną przesłanką kwalifikacji znamion przestępstwa w trybie?

Główny specjalista w Zespole Edukacji Cyfrowej i Bezpieczeństwa w Sieci w BRPD Kacper Jezior:
Tutaj mówię o typie kwalifikowanym, czyli po prostu o obostrzeniu odpowiedzialności, bo typem podstawowym jest sam art. 258b.

Przewodnicząca poseł Barbara Dolniak (KO):
Ale to jest tylko jedyna przesłanka małoletności, czy na przykład jest jeszcze kwestia, nie wiem, podległości?

Główny specjalista w Zespole Edukacji Cyfrowej i Bezpieczeństwa w Sieci w BRPD Kacper Jezior:
W skierowanej opinii skupiliśmy się tylko na aspekcie wieku osoby biorącej udział w transmisji lub będącej pokrzywdzoną czynem bazowym.

Przewodnicząca poseł Barbara Dolniak (KO):
Dobrze. Czy jeszcze coś, czy to już wszystko?

Główny specjalista w Zespole Edukacji Cyfrowej i Bezpieczeństwa w Sieci w BRPD Kacper Jezior:
Dziękuję.

Przewodnicząca poseł Barbara Dolniak (KO):
Dobrze. Jest pani profesor Ewelina Cała-Wacinkiewicz, profesor Uniwersytetu Szczecińskiego?

Przewodnicząca Komisji Praw Człowieka Krajowej Rady Radców Prawnych Ewelina Cała-Wacinkiewicz:
Dzień dobry, szanowni państwo.

Przewodnicząca poseł Barbara Dolniak (KO):
Przewodnicząca Komisji Praw Człowieka Krajowej Rady Radców Prawnych.

Przewodnicząca Komisji Praw Człowieka KRRP Ewelina Cała-Wacinkiewicz:
Tak, ja dzisiaj w tym charakterze, Krajowa Izba Radców Prawnych, Komisja Praw Człowieka, więc nie będzie zaskoczeniem, że z mojej perspektywy bardzo blisko nam do stanowiska, które tutaj było prezentowane przez panią dyrektor. Oczywiście truizmem jest twierdzenie, że zwłaszcza w projektowanych regulacjach powinniśmy skłonić się ku małoletnim i uwypuklić w odczuciu Komisji Praw Człowieka ten wątek prawno-człowieczy. Oczywiście stanowisko Krajowej Izby Radców Prawnych jest dualne, to znaczy z perspektywy prawa karnego również do tego się odniesiemy, ale jeśli pani przewodnicząca pozwoli, to pan mecenas zrobi za chwilę. Z perspektywy prawno-człowieczej, po pierwsze, jak najbardziej ochrona małoletniego i to uważamy, że w przepisie powinno wybrzmieć, ale też w szerszym kontekście ochrona prawno-człowiecza, która odnosząc się do projektowanego przepisu chyba została potraktowana nieco zawężająco.  I tu, jeżeli państwo pozwolicie, to przywołam ten fragment, o którym mówimy, dotyczący „naruszenia nietykalności cielesnej w sposób prowadzący do poniżenia lub upokorzenia innej osoby”. Pytanie, czy jednak naruszenie nietykalności cielesnej wówczas czy zwłaszcza wtedy, kiedy jest ono publikowane, nie powinno być traktowane jako każde naruszenie. Pojęcia „poniżenia”, „upokorzenia” w tym sensie są pewnymi pojęciami abstrakcyjnymi z naszej perspektywy. To znaczy trudno jest wykazać, co dla jednej osoby będzie poniżające czy upokarzające, więc chcielibyśmy, by po prostu naruszenie nietykalności cielesnej jako takie było ścigane. Oczywiście o tych uwagach, które mamy w odniesieniu też i do praw zwierząt, odesłaniach do KKS-u, to myślę, że powie kolega, ja ewentualnie pozwolę sobie do tego powrócić. Natomiast absolutnie nie wchodząc też na grunt drugiego zagadnienia deepfake’ów, które uważamy, że jest równie wymagającym szczególnego namysłu z perspektywy małoletnich, warto byłoby się nad tym zastanowić. To są trudne przypadki i mam świadomość trudności regulacyjnych z tym związanych, dlatego że, tak jak pani przewodnicząca była łaskawa powiedzieć, przy takiej liczbie aplikacji, które dokonują przetworzenia wizerunku, chyba jednak w prawie polskim jesteśmy w pewnej luce niedoregulowania, gdzie nie tylko nie chronimy osób, oczywiście uogólniam, chodzi mi tutaj o brak wyspecjalizowanych regulacji prawnych, gdzie wizerunek osób został w ten sposób naruszony, ale przede wszystkim pozwólcie państwo, że jeszcze raz zaapeluję z perspektywy małoletnich, bo to są osoby, które w sposób szczególny wymagają systemowej ochrony. Zwłaszcza, że na pewno większość z nas jest rodzicami i każdy ma świadomość tego, co dzieje się w szkołach, jak wykorzystywany jest wizerunek dzieci, jak dzieci potrafią wykorzystywać te aplikacje i również jak dochodzi do tragedii w związku z tym. Jeżeli nie będzie wyrazistej podstawy prawnej i unormowania, tutaj zgadzam się z tymi przedmówcami, którzy dostrzegli nie tylko potrzebę uregulowania tych kwestii in genere, ale przede wszystkim również uregulowania ich z perspektywy małoletnich. Wybaczcie państwo, że ja tak podbijam ten wątek, ale tak jak powiedziałam, z perspektywy Komisji Praw Człowieka dla nas wydaje się to szczególnie istotne. Tutaj panowie z biura rzecznika podkreślali to w kontekście potrzeby implementacji dyrektywy akurat tej przemocowej. Ten temat można podbić i ja absolutnie pozytywnie odbieram te intencje i to uzasadnienie, ale gdybyśmy szukali szerszego kontekstu, to popatrzmy, co w ogóle dzieje się w kontekście potrzeby dostosowania polskiego systemu do tych dostępnościowych dyrektyw. Szanowni państwo, zobaczmy, jak bardzo szeroko Unia Europejska podchodzi do uregulowania statusu i ochrony kategorii osób ze szczególnymi potrzebami. A przecież może akurat w przypadku implementacji dyrektyw dostępnościowych i ustaw, które w Polsce zostały w tym kontekście uchwalone, my zabezpieczyliśmy kategorię osób ze szczególnymi potrzebami, ale zwróćmy uwagę, że tam również się znajdują dzieci. To pozwala mi wrócić do początku i prosić o to, by rozważyć, przedyskutować, a przede wszystkim nie pozostawić tego bez szczególnego namysłu, w jaki sposób zabezpieczyć osoby małoletnie, bo oczywiście co do takiej czy innej legislacji i ujęcia tego przepisu możemy dyskutować i również pan mecenas zgłaszał pisemnie opinię w imieniu OBSiL-u Krajowej Rady Radców Prawnych, ale to są detale legislacyjne. Natomiast to ogólne racjo i wypracowanie kierunku zmian w naszej perspektywie powinno być również absolutnie ukierunkowane na małoletnich, jako na tych, którzy potrzebują systemowej i wyraźnej ochrony, bo to na nas spoczywa obowiązek niedoprowadzania do tragedii wtedy, kiedy wizerunek dzieci jest wykorzystywany. Jeśli mogę, to pan mecenas...

Przewodnicząca poseł Barbara Dolniak (KO):
Już za moment. Nie ulega wątpliwości, że dzieci są najbardziej narażone na oglądanie, słuchanie tego typu zdarzeń, które pokazują się w internecie, a przy jeszcze nie do końca rozwiniętej świadomości, poczucia sprawdzania, oceny, czy dane zdarzenie w internecie jest prawdziwe, czy jest sztucznie stworzone, jaką ma wartość emocjonalną, małoletni zasługują na szczególną ochronę. Proszę państwa, ale myślę, że ludzie dorośli również mają naturalną skłonność do ufania temu, co widzą i słyszą. Gdybyśmy przeprowadzili sondę uliczną, to okazałoby się, że wyniki tej sondy nas chyba nie zaskakują, bo mamy pełną świadomość tego, jak takie zjawiska mogą wpływać również na osoby dorosłe. Bardzo proszę, pan doktor, radca prawny Szymon Krajnik, przewodniczący Zespołu Prawa Karnego i Spraw Dyscyplinarnych Ośrodka Badań, Studiów i Legislacji Krajowej Rady Radców Prawnych. Bardzo proszę.

Przewodniczący Zespołu Prawa Karnego i Spraw Dyscyplinarnych Ośrodka Badań, Studiów i Legislacji KRRP Szymon Krajnik:
Bardzo dziękuję. Ja chciałem tutaj uzupełnić głos pani profesor odnośnie perspektywy karnistycznej w zakresie projektu, który mieliśmy okazję opiniować, jeśli chodzi po prostu o same konkrety związane z redakcją propozycji penalizacji patostreamingu. Pierwsza refleksja, która się nasuwa, to problematyka zupełności katalogu czynów zabronionych, które ta propozycja legislacyjna miałaby obejmować. Tutaj chcielibyśmy podać pod rozwagę rozważenie uzupełnienia katalogu czynów zabronionych o pewne typy przestępstw, które w obecnym projekcie nie występują. Mamy tutaj na myśli na przykład przestępstwa przeciwko bezpieczeństwu powszechnemu oraz bezpieczeństwu w komunikacji, które są, że tak się wyrażę, wdzięcznym, akurat w złym tego słowa znaczeniu przykładem, który może być przedmiotem patostreamingu. Druga kwestia to zupełny brak rozważenia objęcia penalizacją patostreamingu problematyki dotyczącej czynów stanowiących wykroczenia. Trzeba pamiętać, że od około 1966 roku polski model prawa wykroczeń cechuje się, przynajmniej nie wyłącznie, katalogiem czynów o charakterze przeciw administracyjnym, przeciw porządkowym, ale także stopniowo był nasycany czynami, które mają charakter stricte karny. W tym kontekście, pomimo tego, że same wykroczenia w ujęciu modelowym, także w ujęciu generalno-abstrakcyjnym postrzegania materialnej treści tego rodzaju czynów, z perspektywy rozpowszechniania zachowań, które wyczerpują znamiona wykroczenia, a więc oddziaływania na umysły, zwłaszcza młodych ludzi, w kontekście procesu ich socjalizacji, nakazuje także rozważenie penalizacji publicznego rozpowszechniania tego rodzaju treści, zawierających tego rodzaju zachowania.

Jeśli chodzi już o sam projekt, to chcielibyśmy też zwrócić uwagę na pewne, jak się wydaje, niedoskonałości związane z redakcją poszczególnych przepisów. Tutaj tylko zupełnie króciutko chciałbym zwrócić uwagę na przepis, projektowanego art. 255b § 1 pkt 2. Tam mamy odesłanie do ustawy o ochronie zwierząt i wskazanie na czyn, który polega na zabiciu zwierzęcia. Tymczasem w tym przepisie pozbawienie życia zwierzęcia określone jest na trzy sposoby: zabicie, uśmiercenie oraz ubój, co, jak się wydaje, biorąc pod uwagę zakaz wykładni strony niższej, nakazywałoby rozważyć także rozwiązanie tego problemu, choćby poprzez wspólne ujęcie tego rodzaju zachowań, na przykład pojęciem „pozbawienia życia”, które obejmowałoby te wszystkie trzy znamiona czasownikowe tego przestępstwa z ustawy o ochronie zwierząt.

I wreszcie też jedna uwaga dotycząca problematyki art. 255b § 1 pkt 3. Mowa jest tam o tych treściach, które stanowią naruszenie nietykalności cielesnej w sposób prowadzący do poniżenia lub upokorzenia innej osoby. Tu już wcześniej w literaturze prawa karnego wskazywano, że tego rodzaju pojęcia mają charakter subiektywny i może być po prostu problem z praktycznym zastosowaniem tego przepisu. Praktyka wymiaru sprawiedliwości może mieć rzeczywiście tutaj duże trudności we wskazywaniu na podstawie tej regulacji i w wykazywaniu w przewodzie sądowym, w postępowaniu dowodowym, a potem w pisaniu uzasadnienia, że doszło rzeczywiście do wyczerpania w danej sprawie, w danym konkretnym przypadku tych znamion.

Na koniec, odnosząc się do propozycji typu kwalifikowanego, zaproponowanego przez Biuro Rzecznika Praw Dziecka, rzeczywiście jest to pomysł godny rozważenia. Natomiast tutaj jednak chciałbym też zwrócić uwagę na pewną kwestię konieczności względu nie tyle na zasadę ustawowej określoności czynu, co po prostu też i precyzję sformułowania w kontekście możliwości stosowania tego typu kwalifikowanego. Mianowicie znamię typu kwalifikowanego, które miałoby polegać na udziale małoletniego jako pokrzywdzonego, jest pewnym wyzwaniem. Nie mówię, że to jest niefortunne, tylko trzeba by się rzeczywiście zastanowić nad pewną perspektywą praktyki, jak w kontekście danego przypadku w procesie karnym rzeczywiście wykazać, że tym podmiotem rejestrowanym, który jest pokrzywdzony danym czynem zabronionym, jest ten małoletni, czyli osoba poniżej lat 18 w rozumieniu prawa cywilnego. Jak oddzielić osobę wtedy 17-letnią od 18-letniego. Gdzie jest ta granica i dlaczego akurat tutaj, w tym momencie, na tej linii ta miałaby ona przebiegać, co jest zwłaszcza trudne w przypadku, gdy weźmiemy pod uwagę treści, które mogą być treściami nieodpowiadającymi prawdzie, bo jeżeli pokrzywdzony będzie konkretny Jaś Kowalski, to jesteśmy w stanie sprawdzić, czy w chwili czynu on rzeczywiście był małoletni, czy też nie. Natomiast jeżeli to będzie postać fikcyjna, przetworzona, a jak się wydaje, początek redakcji tego przepisu wskazuje na treści ogólnie, więc lege non distinguente chodzi nie tylko o treści rzeczywiste, ale także treści związane z przetworzeniem jakiegoś wizerunku, czyli ze stworzeniem go od podstaw. W ramach na przykład tego deepfake’u powstaje problem, czy ta osoba, która jest pokrzywdzonym jest małoletnia, czy też nie. Jak to ustalić, w oparciu o jakie kryteria? Oczywiście mamy opinię biegłego antropologa w sprawach dotyczących przestępstw seksualnych, ale tutaj, jeżeli nie będzie prezentacji tego rodzaju, też części ciała, to może to być niezwykle trudne. Dziękuję bardzo.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo dziękuję. Ten proces dotyczący jednego ze zjawisk, patostreamingu, ma w tej chwili w Sejmie już dwa projekty. Mam nadzieję, że w momencie, kiedy będziemy nad nim pracować, jeszcze nie wiem, czy w podkomisji, czy ruszy go sama Komisja, ale biorąc pod uwagę te wszystkie uwagi, pewnie trzeba będzie to przepracować w podkomisji. Mam prośbę, że zwracając uwagę na pewne rozwiązania, jeżeli państwo uważacie, że to powinno wyglądać w innym brzmieniu, nawet jest możliwość przedstawienia propozycji zmiany tego zapisu, czyli jak ewentualna poprawka mogłaby brzmieć w kolejnym przepisie, bo jeżeli posłanki i posłowie uznają, że rzeczywiście jest ten kierunek, zawsze będzie możliwość przejęcia takiej poprawki, a ubranie tego w odpowiednie słowa o charakterze prawnym pozwala ocenić, czy taki zapis prawny będzie właściwy w przyszłych obowiązujących przepisach. Tak że to à propos państwa uwag natury merytorycznej, zapisów prawnych, ustawowych, że nie sama uwaga to zastrzeżenie, ale także jeżeli państwo uznacie, że to wymaga zmiany, modyfikacji, to proszę o propozycję, w jakim kierunku ta poprawka powinna zmierzać. Bardzo dziękuję. Chciałabym, żebyśmy teraz porozmawiali z panem profesorem Mikołajem Małeckim, Uniwersytet Jagielloński, także przedstawicielem Obserwatorium Demokracji Cyfrowej. Panie profesorze, bardzo proszę.

Przedstawiciel Fundacji Obserwatorium Demokracji Cyfrowej Mikołaj Małecki:
Pani przewodnicząca, dziękuję bardzo. Szanowni państwo, myślę, że ta dyskusja jest niezwykle cenna i dobrze, że jesteśmy zebrani w takim eksperckim gronie, żebyśmy mogli też się wypowiedzieć i zwrócić uwagę na pewne problemy przed przyjęciem przez państwa posłów, posłanki określonych rozwiązań. Myślę, że między patostreamingiem a deepfake’ami zachodzi jedno bardzo istotne podobieństwo na takim dość fundamentalnym poziomie. Mianowicie wydaje mi się, że można to ująć pod hasłem zaśmiecanie internetu. Patostreaming zaśmieca internet trochę inaczej niż deepfake’i, ale chodzi o to, że to jest po prostu zaśmiecanie przestrzeni publicznej i w związku z tym rodzi się pytanie, czy jesteśmy w stanie tolerować zaśmiecanie przestrzeni publicznej, jaką jest internet, w tak radykalnym stopniu, co jeszcze będzie się nasilało w przyszłości, bo problem deepfake’ów będzie tylko narastał. Ale takie spojrzenie na patostreaming i na deepfake’i od razu rodzi pytania dotyczące nie tylko tego, to też wiadomo już wybrzmiało z głosów państwa poprzedników, że musimy chronić dobra osobiste konkretnych osób, ale rodzi ogólne pytanie, czy w kierunku zwalczania deepfake’ów i patostreamingu jako swego rodzaju zaśmiecania przestrzeni internetowej również nie należałoby pomyśleć nad zmianami w prawie, żeby nie tylko deepfake’i pokrzywdzające dzieci w zakresie dobrostanu seksualnego, nie tylko patostreaming pokrzywdzający konkretne osoby czy inne organizmy żywe, ale żeby treści jako takie, z uwagi na pewne ich cechy, głębokie fałszowanie rzeczywistości, ewentualnie treści obsceniczne, wulgarne, związane z prezentowaniem przemocy na patostreamach, czy po prostu nie zwalczać tego w bardziej ogólnej formule, co potem mogłoby się też przełożyć oczywiście na określone rozwiązania legislacyjne, żeby starać się ująć to w jak najbardziej ogólny sposób. Natomiast oczywiście pomiędzy patostreamingiem i deepfake’ami zachodzi wiele różnic, ale o dwóch chciałbym powiedzieć. Pierwsza różnica jest taka, że patostreaming tak naprawdę jest już penalizowany, tylko być może w zbyt łagodnej formule. Mianowicie patostreaming to jest nic innego jak zakłócenie porządku publicznego w rozumieniu przepisów wykroczeniowych, jak używanie słów powszechnie uznanych za obelżywe w miejscu publicznym. Jest już orzeczenie Sądu Najwyższego, który stwierdził, że otwarty kanał czy profil w internecie to jest miejsce publiczne i w tym sensie przepisy Kodeksu wykroczeń się zaakomodowały do nowej rzeczywistości, więc tak naprawdę patostreaming da się zwalczać przepisami wykroczeniowymi, ale wiadomo, pewnie dostrzegamy, że ta reakcja wykroczeniowa może być za mało przeciw motywująca dla sprawców, którzy przecież też zarabiają na patostreamingu. A deepfake’i same w sobie, jako zaśmiecanie internetu perfekcyjnymi przeróbkami, które imitują rzeczywistość, nie są penalizowane same w sobie. Dlatego rzeczywiście tutaj potrzebna by była pewna dwutorowość myślenia o penalizacji patostreamingu, tak naprawdę zaostrzonej karalności patostreamingu, który w pewnych zakresach staje się przestępstwem. Pytanie o to, dlaczego w pewnej sytuacji to zakłócenie przestrzeni publicznej, ładu publicznego powinno być karane surowiej niż tylko przepisami wykroczeniowymi. Z drugiej strony pewnego rodzaju namysł nad deepfake’ami, czyli zaśmiecaniem internetu treściami, które same w sobie są groźne, niekoniecznie muszą kogoś krzywdzić w sferze dóbr osobistych, a w związku z tym może jakiś namysł na przyszłość też, w jaki sposób uregulować deepfake’i same w sobie, żeby zapobiegać opanowaniu przestrzeni publicznej głębokim fałszem, że my nagle, jak patrzymy w internet, zaczynamy żyć w świecie, który tak naprawdę zaczyna żyć własnym życiem i to się staje całkowicie oderwane od tej prawdziwej rzeczywistości przez wielkie „P”. A druga różnica między patostreamingiem a deepfake’ami jest taka, że państwo procedujecie już nad pewnymi projektami dotyczącymi patostreamingu. I teraz w tym sensie można, czy nawet należałoby odłożyć deepfake’i jako problem do namysłu, bo jest na pewno wielowarstwowy, jak ewentualnie uregulować prawno-karnie deepfake’i, moim zdaniem trzeba by było dobrze i na spokojnie zastanowić się nad tym. Natomiast ponieważ państwo już procedujecie nad konkretnymi projektami dotyczącymi patostreamingu i pewnie też trzeba będzie w tym zakresie podejmować pewnego rodzaju rozstrzygnięcia, ja bym tutaj apelował o coś, od czego trochę zacząłem, mianowicie próbę bardzo ogólnego spojrzenia na zjawisko, żebyśmy nie popsuli Kodeksu karnego nadmierną kazuistyką, która też jest ryzykowna, bo patostreamerzy bardzo łatwo się dostosują do zbyt daleko posuniętej kazuistyki kodeksowej. Tak jak zresztą, jak się spojrzy na zjawisko patostreamingu historycznie, oni to robili, że zaczynało się od przekleństw w czasie grania w grę komputerową, potem zaczynały się obsceniczne wyzwiska do konkretnych osób, potem zaczynały się jakieś przemocowe zachowania, a potem na przykład zaczęło się wykorzystywanie ludzi z kryzysem bezdomności i prezentowanie jakichś melin, też obscenicznych sytuacji z wykorzystaniem tych osób, które w tym środowisku żyły. Zbytnia kodeksowa kazuistyka w zakresie patostreamingu może spowodować, że zagospodarowujemy pewną przestrzeń, ale nie zwalczymy całego zjawiska, które po prostu dostosuje się do tego, żeby patostreamować coś, co nie będzie podpadało pod Kodeks karny. Przepraszam też, że przedłużyłem, podam państwu prosty przykład i zakończę tą krótką wypowiedź na nim. Prosty przykład związany z wykorzystywaniem zwierząt i prezentowaniem przemocy wobec nich. Czym innym jest znęcanie się nad zwierzęciem i to przecież jest karalne i ktoś, kto znęca się nad zwierzęciem, podlega odpowiedzialności karnej. Tu żadna zmiana ustawowa nie jest konieczna. Czym innym jest prezentowanie tej przemocy na streamie i o to nam chodzi, gdy myślimy o treściach patostreamerskich, na przykład z udziałem przemocy wobec zwierzęcia. Po co zawężać to do kręgowców i tych głowonogów, które tutaj już padały też w trakcie państwa dyskusji, jako takiego, można powiedzieć, ikonicznego, reprezentatywnego przykładu właśnie tej nadmiernej kazuistyki? Czy przemoc wobec innych zwierząt prezentowana publicznie, wobec owadów, nie chcę też epatować opisami, ale można sobie wyobrazić. Czy przemoc wobec jakiegoś innego zwierzęcia prezentowana publicznie to nie jest patostreaming? Moim zdaniem jest, bo penalizując patostreaming nie chcemy chronić zwierzęcia, bo ten sprawca, jak się znęca nad nim, to w myśl przepisów o ustawie o ochronie zwierząt podlega odpowiedzialności karnej za znęcanie się. Gdy myślimy o patostreamingu, to właśnie chodzi o to, żeby nie epatować tą przemocą w przestrzeni publicznej. Chodzi o tą treść, która się rozprzestrzenia w internecie. Na podstawie tego przykładu byłbym za tym, żebyśmy postarali się znaleźć jak najbardziej ogólną formułę. Zamiast właśnie wymieniać konkretne zwierzęta, to trzeba napisać „przemoc wobec zwierzęcia”, która po prostu jest bardzo ogólnym znamieniem, oddającym chyba istotę rzeczy. Nie chcemy, żeby epatowanie tą przemocą wobec jakichkolwiek zwierząt rozprzestrzeniało się w przestrzeni publicznej. Ponieważ państwo jako Komisja procedujecie nad pewnymi rozwiązaniami, właśnie byłbym za tym, żeby myśleć o tym w kategoriach ogólnych, żeby nie dawać furtki i luk w prawie potencjalnym sprawcom, a jednocześnie zagospodarować wszystkie zjawiska, które chcielibyśmy zwalczyć, myśląc o haśle „patostreaming”, o tym, co byśmy nazwali zaśmiecaniem internetu takimi treściami, które po prostu w internecie nie powinny być rozprzestrzeniane. Bardzo dziękuję.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo dziękuję za ten głos, bo nie ulega wątpliwości, że prawo nie może być zindywidualizowane, bo nie ma takiej możliwości. Ma charakter ogólny, który może dotyczyć różnych zjawisk i wydaje się rzeczywiście, że nie ma znaczenia, jakie jest to zwierzę. Sam fakt przedstawiania znęcania się, bez względu na to, czy robimy to na żabie, czy na innym zwierzęciu, wywoła te same reakcje, patrząc, jak ktoś się znęca nad zwierzęciem.

Pani profesor, widziałam, że był taki moment reakcji, tego początkowego sprzeciwu, ale pozwólmy zabrać wszystkim głos i ewentualnie, jeżeli ktoś będzie jeszcze chciał zabrać głos, to bardzo proszę. Chciałabym, żebyśmy teraz usłyszeli głos organizacji pozarządowych i widzę Fundację Dajemy Dzieciom Siłę, panią radcę prawną Agnieszkę Kwaśniewską-Sadkowską i panią Renatę Szredzińską, wiceprezesa tej fundacji. Nie wiem, jak panie chcą w kolejności zabrać głos, ale bardzo proszę, słuchamy Fundacji Dajemy Dzieciom Siłę.

Radca prawny w Fundacji Dajemy Dzieciom Siłę Agnieszka Kwaśniewska-Sadkowska:
Dzień dobry, Agnieszka Kwaśniewska-Sadkowska, radca prawny. Bardzo przepraszam w imieniu pani Szredzińskiej, niestety nie mogła dzisiaj dotrzeć ze względu na przygotowania do jutrzejszego seminarium dotyczącego barnahusów, które odbędzie się tutaj rano. Ja chciałam się przede wszystkim odnieść do tego, że bardzo się cieszymy, że temat patostreamingu został zauważony przez wiele osób tutaj zgromadzonych i także przez ustawodawcę, między innymi obrazując to dwoma już projektami i propozycjami jego karalności. Fundacja przedstawiła swoją opinię dotyczącą projektu, przede wszystkim tego drugiego. W związku z powyższym, nie będę tutaj wchodziła w szczegóły, tam odnieśliśmy się do wszystkiego. Natomiast przede wszystkim chciałam zwrócić uwagę na to, co też już tutaj pan profesor podniósł, to zawężenie karalności powoduje, że wypadają nam przeróżne przestępstwa, na przykład przestępstwa seksualne, takie jak zgwałcenie. Patostreaming obrazujący zgwałcenie nie będzie karalny ze względu na to, że karalność tego przestępstwa jest niższa niż 5 lat. Tutaj też należy zwrócić na to uwagę. Bardzo podoba mi się to porównanie do zaśmiecania, do naruszenia naszej przestrzeni publicznej. Mnie się to kojarzy z takim chuligańskim postępowaniem, z graffiti, z czymś, co narusza naszą przestrzeń na różny sposób, nie zawsze będąc przestępstwem. I to też ważne, żeby zwrócić uwagę, na to że patostreaming nie zawsze jest przestępstwem. Oczywiście jako Fundacja Dajemy Dzieciom Siłę przede wszystkim skupiamy się na tym, że patostreaming i deepfake’i wpływają na naszych małoletnich obywateli, którzy korzystają z internetu w sposób bardzo często, niestety, nieograniczony, niebezpieczny. Nie wpuszczamy naszych dzieci na ulicę, nie trzymając ich za rękę, a wpuszczamy je do internetu, puszczając je w ogóle bez niczego, bez żadnej edukacji czy kontroli. Dlatego oprócz oczywiście penalizacji i w ogóle ograniczenia dostępności tego typu treści, istotna jest edukacja. Edukacja internetowa w szkołach, nawet już w przedszkolach, ponieważ niestety sytuacja jest taka, że często też już takie pięcio-, sześciolatki mają pewien dostęp do internetu i też nie zawsze ograniczany przez rodziców, ale też edukacja rodziców, dziadków, to też już wybrzmiało, co jest istotną rzeczą dla nas wszystkich. Też warto rozważyć różne rozwiązania międzynarodowe z innych krajów, które zwracają uwagę także na to, żeby zobowiązać takie platformy streamingowe do ograniczenia wieku. Tak jak mamy zaznaczenie w filmach, że film jest od 7, 12, 18 roku życia, to także zobowiązanie różnego typu platform do tego, żeby zaznaczały, że dany filmik, streaming jest z ograniczeniem wiekowym, ale także ograniczenie w ogóle dostępu do takich treści, a co za tym idzie, skutecznej weryfikacji tego wieku. To jest też tutaj istotna rzecz, którą należy rozważyć nie tylko pod kątem samej karalności, ale także pod kątem zabezpieczenia różnych osób, przede wszystkim tych małoletnich, jeśli chodzi o dostęp do tego typu treści. Dziękuję.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo dziękuję. Tutaj przed chwilą z panem przewodniczącym Ćwikiem toczyliśmy taką krótką dyskusję, czy w stosunku do tych bardzo negatywnych zjawisk można użyć sformułowania „zaśmiecanie internetu”. Wydaje mi się, że to jest zbyt łagodne określenie, bo w zasadzie wrzucając wszystko, nasze zdjęcia z przeróżnych uroczystości, jakieś tam komentarze, to ja raczej tu bym się skupiła na określeniu „zaśmiecanie internetu”, bo wrzucamy po 10 tych zdjęć z różnych ujęć. To jest swoistego rodzaju zaśmiecanie internetu. Panie profesorze, natomiast z całym szacunkiem, chyba bym nie użyła tego zwrotu i tutaj chyba jesteśmy zgodni, prawda, panie przewodniczący? W stosunku do zjawisk tak negatywnych, ponieważ zwrot „zaśmiecanie” jest zbyt łagodny i wypacza zjawiska wyjątkowo negatywne i bardzo oddziałujące na psychikę zarówno młodych ludzi, jak i dorosłych, bo nie łudźmy się, że ludzie dorośli ulegają i patostreamingom, i deepfake’om także w dużym stopniu, bardzo często nie zdając sobie sprawy z tego, jak takimi zjawiskami są manipulowani w przestrzeni internetowej. To tak na marginesie tego zaśmiecania. Mamy przedstawiciela Helsińskiej Fundacji Praw Człowieka, pana Błażeja Wodyńskiego. Czy jest pan Błażej?

Przedstawiciel Helsińskiej Fundacji Praw Człowieka Błażej Wodyński:
Tak, jestem, natomiast będąc szczerym, nie zostałem umocowany przez fundację do zaprezentowania żadnego stanowiska w tej sprawie.

Przewodnicząca poseł Barbara Dolniak (KO):
Może pan przedstawić swoje własne, jeśli pan chce.

Przedstawiciel Helsińskiej Fundacji Praw Człowieka Błażej Wodyński:
Wolałbym też nie przedstawiać na razie swojego stanowiska, natomiast na pewno mogę podziękować w imieniu fundacji, że taki temat został poruszony, gdyż jest niezwykle ważny i jako fundacja też się temu przyglądamy.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo dziękuję. Natomiast proszę państwa, to, że już mamy w pracach Sejmu dwa projekty ustawy dotyczące patostreamingu, nie oznacza, że nie powinniśmy rozmawiać o deepfake’ach. Ja wręcz uważam, że to jest już i tak spóźniony moment, że my o tym dyskutujemy, ponieważ o pojmowaniu tego zjawiska i kierunkach zmian, zwłaszcza że one nie są proste do ujęcia prawnego, powinniśmy dyskutować już od dawna i to w szerokich gremiach, zarówno świata informatycznego, jak i świata prawnego, socjologicznego, czy w sferze psychologii, ponieważ dyskusja, jak już się pojawi projekt, jak powinny zmierzać zmiany, czy tworzenie przepisów, będzie dyskusją przynajmniej spóźnioną, bo ona zawsze jest potrzebna, ale będzie już spóźniona. To jest ten czas, kiedy musimy sobie wytyczać kierunki dotyczące deepfake’ów, bo one w krótkim czasie zaczną odgrywać coraz większą rolę, by mówić o tym, w jakich już istotnych, konkretnych kierunkach te zmiany powinny nastąpić. Skoro tak, to w takim razie pan prezes Michał Kanownik, Związek Cyfrowa Polska i pan Filip Konopczyński, dyrektor Biura Analiz i Badań. Czy są panowie? To bardzo proszę. Proszę tylko powiedzieć, który z panów. Pan Michał czy pan Filip?

Dyrektor Biura Analiz i Badań Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego Filip Konopczyński:
Pana Michała chyba nie widzę na sali. Ja nazywam się Filip Konopczyński.

Przewodnicząca poseł Barbara Dolniak (KO):
To w takim razie pana Michała wykreślam. Panie Filipie, bardzo proszę.

Dyrektor Biura Analiz i Badań Naukowej i Akademickiej Sieci Komputerowej – PIB Filip Konopczyński:
Dziękuję. Ja także tutaj chciałem zabrać głos, nie z punktu widzenia stanowiska instytucji, ale z punktu widzenia debaty i także może pewnych procesów legislacyjnych i regulacyjnych, które się dzieją, które dostrzegam. To jest to jest coś, co moim zdaniem jest istotne w kwestii rozróżnienia jednak charakteru samego terminu, zjawiska patostreamingu i deepfake’u, bo o ile patostreaming jest to pewna praktyka społeczna wykonywana za pośrednictwem technologii, o tyle z deepfake’iem, zarówno na poziomie naukowym, ale też prawniczym, są pewne problemy, bo według mojej wiedzy nie ma jednoznacznej tego definicji. Tutaj to, co z punktu widzenia prawników byłoby istotne, to kwestia intencjonalności, bo pewnie wszyscy zgodzimy się, że przerobienie zdjęcia osoby małoletniej i wykorzystanie tego po prostu w jakichś szkaradnych celach jest niedobre, ale już pewnie nie chcielibyśmy tworzyć przepisu, który przy tej samej okazji penalizowałby stosowanie na przykład efektów specjalnych w filmach albo satyry. Jeżeli mówimy po prostu o obrazie syntetycznym, to w zależności od tego, w jakim obszarze on jest stosowany, może być neutralny, negatywny bądź pozytywny. Tutaj pewnie z tego wynika część tych problemów. To jest pierwsza taka bardziej teoretyczna uwaga. Bardziej praktyczna i regulacyjna uwaga, to taka, że chciałem zwrócić uwagę, że obecnie w kwestii deepfake’ów, czyli właśnie syntetycznie wygenerowanych obrazów, które przedstawiają osoby bądź zjawiska prawdziwe, podczas czynności, czy w otoczeniu, które nie miało miejsca, to mamy dwa akty unijne, to znaczy mamy dwa rozporządzenia. Jedno to jest już obowiązujące, ale które jeszcze nie przeszło pełnej transpozycji do polskiego systemu prawnego, czyli DSA, Akt o usługach cyfrowych, który z jednej strony nakłada pewne obowiązki na platformy, związane z oznaczaniem tego typu treści. Z kolei drugi akt prawny, który częściowo obowiązuje już w zakresie zakazu tego typu treści i można by stosować te przepisy, to jest akt o sztucznej inteligencji, gdzie te obowiązki są z kolei nałożone na firmę, która udostępnia taką technologię. To się wiąże także z obowiązkiem znakowania takich treści. To jest ten drugi obszar. Nie jest tak, że kompletnie nic się nie dzieje na poziomie unijnym. W związku z tymi pracami nad pełnym wdrożeniem, także na poziomie samej samych instytucji Unii Europejskiej w kwestii wykrywania deepfake’ów, chciałem tylko zaznaczyć, że gdyby było tak, że istnieje technologia, która jest w stanie oznaczyć, rozpoznać, że materiał jest treścią syntetyczną, to pewnie nie byłoby potrzeby prowadzenia takich dyskusji. Często niestety spotykam się z takim podejściem do kwestii wykrywania artefaktów, produktów sztucznej inteligencji, czy generatywnej sztucznej inteligencji, tak, jakby to było trochę na zasadzie, szukania takiego programu jak antyplagiat. Otóż niestety mam złą informację, póki co nie ma takiej technologii, zarówno na poziomie inżynieryjnym, jak i technicznym, która by dała stuprocentową pewność, że dana treść jest syntetyczna. Teraz wyobraźmy sobie tego sędziego albo biegłego, który musi to stwierdzić, nie mając narzędzi albo te narzędzia mogą się cały czas zmieniać. Tutaj chciałem podkreślić to wyzwanie, co oczywiście nie znaczy, że żyjemy w pełnej próżni prawnej, ponieważ jeżeli ktoś narusza nasze dobre imię albo szkaluje i w jakiś inny sposób tworzy treści, które nam szkodzą, to póki co mamy takie tradycyjne narzędzia prawne, które można stosować, ale właśnie z tego, co słyszałem, to także nie jest głos instytucjonalny. Często sędziowie albo biegli mają problemy z rozpoznaniem tego problemu. Tutaj jednak bym chciał podkreślić tę kwestię edukacji, także profesjonalistów, sędziów, biegłych. Myślę, że tutaj, niezależnie od tego, jaki ostateczny kształt prac legislacyjnych w Europie, w Polsce zostanie przyjęty, to tutaj niewątpliwie jest dużo pracy dla tych ludzi, którzy mają kontakt praktyczny z wymiarem sprawiedliwości, bo nie wystarczy czegoś zakazać, ale także trzeba upewnić się, że osoby, które będą ten zakaz egzekwowały, będą miały i narzędzia, i wiedzę, i kompetencje do tego, żeby rozpoznać skalę krzywdy, ale też charakter tego zjawiska.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo dziękuję za ten cenny głos. Pani Anna Borkowska, ekspert do spraw edukacji cyfrowej, Centrum Projektów Infrastrukturalnych i Edukacyjnych. Pani Anno, bardzo proszę. A jakie pani ma zdanie w sprawie patostreamingu i deepfake’ów?

Ekspert ds. edukacji cyfrowej w Centrum Projektów Infrastrukturalnych i Edukacyjnych w Naukowej i Akademickiej Sieci Komputerowej – PIB Anna Borkowska:
Ja niestety również nie jestem upoważniona do zabierania głosu w imieniu mojej instytucji, więc dziękuję bardzo za możliwość dania głosu, ale dzisiaj posłucham.

Przewodnicząca poseł Barbara Dolniak (KO):
Dobrze. Czasami warto posłuchać, żeby na końcu wyciągnąć istotne wnioski lub przekazać informacje. W takim razie zapraszam do zabrania głosu panią Marię Kołtunowską, ekspert Wydziału Koordynacji i Rozwoju Departamentu Cyberbezpieczeństwa Ministerstwa Obrony Narodowej. Bardzo proszę.

Ekspert Wydziału Koordynacji i Rozwoju Departamentu Cyberbezpieczeństwa Ministerstwa Obrony Narodowej Maria Kołtunowska:
Witam państwa. Bardzo dziękujemy w imieniu Ministerstwa Obrony Narodowej za zaproszenie na tę debatę. Ponieważ także nie byłam upoważniona, jestem raczej słuchaczem, obserwatorem. Natomiast z mojego punktu widzenia jako obserwatora kwestii obszarów dotyczących bezpieczeństwa, deepfake zaczyna być bardzo niebezpieczny w obszarze wydawania rozkazów i poleceń żołnierzy przez dowódcę, jeżeli miałoby to mieć miejsce poprzez narzędzie, jakim jest wideo. Jeżeli tutaj patrzymy z punktu widzenia bezpieczeństwa, jest to oczywiście deepfake, który zagraża bezpieczeństwu narodowemu. Natomiast oczywiście jest to trochę inny obszar niż deepfake’i i patostreamingi, o których tutaj mówimy. Na ten moment jest to bardzo ciekawa dyskusja. Jestem wdzięczna, że możemy sobie tutaj jej posłuchać i myślę, że jakoś będziemy dalej współpracować z państwem.

Przewodnicząca poseł Barbara Dolniak (KO):
Nie ulega to wątpliwości, bo wiemy, jak dzisiaj bardzo ważna jest sfera bezpieczeństwa i jak można wykorzystać narzędzia w świecie internetowym dla burzenia tego bezpieczeństwa i wywoływania wśród obywateli poczucia niepewności, strachu i takich negatywnych reakcji. W związku z tym myślę, że ta dziedzina, ten temat bezpieczeństwa w deepfake’ach pojawi się w sposób istotny. Młodszy inspektor Robert Wojtasik, zastępca Komendanta Centralnego Biura Zwalczania Cyberprzestępczości. Bardzo proszę.

Zastępca komendanta Centralnego Biura Zwalczania Cyberprzestępczości Robert Wojtasik:
Dzień dobry. Ja reprezentuję tak jak...

Przewodnicząca poseł Barbara Dolniak (KO):
Przepraszam, że przerwę. Proszę państwa, to niekoniecznie musi być przedstawienie stanowiska instytucji, którą reprezentujecie, bo nie ma jeszcze projektu ustawy, zwłaszcza dotyczącej deepfake’ów. Natomiast my chętnie posłuchamy także państwa oceny sytuacji wynikającej z własnego doświadczenia, z własnej wiedzy w tych dziedzinach, bo dyskusja nie polega tylko na przedstawianiu stanowiska instytucji, którą reprezentujecie, ale wymiany poglądów ludzi, którzy zajmują się daną dziedziną lub funkcjonują w ramach niej. To jest raczej istotniejsze dla tego procesu dyskusji, w którym toczy się dzisiejsze posiedzenie Komisji. Bardzo proszę, pan Robert Wojtasik.

Zastępca komendanta Centralnego Biura Zwalczania Cyberprzestępczości Robert Wojtasik:
Pani przewodnicząca, szanowni państwo, my jako polska policja nie gromadzimy z wiadomych względów statystyk związanych z deepfake’ami czy z patostreamingiem, ale prowadzimy działania związane z profilaktyką. Docieramy do młodych ludzi, uświadamiamy ich o tym zjawisku i staramy się dotrzeć do jak najbardziej szerokiego grona dzieci, ale też i młodzieży. Kwestie kluczowe związane z deepfake’ami i z patostreamingiem zostały tu przez państwa też już wcześniej poruszone, bo niewątpliwie wiemy, że wszyscy patostreamerzy czynią sobie z patostreamingu stałe źródło dochodu i to jest główny ich cel promowania tych treści w internecie. My też spotykamy się z tym, że serwisy, które pobierają prowizję za ten patostreaming, czy za wysyłanie SMS-ów, czy przesyłanie różnych płatności, czerpią z tego również korzyści. My jako polska policja spotykamy się również ze zdarzeniami takimi jak mowa nienawiści czy uszkodzenie mienia, jakieś rejestracje przez młodych ludzi, jak uszkadzają szereg pojazdów na ulicy czy znęcanie się nad zwierzętami. To są zdarzenia, które wyczerpują znamiona przepisów karnych, ale też są publikowane w internecie i są to tak zwane patostream’y. Myślę, że ta kwestia oznaczenia, już przechodząc do deepfake’ów, która została wcześniej też poruszona, kwestia AI Act-u, czyli oznaczania zdjęć, które są przerobione to jest całkiem fajny pomysł i w jakimś stopniu mogłoby to spowodować, że można by było odróżnić, czy mamy do czynienia z deepfake’em, czy zdjęciem autentycznym. I kwestia ochrony wizerunku, czyli RODO, czyli te przepisy, które obecnie obowiązują i kwestia odpowiedzialności karnej przepisów, którymi mogą być ścigane deepfake’i, też mamy tutaj zniesławienie, znieważenie, stalking, czy rozpowszechnianie pornografii. To tyle, co chciałbym powiedzieć.

Przewodnicząca poseł Barbara Dolniak (KO):
Ja mam pytanie w związku z tym, że powiedział pan na początku, iż przeprowadzacie państwo rozmowy z młodymi ludźmi. Proszę powiedzieć, czy one są takie interpersonalne? Młodzi ludzie pytają, są zainteresowani, komentują, czy też ta reakcja jest bierna, nie wykazująca zainteresowania młodych ludzi? Negatywną stroną tych zjawisk jest to, że są raczej bardziej zainteresowani, co nowego ukaże się w internecie i jak bardziej okrutnego, czy też mając świadomość, jakie czyni to spustoszenie, reagują i komentują te zjawiska w sposób właściwy, czyli oczekiwany, negatywny dla tych zjawisk?

Zastępca komendanta Centralnego Biura Zwalczania Cyberprzestępczości Robert Wojtasik:
Pani przewodnicząca, jeżeli pani pozwoli, to oddam głos mojej koleżance z Komendy Głównej Policji.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo proszę. Tylko proszę nam powiedzieć... Pani Wanda Mende, bardzo proszę, naczelnik w Biurze Prewencji w Komendzie Głównej Policji. Bardzo proszę.

Naczelnik w Biurze Prewencji w Komendzie Głównej Policji Wanda Mende:
Witam państwa bardzo serdecznie. Odpowiadając na pytanie pani przewodniczącej, mogę powiedzieć, że jest to bardzo różnie. My staramy się pokazać młodym ludziom negatywną stronę tych wszystkich zjawisk. Niemniej młodzi chętnie wchodzą z policjantami w interakcje, co nie znaczy, że potem nie robią kolejnych wyzwań. Też nie oszukujmy się. Policjant rozmawia, wskazując na ryzyka, zagrożenia, konsekwencje, młodzi ludzie się zgadzają z nami na spotkaniu i wracając do domu sami korzystają z challenge’ów, które wynikają z patostream’ów. Takich challenge’ów mamy stosunkowo dużo. Nagrywają je. Taki ostatni, nie wiem, czy mogę tu zdradzić jakieś tam tajemnice, to była kwestia nadużywania aspiryny i nagrywania, jak się zachowują po bardzo dużej dawce takich leków, czyli taki patostreaming w tym zakresie. Oczywiście podejmujemy rozmowy, wskazujemy na konsekwencje, szczególnie te, które naruszają przepisy prawa, co się z tym dalej dzieje i jakie mogą być podejmowane działania, ale mamy świadomość tego, że młodzież dalej uważa, że internet daje im poczucie anonimowości. Oczywiście wiemy wszyscy, że to jest nieprawda, ale pomimo tego, że im na to wskazujemy, to czują się bezkarni. I tu jeszcze wracając troszkę do deepfake’ów, bo my tu dużo mówiliśmy, zresztą pani przewodnicząca sama wskazała, że dorośli też mają problemy z rozróżnianiem deepfake’ów. Ja chciałabym tylko zwrócić uwagę szanownej Komisji na fakt, że niestety, o czym mówił pan komendant, chociażby o podszywaniu się pod wizerunek różnych osób, mamy bardzo dużo sytuacji, to szczególnie podczas spotkań z seniorami wybrzmiewa, gdzie seniorzy, przepraszam, że to powiem wprost i tak bezpośrednio, dają się oszukać namówieni za pomocą deepfake’u. Ten deepfake oczywiście, nawet jak będzie oznaczony, to zakładam, że wtedy nie będzie oszustw, dlatego i tak jest to kwestia tego, żeby ścigać to, że on nie będzie oznaczony. Oczywiście jesteśmy do dyspozycji państwa w zakresie pytań.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo dziękuję. Proszę zobaczyć po tej wypowiedzi, jak bardzo poważne i jednocześnie niebezpieczne są te zjawiska, gdzie młodzi ludzie mają pełną świadomość tego, że to, co oglądają, jest złe, ale jest tak intrygujące, tak pobudza emocje, że mimo, że słyszą, że to źle wpływa na ich psychikę, na ich osobowość, to dalej zaglądaj do takich materiałów. Jeżeli nie będziemy więc przeciwdziałać temu w dosyć konkretny sposób, to proces może nam się wymknąć w pewnym momencie spod kontroli, ponieważ będzie to coraz bardziej niebezpieczne, coraz ostrzejsze, bo już te słabe nagrania nie będą wzbudzały zainteresowania, więc eskalacja może pójść w nieprzewidywalnym kierunku. Dlatego tak istotne jest wpływanie na świadomość młodych ludzi, także właśnie w procesie edukacyjnym. Ale skoro dorośli lubią takie rzeczy oglądać, to musimy mieć świadomość tego, że przepisy jednak muszą te zjawiska w jakiś sposób regulować, bo inaczej ludzie będą się czuć bezkarni. Stąd nie może to być na pewno na poziomie wykroczenia, bo ludzie nie boją się wykroczeń. Kara za wykroczenie nie jest wysoka. Poza tym sam zwrot „wykroczenie” nie wzbudza w obywatelach lęku, obawy związanej z faktem popełnienia przestępstwa. Chciałabym poprosić pana Krzysztofa Sochę, radcę prawnego w Zespole Prawnym Dowództwa Komponentu Wojsk Obrony Cyberprzestrzeni. Bardzo proszę, pan Krzysztof Socha.

Radca Prawny w Zespole Prawnym Dowództwa Komponentu Wojsk Obrony Cyberprzestrzeni Krzysztof Socha:
Dzień dobry. Krzysztof Socha, radca prawny Wojsk Obrony Cyberprzestrzeni. Pani przewodnicząca, przedmiot tej Komisji nie jest w kręgu zainteresowania ani kompetencji Wojsk Obrony Cyberprzestrzeni. Jestem wyłącznie obserwatorem. Nie mamy zdania w tej sprawie.

Przewodnicząca poseł Barbara Dolniak (KO):
Panie przewodniczący, bardzo proszę. Chciałam to skomentować, ale pan przewodniczący zaczął. Bardzo proszę.

Poseł Sławomir Ćwik (Centrum):
Pani przewodnicząca, dziękuję. Przyznam się, panie mecenasie, że jestem bardzo zaskoczony tym stwierdzeniem, dlatego że w mojej ocenie, może mniej powszechnie rozumiany patostreaming, ale deepfake uderza także w bezpieczeństwo państwa w wielu sytuacjach. I dlatego przyznam się, że jestem zaskoczony, że Wojska Obrony Cyberprzestrzeni nie są tym zagadnieniem zainteresowane, bo to także może właśnie wpływać bardzo istotnie na bezpieczeństwo państwa. Myślę, że to nawet wcześniej wprost wybrzmiało.

Radca Prawny w Zespole Prawnym Dowództwa Komponentu Wojsk Obrony Cyberprzestrzeni Krzysztof Socha:
Źle mnie pan zrozumiał. My oczywiście sobie zdajemy sprawę, jakie niebezpieczeństwa z militarnego punktu widzenia wiążą się z deepfake’iem. Natomiast chodzi o patostreaming. To jest sprawa raczej policyjna niż wojskowa.

Przewodnicząca poseł Barbara Dolniak (KO):
Ale tematem dzisiejszego spotkania nie jest tylko patostreaming, ale również deepfake’i, bo obydwa zjawiska dotyczą po pierwsze, internetu, a po drugie, niosą w sobie ogromną dozę szkodliwych działań. Bardzo proszę panią podpułkownik Izabelę Tomaszewską, pełniącą obowiązki naczelnika Wydziału Psychologii Departamentu Wojskowej Służby Zdrowia Ministerstwa Obrony Narodowej. Bardzo proszę.

Naczelnik Wydziału Psychologii Departamentu Wojskowej Służby Zdrowia Ministerstwa Obrony Narodowej Izabela Tomaszewska:
Dzień dobry. Pani przewodnicząca, szanowni państwo, mogę się oczywiście wypowiedzieć tutaj w zakresie właściwości tej komórki, którą reprezentuję.

Przewodnicząca poseł Barbara Dolniak (KO):
Ale biorąc pod uwagę komórkę, gdzie pani pracuje, chętnie usłyszymy również pani zdanie.

Naczelnik Wydziału Psychologii Departamentu Wojskowej Służby Zdrowia MON Izabela Tomaszewska:
Tak, jak najbardziej. To też jest moje zdanie i moja opinia. Jako służby psychologiczne, które funkcjonują w siłach zbrojnych, współpracujemy tutaj ze specjalistami w zakresie cyberbezpieczeństwa, chociażby w takim po prostu zakresie kształtowania odpowiednich postaw i podnoszenia świadomości żołnierzy, jeśli chodzi o ten zakres, o cyberbezpieczeństwo. Są takie szkolenia, one co roku rzeczywiście wchodzą w zakres edukacyjnych zadań kierowanych i do żołnierzy, którzy są w dobrowolnej służbie wojskowej, i do żołnierzy zawodowych, ale też i do pracowników wojska. Także mamy szkolenia, które dotyczą cyberhigieny i szkolenia, które dotyczą cyberbezpieczeństwa indywidualnego, ale też nakierowanego na bezpieczeństwo organizacji, bo to jest ważne. Druga rzecz, taka myślę trochę bardziej wielowymiarowa i to w kontekście tych procedowanych aktów prawnych, to żołnierze, którzy mają stać na straży bezpieczeństwa państwa, też z drugiej strony oczekują, że państwo zadba o ich bezpieczeństwo w kontekście kształtowania wizerunku i ochrony tego wizerunku sił zbrojnych. Wobec tego myślę sobie, że i żołnierze, i policja, i każda inna służba mundurowa, która dba o bezpieczeństwo państwa, też powinna dostać taką ochronę w tym kontekście, mając na uwadze właśnie deepfake’i, wykorzystanie materiału i wizerunku sił zbrojnych do różnych celów. Dziękuję bardzo.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo dziękuję. Te wszystkie wypowiedzi mające w sobie merytoryczny element pokazują, jakie prace czekają nas w wykonaniu, by stworzyć zarówno dobry projekt ustawy, w konsekwencji ustawę dotyczącą patostreamingu, jak i deepfake’ów, ponieważ są spostrzeżeniami osób, które albo mają na co dzień do czynienia z tym zjawiskiem, albo dokonują od strony merytorycznej oceny takich zjawisk. Panie pośle, czy w tej chwili pan chce zabrać głos, czy za moment?

Poseł Sławomir Ćwik (Centrum):
Mogę teraz?

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo proszę.

Poseł Sławomir Ćwik (Centrum):
Pani przewodnicząca, dziękuję bardzo. Tylko nie wiem, pan jeszcze chyba chciał wcześniej zabrać głos? A nie, to pan poseł Schreiber.

Przewodnicząca poseł Barbara Dolniak (KO):
Pan poseł Schreiber też chce zabrać głos.

Poseł Sławomir Ćwik (Centrum):
Odnosząc się do kwestii zagadnień patostreamingu i deepfake’u, ja bym powiedział, że patostreaming był od zawsze. Zmieniały się jedynie normy społeczne i technologia, jeśli chodzi o prezentację pewnych treści. Mieliśmy, począwszy od starożytności, publiczne ukamieniowanie, ukrzyżowanie, co dzisiaj traktujemy jako coś niedopuszczalnego, jako treści publiczne i nie było wtedy oczywiście środków masowego przekazu, żeby przekazywać to na odległość. W wiekach kilkaset lat temu było publiczne palenie na stosie, co także dzisiaj byśmy tak traktowali. W kinie jeszcze kilkadziesiąt lat temu pewne treści byłyby niedopuszczalne, żeby pojawiły się w filmach prezentowanych publicznie w kinach. Były określone normy, co może się w kinie znaleźć, co nie, a później zostało to przyjęte jako dopuszczalne. Coś, co kiedyś było traktowane jako filmy klasy C, D, które były niskokosztowe i w bardzo wąskiej dystrybucji, później są traktowane jako klasyka kina, na przykład Quentina Tarantino, gdzie przemoc jest znakiem rozpoznawczym tej kinematografii. Przemoc pokazywana, czy jako przemoc seksualna, czy wręcz sceny egzekucji, zabijania kogoś, kiedyś były w kinie niedopuszczalne, dzisiaj są przyjęte. I tutaj zgodzę się z tym, jak pan profesor mówił o tym, że na przykład treści w grach, które później były tak niejako oswajane, pokazywane, przeniknęły do popkultury i dzisiaj są czymś normalnym. I stąd, myślę, że bierze się też zagadnienie patostreamingu, że dzisiaj osoby, które chcą uzyskać zainteresowanie ze strony innych, chcą się wyróżnić, posuwają się do prezentacji treści coraz bardziej niebezpiecznych, obscenicznych, które nie godzą się już z dzisiejszymi normami społecznymi, mimo że one zostały jednak już poluzowane w stosunku do tego, co było kilkadziesiąt lat temu. Myślę, że dlatego dzisiaj też nad tym dyskutujemy, bo z kolei nauka pokazuje, jakie to ma negatywne konsekwencje w wychowaniu dzieci i młodzieży na przyszłość, że to całkowicie niszczy te normy społeczne, do których jesteśmy przywiązani. Z patostreamingiem po części wiąże się zjawisko deepfake’u wtedy, kiedy on jest wykorzystywany także do treści patostreamingowych, aczkolwiek co do zasady to jednak jest coś innego. Deepfake, jak sama nazwa wskazuje, to jest po części oszustwo, także część tych działań jest już spenalizowana w dzisiejszych przepisach karnych, przede wszystkim oczywiście art. 286 Kodeksu karnego, oszustwo, ale jednak po części są one wykorzystywane w szeregu innych dziedzin życia, których nawet byśmy nie penalizowali Kodeksem karnym, ale które dla społeczeństwa są bardzo niebezpieczne. Po części na pewno jest to kwestia bezpieczeństwa państwa pod kątem wojskowości, a więc że może to być wykorzystywane tak, jak państwo na przykład podawali, choćby poprzez fałszowanie rozkazów przekazywanych drogą wideo, bo dzisiaj zrobienie tego to już nie jest żaden problem, ale myślę, że to może być także kwestia na przykład wykreowania jakiejś rzeczywistości w obrazie poprzez stworzenie filmu, który na przykład by pokazywał, że rozpoczęły się działania wojenne na przesmyku suwalskim i zostałoby to wrzucone przez boty do polskiej infosfery w ciągu 15-20 minut pewnego poranka. Wyobraźmy sobie, jakie to niosłoby konsekwencje dla bezpieczeństwa państwa. Tak samo, jeśli chodzi nawet o patostreaming w wojsku, jest oczywiście problem, już nie mamy takiego zjawiska fali jak kiedyś, ale tak samo wyobrażam sobie patostreaming z udziałem wojskowych czy jednostek wojskowych, czy z poligonów, co także może mieć miejsce i myślę, że temu też musimy przeciwdziałać. Ja już nie będę przedłużał, ale jeden z elementów deepfake’u i oczywiście rozwoju technologii. Ja mam świadomość, że prawo niestety nie nadąży już za rozwojem technologii, szczególnie w zakresie sztucznej inteligencji. To jest niemożliwe. Natomiast w jakiś sposób na pewno musimy próbować łagodzić skutki. I to, co ja widzę, ogromne zagrożenie wykorzystania nowych technologii w celu wykorzystywania deepfake’u, to jest problem kampanii wyborczej i wpływu na wyniki wyborów. Co może być dokonywane już nawet nie tylko przez siły polityczne i poszczególne partie, ale przede wszystkim jest to możliwość wpływu na wynik wyborów w kraju przez siły zewnętrzne, które mogą dążyć do wypaczenia tego wyniku. Myślę, że to jest też oczywiście zagadnienie dla ustawodawcy, żeby w tym zakresie pomyśleć o zmianach w Kodeksie wyborczym, co nie jest też zagadnieniem prostym, ale też myślę, że koniecznym i myślę, że w szeregu innych dziedzin także to jest pole do działań. Zarówno dla poszczególnych instytucji, służb, a ostatecznie też dla ustawodawcy. Dziękuję bardzo.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo dziękuję za tę cenną uwagę. Proszę o zabranie głosu pana pułkownika Pawła Dońca, szefa Szefostwa Zarządzania Bezpieczeństwem Cyberprzestrzeni Dowództwa Komponentu Wojsk Ochrony Cyberprzestrzeni. Myślę, że uczymy się nie tylko kwestii prawnych, ale także instytucji, które funkcjonują, nie zawsze znane opinii publicznej. Dokładnie, bardzo proszę pana pułkownika.

Szef Centrum Implementacji Sztucznej Inteligencji Dowództwa Wojsk Obrony Cyberprzestrzeni Piotr Turek:
Witam serdecznie, natomiast poproszę o odczytanie następnej osoby, ponieważ pułkownik Doniec jest nieobecny.

Przewodnicząca poseł Barbara Dolniak (KO):
To w takim razie może pan Piotr Turek. To pan?

Szef Centrum Implementacji Sztucznej Inteligencji Dowództwa Wojsk Obrony Cyberprzestrzeni Piotr Turek:
Dokładnie tak.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo proszę. Z tej samej instytucji. Też pan pułkownik.

Szef Centrum Implementacji Sztucznej Inteligencji Dowództwa Wojsk Obrony Cyberprzestrzeni Piotr Turek:
Witam państwa serdecznie. Jestem szefem Centrum Implementacji Sztucznej Inteligencji Dowództwa Komponentu Wojsk Obrony Cyberprzestrzeni, nowej komórki, która w zeszłym roku ukonstytuowała się do implementacji sztucznej inteligencji w siłach zbrojnych. Jeśli chodzi o deepfake i patostreaming, tutaj oczywiście jako siły zbrojne, jako Dowództwo Komponentu Wojsk Obrony Cyberprzestrzeni bierzemy czynny udział w mitygacji, rozpoznaniu i identyfikacji tego typu zagrożeń. Zgadza się, szczególnie działania deepfake postrzegane są przez dowództwo komponentu Wojsk Obrony Cyberprzestrzeni w charakterze nowych wyzwań, nowego wektora ataku. Mówimy tutaj o wojnie informacyjnej i w tym zakresie nasze zespoły CSIRT-owe w trybie 24/7 działają i reagują na te incydenty, które mogą mieć znamiona incydentu o charakterze zagrożenia militarnego. Szanowni państwo, taki najbardziej znany tutaj deepfake, który był w charakterze takiej wojny kognitywnej, poznaliśmy na początku rozpoczęcia pełnoskalowej inwazji Ukrainy na Rosję, gdzie pojawiła się fałszywa informacja. Widzieliśmy prezydenta Zełenskiego, który informował swoich żołnierzy, żeby się poddali, że on rezygnuje z działań wojennych. To jest taki znamienny i charakterystyczny przykład tego, jak ta informacja kognitywna może oddziaływać w domenie cyberprzestrzeni. Mówimy tutaj również w kontekście tej dezinformacji na oddziaływanie podczas działań zbrojnych, ponieważ wyobraźcie sobie państwo taką sytuację, kiedy rozpoczniemy potencjalnie pełnoskalową obronę państwa polskiego, nasi przeciwnicy mogą i na pewno zrealizują kampanię dezinformacyjną, gdzie, tak jak tutaj zostało określane, stracimy poczucie jako obywatele, co jest prawdą, a co jest fałszem. Jeśli na przykład zostanie wywołany fałszywy element o ewakuacji jakiejś części miasta, tak naprawdę będzie to bezpośrednio oddziaływało również na działania zbrojne, ponieważ obywatele w panice będą uciekać, blokować drogi i wojsko nie będzie mogło reagować. Tego typu zagrożenia są bardzo istotne, bardzo poważnie traktowane przez resort, przez Dowództwo Komponentu Wojsk Obrony Cyberprzestrzeni. Ja jako szef Centrum Implementacji Sztucznej Inteligencji w zeszłym roku prowadziliśmy z Instytutem Badawczym IDEAS cztery projekty w zakresie cyberbezpieczeństwa. Jednym z nich był również projekt z obszaru dezinformacji. My tutaj bardzo mocno współpracujemy z naszymi służbami, wojskami specjalnymi, wspieramy ich w ramach rozpoznania tych cyberzagrożeń. Tutaj też chciałem trochę sprostować te elementy, o których tutaj częściowo moi przedmówcy mówili, o tym, że nie da się dzisiaj tak naprawdę skutecznie rozpoznawać informacji prawdziwej od tej dezinformacji. Tutaj naprawdę, tak jak sztuczna inteligencja, szczególnie ta generatywna AI, jest w stanie generować tę dezinformację, ale niemalże te same algorytmy są w stanie dzisiaj rozpoznawać tę dezinformację. Tutaj, szanowni państwo, to jest clou sprawy. Tutaj też zgadzam się w całości z wypowiedzeniem moich poprzedników, że prawo, legislacja w takim standardowym wymiarze nie przystaje do zagrożeń w kontekście cyberbezpieczeństwa i dezinformacji, bo wyobraźcie sobie państwo dezinformację, deepfake’i w kontekście militarnym. Tutaj praktycznie 100% tego typu zagrożeń pochodzą ze wschodu. I pytanie, czy jakakolwiek penalizacja tych zachowań ma sens? Przecież wiadomo, że nikogo z Zachodu nie ukarzemy za działania w zakresie dezinformacji, ponieważ są to grupy cyberprzestępcze, dobrze zorganizowane. Ujawnienie ich danych jest praktycznie niemożliwe. Tutaj to, co moglibyśmy robić i to, co powinniśmy robić, to trochę zmienić fokus współczesnego myślenia o karaniu działań cyberprzestępczych w kontekście dezinformacji. Tutaj według mnie powinniśmy głównie się pochylić w kontekście stworzenia takich regulacji prawnych, żeby wymusić niejako ciężar oceniania, co jest dzisiaj dezinformacją, a co nie, na dostawców usług. Tutaj mówimy o tych superscalarach, ich za dużo nie ma tak naprawdę, są to najwięksi gracze zachodni. Kontekst tego, o czym też było dzisiaj mówione, bo jeśli te spółki generują przychód z publikacji różnych materiałów, które wzbudzają emocje wśród obywateli, to można próbować wymusić na nich blokowanie za pomocą algorytmów pozycjonowania tego typu materiału. Technologie do wykrywania dezinformacji są dostępne. Można by było spróbować pokusić się o ukierunkowanie legislacji w tym kierunku, żeby karać te podmioty za publikowanie i skalowanie dostępu do tego typu informacji albo również ich blokowanie. Wiem, że to nie jest takie proste, ale znowu zastanówmy się, co wywoła największe zniszczenie i większe szkody. Czy jeśli nad wyraz zblokujemy pewne działania i pewien materiał, czy dopuścimy, że ten materiał w przypadku zagrożeń militarnych może mieć oddziaływanie dla bezpieczeństwa państwa? To trzeba traktować bardziej w kierunku międzynarodowych działań terrorystycznych, ponieważ to oddziaływanie może mieć kluczowe znaczenie dla obywateli i ich bezpieczeństwa. Jeśli chodzi o tego typu działanie, wiem, że szczególnie służby ABW, SKW i CSIRT-y mają szczególne uprawnienia w kontekście blokowania podmiotów, które taką dezinformację rozsiewają. Natomiast wiem, że oczywiście diabeł tkwi w szczegółach i pewne ograniczenia też są nałożone. Musimy tutaj skoncentrować się na tym, żeby tym służbom maksymalnie ułatwić możliwość blokowania tego typu elementów. Ale znowu odsyłam do dostawców usług, ponieważ jak wiemy, w głównych źródłach kreowania tych deepfake’ów znajdują się tak naprawdę providerzy, dostawcy technologii i dobrze wiedzą, gdzie jest duże zgrupowanie kart SIM, które potencjalnie może generować kreowanie tego typu zagrożeń. Przy współpracy między innymi z policją, ze służbami, można spróbować zwiększyć oddziaływanie na dostawców usług tak, żeby nie bać się tego, żeby przez przypadek zablokować za dużo, tylko żeby po prostu blokować. Ja, jako przedstawiciel sił zbrojnych, jestem zwolennikiem pewnych radykalnych rozstrzygnięć, dlatego że, pytanie, co jest lepsze. Czy będziemy się zastanawiać, w jaki sposób ograniczyć skalę deepfake’ów w szkołach? Czy może powinniśmy się bardziej zastanawiać, jak zablokować tak naprawdę dostęp dla młodzieży i dzieci do mediów społecznościowych? Być może powinniśmy się zastanawiać, czy zasadnym jest wykorzystywanie telefonii komórkowej w szkołach i tego typu elementów. Dlatego mówię, że trzeba według mnie zrobić sobie bilans zysków i strat i trzeba rozważyć, co globalnie wyniesie większą szkodę dla społeczeństwa. Generalnie rzecz biorąc, jestem zwolennikiem radykalnych działań, ponieważ mamy tutaj do czynienia ze zjawiskiem pewnego oddziaływania, które w przypadku zagrożeń militarnych może odnieść efekt skali. Dlatego że, jeśli ktoś wypuści dezinformację na początku jakichś działań wojennych, będzie to informacja bardzo chodliwa i dostawcy usług będą robić wszystko, żeby te algorytmy bez specjalnego zabezpieczenia i informację, która bardzo dobrze się ogląda propagować, zobaczyli wszyscy. Naszym zadaniem jest właśnie zapobiegać tego typu działaniom. Tak że dziękuję bardzo.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo dziękuję za te cenne i istotne uwagi dla całej dyskusji i jej kierunku, bo to nie tylko działania w stosunku do małoletnich, dorosłych osób w tym świecie cywilnym, niezwiązanym z bezpieczeństwem, tak to ujmę, ale myślę, że jest również ogromne znaczenie tych zjawisk w kwestii tak ważnych tematów jak bezpieczeństwo. Proszę państwa, zostało nam Ministerstwo Sprawiedliwości, pan Tomasz Kuźma, zastępca dyrektora Departamentu Prawa Karnego w Ministerstwie Sprawiedliwości i pan doktor Łukasz Rosiak, główny specjalista w Departamencie Prawa Karnego w Ministerstwie Sprawiedliwości. Posłuchajmy więc, co Ministerstwo Sprawiedliwości przygotowuje w tych tematach, nad czym pracuje, dokąd zmierzają te kierunki rozwiązań. Bardzo proszę.

Zastępca dyrektora Departamentu Prawa Karnego Ministerstwa Sprawiedliwości Tomasz Kuźma:
Dziękuję bardzo za umożliwienie zabrania głosu w tym zakresie. Przysłuchując się tej dyskusji, chciałem zaznaczyć na początku, że kwestia patostreamingu i deepfake’ów leży w zainteresowaniu Ministerstwa Sprawiedliwości. Niemniej, z uwagi na to, że procedowane są projekty poselskie, rząd nie przygotowuje w tym momencie żadnych własnych projektów, tylko pracuje nad tymi projektami, które zostały dotychczas zgłoszone. Zostałem poproszony o przedstawienie stanowiska odnośnie druku nr 2208. Stanowisko Departamentu Prawa Karnego w tym zakresie jest pozytywne. Departament Prawa Karnego stoi na stanowisku, że te regulacje, które są zawarte w tym druku, są szersze i trochę szerzej proponują penalizację tych zachowań, które mają wchodzić w zakres patostreamingu. Przede wszystkim w projektowanym art. 255b jest wskazany także pkt 4 § 1, który dotyczy urządzania gier hazardowych. To są przepisy normowane w Kodeksie karnym skarbowym i to Departament Prawa Karnego opiniuje pozytywnie. Tego nie ma w projekcie nr 1613, co do którego stanowisko Departamentu Prawa Karnego jest negatywne. Referentem sprawy jest pan doktor Łukasz Rosiak, który zajmuje się tym na co dzień i odpowie na wszelkie szczegółowe pytania Komisji. Ja, jeśli pani przewodnicząca pozwoli, mam taką jedną refleksję dotyczącą tej całej dyskusji w dniu dzisiejszym odnośnie deepfake’ów. Tak jak to było wskazane na początku, kwestia deepfake’ów nie jest jeszcze procedowana jako jakiś projekt legislacyjny. Ja chciałem zwrócić uwagę na to, że jeżeli będzie spenalizowane przestępstwo wykorzystywania, przechowywania, dystrybucji deepfake’ów, to trzeba zwrócić uwagę na taki paradoks, że tego rodzaju zachowanie konkretnego sprawcy może nie wywoływać pokrzywdzenia u żadnej osoby. Co to oznacza? Stworzenie deepfake’u wcale nie musi polegać na wytworzeniu wizerunku osoby, która istnieje. Może się okazać, że na podstawie algorytmu nauczonego setkami tysięcy zdjęć zostanie wytworzona osoba, która w rzeczywistości nie istnieje. W związku z powyższym, z perspektywy formalnoprawnej, proceduralnej, może pojawić się problem z ustaleniem osoby pokrzywdzonej, której nie będzie, bo wizerunek, który został wytworzony za pomocą algorytmów, nie przedstawia nikogo rzeczywistego. Z drugiej strony mamy do czynienia z faktem, że algorytm nauczył się czegoś na podstawie na przykład setek czy milionów zdjęć. W związku z powyższym, ustalenie kręgu osób pokrzywdzonych danym zachowaniem może stanowić problem. To z perspektywy procesowej może się wiązać z koniecznością ograniczenia kręgu osób pokrzywdzonych, bądź też wypracowaniem jakichś rozwiązań, które pozwalałyby na udział jakichś organizacji społecznych reprezentujących zbiorowe interesy, powiedzmy, które mogłyby w tym momencie domagać się zasądzania nawiązek czy świadczeń pieniężnych, które mogłyby być potem egzekwowane od konkretnego sprawcy. Ja też chciałem jeszcze zwrócić uwagę na to, co mój przedmówca zaznaczał, że prawo karne jako ultima ratio zazwyczaj dotyczy konkretnej osoby fizycznej, która ponosi odpowiedzialność karną. Mamy do czynienia z takim problemem, że nie da się ukarać podmiotu zbiorowego, osoby prawnej czy jednostki organizacyjnej posiadającej osobowość prawną, która na przykład dostarcza tego rodzaju treści. W związku z powyższym należałoby się też zastanowić nad tym w ramach uregulowania deepfake’ów, czy nie sięgać po jakieś sankcje karno-administracyjne w stosunku do dostawców tego rodzaju rozwiązań, które umożliwiają generowanie treści negatywnych społecznie, mówiąc ogólnie.

Przewodnicząca poseł Barbara Dolniak (KO):
Pozwoli pan, że się odniosę do dwóch kwestii. Myślę, że stworzenie obrazu postaci, osoby nieistniejącej to jest swoistego rodzaju narzędzie. I tak patrzymy na początkową część, czyli osobę, która wymyśliła pomysł, stworzyła go i ona jest niejako tym sprawcą i krąg osób, na które to wpłynęło negatywnie i w tym związku z tym poniosły szkodę, natomiast wizerunek może być faktycznie fikcyjny, w rzeczywistości nieistniejącej osoby, ale to ciągle, wydaje mi się, pozostaje narzędziem. To jedna kwestia, ale rzeczywiście jest to temat wymagający głębokiej dyskusji, bo penalizacja nie może iść w skrajność, gdyż stworzą nam się rozwiązania, które niekoniecznie będą służyć eliminacji negatywnych zjawisk. Natomiast co do odpowiedzialności, zawsze możemy powiedzieć, że szef odpowiada za swoją instytucję. Czyli jeżeli dana osoba prawna wypuszcza deepfake’i, to szef odpowiada za to, co jest reprezentowane w przestrzeni przez daną instytucję i nie może zasłaniać się kwestią niewiedzy, nieznajomości tematu. Pan Tomasz Kuźma, bardzo proszę.

Zastępca dyrektora Departamentu Prawa Karnego MS Tomasz Kuźma:
To byłem ja.

Przewodnicząca poseł Barbara Dolniak (KO):
Przepraszam, pan Łukasz Rosiak. Panie doktorze, bardzo proszę.

Główny specjalista w Departamencie Prawa Karnego MS Łukasz Rosiak:
Pani przewodnicząca, dziękuję. Szanowna pani przewodnicząca, szanowni państwo, tak jak powiedział mój przedmówca, pan dyrektor, generalnie Departament Prawa Karnego aprobująco podchodzi do projektu poselskiego z druku sejmowego nr 2208. Ten projekt uwzględnia zasadniczą część uwag opinii Komisji Kodyfikacyjnej Prawa Karnego, która zajmowała się tematyką patostreamingu. Sama kwestia patostreamingu w naszej ocenie zasługuje na kryminalizację. Jeśli chodzi o dane statystyczne, to tak jak to pani przewodnicząca na początku dzisiejszego posiedzenia przedstawiła, niestety znaczna część młodych ludzi i populacji młodzieży ma kontakt z patostreamingiem. Możemy też na przykład wskazać, że chociażby wyniki konsultacji społecznych zamieszczone na stronie sejmowej odnośnie druku nr 2208 wskazują, że aż 85% ankietowanych uważa, że ustawa w tym zakresie powinna być przyjęta. Jeśli chodzi o kwestię patostreamingu, to tutaj niepokojące jest to, że część, zwłaszcza młodszych odbiorców, może uważać, że zachowania prezentowane na niektórych portalach internetowych, zwłaszcza tych, których algorytmy nie blokują skutecznie treści o charakterze patostreamingu, są społecznie akceptowalne, a przecież część tych zachowań jest jednak nastawiona na monetyzację, bo tutaj mamy albo z reguły chęć uzyskania jakiegoś rozgłosu, jakiejś korzyści osobistej, albo, także równolegle, chęć uzyskania środków finansowych z monetyzacji treści. Część młodych ludzi może sobie zdawać sprawę, może tak myśleć, że po co mają podejmować edukację i mają się uczyć, skoro mogą zarobić, uzyskać często znaczne środki, publikując treści, powiedzielibyśmy, społecznie szkodliwe. Bo przecież patostreaming to jest nic innego jak publikowanie treści społecznie nieakceptowalnych, które godzą w określone dobra chronione prawnie, które tak naprawdę służą realizacji budowy contentu, treści dla tych twórców i zdobywania właśnie rozgłosu albo środków finansowych. Kwestie patostreamingu odnośnie ochrony prawno-karnej zwierząt podnosiliśmy także w Ministerstwie Sprawiedliwości na seminarium organizowanym 9 lutego tego roku, kiedy analizowaliśmy także kwestię, problematykę patostreamingu dotyczącego właśnie ochrony prawnokarnej zwierząt. Też należy wskazać, że oczywiście mamy coś takiego jak subsydiarność prawa karnego, czyli inne gałęzie prawa powinny w swoim zakresie czynić zadość przeciwdziałaniu pewnym zjawiskom, ale niestety ten problem związany z patostreamingiem, który jest rozpowszechniony, występuje w Polsce, urósł do takich rozmiarów, że wydaje się, że tylko reakcja prawnokarna mogłaby zminimalizować skutki tego patostreamingu i zmniejszyć liczbę takich treści w przestrzeni publicznej. Podnosi się czasem w literaturze przedmiotu coś takiego jak społeczna odpowiedzialność influencerów, czyli osób, które mają gigantyczne zasięgi, mówiąc kolokwialnie, które swoimi treściami, które publikują, kształtują często osobowość, zwłaszcza młodych ludzi. Dlatego tutaj aprobująco podchodzimy do tego, że są procedowane projekty w Komisji, które zapewne będą podlegały pewnym przeobrażeniom i jeszcze będą podlegały dyskusji. Jeśli chodzi o kwestię deepfake’u, to tutaj Komisja Kodyfikacyjna Prawa Karnego pracuje nad pewnymi rozwiązaniami. Ministerstwo Sprawiedliwości przeanalizowało w wybranych państwach Unii Europejskiej, czy te rozwiązania odnośnie deepfake’u tam funkcjonują. Na przykład chociażby w Niemczech nie ma konkretnych przepisów dotyczących deepfake’u, ale starają się tam zwalczać to zjawisko za pomocą oszustwa czy zniesławienia. Oczywiście część państw podchodzi do tej ochrony szerzej, jak na przykład Francja. Są państwa, gdzie w ogóle jeszcze ta tematyka nie została podjęta legislacyjnie, ale zdajemy sobie sprawę, że tak jak tutaj zostało powiedziane, rozwój nowoczesnych technologii wyprzedza ustawodawstwo i prawo, ale staramy się tutaj aktualnie w zakresie deepfake’ów przygotować jakieś rozwiązania, analizując międzynarodowe uregulowania prawno-karne i czekając także na opinię Komisji Kodyfikacyjnej Prawa Karnego, która działa przy Ministerstwie Sprawiedliwości i jest gremium złożonym z wybitnych ekspertów, którzy analizują to zjawisko i starają się wypracować jakąś opinię, jakieś być może robocze wersje przepisów. Dziękuję bardzo.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo dziękuję. Zanim będę miała pytanie, to powiem państwu, że włoski parlament we wrześniu ubiegłego roku przyjął ustawę ramową, która reguluje kwestię sztucznej inteligencji oraz sprawę ochrony prywatności. Włochy jako pierwszy kraj Unii Europejskiej wprowadziły przestępstwo dotyczące deepfake’ów. W związku z tym warto, tworząc własne rozwiązania, korzystać czy też przyglądać się rozwiązaniom innych, bo w Danii do kodeksu karnego wprowadzono zakaz deepfake’ów przedstawiających prawdziwe osoby w kontekstach seksualnych. Tam grożą wysokie kary dla takich osób. Przewidziane są tylko pewne wyjątki dla satyry i parodii, czyli ochrony wolności słowa i wyznaczone są w związku z tym po prostu granice. Tak że myślę, że opracowując rozwiązanie, trzeba przyglądać się, jak te przepisy wprowadzone w innych krajach funkcjonują w praktyce, bo często jest tak, że te przepisy wprowadzone w praktyce pokazują, w jakim kierunku można je zmienić, poprawić albo okazują się po prostu dobre i nie warto wyważać niepotrzebnie drzwi. Ja mam tylko jeszcze pytanie, czy do tego projektu dotyczącego patostreamingu, o którym mówił pan doktor, Ministerstwo planuje wskazać jakieś kierunki, w których powinny nastąpić zmiany inne niż zawarte w projekcie?

Główny specjalista w Departamencie Prawa Karnego MS Łukasz Rosiak:
Szanowna pani przewodnicząca, na pewno będziemy brali udział w posiedzeniach Komisji czy podkomisji i w miarę możliwości będziemy zabierali głos.

Przewodnicząca poseł Barbara Dolniak (KO):
Dobrze. To w takim razie zapraszam już dzisiaj. Chyba jeszcze pan ekspert Konfederacji Lewiatan, pan Arkadiusz Cyman. Czy jest? Bardzo proszę.

Ekspert Konfederacji Lewiatan Arkadiusz Cyman:
Szanowna pani przewodnicząca, szanowna Komisjo, szanowni państwo, jestem w tej jakże szczęśliwej sytuacji, że mogę dzisiaj wyrazić radość. Cieszę się z dwóch rzeczy. Po pierwsze, z tego, że projekt poselski przewiduje penalizację patostreamingu w dziedzinie hazardu, ponieważ to jest problem, który naprawdę nam od jakiegoś czasu narasta coraz bardziej. On ma o tyle szczególny charakter, że to jest jednocześnie promowanie biznesu, który jest nielegalny, zachęcanie polskich obywateli do popełniania przestępstwa, ponieważ korzystanie z nielegalnego hazardu jest również przestępstwem. Jednocześnie tworzy pewien fikcyjny obraz tego, czym w ogóle jest hazard, ponieważ gra streamowana przez ludzi, którzy robią to na zlecenie i za pieniądze, nie do końca jest tym samym, czego później doświadcza użytkownik, ponieważ w kasynach internetowych możliwość ustawienia wysokości wygranych czy tak zwanego współczynnika wygrywalności istnieje i można zrobić tak, że człowiek, który pokazuje swoją grę, osiąga ponadprzeciętnie korzystne wyniki, które nigdy nie będą udziałem osób, które za jego przykładem zdecydują się na korzystanie z tego rodzaju serwisów. To wszystko dzieje się oczywiście po to, żeby osiągać wielkie korzyści finansowe, zarówno przez organizatorów tego hazardu, jak i streamerów. Tutaj też, podobnie jak w przypadku tego, o czym mówił pan pułkownik, wiele śladów prowadzi na wschód. Dzisiaj nielegalny hazard jest także sposobem na omijanie sankcji nałożonych na Rosję i Białoruś. Jeszcze druga rzecz, która mnie cieszy, to poparcie Ministerstwa Sprawiedliwości dla tej zmiany, niewątpliwie. Natomiast jest jeszcze rzecz, o której chciałbym wspomnieć, a która idzie ewidentnie w parze z kryminalizacją patostreamingu czy streamingów reklamowych hazardu, ponieważ ukaranie osoby, która takie treści rozpowszechnia, tworzy, to jest jedna rzecz, ale druga rzecz to są same treści, które w tym internecie nadal będą funkcjonować i w dzisiejszych realiach one mogą nadal istnieć i być dostępne nawet po wyroku na taką osobę. Tu chciałbym wspomnieć o tym, że trwają jednocześnie prace nad nowelizacją ustawy o świadczeniu usług drogą elektroniczną. Proszę państwa, tam jest taki moment, w którym pojawiają się artykuły z Kodeksu karnego skarbowego, których naruszenie będzie stanowić podstawę do blokowania treści. W tym momencie nie ma tam niestety art.107 i art. 111 KKS-u, które dotyczą organizacji gier hazardowych. Być może pewnym kompleksowym rozwiązaniem, obok penalizacji i rozpowszechniania tych treści, będzie wzmocnienie także możliwości blokowania dostępu do tych treści w internecie. Dziękuję ślicznie.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo dziękuję. W ten sposób wyczerpaliśmy listę gości zabierających głos. Bardzo proszę, czy zapomniałam o panu? Ale bardzo proszę o zabranie głosu. Posłuchamy również pana.

Przedstawiciel Fundacji Obserwatorium Demokracji Cyfrowej Mateusz Łabuz:
Dziękuję. Doktor Mateusz Łabuz, bardzo mi miło, Fundacja Obserwatorium Demokracji Cyfrowej, a na co dzień pracownik Instytutu Badań nad Pokojem i Polityką Bezpieczeństwa przy Uniwersytecie w Hamburgu. Ja zajmuję się na co dzień deepfake’ami, w związku z czym pominę kwestię patostreamingu i skoncentruję się tylko na deepfake’ach. Zgadzam się absolutnie z tym, że prawo karne nie nadąża za rozwojem technologii. Natomiast proszę pamiętać, że pierwsze deepfake’i pojawiły się w 2017 roku, 9 lat temu i wtedy już nie trzeba było być wizjonerem, żeby przewidzieć, jaki będzie dalszy rozwój tej technologii, bo od samego początku deepfake’i, które tworzono, były deepfake’ami w naturze pornograficznymi. To znaczy przerabiano wizerunki aktorek, celebrytek i nakładano je na filmy pornograficzne. Zresztą technologia deepfake przez długi czas rozwijała się właściwie na trenowaniu różnych modeli, a później na tworzeniu różnych treści, które były z natury pornograficzne. Minęło już 9 lat, nie mamy do tej pory żadnych konkretnych rozwiązań, przynajmniej nie w Polsce. Na poziomie europejskim, to już wspomniano, że mamy dwa akty prawne. To jest DSA i to jest AI Act. Rzeczywiście w AI Act mamy definicję deepfake’ów i ta definicja, bo już też tutaj odnosiliśmy się do tego, czy coś istnieje, czy nie istnieje, również będzie nastręczała troszkę problemu, bo jeżeli spojrzymy na nią literalnie, to ona wcale nie jest taka jednoznaczna. Deepfake’i oznaczają wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo i tu jest wszystko jasne, które przypominają istniejące osoby. Tutaj mamy słowo „istniejące” i to już samo to słowo będzie nam nastręczało sporo problemów, dlatego że jeżeli będziemy mieć deepfake czy powiedzmy syntetyczną treść, która nie przedstawia osoby, która istnieje, ale ma bardzo duży potencjał dezinformacyjny do wprowadzania w błąd albo na przykład miejsce, które nie istnieje, ale przypomina jakieś inne, to również będziemy mieć do czynienia z potencjalnie dużą szkodliwością społeczną, a niekoniecznie będzie to deepfake. To jest pierwsza rzecz, na którą trzeba będzie zwrócić uwagę, czyli w jaki sposób implementować do polskiego prawa definicję deepfake’ów i jak ją ewentualnie dostosować. Deepfake’i to jest dosyć skomplikowane zjawisko, które należałoby rozpatrywać wielowymiarowo. Z jednej strony mamy treści, które dotyczą dorosłych i tutaj chyba nie ma wątpliwości, że treści seksualizujące powinny być w odpowiedni sposób penalizowane. Część krajów wprowadziła już takie przepisy. W Stanach Zjednoczonych w ubiegłym roku przyjęto Take It Down Act, który został przyjęty zarówno przez republikanów, jak i przez demokratów. Obie partie były tutaj jednogłośne i współpracowały. Tam również pojawia się nacisk na platformy cyfrowe, które są zobowiązane do tego, żeby w ciągu  48 godzin usuwać takie treści, czyli dużo lepiej je moderować. Jest to też dosyć istotne i tutaj też pan pułkownik wspominał o tym, że należałoby dużo bardziej przycisnąć platformy cyfrowe, które tworzą pewien ekosystem do rozpowszechniania tego typu treści. Polskie prawo karne teoretycznie mogłoby odpowiadać już na wyzwania związane z utrwalaniem wizerunku nagiej osoby, ale w doktrynie jest pewien spór, dlatego że jeżeli będziemy mieć hybrydową treść, czyli czyjąś twarz, czyjś wizerunek przeszczepiony na treść pornograficzną, ciało innej osoby albo ciało, które zostało w 100% wygenerowane przez sztuczną inteligencję, prawdopodobnie nie będzie tego można kwalifikować z art. 191a Kodeksu karnego. Dlatego debatę na temat deepfake’ów trzeba prowadzić w trzech równorzędnych tematach. Po pierwsze, treści seksualizujące dotyczące osób dorosłych i tutaj zasadne byłoby zmodyfikowanie art. 191a Kodeksu karnego. Druga kwestia to jest publiczne prezentowanie treści pornograficznych dotyczących małoletnich, czyli treści pedofilskich. Tutaj mamy art. 202 § 4b, który już powinien obejmować deepfake’i, dlatego że odnosi się do wytworzonego albo przetworzonego wizerunku małoletniego. Zgadzamy się, że sztuczna inteligencja też będzie pod to tutaj podpadała, ale z kolei rozjechała nam się z rzeczywistością sankcja, bo jest bardzo niska. W związku z tym tutaj należałoby dopasować sankcje do tego, że takie treści są po prostu nieodróżnialne dla osób, które prezentują, wyświetlają takie treści. Nie ma znaczenia, czy to jest prawdziwe dziecko, czy to jest dziecko, które zostało wygenerowane przez sztuczną inteligencję, bo nie są tego w stanie odróżnić, więc tutaj społeczna szkodliwość jest równie wysoka. Trzeci problem to jest kwestia dezinformacji. Deepfake’i per se są dezinformujące, bo mają wprowadzać w błąd odbiorcę i obawiam się, że nawet oznaczanie treści nie będzie odpowiednią przeszkodą, dlatego że niektóre treści można oznaczyć, one rzeczywiście na pierwszy rzut oka będą wydawały się nieprawdziwe i być może będzie to jakiś sygnał dla odbiorców, że z takimi treściami nie należy odpowiednio interagować, ale w wielu wypadkach treści pornograficzne, które będą oznaczone, będą wywoływały dokładnie taki sam skutek. Tutaj zeznania ofiar, przede wszystkim kobiet, które są pokrzywdzone przez deepfake’i o charakterze pornograficznym, są jednoznaczne. Tu nie ma znaczenia, czy coś będzie oznaczone, czy społeczeństwo wie, że to jest deepfake. Liczy się pewien efekt, który to wywołuje. Te oznaczenia też w 100% nie będą idealne. Wreszcie ostatni punkt, to są długotrwałe konsekwencje. Są takie deepfake’i, które wywołują konsekwencje nawet mimo tego, że zostały oznaczone. Tutaj rzeczywiście wchodzimy w pewien konflikt. Chronimy z jednej strony wizerunek, prawo do prywatności, prawa innych osób, z drugiej strony prawo do wypowiedzi, prawo do ekspresji, wolność słowa. Natomiast takie libertariańskie podejście do deepfake’ów, że można sobie tworzyć treści satyryczne, moim zdaniem jest niewłaściwe i zobaczymy, jak Unia Europejska z tego wybrnie, dlatego że w AI Act mamy rozróżnienie na treści satyryczne i treści deepfake’ów jako takich. To też będzie coś, co należy rozważyć, a na gruncie prawa cywilnego pewnie wzmocnienie ochrony wizerunku albo nowe zdefiniowanie tego, czym jest wizerunek w epoce generatywnej sztucznej inteligencji, która pozwala na jego odwzorowywanie. Jest jeszcze jedna rzecz, na którą chciałem zwrócić uwagę. Deepfake’om należy przeciwdziałać w całym ekosystemie czy łańcuchu dostaw deepfake’ów. Od samego początku, od edukacji, czyli wychowania społeczeństwa, dzieciaków do tego, żeby rozumiały, jakie są konsekwencje rozpowszechniania takich treści. Następnie poprzez przeciwdziałanie rozmaitym aplikacjom i dostawcom takich aplikacji, które pozwalają na rozbieranie innych osób i tworzenie takich treści. Później poprzez odpowiednią moderację przez platformy cyfrowe, penalizację określonych zachowań tych, które bezwzględnie i bezsprzecznie powinny być sankcjonowane. Wreszcie zapewnianie odpowiedniej pomocy ofiarom, czy to będzie pomoc prawna, czy to będzie pomoc psychologiczna, szkolenia dla policjantów, którzy będą musieli rozpatrywać takie zgłoszenia i czasami są troszkę pogubieni, bo nie wiedzą, z którego paragrafu to można kwalifikować. Wreszcie też zwrócenie uwagi na kwestię wykrywania takich deepfake’ów, dlatego że już w tym momencie biegli sądowi mają kolosalny problem z odróżnianiem deepfake’ów od prawdziwych treści pedofilskich. W tym momencie mamy do czynienia z zalewem treści, które zostały wygenerowane przez sztuczną inteligencję, są treściami pedofilskimi i w związku z tym biegli sądowi muszą spędzić nieproporcjonalnie dużo czasu na tym, żeby w ogóle odróżnić, czy mamy do czynienia z prawdziwym pokrzywdzonym dzieckiem, czy to jest deepfake, co oczywiście kosztuje dużo czasu, energii, a jednocześnie opóźnia dotarcie do prawdziwych dzieci, które zostały pokrzywdzone. Co więcej, sprzyja to także normalizacji drastycznych zachowań, bo dużo łatwiej jest wygenerować deepfake, który będzie przedstawiał jakąś drastyczną scenę z dzieckiem, niż wykorzystać realne dziecko. To są również problemy, na które trzeba zwrócić uwagę, a w przypadku systemu sądownictwa także zwrócić uwagę na epistemiczną wartość dowodów, które będą przedstawiane, bo to jest również ogromne zagrożenie. Wyobraźmy sobie, że ktoś przychodzi do sądu i przedstawia deepfake’i jako dowody w postępowaniu. Albo z drugiej strony, mówi się już o tym w literaturze, że jest to tak zwana dywidenda kłamcy, że ktoś twierdzi, że „nagrano mnie”, ale to tak naprawdę nie jestem ja, tylko jest to deepfake. To są również rzeczy, na które trzeba będzie zwrócić uwagę, bo one będą również oddziaływały na system prawny. Bardzo dziękuję.

Przewodnicząca poseł Barbara Dolniak (KO):
Chyba nie bez powodu został pan na końcu, ponieważ podsumował pan syntetycznie naszą dyskusję, za co bardzo dziękuję, ale ta wypowiedź pokazuje, jak szczegółowe i wymagające głębokiego zastanowienia muszą się znaleźć regulacje prawne, które bardzo często są jeszcze ciężkie do takiej syntetycznej oceny, nawet dla prawników, ponieważ do tej pory funkcjonowaliśmy i jeszcze funkcjonujemy w trochę innym świecie. Natomiast internet i patostreaming oraz deepfake otwierają przed nami zupełnie inny obszar wykorzystania materii ludzkiej, internetu i możliwości internetowych. W tym wszystkim musimy pamiętać o tym, żeby to ująć w ramy prawne. Chyba pan poseł Schreiber chciał zabrać głos, z tego co słyszę. Bardzo proszę, panie pośle.

Poseł Łukasz Schreiber (PiS):
Pani przewodnicząca, dziękuję. Wysoka Komisjo, ja może bardzo krótko, bo ta debata pokazuje, że wszyscy w gruncie rzeczy, którzy zabierali głos, myślą de facto bardzo podobnie, co oczywiście cieszy. Cieszy także to, że wszystkie opcje polityczne myślą tutaj też bardzo podobnie. Widzieliśmy to zresztą na dwóch posiedzeniach podkomisji do spraw nowelizacji prawa karnego, której mam zaszczyt przewodniczyć i ten temat już stawał. Był jeden projekt, pojawił się teraz drugi. Świetnie. Myślę, że nie jest najbardziej istotne, który z nich finalnie będzie przegłosowany. Najbardziej istotne jest, żeby on został przegłosowany. Mam tylko może taką smutną wątpliwość. Może wynika to z pewnej dozy pesymizmu, jeżeli patrzę na działania parlamentu, że możemy być świadkami takiej oto sytuacji, w której teoretycznie wszyscy chcemy tę sprawę uregulować, ale wiemy, że pojawia się mnóstwo problemów, bo problemy są także natury legislacyjnej, nawet w jakimś podstawowym pakiecie w kwestii tego, w jaki sposób ma wszystko zostać zapisane.  Nie da się tego uregulować tak, by nie stwarzało to żadnych komplikacji. Wszyscy także zdajemy sobie z tego sprawę. Żeby nie stwarzało wątpliwości interpretacyjnych później, także potencjalnie dla sądów i osób, które będą miały podejmować decyzje, dla prokuratury i innych. Także to jest coś, z czym musimy się zmierzyć i żeby to się nie skończyło finalnie tak, że ten parlament nie będzie w stanie rozwiązać tej sprawy. Dlatego osobiście staram się apelować, żebyśmy naprawdę, szanując bardzo tę dyskusję, która się tutaj odbyła i biorąc serio wszystkie głosy, które padły i dziękując wszystkim państwu za to, że przyszliście, mówię zwłaszcza nie tylko o przedstawicielach ministerstw, ale wszystkich organizacji, które tutaj zabrały głos, że poświęcacie czas, swoją energię. Przyszliście przygotowani w wielu przypadkach z ciekawymi pomysłami i rozwiązaniami, ale żeby nam finalnie nie zabrakło determinacji, by ten projekt doprowadzić do końca. Ja mówię, że nawet w wersji, bym powiedział, początkowo mniej ambitnej, ale żebyśmy w ogóle ruszyli z miejsca, nawet z jakimś vacatio legis, które moim zdaniem powinno być dłuższe niż w przypadku, przynajmniej jakiejś przeciętnej ustawy, żeby przeanalizować także później różne wątpliwości i móc przygotować wszystkie potrzebne służby do działania, ale żeby z tego parlamentu wyszedł projekt, który rozwiąże przynajmniej część problemów i to osób, o które chyba wszyscy musimy się troszczyć najbardziej, czyli tych, które są najbardziej niewinne i najbardziej zagrożone dzisiaj. Dziękuję bardzo.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo dziękuję. Panie pośle, mam nadzieję, że wygłosi pan te uwagi także do swoich kolegów, którzy będą uczestniczyć w procesie tworzenia tego projektu. Jest to projekt kompletnie apolityczny i trzeba na niego spojrzeć jako projekt, który ma pomóc najbardziej dotkniętym tymi zjawiskami osobom, a więc nie polityka, tylko merytoryczne podejście i na końcu prezydent podpisze uchwaloną ustawę. Pani poseł Karolina Pawliczak i potem pani poseł Elżbieta Polak.

Poseł Elżbieta Polak (KO):
Dziękuję bardzo.

Poseł Karolina Pawliczak (KO):
Ja właśnie dokładnie to chciałam powiedzieć.

Przewodnicząca poseł Barbara Dolniak (KO):
To w takim razie cieszę się, że wypełniłam myśl moich koleżanek posłanek. Już nie widzę, żeby ktoś chciał zabrać głos. Bardzo państwu dziękuję. Bardzo proszę, jeszcze pan.

Prawnik w Zespole Prawa Karnego Biura RPO Michał Wawrzyńczak:
Tak, Michał Wawrzyńczak, Biuro Rzecznika Praw Obywatelskich. Teraz pytanie do szanownej pani przewodniczącej, czy skorzystać z tej zachęty i przedstawić dwie uwagi, jedną w charakterze reprezentanta Biura Rzecznika Praw Obywatelskich, a jedną w charakterze akademika, czy tylko ograniczyć się do reprezentowanej przeze mnie instytucji? Bo w tym zakresie chciałbym tylko wskazać, że biuro rzecznika bardzo chciałoby brać udział w pracach, które toczy parlament i chcielibyśmy zachęcić państwa do tego, żeby konsultować z nami jak najwięcej tych projektów, żeby kierować do nas po prostu prośby o wyrażanie opinii. Akurat jeśli chodzi o te poselskie projekty, to do nas taka prośba nie dotarła, a też biorąc pod uwagę liczebność nas w Biurze Rzecznika Praw Obywatelskich, nie jesteśmy w stanie monitorować każdego projektu, który się pojawia ze strony posłów czy ministerstw, organizacji społecznych i które trafiają ostatecznie pod głosowania, a na pewno by nam to ułatwiło możliwość przedstawienia naszych pisemnych, niekiedy rozbudowanych uwag do tych projektów. Chciałem też powiedzieć w imieniu Biura Rzecznika Praw Obywatelskich o tym, co zaznaczałem, ale nie mówiliśmy o tym bardziej szczegółowo w tych uwagach na początku naszego spotkania, że prędzej czy później i tak będziemy musieli te wszystkie kwestie uregulować i one dotyczą przede wszystkim tych kwestii, które podnosili wszyscy z państwa przedstawiających swoje stanowiska, czyli sposobu i momentu zabezpieczenia tych treści, które widzimy jako potencjalnie szkodliwe. To jest właśnie art. 23 dyrektywy 2024/1385, który dotyczy tak naprawdę w sumie czterech elementów. Zarówno zabezpieczenia danych dla celów dowodowych, umożliwienia tak naprawdę dostępu do tych danych w przypadku podejrzenia, że stanowią jeden z czynów zabronionych, które są wskazane w ramach tej dyrektywy. Dyrektywa oczywiście wyznacza nam normy minimalne, co nie znaczy, że przy uwzględnieniu zasady proporcjonalności z art. 31 ust. 3 Konstytucji parlament nie może w ramach swojej dyskrecjonalności objąć zakresem, w którym takim aktualnie quasi odpowiednikiem art. 23 jest art. 218a KPK, tych czynów zabronionych, w ramach których zamrożenie de facto danych na czas postępowania oraz po wyroku skazującym usunięcie ich z przestrzeni internetowej, miałoby miejsce. Tutaj parlament będzie miał jak najbardziej przestrzeń do dyskusji nad tym, jakie czyny poza tymi, które minimalnie wyznacza nam dyrektywa, powinny znajdować się w sferze tego zabezpieczenia. Jest jeszcze jedna istotna kwestia, ponieważ art. 218a KPK i art. 23 dyrektywy dotyczą tak naprawdę innych dostawców usług. Przepisy krajowe mówią o dostawcach usług cyfrowych, a przepisy unijne o dostawcach usług hostingowych, czyli o tych, które są tak naprawdę zarządcami nie platformy, ale całego serwera, na którym zapisują się dane. Niezależnie od przepisów prawa materialnego, trzeba by było tak czy siak zmodyfikować także przepisy proceduralne, rozszerzając krąg tych podmiotów odpowiedzialnych za zarządzanie, kontrolowanie, usuwanie czy zamrażanie, czyli uniemożliwianie dostępu na czas trwania postępowania do tych danych szkodliwych, przede wszystkim, co wynika z dyrektywy, o charakterze pornograficznym. W tym zakresie parlament jak najbardziej będzie musiał podjąć tę rękawicę rzuconą przez ustawodawcę unijnego i będzie musiał te przepisy implementować do 14 czerwca 2027 roku. Czy teraz jeszcze przedstawić krótkie stanowisko, nie jako przedstawiciel Biura Rzecznika Praw Obywatelskich, ale jako akademik?

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo proszę.

Prawnik w Zespole Prawa Karnego Biura RPO Michał Wawrzyńczak:
Dobrze, to chciałbym się odnieść w sumie do dwóch rzeczy. Tutaj z panem komendantem prowadziliśmy rozmowę zarówno przed salą, jak i w trakcie tych wszystkich wystąpień, że większość tych rzeczy de facto pojawia się z kilku elementów. Ja jestem osobą dosyć młodą, jak po mnie widać i w sumie dorastałem w sferze całości tej ewolucji zjawiska patostreamingu, ale też pojawiania się deepfake’ów w internecie. One de facto dotyczą połowicznie tego, o czym mówiło Ministerstwo Sprawiedliwości, czyli tej motywacji finansowej, ukierunkowania swojego działania czy też pozyskiwania rozpoznawalności w celu zmonetyzowania tej rozpoznawalności. To nie jest tylko i wyłącznie czynnik społeczny, który prowadziłby do tego, że ta motywacja do publikowania treści patostreamingowych wśród młodych ludzi wynika tylko i wyłącznie ze środowiska, w jakim się znajdują, z wieku, w jakim są, czyli wśród młodych ludzi jest czasami pewna tendencja do robienia rzeczy niekoniecznie rozważnych, takich, które później z perspektywy czasu żałują, ale przede wszystkim jest to ta roztaczana przez influencerów, którzy mają największy wpływ, wizja do tego, że to jest działalność zyskowna. Tutaj Ministerstwo Sprawiedliwości powiedziało taką ważną rzecz, że może należałoby rozważać sankcje o charakterze administracyjnym czy quasi administracyjno-karnym, ale w kontekście deepfake’ów. Jako akademik, nie jako przedstawiciel Biura Rzecznika Praw Obywatelskich, powiem, że może trzeba by było rozważyć kwestie, ale nie właśnie pod kątem deepfake’ów, a pod kątem patostreamingu. Z tego, co można zauważyć i tego, w jaki sposób tak naprawdę promuje się patostreaming, niektórzy ci autorzy tych patostreamów są już troszeczkę marginalizowani, chyba że robią to w celu dostania się na gale freakfightowe. Czy przypadkiem nie powinniśmy obciążyć odpowiedzialnością osoby prawne i organizacje za monitorowanie tych treści i adresowanie ich do użytkowników, do których powinno to trafiać? W tym momencie powiem szczerze, że weryfikacja wieku, jeśli państwo korzystają z różnego rodzaju stron, czy nawet wejścia, być może to jest prosty przykład, na witrynę internetową sklepu sprzedającego alkohol czy papierosy „Czy masz 18 lat? Tak lub nie. „Tak” i to jest koniec weryfikacji. Zasadniczo, nawet jeżeli byśmy sprowadzili to do wprowadzenia obowiązku złożenia deklaracji, oświadczenia, czy mam 18 lat bez żadnej weryfikacji, „Tak. OK.”, sprawa załatwiona i dostawca usług umywa tutaj ręce, bo „ja dostarczam czy świadczę usługi o charakterze powyżej 18 roku życia z treściami wulgarnymi i tutaj użytkownik mi zaznaczył, że ma 18 lat,  to co ja mogę zrobić więcej?” Być może ten dyskurs publiczny w tych galach czy też w innych wydarzeniach powinien się sprowadzać do tego, jakie kwestie są akceptowalne, a jeśli te kwestie, które są tam promowane, nie są akceptowalne, być może powinniśmy uczynić to nie kwestią odpowiedzialności karnej, bo to może nie ma najmniejszego znaczenia pod kątem tego, jak to wpływa na odbiór w przestrzeni publicznej. Być może to powinny być właśnie sankcje o charakterze administracyjnym w stronę organizatorów tych dużych wydarzeń, gdzie naprawdę mają dużą audiencję i robią to za pośrednictwem środków powszechnie dostępnych, tak jak wszystkie te gale freakfightowe są za pay-per-view. Odbiorcy tych treści teoretycznie za nie płacą, ale tylko za same gale, a nie za to, gdzie dzieje się największa doza tego patostreamingu, gdzie ci ludzie tak naprawdę uderzają się na tych rzekomych konferencjach prasowych, na których mają promować to wydarzenie. Robią tam oczywiście różne rzeczy. Niektórzy prezentują postawy jak najbardziej akceptowalne, ale ci, którzy mają być tymi kontrowersyjnymi, promującymi te wydarzenia, nie zawsze zachowują standardy wymagane dla debaty publicznej. Być może tutaj powinno się położyć nacisk na organizatorów tych wydarzeń, żeby mobilizowali tych uczestników, żeby byli oni zobowiązani w sferze prawa administracyjnego jakimiś sankcjami, tak jak to proponowało Ministerstwo Sprawiedliwości w kontekście deepfake’ów, aby tutaj powstrzymać tą najważniejszą, moim zdaniem, jako akademika, ale też osoby relatywnie młodej i dojrzewającej w sferze tak naprawdę ewolucji tych wydarzeń, czegoś, co jest negatywnym zjawiskiem społecznym. Dziękuję bardzo.

Przewodnicząca poseł Barbara Dolniak (KO):
Bardzo dziękuję, ale ja myślę, że musimy to robić dwutorowo, czyli z jednej strony pamiętać o tym, by instytucje, firmy, które zawiadują tymi platformami, ponosiły konsekwencje, chociażby finansowe, bo to będzie ich powstrzymywać przed określonymi zachowaniami i te konsekwencje muszą być odpowiedniej miary, żeby miały swoją wartość. Zbyt niskie kary nie będą odgrywały żadnej roli. Zyski są tak duże, że dana firma poniesie stratę, bo i tak jak przeliczy to w zyskach, będzie się jej opłacać, ale to jest jedna strona. Natomiast druga strona to jest kwestia odpowiedzialności karnej, czyli pociągnięcia do odpowiedzialności osoby bezpośrednio odpowiedzialnej za nieprawidłowe zjawiska, jakie dzieją nam się w internecie. Gdybyśmy w ogóle usunęli postępowanie karne, to ono jest najbardziej istotne w świecie odpowiedzialności, bo wymierza nam karę bardzo dolegliwą. Karę pozbawienia wolności, bezwzględną czy w zawieszeniu, wysokiej grzywny, konsekwencje dodatkowe, bo są przecież kary dodatkowe. Jednak ta karalność, postępowanie karne wytwarza największą obawę w obywatelu i może stanowić największą barierę do pokonania, by tworzyć takie zjawiska, zarówno w patostreamingu, jak i w deepfake’u. Natomiast w przypadku dużych instytucji i firm wysokie kary mogą działać faktycznie zniechęcająco, ale one rzeczywiście będą musiały być, biorąc pod uwagę skalę internetu, odpowiednio wyważone.

Dziękuję za wszystkie państwa uwagi, one były bardzo istotne. Mam nadzieję, że to jest pierwsza z wielu dyskusji, która się przetoczy. Pan poseł Schreiber kieruje podkomisją dotyczącą spraw karnych, gdzie już trafił jeden projekt, za chwilę pojawi się drugi, bo jest na tym posiedzeniu Sejmu i już przepracowany projekt tejże ustawy trafi do Komisji. Co do uwagi rzecznika praw obywatelskich, państwo zawsze dostajecie zawiadomienie o tym, że są posiedzenia Komisji czy podkomisji z odpowiednim wyprzedzeniem. W związku z tym, proszę nie czekać na zapytanie o opinię, to już mówię jako przewodnicząca Komisji. Proszę te opinie do nas po prostu kierować, a ja przekażę je posłom, posłankom, osobom zainteresowanym. Niech będzie regułą złożenie przez państwa opinii, jako rzecznika praw obywatelskich, przy otrzymywaniu projektów ustaw tejże Komisji i zawiadamianiu o terminie posiedzenia. Z każdą opinią absolutnie się poznamy i bardzo często czekam na tę opinię ze strony rzecznika praw obywatelskich, nawet pytając, czy państwo ją złożą.

Bardzo dziękuję wszystkim państwu za obecność i wszystkie uwagi, bo one są istotne, zarówno dla nas procedujących, jak i dla tych, którzy będą tworzyć projekty. Dziękuję bardzo.