Podkomisja stała do spraw sztucznej inteligencji i przejrzystości algorytmów, obradująca na posiedzeniu wyjazdowym w Szczecinie pod przewodnictwem posła Grzegorza Napieralskiego (KO), przewodniczącego podkomisji, zrealizowała następujący porządek dzienny:

–  dyskusja nad płaszczyznami, podmiotami i formami współpracy przy stosowaniu rozwiązań sztucznej inteligencji w medycynie i diagnostyce.

W posiedzeniu udział wzięli: Dariusz Standerski sekretarz stanu w Ministerstwie Cyfryzacji wraz ze współpracownikami, Agnieszka Mrozik zastępca dyrektora Departamentu Opieki Koordynowanej oraz Dominik Szostak zastępca dyrektora Departamentu e-Zdrowia Ministerstwa Zdrowia, Jarosław Boryń kierownik projektu w Departamencie Zarządzania Portfelem Projektów i Standaryzacji Centrum e-Zdrowia wraz ze współpracownikami, Anna Kowalczuk zastępca prezesa Agencji Oceny Technologii Medycznych i Taryfikacji, prof. dr hab. n. med. Jerzy Sieńko zastępca przewodniczącego Rady Agencji Badań Medycznych, Wojciech Kręt kierownik Biura ds. e-Zdrowia oraz Mateusz Moksik dyrektor Wydziału Zdrowia Urzędu Marszałkowskiego Województwa Zachodniopomorskiego, prof. dr hab. n. med. Leszek Domański rektor Pomorskiego Uniwersytetu Medycznego w Szczecinie wraz ze współpracownikami, dr hab. Kinga Flaga-Gieruszyńska prorektor ds. organizacji Uniwersytetu Szczecińskiego, dr hab. inż. Tomasz Królikowski prorektor ds. studenckich Politechniki Koszalińskiej, dr Konrad Jarosz dyrektor Uniwersyteckiego Szpitala Klinicznego nr 1 im. prof. Tadeusza Sokołowskiego PUM w Szczecinie wraz ze współpracownikami, prof. dr hab. n. med Marcin Słojewski dyrektor ds. lecznictwa oraz Dawid Bąk dyrektor ds. technicznych i inwestycji Uniwersyteckiego Szpitala Klinicznego nr 2 PUM w Szczecinie, Marcin Kiestrzyn zastępca dyrektora ds. ekonomicznych Samodzielnego Publicznego Wojewódzkiego Szpitala Zespolonego w Szczecinie, Adrian Sikorski dyrektor Zachodniopomorskiego Centrum Onkologii, Magdalena Sojka-Szostak dyrektor Samodzielnego Publicznego Zakładu Opieki Zdrowotnej MSWiA w Szczecinie, Marcin Kaczmarek prezes zarządu Stowarzyszenia Klaster ICT Pomorze Zachodnie wraz ze współpracownikami, dr hab. inż. Alberto Lozano Platonoff prezes Whitesky.cloud Poland, członek Rady Uczelni Pomorskiego Uniwersytetu Medycznego w Szczecinie wraz ze współpracownikami, Krzysztof Minicki przedstawiciel Spyrosoft Synergy SA.

W posiedzeniu udział wzięli pracownicy Kancelarii Sejmu: Magdalena Krzymowska – z sekretariatu Komisji w Biurze Komisji Sejmowych.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dzień dobry. Witam bardzo serdecznie. Chyba nie ja powinienem pierwszy tutaj ten mikrofon mieć, ale musimy proceduralnie otworzyć.

Otwieram wyjazdowe posiedzenie podkomisji.

Zanim rozpoczniemy tak oficjalnie, chciałem bardzo serdecznie podziękować i powiedzieć, że tak naprawdę jesteśmy tutaj, my jako politycy, jako członkowie podkomisji, członkowie Komisji,  dlatego, że zaprosił nas pan rektor Domański i pan profesor Słojewski, bo tak to się zaczęło. Chciałem za to bardzo serdecznie podziękować, że tu, w Szczecinie, na szczecińskiej uczelni, możemy się spotkać. I chyba spotykamy się, tak jak trochę wcześniej rozmawialiśmy, w najlepszym czasie dla nas, bo to, o czym będziemy dzisiaj rozmawiać, co będzie tematem dzisiejszej podkomisji, to naprawdę jest w dobrym miejscu i w dobrym czasie. W dobrym miejscu, bo w Szczecinie, gdzie tak naprawdę patrzymy bardzo mocno do przodu, i w dobrym czasie, bo jeśli chodzi o rozwiązania, o których dzisiaj będziemy rozmawiać, to właśnie takie decyzje politycznie będziemy podejmować w polskim parlamencie. Mam nadzieję, że nie tylko w polskim parlamencie.

Pozwólcie, szanowni państwo, że trochę zmienimy tę regułę, jak to wygląda w polskim parlamencie i przekażę mikrofon panu profesorowi, panu rektorowi, bo tak naprawdę on tu jest gospodarzem i osobą najważniejszą, najistotniejszą dla nas wszystkich. Panie rektorze, bardzo proszę.

Rektor Pomorskiego Uniwersytetu Medycznego w Szczecinie prof. dr hab. n. med. Leszek Domański:
Bardzo dziękuję wszystkim. Bardzo dziękuję, że wszyscy państwo przyjęliście nasze zaproszenie. Bardzo cieszymy się, że możemy być gospodarzem Komisji, która jest niebagatelna, proszę państwa, ponieważ jesteśmy tak naprawdę w ogromnym przełomie, który zachwycił nas albo już nas dotyka, jak mamy się w tym znaleźć. Myślę o zastosowaniu sztucznej inteligencji w każdej dziedzinie, również i w medycynie, stąd też i Pomorski Uniwersytet Medyczny. To, że się tym interesujemy, to, że próbujemy we własnym zakresie wykorzystywać te narzędzia, to jest właściwie już kazus.

Stąd też nasza inicjatywa i nasza propozycja, abyśmy to właśnie w Szczecinie, w Pomorskim Uniwersytecie Medycznym, o tym mówili, myśląc o zastosowaniu sztucznej inteligencji właśnie w regionalnym centrum medycyny cyfrowej czy centrum wsparcia badań klinicznych etc., etc. Mamy trochę tych jednostek, które dokładnie potrzebują takiego wsparcia – wsparcia nie tylko sztucznej inteligencji, bo sztuczna inteligencja, mam nadzieję, nigdy nie zastąpi naszej inteligencji, ale naszej inteligencji. Właśnie od naszego debatowania, od naszych kierunków decyzji będzie zależało, jak szybko, proszę państwa, wdrożymy to, co już jest. Nie ukrywam, że w kuluarach rozmawialiśmy, jak dalece nam do tych wielkich krajów, jak Chiny i nie tylko, gdzie te narzędzia już właściwie mają ogromne zastosowanie.

W związku z czym witam państwa serdecznie w Pomorskim Uniwersytecie Medycznym. Bardzo się cieszę jeszcze raz, że państwo przyjęliście to zaproszenie, i życzę bardzo, bardzo owocnych obrad.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo. Panie profesorze, panie rektorze, to już przejdziemy tak naprawdę do takiego regulaminowego procedowania naszej pracy.

Chciałem serdecznie powitać i bardzo serdecznie też podziękować panu doktorowi Dariuszowi  Standerskiemu, sekretarzowi stanu w Ministerstwie Cyfryzacji, który do nas przyjechał – dzień dobry, panie ministrze, witam serdecznie i jeszcze raz bardzo, bardzo dziękuję. Pomorski  Uniwersytet Medyczny reprezentuje pan profesor Leszek Domański, rektor PUM, pan doktor habilitowany Andrzej Ossowski, profesor PUM, prorektor ds. technologii medycznych, oraz pan Andrzej Lubiniecki, przewodniczący rady uczelni – witam bardzo serdecznie. Akademię Sztuki w Szczecinie reprezentuje doktor habilitowana Mirosława Jarmołowicz, rektor, profesor Akademii Sztuki. Uniwersytet Szczeciński reprezentuje pani doktor habilitowana Kinga Flaga-Gieruszyńska, prorektor ds. organizacji – dzień dobry, pani profesor, pani rektor.  Politechnikę Koszalińską reprezentuje doktor habilitowany inżynier Tomasz Królikowski, prorektor ds. studenckich, profesor Politechniki Koszalińskiej. Ministerstwo Zdrowia reprezentuje pan Dominik Szostak, zastępca dyrektora Departamentu Zdrowia – witam bardzo serdecznie, dzień dobry, panie dyrektorze. Agencję Oceny Technologii Medycznych i Taryfikacji reprezentuje doktor habilitowana Anna Kowalczuk, zastępca pana prezesa – dzień dobry, bardzo dziękuję również za przyjazd. Agencję Badań Medycznych reprezentuje profesor doktor habilitowany Jerzy Sieńko, zastępca przewodniczącego Rady ABM – dzień dobry, panie profesorze, panie doktorze, witam bardzo serdecznie. Centrum e-Zdrowia reprezentuje Jarosław Boryń, kierownik projektów w Departamencie Zarządzania Portfelem Projektów i Standaryzacji, oraz Ewelina Gładki, zastępca kierownika projektów w Departamencie Zarządzania Portfelem Projektów i Standaryzacji – dzień dobry, witam państwa bardzo serdecznie.

Urząd marszałkowski reprezentuje pan Mateusz Moksik, dyrektor Wydziału Zdrowia urzędu marszałkowskiego – dzień dobry, panie dyrektorze, miło mi bardzo pana widzieć, oraz Wojciech Kręt, kierownik Biura ds. e-Zdrowia urzędu marszałkowskiego – dzień dobry, panie kierowniku, witam serdecznie.

Uniwersytecki Szpital Kliniczny nr 1 PUM reprezentują: pan doktor Konrad Jarosz, dyrektor – dzień dobry, panie dyrektorze, witam serdecznie, profesor doktor habilitowany Bohdan Górski,  Katedra i Zakład Patomorfologii PUM, oraz Dariusz Ruczyński, zastępca dyrektora ds. ekonomiczno-finansowych. Uniwersytecki Szpital Kliniczny nr 2 PUM reprezentuje profesor doktor habilitowany Marcin Słojewski, dyrektor ds. lecznictwa – dzień dobry, panie profesorze, panie dyrektorze, Dawid Bąk, dyrektor ds. technicznych i inwestycji. Zachodniopomorskie Centrum Onkologii reprezentuje dyrektor Adrian Sikorski. Samodzielny Publiczny Wojewódzki Szpital Zespolony w Szczecinie reprezentuje Marcin Kiestrzyn, zastępca dyrektora, oraz Eliza Turkiewicz, ekspertka w Departamencie Rynku Cyfrowego. Samodzielny Publiczny Zakład Opieki Zdrowotnej MSWiA w Szczecinie reprezentuje Magdalena Sojak-Szostak, dyrektor tego szpitala – witam także bardzo serdecznie Klaster ICT Pomorze Zachodnie, pana Marcina Kaczmarka, prezesa klastra, oraz jego współpracowników – bardzo serdecznie państwa witam.

Otwieram jeszcze raz wyjazdowe posiedzenie podkomisji stałej do spraw sztucznej inteligencji i przejrzystości algorytmów. Witam również bardzo serdecznie posłów, członków podkomisji. Chciałbym szczególnie powitać dwóch parlamentarzystów: pana posła Bartłomieja Pejo, który jest przewodniczącym Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii w polskim parlamencie, oraz pana Marka Hoka, wiceprzewodniczącego Komisji Zdrowia, który uczestniczy dzisiaj w naszym posiedzeniu i reprezentuje całą Komisję Zdrowia – więc mamy tak naprawdę dzisiaj duży mandat do dyskusji i żeby rozmawiać o tym, o czym rozmawiać będziemy. Witam również członków Zachodniopomorskiego Zespołu Parlamentarnego. Witam wszystkich zaproszonych gości.

Porządek dzisiejszego posiedzenia przewiduje dyskusję nad płaszczyznami, podmiotami i formami współpracy przy zastosowaniu rozwiązań sztucznej inteligencji w medycynie i w diagnostyce. Czy są uwagi do porządku obrad? Nie widzę.

Zatem przystępujemy do jego realizacji. Na początku bardzo serdecznie chciałbym poprosić pana ministra Dariusza Standerskiego, aby zabrał głos. Panie ministrze, oddaję panu głos.

Sekretarz stanu w Ministerstwie Cyfryzacji Dariusz Standerski:
Chciałem bardzo serdecznie podziękować za zaproszenie i możliwość uczestniczenia w posiedzeniu podkomisji. Bardzo się cieszę, że możemy o tym dyskutować dzisiaj i bardzo się cieszę, że możemy o tym dyskutować w Szczecinie – z tego względu, że to jest znak dla nas, dla polityków, dla wszystkich również urzędników i aktorów zewnętrznych, że wdrożenie sztucznej inteligencji i sukces we wzroście produktywności, w poprawie usług publicznych nie wydarzy się na ulicy Wiejskiej, nie wydarzy się w Sejmie, tylko wydarzy się właśnie w takich centrach i ośrodkach jak Szczecin, jak Pomorski Uniwersytet Medyczny. To tutaj właśnie zdecyduje się, czy wdrożenie systemu sztucznej inteligencji w Polsce będzie na wysokim poziomie, czy będzie to przeprowadzone w taki sposób, żeby przyniosło jak najwięcej korzyści pacjentom, klientom, obywatelom. Tutaj się zdecyduje, gdzie będziemy w tym wyścigu.

Chciałbym w związku z tym nakreślić, jak to wygląda obecnie, jeżeli chodzi o ogólne wdrożenie i ogólny rozwój sztucznej inteligencji. Zwłaszcza że sytuacja globalna i w naszym regionie zmienia się bardzo szybko. Na szczęście w wielu aspektach zmienia się szybko, ale też bardzo pozytywnie – z tego względu, że jeszcze kilka miesięcy temu, kiedy mogłem referować stan rozwoju, jeżeli chodzi o inwestycje sztucznej inteligencji na tejże podkomisji, byliśmy jeszcze w zupełnie innym, bardzo początkowym miejscu. Dzisiaj widzimy, że Europa również zaczyna doganiać inne regiony, zaczyna uczestniczyć w tym wyścigu. Jak jeszcze pięć miesięcy temu staraliśmy się jako Polska, żeby powstała u nas fabryka sztucznej inteligencji, jeden z najnowocześniejszych superkomputerów, tak dzisiaj jesteśmy już w miejscu, w którym kończymy procedury wyłaniające już firmę, która zbuduje ten superkomputer na poziomie unijnym. Mamy już konkretne miejsce, mamy termin budowy tego superkomputera. Staramy się o drugi i staramy się razem z innymi państwami Unii Europejskiej o wdrożenie programu gigafabryk sztucznej inteligencji. Za tą nazwą kryje się po prostu pięciokrotnie większa moc obliczeniowa od tej fabryki, którą w tej chwili stawiamy Polsce, i to jest moc obliczeniowa, która powoduje, że zaangażowanie finansowe państw Unii Europejskiej jest na dużo wyższym poziomie.  Powoduje to również, że sztuczna inteligencja staje się tematem geopolitycznym.

Po ostatniej dyskusji na temat możliwych ograniczeń w sprzedaży czipów wykorzystywanych do systemów sztucznej inteligencji ze Stanów Zjednoczonych zauważyliśmy, że to rzeczywiście może mieć wpływ na rozwój sztucznej inteligencji. Technologia i nasze plany w tym obszarze zmieniają się tak szybko, że kiedy zaczynaliśmy dyskusję i kiedy wprowadzono ten projekt ograniczeń ze strony Stanów Zjednoczonych, to jako Polska nie byliśmy bezpośrednio dotknięci tym potencjalnym ograniczeniem, ponieważ wówczas, na początku roku, w planach mieliśmy podwojenie mocy obliczeniowych, czyli dalej trochę poniżej tego limitu, który planowały wdrożyć Stany Zjednoczone. W kwietniu, ze względu na to, że planowaliśmy już nie podwoić,  ale pięciokrotnie zwiększyć nasze moce obliczeniowe, to już stanowiło dla nas ogromne wyzwanie. W związku z tym bardzo dobrze, że Stany Zjednoczone wycofały się z tego ograniczenia. Natomiast to właśnie pokazuje, jak bardzo przyspieszamy w tym zakresie, w momencie, w którym zapewniamy moce obliczeniowe nie tylko w Polsce. Ale pamiętajmy, że cała sieć fabryk sztucznej inteligencji Unii Europejskiej będzie również do naszej dyspozycji. Połowa mocy obliczeniowej każdego superkomputera, który powstanie w ciągu najbliższego roku w Unii Europejskiej, będzie do dyspozycji również innych państw członkowskich, więc jesteśmy wyposażani w nowe moce obliczeniowe. To, czego teraz potrzebujemy, to rozwiązania, które chcemy na tych mocach obliczeniowych testować, rozwijać i wdrażać, jak również rozwój ekosystemu po tej drugiej stronie, czyli właśnie przedsiębiorstw, które oferują wdrożenia sztucznej inteligencji, jednostek naukowych, które rozwijają badania w tym zakresie, i przedsiębiorstw, jednostek publicznych, szpitali, szkół i wielu innych urzędów, które są gotowe wdrażać rozwiązania sztucznej inteligencji w ramach swojej działalności.

Dlatego kończymy dzisiaj konsultacje polityki sztucznej inteligencji do roku 2030 w ramach ministerialnej grupy roboczej sztucznej inteligencji. Otrzymaliśmy ok. 100 uwag, a po ich rozpatrzeniu opublikujemy nową politykę i będziemy już dążyć do jej wdrożenia. Co jest ważne i co chciałbym też przekazać tutaj, w Szczecinie, to to, że w ramach nowej polityki sztucznej inteligencji dostrzegamy to, o czym też tutaj rozmawialiśmy jeszcze w kuluarach, czyli dostrzegamy rolę centrów takich jak Szczecin i inne miasta wojewódzkie w Polsce. Mamy tę świadomość, także na poziomie polityki, że musimy dostrzegać potencjał wielu miast w Polsce – potencjał wiodący, potencjał wspierający, ale także potencjał wdrożeniowy. Dlatego w polityce sztucznej inteligencji do 2030 r. pojawią się ośrodki wiodące, które budują superkomputery i centra rozwojowe, ośrodki wspierające, które będą łączyły badania i wdrażanie sztucznej inteligencji, m.in. takie ośrodki jak Szczecin, oraz ośrodki typowo wdrożeniowe, czyli miasta w Polsce, które są centrami subregionalnymi, czyli jak na przykład nasze i moje też okolice, Koszalin, Piła i te miasta, do których właśnie mają być kierowane – do ich przedsiębiorców, do ich instytucji – rozwiązania, które są kreowane m.in. w Szczecinie.

Dlatego też to posiedzenie jest ważne z punktu widzenia ogólnego rozwoju sztucznej inteligencji, ponieważ ważna jest perspektywa tych miast, które mają się stać filarem rozwoju sztucznej inteligencji w Polsce. Bardzo się cieszę też, że będziemy rozmawiać o wdrożeniach w zakresie ochrony zdrowia, w zakresie diagnostyki, w zakresie też badań medycznych – z tego względu, że projekt polityki sztucznej inteligencji przewiduje ochronę zdrowia, medtech jako jeden z głównych sektorów rozwoju sztucznej inteligencji w Polsce, który powinien mieć odrębny program operacyjny w zakresie inwestycji we wdrażaniu sztucznej inteligencji, ponieważ z jednej strony mamy środki unijne, o których też pewnie dzisiaj będziemy mówić w zakresie wdrożeń, w szczególności z „Krajowego planu odbudowy”, ale te środki muszą być wsparte również środkami krajowymi oraz ułatwieniami po stronie regulacyjnej. Dlatego te dwa ważne aspekty, aspekt Szczecina jako przyszłego centrum rozwoju sztucznej inteligencji oraz aspekt ochrony zdrowia jako jeden z tych kilku kluczowych sektorów rozwoju tej technologii w Polsce – to pokazuje, że jesteśmy, tak jak powiedział pan przewodniczący, w dobrym miejscu i w dobrym czasie. Dlatego bardzo się cieszę, że mogę uczestniczyć dzisiaj w posiedzeniu podkomisji. Bardzo serdecznie dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie ministrze.

Chciałem powiedzieć, że pan minister w rządzie odpowiada właśnie za cały temat sztucznej inteligencji. Tym bardziej cieszy nas to, że jest dzisiaj z nami, a to, jak zdrowie jest ważne, to chyba nikogo ani na tej Sali, ani poza tą salą nie trzeba przekonywać. Wszyscy chcielibyśmy chronić nasze zdrowie jak najlepiej, a wiemy, że sztuczna inteligencja może nam w tym pomóc.

Szanowni państwo, zanim przystąpimy do dyskusji, to teraz pokażemy pierwszą prezentację,  która jest prowadzeniem do tej dyskusji, jej temat: „Inteligencja sztuczna, decyzje prawdziwe – medycyna w erze algorytmów i big data”. Przedstawi pan profesor Andrzej Ossowski, prorektor do spraw technologii medycznych Pomorskiego Uniwersytetu Medycznego.  Bardzo proszę i oddaję głos.

Prorektor ds. technologii medycznych Pomorskiego Uniwersytetu Medycznego w Szczecinie dr hab. n. med. Andrzej Ossowski:
Witam serdecznie. Panie ministrze, panie przewodniczący, ja dzisiaj z TVN nie mogę się rozstać, 8:40 TVN. Witam państwa.

Przejdziemy tak trochę… Tytułem starałem się może zwrócić uwagę na tę sztuczność naszej inteligencji. Inteligencja jest sztuczna, ale decyzje rzeczywiście, które zapadają, później są prawdziwe. Proszę państwa, ja to często podkreślam, że jesteśmy w regionie, w którym się bardzo często stawia na nowoczesność, pokazujemy nowoczesny przemysł stoczniowy, nowoczesne źródła energii odnawialnej. Jednak ja zawsze podkreślam, że nowoczesność, proszę państwa, to jest w mokrych labach i ta nowoczesność będzie wychodzić z mokrych laboratoriów, bo potencjał tego regionu leży w biologii, w biotechnologii, w medycynie – i nie powinniśmy o tym zapominać. Bardzo dziękuję panu ministrowi, że zwrócił na to uwagę. Jednak żebyśmy mogli ten potencjał wykorzystać, to potrzebujemy oczywiście inwestycji, potrzebujemy wiedzieć, w którym kierunku będzie się to wszystko rozwijać. W ramach „Krajowego planu odbudowy” przyjęliśmy strategię wzmocnienia właśnie tej strony technologicznej, bo bez rozwoju tej strony technologicznej my nie będziemy w stanie tworzyć nowych narzędzi. A ten potencjał do tworzenia nowych narzędzi, które są pomocne w medycynie, które będą zmieniać medycynę, jest dzisiaj olbrzymi i tak jak pan minister wspomniał, to się zmienia bardzo szybko.

W tej chwili jednym z naszych głównych zadań, które będziemy realizować w ramach KPO, jest rozbudowa serwerowni, która pomoże nam tak naprawdę w tych zadaniach, które czekają nas w związku ze sztuczną inteligencją. Ale to nie tylko serwerownia, też wspominał pan o kartach GPU –  są to narzędzia, które będą pomagały nam w trenowaniu modeli, które będziemy tworzyć, a właściwie już je tworzymy. Tutaj w wielu pracowniach w szpitalach, w dwóch szpitalach klinicznych, w regionalnym centrum medycyny cyfrowej tworzymy narzędzia, które wymagają tak naprawdę trenowania modeli poprzez wykorzystanie tych nowoczesnych narzędzi. Obostrzenia, które się pojawiły, które na szczęście zniknęły, bardzo nas niepokoiły.

Jednym z bardzo ciekawych projektów, który powstał niedawno, są regionalne centra medycyny cyfrowej, są to projekty ABM. Jedno z takich centrów zostało zlokalizowane na Pomorskim Uniwersytecie Medycznym. I to te centra mają gromadzić dane, które wytwarzamy w naszych szpitalach klinicznych, wytwarzamy w naszych klinikach, w naszych laboratoriach, i doprowadzać do korelowania tych danych między sobą.

Jednym z zadań regionalnych centrów medycyny cyfrowej jest też rozwój tej mokrej części, czyli laboratoriów i biobanków, bo nie będziemy w stanie tworzyć nowych narzędzi, jeśli nie będziemy sami posiadać swojego materiału. Oczywiście my możemy bazować na wynikach i na materiale zgromadzonym w innych biobankach, w innych repozytoriach, na przykład w brytyjskim biobanku, ale ten materiał to nie jest materiał pochodzący z naszej populacji. Dzięki wsparciu ABM jesteśmy w stanie dzisiaj postawić biobankowanie w zupełnie innym miejscu oraz tworzenie narzędzi opartych o sztuczną inteligencję.

Regionalne centra medycyny cyfrowej istnieją niecały rok, a już dzisiaj jesteśmy w stanie pokazać narzędzia, które zostały stworzone przez naukowców zgromadzonych w regionalnym centrum medycyny cyfrowej. To jest konkretne narzędzie, Pancancer, wersja 1.1, narzędzie oparte o analizę metylacyjną – diagnostyka onkologiczna w oparciu o markery epigenetyczne wspiera 54 typy tkanek i skuteczność tego narzędzia to jest 92%. Olbrzymia pomoc w onkologii. Narzędzie, które jest świeżym produktem. W tej chwili jest to produkt, który testujemy w ramach regionalnego centrum medycyny cyfrowej, oparte jest oczywiście o sztuczną inteligencję.

Kolejne narzędzie, też oparte o analizę epigenetyczną, to jest Brain Tumor Model, który wspiera 50 typów guzów mózgu. Tutaj we współpracy z profesorem Leszkiem Saganem, jego zespołem, z zespołem profesora Tomasza Wojdacza to narzędzie powstało. Ono już w tej chwili jest używane przez naszych specjalistów.

Kolejny model, który jest jednym z najświeższych modelów, który opracujemy, to są modele predykcyjne, które łączą dane, które gromadzimy w ramach RCMC – i dzięki analizie przy zastosowaniu różnych narzędzi uzyskujemy bardzo wysoki stopień predykcji.

Kolejne narzędzia, które powstają, są to narzędzia, które łączą, porównują te dane pochodzące z klinik, dane genetyczne, dane z sekwencjonowania całogenomowego, z sekwencjonowania egzonu, z analiz epigenetycznych z danymi pacjenta z informacjami zgromadzonymi w światowych bazach. I dzięki tym narzędziom to, co kiedyś zajmowało nam lata – czyli analiza pacjenta, diagnostyka zajmowała nam często lata – jesteśmy w stanie zrobić w ciągu kilku godzin. Dzisiaj cała nasza wiedza, proszę państwa… Jeszcze cztery, pięć lat temu całą wiedzę mojej jednostki zajmującej się genetyką można było zmieścić na jednym dysku terabajtowym. Na jednym dysku. Dzisiaj w moim mokrym labie jesteśmy w stanie w ciągu doby wygenerować 394 genomy ludzkie, każdy z tych genomów zajmuje 1 TB danych, jeden genom – 1 TB. Przy dzisiejszych możliwościach obliczeniowych analizujemy ten jeden genom przez miesiąc, a my mamy 390, prawie 400 genomów w ciągu doby. My potrzebujemy potężnej infrastruktury i potrzebujemy też potężnej ilości miejsca do przechowywania tych danych. Do tego wszystkiego są potrzebne też właśnie inwestycje w serwerownie, a także w narzędzia, które pozwolą nam dokonywać obliczeń i trenować modele. Oczywiście te modele trenujemy, te małe modele możemy trenować na własnej infrastrukturze. Natomiast tych dużych modeli nie jesteśmy w stanie trenować na własnej infrastrukturze i to wymaga takiego podejścia ogólnokrajowego czy też ogólnoeuropejskiego. Na to też bardzo mocno zwracamy uwagę.

Medycyna spersonalizowana, kolejne narzędzie. Myśmy o tym wiele lat rozmawiali, jak korelować te dane genetyczne, które generujemy, z danymi klinicznymi, danymi jeszcze w tej chwili epigenetycznymi, które też wytwarzamy, w jaki sposób to robić. To nasi bioinformatycy stworzyli narzędzie do tego, narzędzie predykcyjne, które pozwala nam na bardzo szybką korelację tych danych, integrację i szybką analizę. To jest akurat pacjent z fenyloketonurią, z chorobą rzadką z kliniki profesor Marysi Giżewskiej. Analiza zajęła niecały dzień. Dostajemy pacjenta, o którym nic nie wiemy, nie mamy tak naprawdę żadnych informacji na temat choroby i na podstawie analizy u jednego pacjenta możemy znaleźć 5 mln zmian, proszę państwa, i każda ta zmiana może być potencjalnie chorobotwórcza. Na podstawie tych narzędzi – robiąc ręcznie, nie jesteśmy w stanie tego zrobić, byśmy latami badali jednego pacjenta – przy zastosowaniu sztucznej inteligencji i predyktorów jesteśmy w stanie zrobić to w ciągu kilku godzin. To jest akurat prosty przykład, znana choroba, ale takich chorób mamy naprawdę bardzo wiele.

Kolejny produkt, który wytworzyło regionalne centrum, to jest klasyfikacja wchłaniania związków chemicznych na podstawie destryptorów molekularnych. To jest zespół bioinformatyczny, proszę państwa. Czy oni się będą zajmować genetyką, czy biochemią, czy lekami –  nie ma to żadnego znaczenia, dla nich jest to po prostu zadanie matematyczne, które wykonują. Jest to kolejne narzędzie, które zostało stworzone i które zostało wdrożone do działań.

Kolejne narzędzie, ukierunkowana analiza profili preferencyjnych w mieszaninach. To jest akurat narzędzie kryminalistyczne, z mojej dziedziny, które pozwala nam w mieszaninie śladów dowodowych określić potencjalnych kontrybutorów, czyli osoby, które naniosły ten ślad. To jest bardziej CSI niż medycyna, ale też bardzo ważne narzędzie w dzisiejszej kryminalistyce.

Kolejne, proste narzędzie, też oparte o inteligencję EKG, analizer też stworzony przez naszych bioinformatyków. To są wszystko narzędzia, proszę państwa, stworzone w ciągu roku. Oczywiście nasze dwa szpitale kliniczne wdrażają nowe narzędzia, wprowadzają to, co my tworzymy w klinikach. To, co my tworzymy w naszych jednostkach, bardzo szybko jest implementowane przez nasze szpitale kliniczne i wspieramy nasze szpitale kliniczne w tych działaniach. Staramy się współdziałać i rozwijać działania obydwu naszych szpitali klinicznych. Tutaj możemy zobaczyć działania podjęte w naszym Szpitalu Klinicznym nr 1 oraz Szpitalu Klinicznym nr 2 poprzez wprowadzenie m.in. systemu da Vinci wspartego wykorzystaniem sztucznej inteligencji.

Proszę państwa, co jest naszym największym problemem, z którym się dzisiaj spotykamy? Integracja danych. My te dane tak naprawdę gubimy dzisiaj. Tworzymy, wydajemy gigantyczne pieniądze na diagnostykę i te dane gdzieś giną. One są w szpitalach zaszyte w systemach informatycznych, często są też jeszcze w formie papierowej czy też zgrane na płyty. My jako naukowcy nie mamy dostępu do tych danych albo ten dostęp jest utrudniony. Bez tych danych dzisiaj analiza 10, 15, 20 przypadków nic nam nie daje. My dzisiaj pracujemy na dziesiątkach tysięcy przypadków, żebyśmy byli w stanie na przykład przetrenować narzędzia predykcyjne, potrzebujemy nie 100 pacjentów, nie 200, tylko na przykład z regionu 10 tys. pacjentów, żebyśmy byli w stanie taki model stworzyć, który będzie rzeczywiście skuteczny, ale żeby te narzędzia przetrenować, to musimy mieć pełen dostęp do tych danych.

Oczywiście bezpieczny dostęp. Ja jako genetyk sądowy zawsze zwracam uwagę na bezpieczeństwo naszych danych genetycznych. Jako specjalista współpracuję i działam na zlecenie wielu służb, oceniając bezpieczeństwo danych genetycznych, co się z nimi dzieje. O tym też musimy mieć pełną świadomość, że transfer danych genetycznych, transfer informacji genetycznej na zewnątrz jest bardzo niebezpieczny. Ponieważ z jednej strony mamy dzisiaj okno,  które powoduje, że technologia wystartuje do przodu, już nie nadążamy tak naprawdę za nią. Z drugiej strony to powoduje, że mamy też olbrzymie zagrożenia, co do których powinniśmy mieć ich świadomość – i to, co robimy, powinniśmy robić w sposób bezpieczny. Dziękuję państwu bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie profesorze.

Dziękuję też za ten fragment dotyczący bezpieczeństwa, bo to faktycznie pojawia się bardzo często w dyskusji o sztucznej inteligencji, właśnie bezpieczeństwo, czy będziemy bezpieczni, czy nasze dane będą bezpieczne.

Ja już nie będę przedłużał. Pan profesor Lozano, bardzo proszę, kolejna prezentacja.  Tytuł tej prezentacji: „Med AI Hub dla medycyny w województwie zachodniopomorskim”. Panie profesorze, bardzo proszę.

Prezes Whitesky.cloud Poland, członek Rady Uczelni Pomorskiego Uniwersytetu Medycznego w Szczecinie dr hab. inż. Alberto Lozano Platonoff:
Witam serdecznie. Alberto Lozano. Panie ministrze, panie pośle, państwo, jestem członkiem rady uczelni i jednym z inicjatorów tej inicjatywy Zachodniopomorskiego MED HUB, gdzie na czele jest nasz kochany pan dyrektor oraz pan marszałek Olgierd Geblewicz. Zbieraliśmy ludzi z całego regionu i nie tylko, tutaj są władze państwowe, regionalne, lokalne, uczelnie, ośrodki badawcze, szpitale, które mamy tutaj z nami, oraz ekspertów z AI. Powiedziałbym to tak: mamy przede wszystkim dwa zespoły, jeden to są lekarze pasjonaci, którzy wiedzą i idą do przodu z konkretnymi rozwiązaniami, a drudzy to pasjonaci z AI, IT, ale zwłaszcza z AI. Powiedziałbym, że mamy dwie zasady, o pierwszej już mówił pan minister, już startuje teraz ten rozwój nieprawdopodobny z AI i my chcemy wsiadać już nie do tego pociągu, tylko do tej rakiety, która już wystartowała. Natomiast ta rakieta startuje, jak pan minister powiedział, wszędzie prawie tak samo. Jesteśmy w tym momencie, w którym Chińczycy, Amerykanie, Francuzi czy reszta Polski – jesteśmy prawie na tym samym poziomie. Natomiast jeżeli my wsiadamy do tej rakiety, to za parę lat, raczej za parę miesięcy, jak widać, to już zostajemy w tyle. A druga nasza zasada: 2 +2 to jest co najmniej 40, dzięki mocnej, silnej współpracy, rzetelnej, fachowej i konstruktywnej. I to jest to, co te dwa zespoły zrobią.

Już zaczęliśmy rozmawiać i widzieliśmy to, o czym już pan profesor Ossowski wspominał – że pierwszy punkt, który musimy rozwiązać, to jest platforma wymiany danych medycznych. Bez tego ani rusz. Możemy mieć supercentra, infrastrukturę, programy, ale jeżeli my nie mamy platformy wymiany danych, to nic nie będzie. Zastanawialiśmy się na ten temat i doszliśmy do tego, bo akurat w marcu Unia Europejska opublikowała rozporządzenie na temat European Health Data Space Regulation i tam są wytyczne do tego, jak można rozpowszechniać w sposób bezpieczny i prawidłowy te informacje. Na dodatek zauważyliśmy, że Ministerstwo Zdrowia jest w trakcie opracowania wytycznych do zasady wspólnych, bezpiecznych, otwartych standardów komunikacji danych i do 30 czerwca tego roku mają być opublikowane. Więc my pomagamy, inspirujemy Ministerstwo Zdrowia, aby te zasady, które Unia Europejska daje, były wprowadzone w Polsce. W ciągu półtora miesiąca możemy rozwiązać problem, który my mamy od wielu lat. Bez tego ani rusz z AI, bardzo, bardzo, trudno. To jest pierwsza sprawa, o której my rozmawialiśmy w zespole.

Drugi punkt to był… Tutaj pan prezes Kaczmarek z Technoparku proponował, że na dodatek AI, jak mówił to profesor Ossowski, może pomagać przy anonimizacji, pseudonimizacji, prywatności różnicowej danych, żeby ta wymiana danych była, powtórzę, bezpieczna, ale bardzo, bardzo, bardzo skuteczna.

Idąc dalej, co my robimy w zespole? Mamy ten zespół dobrych lekarzy i dobrych informatyków, zwłaszcza AI. Chodzimy z tymi ludźmi z AI do naszych profesorów, którzy idą do przodu, i pytamy: gdzie ty widzisz te potrzeby, co widzisz, co my możemy zrobić, żeby AI stosować? Między innymi z panem profesorem Słojewskim rozmawialiśmy i widzieliśmy, że jest realny problem z koordynacją wizyt pacjentów. Ponad 20–30 nie miało być tych wizyt, ponieważ pacjent zapomniał, zachorował, zmieniał zdanie, różne rzeczy. Co to daje? To my mamy 20–30% zmarnowanego zespołu lekarskiego, nieudanych, więcej pracy i dłuższa dokumentacja. Co idzie za tym? Pacjent nieuleczony i też problem komunikacji i kolejek. Rozmawiałem z zespołem ekspertów IT: słuchaj, my możemy generować takie modele, które będą opiekować się tym pacjentem. Komunikujemy się z nim chatbotem czy SMS-em, tak jak będzie chciał pacjent – i jeżeli go nie będzie, to mamy listę rezerwową. Dzięki temu możemy podnieść liczbę wizyt realizowanych, leczyć pacjentów, bardziej wykorzystać nasz potencjał lekarski i – co bardzo dobre i ważne – to podniesie poziom zadowolenia pacjentów. To jest jeden temat.

Drugi temat, o którym rozmawialiśmy z panią profesor Urasińską i panem profesorem Górskim, to jest problem analizy badań patomorfologicznych, który jest problemem wszystkich początków leczenia każdego pacjenta. Patomorfolodzy, których jest niedobór, dostają te wszystkie analizy i najpierw muszą to klasyfikować, podporządkować i priorytetyzować. Tracą przy tym dużo czasu. I z tego powodu tutaj można stosować zasadę parytetu – 20% to są te rzeczy, które rzeczywiście generują 80% wysiłku patomorfologów. Więc na tym 80% AI już pomaga, na początku zrobi klasyfikację, podporządkuje, daje do patomorfologów te ważniejsze rzeczy na początku, a przy okazji przygotuje wstępną ocenę z tych rzeczy, które są prawie od ręki zrobione, do akceptacji przez patomorfologa.

Pani profesor Urasińska i pan profesor Górski mówią, że wtedy my musimy znacznie, chciałem powiedzieć: kilkakrotnie, zwiększyć skuteczność tych analiz naszych do zrobienia. I jako korzyści to wszystko… Tak jak to mówił pan minister, też myślimy tutaj, żeby była właściwa infrastruktura do tego. Infrastruktura, której część, wydaje się, że powinna iść do poszczególnych szpitali, gdzie jest ta analiza obliczeniowa natychmiastowa, która może być połączona między szpitalami, która może być dla tych małych jednostek oddzielna, kiedy jest mało placówek, i połączone do tej centrali, czy to jest Centrum e-Zdrowia, czy to są inne jednostki, które my mamy. Czyli obsługiwać. I co to daje? Bezpieczeństwo. Dwa – AI rozproszona, bardziej stabilna i skuteczna. Trzy – jest dostosowana do AI.

Taki jest nasz pomysł, to, co my chcemy zrobić tutaj. To na dodatek jest skalowalne.  To, co my chcemy, staramy się wdrażać w życie tutaj, w Szczecinie, w zachodniopomorskim, później może być w innych w regionach Polski zrealizowane w krótkim czasie. To może być bardzo przydatne.

I jak powiedziałem, chcemy wsiadać do tej rakiety. Natomiast potrzebujemy waszej pomocy. Tak, waszej pomocy. De facto tutaj już dziękuję panu posłowi Grzegorzowi Napieralskiemu, bo już zanim było to spotkanie, to rozmawialiśmy w tym tygodniu z panią dyrektor Małgorzatą Olszewską i był bardzo przyjęty nasz pomysł, nasza inicjatywa, żebyśmy mogli mieć z tym ustawodawstwem, które jest potrzebne, oraz te minimalne szoki, których będzie dużo mniej niż komercyjnych, ale dużo – na ten temat dżentelmeni i damy nie rozmawiają przy stole, ale żeby to robić.

Co zatem powiem, w trakcie paru miesięcy te pierwsze sprawy można realizować, AI daje nam takie możliwości. Gdybyśmy my dzisiaj dostali zielone światło na te dwa rozwiązania, o których powiedziałem, przed końcem roku już to byłoby działające w naszym sektorze i do powielenia gdzie indziej. Mamy miejsce, dostajemy ten… Patrząc na pana dyrektora Dariusza Ruczyńskiego, on mówił ze szpitala, bardzo ciekawą rozmowę miałem, miliardy kupują rzeczy. Gdyby było AI i pomagało im w zakupach, to możemy oszczędzać w Polsce miliardy na zakupach, bo rozpiętość zakupów między szpitalami to jest ponad 400%, czterokrotnie. Jeżeli dajemy narzędzia do tego, żeby oni mądrze oszczędzili, to to się zwraca. Więc liczymy na waszą pomoc, bo my mamy tę determinację w regionie, że wsiadamy do tej rakiety, ale nie damy rady bez was. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, panie profesorze. Sformułowanie z tą rakietą bardzo mi się podoba. Zawsze mówiliśmy „do pociągu”, teraz „do rakiety”. Obyśmy się tylko nie rozbili. Teraz już tak na poważnie – dlatego tu jesteśmy, panie profesorze, też na wasze zaproszenie.

Chcę powiedzieć w tym miejscu taką rzecz i trochę się pochwalić. U nas w Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii i w podkomisji jest tak, że reprezentujemy wszystkie partie polityczne, od prawa do lewa i te środkowe również – chcę państwu powiedzieć, że to jest chyba Komisja, w której jest najmniej sporów politycznych, a są tylko spory merytoryczne. Właśnie też dziękuję moim kolegom i koleżankom, że dzisiaj przyjechali. My naprawdę jesteśmy na waszą wiedzę otwarci, bo nie jesteśmy ekspertami, my chcemy was słuchać i według tego, co nam podpowiecie, podejmować właśnie decyzje. Stąd dzisiaj też nasza wizyta.

Bardzo proszę przedstawicieli Centrum e-Zdrowia, bo też macie prezentację. Bardzo proszę o jej przedstawienie. I też bardzo dziękuję instytucjom państwowym, które zechciały dzisiaj przyjechać, że są tutaj z nami. Szczecin jest dosyć daleko od Warszawy, a jesteście. Bardzo wam za to dziękuję. Bardzo proszę, oddaję głos.

Kierownik projektu w Departamencie Zarządzania Portfelem Projektów i Standaryzacji Centrum e-Zdrowia Jarosław Boryń:
Szanowny panie przewodniczący, szanowni państwo, w pierwszej kolejności chcieliśmy bardzo serdecznie podziękować za zaproszenie na dzisiejsze spotkanie. Jest nam niezmiernie miło, że możemy tu u państwa gościć i podzielić się tym, co robimy w Warszawie w zakresie ochrony zdrowia i informatyzacji. Myślę, że będę miał odpowiedzi na co najmniej dwa pytania pana profesora. I myślę, że nie pozostanie nam nic innego jak zaprosić pana do współpracy, bo część z tych rzeczy, o których pan wspomniał, my już realizujemy i będziemy liczyli na to, że państwo nas wzmocnią w tym zakresie.

Przechodząc do meritum – cyfrowe serce polskiej ochrony zdrowia. Jak wyglądamy jako Polska na tle innych europejskich krajów? Otóż na dzień dzisiejszy nie wyglądamy tak źle.  Jesteśmy według badania z lipca 2024 r. na piątym miejscu pod względem stopnia zinformatyzowania. Wynika to po części z tego, że dość późno zaczęliśmy się jako Polska informatyzować, ale dzięki temu ten postęp był dość szybki i dynamiczny, ponieważ rzeczy, które na Zachodzie były wdrażane przez wiele, wiele lat, my wdrożyliśmy dość szybko. Przed nami są takie państwa chociażby jak Estonia, gdzie populacja Estonii jest wielkości Warszawy, więc tam stosunkowo łatwo przeprowadzić ten proces. W Polsce mamy populację znacznie większą, więc nam jest znacznie trudniej. Jednak myślę, że możemy zaryzykować tezę, że w tym obszarze dzisiaj nie gonimy Zachodu, my jesteśmy Zachodem i to inni gonią nas, a to nas tylko determinuje do dalszej pracy, którą wykonujemy.

Mówiąc o e-Zdrowiu i o Centrum e-Zdrowia, mówimy też o synergii. My widzimy, że będąc w Warszawie, nie jesteśmy w stanie zrobić wszystkiego. My widzimy potencjał w szpitalach. To, co zostało zrobione przez wiele lat w szpitalach, to jest duży potencjał, który my chcemy integrować. My widzimy potencjał w regionach. Państwo wykonaliście bardzo dużą pracę przez poprzednie perspektywy unijne i my chcemy to dostrzec, my chcemy z państwem współpracować, aby uzyskać ten efekt synergii. My chcemy postawić i zdefiniować jasną linię demarkacyjną, czym się zajmujemy w Centrum e-Zdrowia, czym się zajmujecie państwo, czym się zajmują szpitale – i uzyskać ten efekt synergii.

Mówiąc o aktualnych projektach, to tutaj to, o czym chciałbym państwu powiedzieć, to są projekty, które realizujemy w ramach KPO. To jest duża szansa dla Polski, którą chcemy wykorzystać. W ramach przygotowań projektów do KPO przygotowaliśmy dziewięć projektów, które zostały zdefiniowane, które są już w toku, które mają odpowiednie osoby, kierowników projektów, które są przez nich realizowane. To są projekty o wartości przeszło miliarda złotych.

Ale mówiąc i przygotowując się do tych projektów, myślimy tutaj o pacjencie, to są przede wszystkim systemy, które mają na końcu wesprzeć pacjenta. Pacjent to nie jest zwykły użytkownik, to jest osoba, która już tym, że jest pacjentem, czyli jest w stanie rozstrojenia swojego zdrowia, mierzy się z pewnymi trudnościami, więc te systemy muszą mu pomóc się odnaleźć w tym systemie. Jeśli te systemy bezpośrednio nie wspierają pacjenta, bo są i takie, które wspierają pośrednio, poprzez personel medyczny, to na końcu ma to wpływ na pacjenta.

Chciałbym państwu bardzo pokrótce powiedzieć o tych najważniejszych projektach.  Część z nich bezpośrednio korzysta też ze sztucznej inteligencji i na tym skupię się troszkę bardziej. To, co już tutaj padło w wypowiedziach, czyli bezpieczeństwo. Dane medyczne są szczególnymi danymi wrażliwymi i należy kłaść na to szczególną uwagę pod względem bezpieczeństwa. Dlatego w Centrum e-Zdrowia zgodnie z tym, co też wynika z dyrektywy NIS2 i nowelizacji ustawy o systemie krajowym bezpieczeństwa, cyberbezpieczeństwa, która jest aktualnie wdrażana, powstał sektorowy CSIRT, którego zadaniem jest wspieranie podmiotów medycznych, aby edukować, aby informować o aktualnych zagrożeniach, żeby chronić te dane.

Tutaj widzimy, że w samym pierwszym kwartale 2025 r. było więcej prób ataków niż przez wszystkie lata do 2023 r., więc widzimy, że to jest realne zagrożenie. Tym bardziej należy podkreślić, że ataki na systemy medyczne mogą impaktować w zdrowie lub życie ludzi, one są krytyczne z punktu widzenia działania systemu i ochrony medycznej pacjentów i dlatego ten CSIRT powstał, żeby wspierać podmioty medyczne w ochronie tych danych medycznych.

Mamy tutaj też taki niedawny przykład, który się wydarzył w Krakowie. Wiemy o tym, że szpital został zainfekowany rodzajem ransomware, który zaszyfrował wszystkie dane i odtworzenie tego było bardzo długie. Części danych się nie udało w ogóle uzyskać, ale ponieważ mamy systemy centralne, chociażby e-Gabinet pozwolił pewnej części funkcjonować i realizować procesy medyczne chociażby w zakresie e-zwolnień, e-skierowań i e-recepty. Mamy też takie pewne backupowe rozwiązania, jeśli już dojdzie do tego – oczywiście najpierw stawiamy na ochronę, ale jak już dojdzie, to też staramy się i nasi eksperci też brali udział w procesie odtwarzania tych danych, więc wspieramy tutaj placówki medyczne.

Kolejnym projektem jest e-Konsylium, czyli platforma do konsultacji badań pomiędzy lekarzami. Wiemy, że dzielenie się wiedzą dzisiaj jest bardzo potrzebne i przynosi dużą korzyść dla pacjentów. Wiemy też z rozmów z lekarzami, że te konsultacje częściowo odbywają się przez Messengera, przez WhatsAppa. My chcemy to usystematyzować i dać narzędzie, platformę, która będzie ustandaryzowana, będzie bezpieczna i będzie archiwizowała te dane do dalszego procesu leczenia. Dlatego powstaje projekt e-Konsylium, który swoim obszarem będzie obejmował konsultacje w zakresie kardiologii, hematologii, onkologii, chorób rzadkich i płuc w pierwszej swojej fazie. Następne konsultacje będą tutaj razem w rozumieniu z ministerstwem dołączane do tego projektu.

Projekt dokumentów EDM. Wiemy, że cyfryzacja dokumentów medycznych jest pewnym też etapem, ale my przez cyfryzację dokumentów mówimy trochę szerzej, my mówimy o procesie, czyli o tym, jak ten dokument będzie chodził za pacjentem. Mamy tutaj całą listę dokumentów, które będziemy chcieli zdigitalizować i które już digitalizujemy. Takim dużym wyzwaniem jest dokumentacja medycyny pracy, to jest też taki wąski dość aspekt, ale zahaczający o pacjenta, o profilaktykę, ale wychodzący szerzej na rynek. I tutaj projektujemy cały proces o tym, bo mamy dołączonych pracodawców, podmioty jeszcze zewnętrzne, więc musimy to przygotować i zaplanować, żeby ta cała dokumentacja w zakresie medycyny pracy mogła być realizowana w wersji elektronicznej.

Następnie e-profil pacjenta – o tym mówił też pan profesor. Zbieramy te dane, analizujemy te dane i chcemy udostępnić personelowi medycznemu informacje najważniejsze na temat pacjenta. Jak pacjent przychodzi, a często to są osoby też starsze, które przyjmują wiele leków od wielu specjalistów, część na wizycie lekarskiej nie pamięta, jakie leki przyjmuje i powiedzmy, lekarz przepisuje kolejne leki. Co się okazuje na końcu? Jedne leki znoszą działanie drugich leków, co może być ryzykowne dla pacjenta. Dlatego chociażby w ramach tego profilu pacjenta chcemy dać lekarzowi narzędzie, które umożliwi mu szybki dostęp do wszystkich przyjmowanych i zaaplikowanych leków dla pacjenta, co pozwoli po prostu wyeliminować pewną polipragmazję, która jest też notoryczna wśród polskich pacjentów, ale też da informację, czy pacjent wykupił te leki, które ostatnio zostały mu zaordynowane. Tu już mamy dość zaawansowany projekt, są już też pierwsze ekrany, które pokazują, jak to będzie prezentowane.

Zdalna opieka – wiemy, że telemedycyna jest też elementem, który jest dość mocno rozwijany i powszechny. Odciąża też system medyczny i ochronę zdrowia, bo wiemy, że pacjent, jeśli nie musi przyjść na wizytę lekarską, może być monitorowany zdalnie. To jest realizowane i tu jest też system, który tworzymy centralnie, który temu pomoże.

Odpowiedź na pytanie pana profesora odnośnie do nieodbytych wizyt. Tutaj mogę z całą odpowiedzialnością powiedzieć, że ten temat jest zaadresowany, ale liczymy na wsparcie pana profesora, żeby pan też dołączył do konsultacji. Ponieważ aktualnie jest przygotowywany i realizowany pilotaż e-Rejestracji. Jest to system dedykowany w 100% dla pacjenta. System ma polegać na tym, że pacjent, mając skierowanie do kardiologa, jest w stanie w prosty sposób za pomocą chociażby aplikacji IKP znaleźć termin na wizytę nie tylko w danym konkretnym podmiocie, do którego musi się udać, do którego ma problem z dodzwonieniem się, ale znaleźć wszystkie podmioty, powiedzmy, w promieniu 30 km. I może się okazać – i mamy też takie badanie prowadzone – że często wynika, że w danej miejscowości termin jest za dwa lata, a 30 km dalej za pół roku albo za trzy miesiące. Dajemy pacjentowi tę możliwość, jeśli pacjent ma możliwość dojechania te 30 km, to może odbyć tę wizytę dużo, dużo szybciej.

Odpowiadając na pytanie pana profesora na temat wizyt no-show. Oczywiście mamy tego świadomość i przy rozwijaniu projektu e-Rejestracji w ramach komponentu KPO będziemy integrować w ramach systemu centralnej rejestracji asystenta SI. Narzędzie, które będzie przypominało pacjentom o wizycie – będzie dzwonił do niego asystent, tzw. voicebot, który będzie przypominał, potwierdzał tę wizytę. Tym samym w systemie medycznym, w placówce medycznej będzie to już potwierdzone, że pacjent potwierdził, czyli jest duże prawdopodobieństwo, że on przyjdzie. Jednak w momencie kiedy pacjent powie: nie, dziękuję, zapomniałem, nie jest mi to już potrzebne, odbyłem wizytę gdzie indziej, to zwolni ten termin, dając szansę jeszcze w tym systemie. System w tym czasie uwolni termin, poszuka i da szansę kolejnemu pacjentowi, żeby się zarejestrował na tę wizytę, co będzie minimalizowało efekt nieodbytych wizyt. Dodatkowo będzie optymalizowało wykorzystanie – nie chcę powiedzieć tutaj brzydko: personelu – zasobów medycznych, personelu, cennej pracy lekarzy. Ten system jest już realizowany.  Teraz jest w fazie pilotażu. Pilotaż trwa według aktualnych danych do września tego roku. Jest procedowana ustawa, która ma wejść też w tym roku – i obowiązek dla wszystkich podmiotów medycznych ma wejść w okolicach połowy przyszłego roku. Czyli wszystkie podmioty medyczne będą zobowiązane, żeby podłączyć się do centralnej rejestracji i wtedy będzie pełne spektrum terminów dostępnych dla pacjentów.

Chyba ten najważniejszy projekt, na którym chcielibyśmy się skupić, czyli platforma usług inteligentnych. Czyli coś co CeZ jest w stanie zrobić, ale liczymy na państwa wsparcie jako regionu w tym projekcie, ponieważ my mamy na celu przygotowanie platformy, ale algorytmy i rozwój tej platformy będzie też we współpracy z państwem. Jest to narzędzie, które da nam szansę robienia kroku milowego.

W pierwszej fazie zakładamy zestaw algorytmów czy kategorii medycznych opracowanych razem z konsultantem panem profesorem Jerzym Waleckim w zakresie pięciu obszarów medycznych, czyli wykrywanie nowotworu płuc i zatorowości płucnej, wykrywanie nowotworów piersi – i ten algorytm akurat wynika z tego, że to jest jedna z powszechniejszych chorób u kobiet, czyli nowotwory sutka i piersi. Wiemy, że są programy profilaktyczne, chociażby mammografii, gdzie są standardy oceny przez minimum dwóch lekarzy radiologów. Tutaj dajemy szansę wprowadzenia trzeciej pary oczu, która oceni te badania, dając też tę korzyść, że AI nie będzie nigdy zmęczone. Przy czynniku ludzkim każdy może mieć gorszy dzień, każdy może mieć gorszą percepcję, po iluś godzinach oglądania obrazków możemy coś przeoczyć, a tu dajemy szansę wykorzystania trzeciej pary oczu, która to jeszcze nam potwierdzi, zweryfikuje i da szansę pacjentom.

Diagnostyka udarów. Udary są drugie na liście śmiertelności Polaków w Polsce. Wiemy, że złote sześć godzin, które są od wystąpienia udaru do możliwości wykonania trombektomii czy trombolizy, są kluczowe dla pacjenta, a w wielu, szczególnie powiatowych, placówkach, w szpitalach jest problem z diagnostyką tego. Jeśli będzie narzędzie i wykonana tomografia albo rezonans w placówce medycznej i przesłane takie badanie do platformy PUI, to ona zrobi ocenę tego badania i w pierwszej kolejności spriorytetyzuje, czy jest podejrzenie udaru, i da szansę zareagowania dla pacjenta. Kolejny algorytm to jest diagnostyka złamań układu kostnego, szkieletowego i analiza patologii RTG w klatce piersiowej. Ja chciałbym podkreślić, że wszystkie te zakresy są potwierdzone, rekomendowane przez konsultanta krajowego.

Teraz kilka słów o samej platformie. Platforma będzie stała w Centrum e-Zdrowia i będzie głównym elementem. Będzie to rodzaj łącznika pomiędzy podmiotami medycznymi a pomiędzy dostawcami algorytmów sztucznej inteligencji, m.in. nad którymi państwo pracujecie w środowisku naukowym.

Co nam to da? Da nam to tę przewagę, że szpital, który podłączy się raz do platformy – teraz mamy też konkurs realizowany przez Ministerstwo Zdrowia, który daje szansę i daje środki na to, żeby szpitale się podłączyły do tej platformy – otrzyma dostęp do wszystkich algorytmów, które będą w platformie. Dzisiaj mówimy o pięciu, ale nie zamykamy się na kolejne algorytmy. Jeśli przyjdą do nas dostawcy i powiedzą, że mają certyfikowane rozwiązania, my podłączamy je do platformy i każdy szpital będzie mógł z tego korzystać. Omijamy barierę integracyjną, która dzisiaj jest na rynku. Często słyszymy to też od szpitali, że mamy fajny algorytm, ale mamy problem z integracją tego algorytmu z naszym środowiskiem. Tutaj ta integracja zostanie zapewniona, więc dołożenie kolejnego algorytmu to jest tylko zwiększenie katalogu i to daje szansę lepszej adopcji sztucznej inteligencji w medycynie.

Oczekiwanie, czyli wsparcie tego procesu diagnostycznego, priorytetyzacja, automatyzacja, odciążenie procesów administracyjnych – to są też szanse i wyzwania, które my widzimy, że sztuczna inteligencja w medycynie nam pomaga. Wychodzimy też z założenia, że sztuczna inteligencja to jest narzędzie. My chcemy je odpowiednio użyć z korzyścią dla pacjentów, dla systemu ochrony zdrowia. Przede wszystkim jesteśmy po to, by pomagać państwu i pacjentom. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję za tę prezentację, za te słowa.

Szanowni państwo, otwieram dyskusję. Tak, widzę już, pani profesor. Tylko mam do was prośbę, ponieważ żeby to wszystko było tak naprawdę dobrze przygotowane po tej podkomisji, to my to wszystko nagrywamy. Dlatego proszę przed zabraniem głosu, żeby mikrofon się pojawił i żeby do mikrofonu. Czy macie tam mikrofon? Jest, to proszę bardzo i proszę od razu przedstawiać się – to będzie łatwe do stenogramu.

Prorektor ds. organizacji Uniwersytetu Szczecińskiego dr hab. Kinga Flaga-Gieruszyńska:
Dzień dobry. Przepraszam, że się tak pcham do dyskusji, ale muszę z przyczyn obiektywnych wyjść, czego bardzo żałuję.

Gratuluję serdecznie moim kolegom. Nazywam się Kinga Flaga-Gieruszyńska, oprócz tego, że jestem prorektorką Uniwersytetu Szczecińskiego, jestem prawnikiem i jednym z obszarów, które badam, jest problem nowych technologii w kontekście praw pacjentów. To, co panowie pokazaliście, jest imponujące. Natomiast my tutaj mówimy w takim szerszym zakresie, myślę o pewnej strategii związanej z wdrażaniem kolejnych rozwiązań opartych na sztucznej inteligencji. I chciałabym tylko zwrócić uwagę na to, żebyśmy się nie zagubili tylko w tych rozwiązaniach technicznych, dlatego że uważam, że to wszystko może odnieść sukces tylko wtedy, kiedy będziemy równolegle prowadzili jeszcze dwie ścieżki.

Pierwsza ścieżka to jest ścieżka prawna, ale odnosząca się do czegoś najistotniejszego, tzn. do przemodelowania świadomej zgody pacjenta. Dlatego że im głębiej będziemy wchodzić w proces decyzyjny dotyczący czy to diagnostyki, czy leczenia, który będzie decydował o tym, co zrobimy temu pacjentowi, jak go pokierujemy, tym niestety bardziej będziemy mieli obowiązek pacjentowi powiedzieć, że współdecydowała albo podpowiadała sztuczna inteligencja. I tu pojawia się kolejny problem, problem odnoszący się do tego, że lekarz, mając świetną wiedzę medyczną, nie zawsze będzie potrafił odpowiedzieć na pytanie, dlaczego algorytm odpowiedział tak, a nie inaczej. Myślę, że trzeba zacząć się zastanawiać nad tym, w jaki sposób ten model świadomej zgody zmienić, żebyśmy nie doszli do absurdu, że będziemy szkolić medyków wiedzy bardzo wysoko technicznej, dlatego że potem sąd, rozstrzygając sprawę, powie: ale pan doktor nie wytłumaczył, dlaczego algorytm poszedł w takim, a nie innym kierunku. To jest pierwsza sprawa.

Druga sprawa, dla mnie bardzo istotna. Musimy też poświęcić należytą uwagę edukacji pacjentów. Dlatego że doskonale państwo wiecie, że doktor Google opowiada o tym, jakim złem jest sztuczna inteligencja, i być może będzie takie zjawisko, że wielu pacjentów odmówi poddania się określonym procedurom medycznym z tego powodu, że otrzyma informację, że ta decyzja była z udziałem sztucznej inteligencji. Oczywiście wszystkie te świetne propozycje, które się tu pojawiły, naprawdę imponujące, opierają się na prostym założeniu, że końcową decyzję podejmuje lekarz. Jednak pacjent nie do końca i zawsze będzie ufał temu, że rzeczywiście ten lekarz zastanowił się nad tym, co się dzieje. Dlatego wszystko to jest bardzo dobre, natomiast jako przedstawiciel nauk społecznych chciałabym zwrócić uwagę, żeby równolegle szły również te dwie ścieżki, bo wtedy ten sukces będzie rzeczywisty.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo, pani profesor.

Proszę bardzo, panie profesorze oddaję głos.

Prorektor ds. technologii medycznych PUM dr hab. n. med. Andrzej Ossowski:
Panie przewodniczący, ja odpowiem pani profesor, bo jest to temat, którym się głównie zajmujemy – to jest odpowiedzialność. Kto ponosi odpowiedzialność tak naprawdę za podjętą decyzję, którą podejmie lekarz na podstawie analizy wykonanej przez sztuczną inteligencji? I tu wracamy do narzędzi, gdzie są tworzone, jak są tworzone, żebyśmy nie mieli zjawiska tzw. black boxu, bo to najczęstsze zjawisko, z którymi się stykamy. Czyli my tak naprawdę nie wiemy, na czym algorytm się nauczył i jak ten algorytm działa. A żebyśmy wiedzieli, jak to działa, to musimy mieć swoich bioinformatyków, nie tylko informatyków, ale przede wszystkim bioinformatyków, ludzi, którzy rozumieją, na jakich mechanizmach to jest oparte. A my nie mamy bioinformatyków, proszę państwa, w Polsce. My sobie możemy postawić dziesiątki serwerowni, petabajty danych, a bioinformatyków nie ma. Musimy zmienić postrzeganie, czyli te zmiany muszą być na wielu poziomach. Musimy wspierać przede wszystkim uniwersytety, które chcą kształcić bioinformatyków czy też matematyków, którzy później będą rozwijać się w kierunku biologii i medycyny, bo ci ludzie będą w stanie przetworzyć język informatyków. Jak my rozmawiamy z nimi, to ja nie mam zielonego pojęcia, o czym oni mówią, a oni nie mają zielonego pojęcia, o czym ja mówię – i do tego potrzebujemy tłumacza. To jest jedna kwestia.

Druga kwestia, na czym trenujemy nasze narzędzia. My trenujemy najczęściej dzisiaj… Ja widziałem wielu moich kolegów, którzy wrzucają do ChatGPT dane drażliwe i nie mają pełnej świadomości tego, że to, co tam trafiło, tam już zostaje. My musimy pracować w systemach zamkniętych. Wszystkie dane, które tam umieścimy… To ChatGPT to jest już pewnie najmniejszy problem. Mamy masę innych.

Kolejna kwestia to jest kwestia tego, w jaki sposób my jako naukowcy dla zabawy sobie tworzymy narzędzia, które wielokrotnie wprowadzają dane fałszywe – i później chat bazuje na tych danych, które myśmy sobie tak dla zabawy wytworzyli i przetrenowaliśmy. Ileś razy wprowadziliśmy te dane, a one później są traktowane jako dane prawdziwe. Jest wiele zagrożeń związanych ze sztuczną inteligencją, ale musimy mieć tego świadomość. To jest narzędzie jak każde inne, ono nigdy nie zastąpi człowieka. I obawy naszych kolegów – szczególnie w obrazówce ja już wielokrotnie słyszałem o wielkim zagrożeniu. Bo tak się wydaje, bo to są, powiedzmy sobie wprost, proste narzędzia i one już są, działają, ale łatwo je nam jest rozwijać. Te obawy są moim zdaniem niepotrzebne, bo to jest narzędzie, które usprawni naszą pracę i często –  tak jak widzieliśmy w prezentacji – wskażą akurat coś, co mogliśmy pominąć przy tej ilości badań, które musimy opisać i przeanalizować. Tutaj nie obawiałbym się sztucznej inteligencji, ale potrzebujemy świadomości, jak ona funkcjonuje, na czym działa i jak, bo mając świadomość, będziemy widzieć, jakie są zagrożenia.

Prorektor ds. organizacji US dr hab. Kinga Flaga-Gieruszyńska:
Właśnie o to chodzi, żeby pacjenci się nie obawiali tej sztucznej inteligencji. I jest jeden problem, bo absolutnie się zgadzam z kolegą co do znaczenia bioinformatyków. Tylko jeżeli my dzisiaj weźmiemy ustawę o prawach pacjenta, to my nie możemy tego bioinformatyka dopuścić do pacjenta, żeby odpowiedział na pytania, na które nie odpowiedział lekarz, bo zakazuje nam tego prawo do intymności pacjenta. I dlatego o tym mówię, że musi równolegle iść praca prawników i równolegle praca edukatorów, psychologów czy jakkolwiek ich nazwiemy, żeby pacjenci chcieli z tego korzystać i tego się nie bali.

Przedstawiciel Spyrosoft Synergy SA Krzysztof Minicki:
Dzień dobry. Szanowni państwo, nazywam się Krzysztof Minicki, jestem z firmy Spyrosoft i jestem na stanowisku dyrektora, który odpowiada za wytwarzanie oprogramowania właśnie dla systemów medycznych.

Tutaj państwo poruszacie szalenie ważny aspekt, natomiast żebyśmy go też nie przekomplikowali. Dzisiaj są wystarczające ramy prawne, jest to przede wszystkim dyrektywa unijna MDR, która mówi, jak tworzyć również oprogramowanie, bo to, o czym mówimy dzisiaj, to, co państwo prezentowaliście, te różne systemy – to też jest system medyczny. To znaczy to jest traktowane jako urządzenie medyczne, czyli wszelkiego rodzaju systemy, łącznie z AI, będą musiały mieć swoją klasyfikację i wszystko robione w ramach urządzenia medycznego, które jest ściśle regulowane przez dyrektywę i wymaga bardzo dużo nakładów właśnie regulacyjnych na to, żeby te aspekty, o których pan profesor też tu powiedział, w zakresie przygotowania danych, łącznie z AI Actem, jak te algorytmy będą trenowane, tak żeby te rozwiązania ostatecznie były po pierwsze certyfikowane. One muszą przejść przez tzw. znaczek CE, czyli proces CE marking, który jest procesem bardzo złożonym i też odpowiedzialnym. Wtedy takie urządzenie z perspektywy naprawdę lotu ptaka dla lekarza będzie takim samym urządzeniem jak respirator, jak kardiomonitor i każde inne urządzenie. To po prostu musi być robione w ramach tych aspektów.

To, co jest wyzwaniem dzisiaj w ramach medycyny i w projektach, w których ja uczestniczę od wielu lat, przede wszystkim AI, to jest właśnie przede wszystkim pokazanie bezpieczeństwa tego AI. I o ile algorytmy, które uczymy, i rozwiązania algorytmiczne AI, które są stałe, wyuczone, można to w tej chwili robić – na FDI na przykład tylko w bazie mamy ok. 1 tys. takich rozwiązań jako urządzenia medyczne klasyfikowane na rynku amerykańskim – dużym wyzwaniem, problemem są te rozwiązania, które w trakcie wykonywania swojej pracy uczą się, czyli jeszcze dodatkowo jakby usprawniają. Na to dzisiaj nie ma odpowiedzi prawnej, jak to robić, jak to wykonać. I gdyby ktoś dzisiaj nawet miał świetny algorytm, zrobił wszystko jak należy, miał głęboką wiarę, że to będzie działało, to nie ma ram prawnych, żeby mógł wdrożyć.  To jest jedyna bolączka, jeżeli chodzi o aspekt typowo prawny. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):
Bardzo dziękuję za ten głos.

Teraz oddam panu profesorowi. Pani prezes, tak? Bardzo proszę, pani profesor, oddaję głos.

Zastępca prezesa Agencji Oceny Technologii Medycznych i Taryfikacji Anna Kowalczuk:
Anna Kowalczuk, zastępca prezesa Agencji Oceny Technologii Medycznych i Taryfikacji.

Ja pójdę o krok dalej, to nie jest koniec tej historii, bo potem pojawia się decyzja, czy rozwiązania świadczenia zawierającego sztuczną inteligencję powinny znaleźć się w systemie opłacanym przez płatnika, czyli czy powinny wejść do koszyka świadczeń gwarantowanych – jeśli tak, to w jakich kwotach.

Agencja już z nazwy została wpisana w naszą narodową strategię cyfryzacyjną właśnie z takim zadaniem, czyli żeby wyceniać świadczenia z zastosowaniem sztucznej inteligencji. Państwo mówicie: przyspiesza, pomaga, jest to tylko narzędzie. Ale to nie do końca tak wygląda, bo jeśli wezmę długopis i lekarz będzie pracował długopisem czy komputerem, to rzeczywiście to nie podlega ocenie. Natomiast jeżeli wprowadzamy algorytm, który wpływa na bezpieczeństwo, pojawia się kwestia zabezpieczenia danych, nie wiem, jest ten pacjent, pojawiają się zgody, to mówimy o świadczeniu, które zmienia system – i całe otoczenie systemu też ulegnie zmianie. Czyli to pociąga za sobą konsekwencje.

Tak że chciałam zapytać, czy w trakcie państwa prac – tutaj szanownych panów profesorów – myślicie o tym, że te dane z tych procesów powinny zostać zbierane. Ponieważ na koniec dnia to trafi do AOTMiT i my będziemy oceniali, czy to świadczenie jest kosztowo efektywne, czyli czy koszty i efekty są korzystne w stosunku do rozwiązań, które aktualnie funkcjonują, i też umożliwi to nam docelowo wycenę takiego rozwiązania.

Chciałam jeszcze też powiedzieć o tym bezpieczeństwie, żeby zwrócić uwagę na kwestie bezpieczeństwa pacjenta, ale też bezpieczeństwa pacjenta w takiej, powiedzmy, może taka fatalistyczna wizja wojny hybrydowej – dostania się nieoczekiwanych algorytmów właśnie w takie rozwiązanie AI. Jakie to może pociągać konsekwencje? Czy AI Act przepisany na nasze rozwiązania krajowe – czy to jest to po prostu planowane na poziomie naszym, krajowym?

Rektor PUM prof. dr hab. n. med. Leszek Domański:
Myśląc o tej dyskusji – ja tylko z punktu widzenia lekarza, który bezpośrednio, czynnie pracuje i ma pacjenta blisko siebie. Poruszamy się tutaj w materii bardzo szerokiej, proszę zwrócić uwagę, od bardzo precyzyjnego algorytmu do oceny konkretnej procedury, poprzez te miękkie kompetencje, które są pomiędzy lekarzem a pacjentem. Zacznę od tego drugiego elementu. Po pierwsze, sztuczna inteligencja nie zastąpi inteligencji wynikającej z procesu diagnostycznego, leczniczego – nie zastąpi. My w tej chwili korzystamy z różnych wskazówek, zaleceń, rekomendacji, sami je tworzymy. W związku z czym, po pierwsze, tworzymy jakieś algorytmy i te algorytmy są ogólnie dostępne. Rozumiem, że to będzie zasób do tego, aby na podstawie algorytmów pomagać, jak z tych algorytmów korzystać, a nie zastępować algorytmów, które my tworzymy i zmieniamy, na podstawie właśnie analizy danych badań medycznych, które są ogólnie dostępne, które mają dokładnie tworzyć te zasoby. Jak dalece sztuczna inteligencja ma ingerować w to, aby sama kreowała pewne rzeczy – to jest pytanie do specjalistów, właśnie do informatyków, gdzie jest ta granica. Natomiast co do bezpieczeństwa pacjenta, to nie sztuczna inteligencja będzie tutaj w tym momencie decydowała o tym, tylko będzie ta inteligencja, która towarzyszy nie tylko lekarzowi, ale zespołowi terapeutycznemu, bo pamiętajmy o tym, że mówimy o lekarzach, ale to jest i pielęgniarka, to jest ratownik, to jest dostępność pacjenta do wszystkich elementów ochrony zdrowia. I tu potrzebujemy wsparcia dokładnie, które będzie to spinało, bo do tej pory jesteśmy zbudowani na silosach. Zwróćcie uwagę, my mówimy tu o procesach kształcenia – nawet żeby pomagać już na etapie kształcenia, współpraca pomiędzy ratownikiem, pielęgniarką, lekarzem i obsługa pacjenta, która jest związana chociażby z tym przykładem przekazywania informacji o wizycie dla pacjenta, to jest cały system, który musi ze sobą współgrać. I to zastosowanie sztucznej inteligencji to jest dokładnie zabranie tego, na co tracą czas wszystkie z tych grup. Czyli porozumiewanie się, zapewnienie przepływu informacji to jest jakby główny aspekt, na którym się musimy na początku skoncentrować. Czyli w pierwszej mierze obsługa pacjenta, bo możemy tu mówić o bardzo trudnych i ważnych rzeczach, ale na końcu ten pacjent zapyta się: co ja z tego mam?

Bardzo ważna rzecz, przepływ danych, czyli centralizacja danych, paszport. Każdy z nas właściwie jest świadectwem siebie. Mamy dowód, który mówi nam, kim jesteśmy, mamy PESEL, ale mamy pewien paszport zdrowotny. I te dane, które są danymi wrażliwymi, powinny być gdzieś zakodowane w tym momencie i chronione, a sztuczna inteligencja powinna nam tylko pozwalać przyspieszać transfer tych danych. I w tym kierunku musimy iść, aby budować narzędzia, które zastępują nie nasze myślenie i nasze kreowanie, bo to będzie zła droga. Ponieważ zawsze zadam pytanie, czy to jest moja praca, chociażby moja praca naukowa, czy też zadałem ten temat sztucznej inteligencji i sztuczna inteligencja za mnie wymyśliła. Proszę państwa, to się robi już teraz.

Ja, starej daty, przygotowując się w tej chwili do jakiejkolwiek pracy czy pracy naukowej, korzystam z tego narzędzia i nie dlatego, że jestem w tej chwili głodny tego narzędzia, tylko moje młode pokolenie, mój syn, który w tej chwili już uczy się inaczej myśleć, mówi: tata, czemu ty tyle tracisz czasu na to szukanie starymi metodami informacji, które są w zasięgu, jeżeli chcesz mieć zbiór literatury, która jest potrzebna, autentycznej, która jest do sprawdzenia, bo ja do niej sięgnę, to zapytaj – i mam to od ręki. I to jest właśnie, uważam, niezmiernie cenne. W tym momencie zanim wsiądziemy do tej rakiety, to pytanie, w którą stronę ją odpalamy. Odpalamy ją gdzieś, będziemy bardzo szybko się w tym momencie posługiwali tymi narzędziami.

Wydaje mi się, że każdy z tych elementów, które łączą dokładnie cały system ochrony zdrowia, musi iść równolegle, ale musimy ze sobą współpracować na zasadzie: czego my chcemy. I oczywiście mamy zasoby, bo jeżeli będziemy mieć zasoby, które będą nas obsługiwały technologicznie w tempie obsługi tych naszych pomysłów, to wydaje mi się, że faktycznie za parę lat to nie jest szybkobieżny pociąg, tylko to jest rakieta. I za tę dyskusję bardzo dziękuję.

Nie wiem, czy ktoś może odpowiedzieć tutaj. Andrzej, spróbuj.

Prorektor ds. technologii medycznych PUM dr hab. n. med. Andrzej Ossowski:
O bezpieczeństwie ja tak trochę wspominałem, bo to jest bezpieczeństwo na wielu poziomach ucieczki danych czy też kradzieży danych. To jest rzecz, o której bardzo często mówimy. Ja podkreślam na wielu spotkaniach, jeżeli chodzi o bezpieczeństwo danych genomowych, że jestem wielkim przeciwnikiem wypuszczania naszych danych genomowych, populacyjnych na zewnątrz, poza obręb kraju. Te dane pojedyncze nie stanowią wielkiego zagrożenia, ale jak mamy już dane tysięcy osób z danej populacji, to jesteśmy w stanie bardzo wiele powiedzieć na temat tej populacji, bo jesteśmy homogenni, więc niewiele trzeba tak naprawdę tych próbek, żebyśmy poznali, tak nazwijmy to bardzo brzydko i nienaukowo, genom Polaka. To jest rzeczywisty problem. Jeszcze 10 lat temu mogliśmy opowiadać o fantastyce, że tak naprawdę nikomu te dane nic nie dadzą, nic nie powiedzą, ale dzisiaj jest to problem rzeczywisty, bo z jednej strony jest to taki łup dla big pharmy. Na podstawie analizy tych danych są w stanie tworzyć konkretne produkty dla konkretnej populacji. Możemy też sobie wyobrazić równie dobrze, jeżeli jesteśmy w stanie stworzyć konkretny produkt dla konkretnej populacji leczniczej, to jesteśmy też w stanie stworzyć na podstawie tych danych produkt, który nie będzie produktem leczniczym, tylko będzie m.in. bronią biologiczną. Czyli to, co kiedyś mogliśmy uznawać za czystą fantastykę, dzisiaj się już dzieje. I bezpieczeństwo danych zgromadzonych w systemach, bezpieczeństwo produktów opartych o sztuczną inteligencję powinno być tutaj priorytetowe.  Stąd też te inwestycje. My musimy mieć swoją infrastrukturę, żebyśmy mogli trenować algorytmy w systemach zamkniętych, żebyśmy tych naszych danych nie musieli wrzucać w systemy, które nie są systemami bezpiecznymi.

Na spotkaniach naukowców z całej Europy rozmawiamy o takich rozwiązaniach. Mamy takie rozwiązania jak na przykład EGA, która służy do zbierania i gromadzenia danych genomowych. Projekt europejski, dzięki któremu możemy te dane deponować w sposób bezpieczny. Ta dyskusja się przetacza przez Europę i ona nie jest tylko problemem naszym lokalnym, tylko będzie problemem tak naprawdę całego kontynentu.

Rektor PUM prof. dr hab. n. med. Leszek Domański:
Jeśli mogę, bo ja cały czas myślę o pani pytaniu, odnośnie do tego, jak oceniać, jak wycenić pewne procedury, bo AOTMiT ma jako jedno z zadań dokładnie to – pewną wycenę procedur. Myśląc o samych danych, które są w szpitalach, mówimy o kosztach osobowych, mówimy o wartości produktu, mówimy o całej specyfikacji danej procedury, bo to jest główne pytanie. Już nie mówię o produkcie, bo produkt, to jest kwestia… Pytanie, czy to jest lek, czy to jest suplement, czy to jest technologia. To jest jakby kilka elementów tego. Jednak sama wycena procedury, która w tej chwili jest szacowana, bo takie są dane, czyli finansowe, czy przepływ informacji, to jest dokładnie to, o czym my mówimy, czyli centralizacja danych, danych bardzo wrażliwych, bo jak to będą dane ekonomiczne, które myśmy wykonywali piechotą, proszę państwa…  Ponieważ to, że w tej chwili są procedury jakoś wycenione i tam potem podajemy takie czy inne argumenty, to wynika z tego, że myśmy kiedyś liczyli strzykawki, gaziki, liczyliśmy to na piechotę, proszę państwa. To się nie wzięło z powietrza. Ja pamiętam czasy, kiedy każdy z nas na swoim oddziale miał zadania, żeby policzyć koszty, ile to tak naprawdę kosztuje, bo kiedyś to w ogóle nikt nie liczył tego. I to jest ten proces. W tej chwili te dane trzeba tylko odpowiednio zabezpieczyć, scentralizować, uśrednić i też, powiedzmy sobie, nowelizować, bo tak to niestety wygląda, że technologia wchodzi w tej chwili, komputeryzacja, mamy w tej chwili nowoczesne urządzenia. Kiedyś tomografia komputerowa była wielkim wyzwaniem, w tej chwili mamy pozytonową. Mamy coraz to nowsze technologie, które są coraz droższe. To nigdy nie będzie tańsze, tylko chodzi o to, żeby umieć oszczędzać tam, gdzie te pieniądze w tym momencie tracimy.

Przewodniczący poseł Grzegorz Napieralski (KO):
Czy ja mogę dorzucić jeszcze, panie profesorze? Zaczęło się od prezentacji tak bardzo prosto, a czym głębiej wchodzimy w temat, to jest coraz trudniej. Ja bym jeszcze jedną rzecz dopytał w tej dyskusji czy dorzucił taki kamyczek do ogródka, skoro jesteśmy tutaj z naukowcami. Chciałbym od was usłyszeć, co zrobić… Znaczy już budujemy jakiś pomysł, taki projekt, to dla mnie też takim ważnym elementem było udostępnianie tych danych dla was jako dla naukowców, żebyście mogli na naszych przypadkach podejmować jeszcze lepsze decyzje. Nie chcę powiedzieć szkolić się, nie umiem znaleźć jakiegoś dobrego słowa na to. Chodzi mi o to, że jeżeli dzisiaj pan profesor i pani profesor ma dostęp do wielu różnych danych w swojej specjalizacji, może zajrzeć w te dane, może nad nimi się zastanowić, może wymyślić nową, nie wiem, jakąś usługę – „usługę” to złe słowo – terapię, przepraszam. Pytanie, co zrobić też albo jak to zrobić, jak my powinniśmy do tego podejść jako przedstawiciele dzisiaj rządu i państwa, żeby te dane były dla was dostępne. Żebyście wy mogli jako profesorowie, jako naukowcy na tym pracować, wykorzystując algorytmy, moce obliczeniowe, o czym mówił pan minister. Jeżeli będziemy mieli dostęp do tej mocy obliczeniowej tak potężnej, że te danych możemy gromadzić coraz więcej – pan profesor mówił, że kiedyś to była jedna dyskietka, a dzisiaj to są takie olbrzymie dane – pytanie, co zrobić, żebyście wy mogli z tego korzystać i żeby to też oczywiście było bezpieczne.

Zastępca przewodniczącego Rady Agencji Badań Medycznych prof. dr hab. n. med. Jerzy Sieńko:
Jeśli mogę, panie pośle. Wydaje mi się, że to, co powiedział profesor Lozano, kluczowe do tej rakiety, do której chcemy, aby Polska wsiadła – po stronie polityków leży decyzja o czymś, co dla tej rakiety jest szalenie istotne, o paliwie. Ponieważ te inne narzędzia do tej rakiety to naukowcy, przygotowani do tego profesjonaliści stworzą. Jednym z takich narzędzi niewątpliwie jest bardzo bezpieczna chmura do magazynowania tych danych. Nawet jeżeli spojrzymy dzisiaj na googlowską chmurę, gdzie właściciel mówi, że sam nie ma do niej wglądu, jest to nieprawdą, ponieważ jakakolwiek interwencja rządu amerykańskiego zmusza firmę i ta firma te dane udostępnia. Czyli to jest kwestia stworzenia własnego bezpiecznego narzędzia, na które muszą być przeznaczone właśnie środki publiczne.

Natomiast te dane są pod kątem oczywiście rozważań naukowych jak najbardziej… Z profesorem Domańskim jesteśmy transplantologami, gdybyśmy mieli możliwość zgromadzenia danych z całego świata, które obrobiłaby nam sztuczna inteligencja, to też będzie wpływało w jakiś sposób choćby na leczenie nasze immunosupresyjne pacjentów, których prowadzimy po przeszczepieniu narządów. Czyli te same dane, które będą – oczywiście świat nauki jest w stanie sobie z nimi doskonale poradzić. Właśnie wszystko jest po to, aby tych pacjentów jak najbardziej efektywnie – efektownie też – leczyć, przywracać im zdrowie, ratować im życie. Natomiast niewątpliwie też państwa rolą, a takie jest oczekiwanie środowiska naukowców, które ten projekt przygotowuje, jest wsparcie, otworzenie furtki, oczywiście w drogach konkursów, na pozyskanie tego paliwa, czyli środków finansowych.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję bardzo.

Proszę, pani prezes.

Zastępca prezesa AOTMiT Anna Kowalczuk:
Panie profesorze, panie rektorze, my jak najbardziej jako AOTMiT mamy wśród swoich celów opracowanie takich wytycznych. Teraz na razie pracujemy nad szybką ścieżką dla e-innowacji, bo wiemy, że wiele innowacji cyfrowych nie ma lekko, jeśli chodzi o wejście w system. Natomiast rzeczywiście to powinna być praca antysilosowa, czyli nawet my opracowując nasze jakby wytyczne, jak te wyroby powinny być oceniane, właśnie zawierające algorytmy AI, na pewno będziemy posiłkowali się ekspertami zewnętrznymi.

Natomiast to, co jest kluczowe, to jest pytanie, czy państwo wiecie, szczególnie tutaj firmy dostarczające, że my pracujemy evidence base. Na koniec dnia jesteśmy tą złą agencją, która nie chciałaby mieć takich problemów jak w przypadku chorób rzadkich, gdzie bardzo wiele nowych technologii oczekiwanych zostaje odrzuconych, bo siła dowodów dostarczonych do AOTMiT jest za słaba. Tylko chciałam zaapelować, żebyśmy myśleli od początku – też jestem naukowcem – o tym, że te badania, jakby to, co zbierzecie po drodze, jest absolutnie konieczne potem, żeby przedstawiać jako dowód, że dane rozwiązanie w stosunku do obecnego jest lepsze. Nie mówię tańsze, mówię, że jest kosztowo efektywne, co oznacza, że w perspektywie na przykład całej ścieżki pacjenta przynosi dla pacjenta, dla nas korzyści.

Prorektor ds. technologii medycznych PUM dr hab. n. med. Andrzej Ossowski:
Może pójdę za tokiem pani prezes, bo rzeczywiście jest to poważny problem. Proszę państwa, kiedyś, myślę, że dzisiaj jeszcze, jak myślimy o analizie całogenomowej, to myślimy o dziesiątkach tysięcy złotych, pewnie ok. 10 tys., każdy powie, że cały genom to jest 10 tys. zł. Dzisiaj, proszę państwa, jesteśmy w stanie cały genom i to nie u Chińczyka, przepraszam, już pójdę w tym mocno kierunku, tylko normalnie w naszych laboratoriach materiałowo zrobić za 700 zł. Materiałowo, czyli tyle kosztują materiały, chemia do jednego genomu. Natomiast analiza tego to jest zupełnie inna bajka. Dzisiaj zaczynamy żyć w świecie, w którym zakup urządzeń i wykonanie badania zaczyna być tańsze niż przeprocedowanie, analiza. Czyli to jest bardzo ważna kwestia, wycena tak naprawdę tej obróbki tych danych, przechowywania tych danych, gromadzenia, bezpiecznego gromadzenia. I o tym na pewno musimy rozmawiać i musimy mieć tego świadomość, że tutaj tak naprawdę to generuje potężne koszty. Budowa całej infrastruktury, sama energia, która jest potrzebna do tego, żeby zasilić tylko te serwerownie, te karty GPU, one są jak mały generator, tylko że nie produkują prądu, tylko żrą tego prądu i też się zużywają. Musimy mieć tego pełną świadomość i też musimy iść w kierunku oczywiście wyceny tych świadczeń.

Natomiast jesteśmy w dobrym momencie, bo tak naprawdę my rozmawiamy o narzędziach, które w tej chwili stosujemy w medycynie, ale tych narzędzi jest bardzo niewiele. To są narzędzia głównie z zakresu analiz obrazowych, plus do tego narzędzia, które się zaczynają pojawiać, które ułatwiają nam zwykłą pracę codzienną, typu słowniki, czyli dyktujemy, czy też narzędzie, które po prostu przetwarza to, co mówimy na tekst ujednolicony, tekst pisany. To są bardzo proste narzędzia, ale niezbędne. Natomiast my, proszę państwa, idziemy w kierunku narzędzi nieporównywalnie bardziej skomplikowanych, które bazują nie na słowniku, który tam ma 200 słów,  tylko bazują na milionach zmian, które przetrenowują te wszystkie zmiany. I do tego się musimy bardzo mocno przygotować. Fajnie, że potrzebujemy paliwa do tej rakiety, ale też potrzebujemy kogoś, kto tą rakietą będzie sterował, bo nawet mając dużo paliwa i naprawdę świetną rakietę, to możemy polecieć nie w tę stronę co trzeba.

Ta podkomisja pokazuje, że idziemy w dobrym kierunku. Rozmawiamy z naukowcami, spotykamy się w gronie osób, które często mówią różnym językiem, ale poprzez te rozmowy będziemy szli na pewno w lepszym kierunku.

Rektor PUM prof. dr hab. n. med. Leszek Domański:
Jeśli mogę odnieść się znowu do głosu pani prezes. Agencja Oceny Technologii Medycznych i Taryfikacji ma swoje zadania. My tu mówimy o technologiach przyszłości i to zrobi kierunek, i z tego absolutnie nie można zejść, po prostu to trzeba robić, bo to zrobią inni szybciej.

Natomiast to, co tutaj zostało tak w tle poruszone, przynajmniej ja tak to odczuwam i czuję, to jest to, gdzie ta prawdziwa nauka jest, czy to jest lobbing koncernów farmaceutycznych, które gdzieś tam mają swoje badania naukowe. Powiedzmy sobie wprost, jeśli chodzi o medycynę, to stoimy w większości na badaniach ogromnych, które są robione ze środków prywatnych, nie państwowych. Żadne państwo nie jest tak bogate, aby utrzymywać te wielkie laboratoria i prowadzić te ogólnoświatowe, bo taka jest ich tendencja, badania kliniczne. Natomiast dostęp do tych badań w tej chwili, tych takich twardych – on jest i to jest to, na czym my bazujemy. Co innego jest wprowadzenie nowego leku, nowej cząsteczki, która nie ma takiego zasobu badań. To jest pewien proces i on chyba nie będzie inny, bo musimy, mając na myśli wprowadzenie jakiejkolwiek cząsteczki na rynek farmaceutyczny, dążyć najpierw do jej stworzenia, do badań pierwszej fazy, drugiej, trzeciej i te trzeciej fazy to są badania na szerokiej populacji. I to być może są akurat narzędzia, które można było użyć, i to jest przyspieszenie jakby organizowania tych badań, bo te badania muszą być dobrze przeprowadzone.

Projektowanie badania klinicznego, proszę państwa, to jest wielki proces. Najczęściej się porównuje i najlepiej do placebo, które często nie działa, bo zawsze jak podziała, to jest niedobrze. W większości naszych chorych to są osoby, które mają współchorobowość i takie badania, czyli właśnie kreowanie grupy docelowej, która de facto jest najszersza, będą najbardziej wartościowe, bo wtedy wiemy, że dana cząsteczka czy farmaceutyk będzie działał. Jednak to nie jest tylko nasz problem, bym powiedział, bo chyba każdy z krajów z tym się boryka, jaki ma zasób finansowy, żeby udźwignąć te nowe technologie, które wchodzą.

Przedstawiciel Spyrosoft Synergy SA Krzysztof Minicki:
To ja jeszcze, jeśli mogę. Z perspektywy branży i tak dzieląc się pewnymi trendami, które my już widzimy, to pod kątem bezpieczeństwa proszę pamiętać o tym, że dziś już kradnie się dane, które poczekają, aż komputery kwantowe, które są za rogiem, je odszyfrują. Dzisiejsze sposoby szyfrowania waszych danych prawdopodobnie za chwilę będą już przestarzałe. To jest pierwsza rzecz.

Druga rzecz, to już padło, biznes już też widzi, że to, co robiliśmy przez lata jako Europa, czyli korzystanie z amerykańskich bit techów na ślepo, dzisiaj już troszkę bardziej świadomie powinniśmy do tego podchodzić, czym dzielimy się z Amerykanami i w jakim stopniu od nich zależymy.

Trzecia rzecz, są coraz to nowsze metody pracy z danymi w sposób taki, który nie ujawnia danych pojedynczego pacjenta. Właśnie na przykład prywatność różnicowa jest tą rzeczą, która na Zachodzie coraz bardziej zdobywa popularność.

Przewodniczący poseł Grzegorz Napieralski (KO):
Dziękuję.

Jeszcze sekundkę, tylko jeżeli pozwolicie. Szanowni państwo, jak słucham tej dyskusji, to chciałem powiedzieć jedną bardzo pozytywną rzecz, że my już w zeszłej kadencji tak naprawdę zaczęliśmy przygotowywanie się do tej poważnej dyskusji, powołując też podkomisję, która ma tylko tak naprawdę w tym temacie dyskutować i prowadzić pracę. W tym roku, w tej kadencji też podjęliśmy. Znaczy to rząd podjął, to może nie my podjęliśmy, to dokładnie premier Gawkowski, właśnie jest pan minister Standerski, który koordynuje te prace i tylko tą kwestią sztucznej inteligencji się zajmuje. I faktycznie staramy się tu być liderem, jeżeli chodzi o Europę, w przygotowaniu w ogóle przepisów prawnych. Przyjęliśmy też takie zadanie na Komisji i na podkomisji, żeby absolutnie otworzyć drzwi do takich spotkań jak dzisiaj, żeby was wysłuchiwać, bo za chwilę te decyzje będziemy musieli podejmować. Mówię też o tym, że jest takie miejsce. Że to nie tylko dzisiaj jesteśmy tutaj u was… Jakiś zły algorytm po prostu. Chodzi mi o to, że to nie jest takie incydentalne zdarzenie, że przyjechaliśmy na to spotkanie, tylko że my staramy się tak naprawdę cały czas pracować i wysłuchiwać.

Jeżeli pan profesor Lozano mówi, że byliście na rozmowie w Centrum e-Zdrowia i jest pierwsza akcja, to bardzo się z tego cieszymy. Jeżeli my wciąż możemy jeszcze pomóc, to po prostu jesteśmy, to jest takie miejsce. I też to chcę podkreślić, że tak jak i pan minister, tak jak i my w Komisji czy w podkomisji też się uczymy tego. Znaczy nie będziemy mieli pełnej wiedzy na każdy temat. Ta sztuczna inteligencja jest de facto już dzisiaj wszędzie obecna, jest w edukacji, jest w zdrowiu, jest w administracji, jest w wielu, wielu miejscach. Staramy się to koordynować i wasza tak naprawdę wiedza, praktyków, teoretyków, naukowców, jest nam absolutnie potrzebna. To jakby tak tylko chciałem jeszcze dodatkowo podkreślić, żebym nie zapomniał później. Bardzo proszę, oddaję głos.

Zastępca dyrektora ds. ekonomicznych Samodzielnego Publicznego Wojewódzkiego Szpitala  Zespolonego w Szczecinie Marcin Kiestrzyn:
Marcin Kiestrzyn, zastępca dyrektora szpitala wojewódzkiego w Szczecinie. Ja do pani dyrektor troszkę, bo być może źle zrozumiałem. Tutaj mówimy dużo o nauce, o rozwoju, o badaniach, czyli tak naprawdę o klastrze B&R, czyli tu mamy całe te świadczenia, które są przed tym, co my robimy. My tu jesteśmy jako świadczeniodawcy, czyli szpitale, i te wyceny, które na końcu się pojawiają, dotykają bezpośrednio nas. W tych wycenach, mam nadzieję, może źle zrozumiałem, ale chciałbym, żebyśmy też skupili się na tym… Bo my, żeby zrealizować te świadczenia, a również wykorzystać w tym sztuczną inteligencję – to są dla nas określone koszty zarówno i zakupu samego oprogramowania, które jest dostępne na rynku, ale i to, co później się dzieje. To jest zarówno utrzymanie serwerowni, jak i rozszerzenie – tutaj korzystamy ze środków KPO. Tak naprawdę to są chyba pierwsze prawdziwe środki, które pojawiły się na informatyzację pomimo nakładania wszelkich możliwych obowiązków na szpitale w zakresie cyberbezpieczeństwa i wymogów dotyczących elektronicznej dokumentacji medycznej.

Teraz proszę sobie wyobrazić, my robimy te zakupy, to są naprawdę milionowe środki dla dużych szpitali, których nie mamy z czego wyłożyć, ponieważ korzystamy wyłącznie z finansowania z NFZ. I te wyceny, które AOTMiT przygotowuje, są dla nas tak jakby chlebem codziennym. Czyli my z nich korzystamy, z nich się finansujemy w wielu, wielu aspektach. Dlatego chciałbym, żeby państwo jako AOTMiT, też wzięli pod uwagę, że te koszty utrzymania tego, zarówno od strony nie tylko samego sprzętu, ale też, że my poszukujemy osób… Wiadomo – tutaj chyba najdroższa ławka naprzeciwko mnie siedzi informatyków – nie jest to tanie w tym wszystkim. Mówienie o tym, że sztuczna inteligencja obniży te koszty, to przyznam, że z perspektywy czasu, tak jak są wdrażane te systemy, to wydaje mi się, że udział w kosztach szpitala kosztów informatycznych, obsługi, specjalistów, bo my również konsultujemy, mamy różne bazy danych, mamy różne systemy, gdzie tak naprawdę nie jesteśmy w stanie utrzymać człowieka u nas, który może to obsługiwać… Korzystamy również ze specjalistów z zewnątrz, a to koszty podraża. Ten udział kosztów informatycznych w wycenie procedury co roku rośnie. I z taką nadzieją zwracam się do pani, bo pani jest na miejscu, żeby to uwzględnić w tych wycenach.

Mam nadzieję, że państwo nie zapomnicie również o świadczeniodawcach, czyli tych, co na końcu mają do czynienia z pacjentem, bo ta obsługa staje się coraz bardziej informatyczna, ale to nie oznacza, że ona staje się tańsza, ale wręcz przeciwnie. Myślę, że utrzymanie i zabezpieczenie tych wszystkich danych, które krążą, i to, co państwo tu pokazywaliście, czyli przykład tego Krakowa, który tak naprawdę pewnie po części gdzieś tam wszystkich nas obudził, ale też spowodował to, że te usługi nie stały się tańsze… Dziękuję bardzo.

Zastępca prezesa AOTMiT Anna Kowalczuk:
Jeśli mogę. Właśnie o tym chciałam tutaj powiedzieć, akurat próbując przekazać też panu rektorowi, żebyśmy gromadzili dane pokazujące przewagę. Czyli na przykład ile czasu zostało zaoszczędzone. Ile czasu medyk po prostu nie musiał być bezpośrednio zaangażowany w każdy element procesu. Nie mówię, że te wyceny mają wykazać, może nie wyceny, że kosztowa efektywność z takiego świadczenia będzie in plus bezpośrednio, natomiast ten czas, którego nie poświęci lekarz, będzie wartością dodaną.

Natomiast jeśli chodzi o same wyceny, to cóż, nie możemy też doprowadzić do sytuacji z czasem jak z robotyką, że dla samego efektu spektakularnego powiemy, że wykorzystanie robota przewyższa kompetencje lekarza. W niektórych badaniach tak po prostu nie wychodzi, wychodzi, że proces jeden i drugi jest tak samo skuteczny, a drugi jest po prostu droższy,  ale jest fajny i fajnie wygląda. Tak że absolutnie nie negując AI, zachęcałam tutaj do tego, żeby zbierać dane, żeby pokazywać, ile czasu pozwala oszczędzić dana technologia. Nie musimy zawsze mierzyć pieniędzmi.

Przewodniczący poseł Grzegorz Napieralski (KO):
Widzę, panie profesorze, i już oddaję głos. Tylko chcę powiedzieć, że my z ministrem jesteśmy zazdrośni, bo pani prezes jest dzisiaj bohaterką, a nie my. Żartuję.

Pan profesor, później państwo z Centrum e-Zdrowia. Proszę bardzo.

Prezes Whitesky.cloud Poland, członek Rady Uczelni PUM dr hab. inż. Alberto Lozano Platonoff:
Dziękuję.

Jeżeli mówimy o kosztach, chyba ten pierwszy punkt – liberalizacja usług, to, co rozmawialiśmy à propos platformy wymiany danych medycznych oraz dojścia innych dostawców usług, aby wchodzili na rynek – urynkowić to i to miałoby kolosalne znaczenie. Ponieważ to, co pan dyrektor powiedział, to rzeczywiście tak jest. Jak pytałem lekarzy: słuchaj, wdrażamy to? A oni mówią: ja muszę iść do mojego dostawcy i to, co on żąda ode mnie, żeby integrować się do tego HIS,  to jest dwa, trzy razy tyle, co wy mówicie.

Rzeczywiście te działania parlamentarne, panie przewodniczący, panie pośle, są ważne, żeby już to urynkowić i umożliwiać tę wymianę danych, która może być teraz w krótkim czasie, a to redukowałoby zasadniczo te koszty.

Kierownik projektu w departamencie CeZ Jarosław Boryń:
Panie przewodniczący, chciałbym wrócić tutaj do tematu, do którego pan nawiązał, czyli tematu danych. Jak najbardziej, pan minister mówił o budowaniu centrów przetwarzania – to bardzo ważne. Bardzo ważne, że mamy tutaj skład intelektualny, który będzie tworzył te algorytmy. Jednak chyba wszyscy się zgodzimy z tym, że algorytmy, które gdzieś na świecie są tworzone, niekoniecznie muszą być tak samo sprawne na populacji Polaków, jeśli zostały wyuczone na populacji amerykańskiej, azjatyckiej czy afrykańskiej. Dlatego tutaj taka inicjatywa, czyli na przykład sprawne wdrożenie EHDS, który umożliwi korzystanie później z tych danych do nauki, to jest taki element, który na pewno pomoże w adopcji i przyspieszy tworzenie sztucznej inteligencji dla nas, w Polsce.

Przewodniczący poseł Grzegorz Napieralski (KO):
Jeszcze do jednego wątku chciałbym powrócić, który na samym początku się pojawił, a potem też w niektórych głosach – dotyczący podejścia pacjentek i pacjentów do sztucznej inteligencji, do tej edukacji. Myślę, że to też będzie dla nas wyzwaniem. Myśmy już taką też niejedną dyskusję na Komisji czy na podkomisji odbyli i tak naprawdę to będzie raczej na naszych barkach, czyli która władza nie będzie, to musi mieć to na swoich barkach. Chociaż mamy narzędzia do tego, mówiąc szczerze, bo jest wiele miejsc, w których możemy ludzi edukować, takich często nieoczywistych, o których zapominamy, jak na przykład telewizje śniadaniowe, które mają olbrzymią popularność i wielką dozę zaufania wśród Polek i Polaków. Będziemy musieli tak naprawdę całą taką debatę czy dyskusję taką edukacyjną po prostu poprowadzić, tak jak prowadzimy w innych miejscach, bo bez tego się nie da. Dlatego że są ludzie, którzy będą robili wszystko, żeby nas zniechęcić do sztucznej inteligencji. Wychowani zostaliśmy na filmach, które pokazywały, co robi sztuczna inteligencja. To też pamiętam niejedną swoją dyskusję w wielu miejscach, gdzie na przykład film „Terminator” był przywoływany, że jak tak się stanie, to co wtedy. Oczywiście trochę śmiechu przy tym jest, trochę zabawy, ale gdzieś takie lęki są też wśród Polek i Polaków. Myślę, że to w każdym kraju jest bardzo podobnie.

Jakby też główną ideą tego, co my założyliśmy przy pracy naszej podkomisji czy w ogóle całej Komisji, jest to, że głównym elementem, który będzie nam przyświecał w tych pracach, jest oczywiście bezpieczeństwo, żeby tak obudować, tak złapać w ramy prawne sztuczną inteligencję, żeby ona służyła nam, a nie my mamy służyć jej.

Czy są jeszcze głosy w dyskusji? Szanowni państwo, jeżeli nie ma, to zanim jeszcze taką regułkę powiem o zakończeniu podkomisji, to chciałem, po pierwsze, podziękować współpracownikom pana rektora, już nie tylko panu rektorowi, którzy pomagali nam to zorganizować. Chciałem podziękować pracownikom naszej podkomisji, panu Andrzejowi i pani Magdalenie, którzy na swoje barki tak naprawdę też przyjęli bardzo dużo obowiązków, żebyśmy mogli tutaj przyjechać, panu ministrowi oczywiście za to, że znalazł czas w trudnym momencie, bo kampanijnym i ciężkiej pracy rządu, że jest tutaj dzisiaj z nami, w Szczecinie – to dla mnie naprawdę jest wielki zaszczyt. Chciałem państwu za tę obecność bardzo serdecznie podziękować i zaprosić oczywiście do współpracy z naszą podkomisją takiej codziennej – jesteśmy otwarci. Jeżeli pan przewodniczący Pejo pozwoli, to też w jego imieniu, że z Komisją Cyfryzacji, Innowacyjności i Nowoczesnych Technologii również zapraszamy do takiej współpracy. Dziękuję, że przyjechaliście, szanowni państwo, że jesteście tutaj dzisiaj z nami. Mamy jeszcze chwilkę, więc w kuluarach też jesteśmy do państwa dyspozycji.

Wyczerpaliśmy porządek dzisiejszych obrad naszej podkomisji. Zamykam nasze posiedzenie. Do zobaczenia i do widzenia. Dziękuję bardzo.