Prawo do cyfrowego wykluczenia?


Z okazji 30-lecia kancelarii Wardyński i Wspólnicy 7 grudnia 2018 r. odbyła się debata „Prawo do cyfrowego wykluczenia. Godność i prywatność a rozwój nowych technologii”. Paneliści zastanawiali się, czy – skoro wywalczyliśmy już sobie prawo dostępu do internetu – nie warto pomyśleć o prawie do wolności od internetu.

Tytuł debaty może wydawać się prowokacyjny, biorąc pod uwagę starania o pełniejszą cyfryzację rzeczywistości, ale dowodzi też rosnącej świadomości całkiem realnego zagrożenia.

Jak mówił Krzysztof Wojdyło, wspólnik odpowiedzialny za praktykę prawa nowych technologii, dyskusja na ten temat jest nie tylko zasadna, ale nawet spóźniona, bo do pewnego stopnia nie mamy już wpływu na bieg zdarzeń. Państwa są bezsilne w zetknięciu z cyberprzestępczością. Większość cyberprzestępstw jest niewykrywalna. Zgodnie z danymi amerykańskiego think tanku Third Way na tysiąc zgłoszonych cyberprzestępstw tylko trzy kończą się zidentyfikowaniem sprawcy. Przy pobiciach ten współczynnik wynosi 50%. Pytanie brzmi, czy chcemy żyć w świecie, w którym panuje anarchia – bo to już jest anarchia.

Na dodatek procesy decyzyjne dotychczas podejmowane przez ludzi zostały oddane algorytmom – i z systemowego punktu widzenia efekt jest lepszy. W związku z tym pojawia się pokusa, by w imię efektywności oddawać pole technologiom. Istnieje jednak ryzyko, że w ten sposób nie zauważymy przekraczania kolejnych granic. Już teraz mamy do czynienia z automatyczną predykcją przestępstw. Automat przewiduje, czy ktoś ma skłonności do popełnienia przestępstwa. Grozi to nam scenariuszem jak z filmu „Raport mniejszości” – człowiek może zostać zatrzymany, nawet jeśli nie złamał prawa, ale system AI stwierdził jego predyspozycje do bezprawnych zachowań.

Do tego dochodzą ataki na naszą prywatność. Maszyniści szybkiej kolei na linii Pekin – Szanghaj mają obowiązek nosić elektroencefalografy badające stopień ich koncentracji. Wszystko w imię bezpieczeństwa, ale kierunek zmian jest ryzykowny. Stąd pytanie, czy do praw człowieka nie dodać prawa do cyfrowego wykluczenia – czy może raczej prawa do cyfrowego odłączenia się (the right to unplug).

Czy jednak mamy realnie taką możliwość? Jak mówił Piotr Garstecki – naukowiec, współzałożyciel i prezes Scope Fluidics S.A. – już dzieci w podstawówce mają świadomość, że poruszając się w internecie, zostawiają ślad cyfrowy i dają komuś dużą wiedzę na swój temat. Nie prowadzi to jednak do rezygnacji z usług cyfrowych. Musimy żyć społecznie, a życie społeczne przenosi się do internetu. Wykluczyć się to przestać być uczestnikiem cywilizacji. Dobrowolnie skazać się na znaną ze średniowiecza karę wygnania. Nie powinniśmy więc dążyć do samowykluczania, tylko do unormowania nowego aspektu rzeczywistości – zwłaszcza że niesie on niezaprzeczalne korzyści.

Mikołaj Barczentewicz – prawnik i filozof, wykładowca University of Surrey – podał przykład znacznego skrócenia postępowań wskutek zastąpienia elementów procesu decyzyjnego sędziów przez algorytmy. Sęk jednak w tym, że algorytmy przewidują przyszłość na podstawie przeszłości, co może prowadzić np. do replikacji rasizmu. Nie można też bagatelizować ludzkiego poczucia sprawiedliwości. Dla uczestnika procesu sądowego wartością może być interakcja z człowiekiem-sędzią, świadomość, że zostało się wysłuchanym. Może więc rozwiązaniem byłoby rozstrzyganie spraw w pierwszej instancji przez roboty, a w drugiej przez ludzi?

Na społeczny koszt uproszczeń zwracał uwagę Wojciech Orliński – dziennikarz, pisarz, wykładowca. W wielu dziedzinach, takich jak obrót nieruchomościami czy prawa autorskie, zgadzamy się na komplikowanie sobie życia w imię nadrzędnych wartości. Na razie mamy wybór: czy iść do urzędu czy skorzystać z ePUAP. Logika technologii jest jednak taka, że wybór się kończy. Mówi się, że blockchain wyeliminuje notariuszy. Tak było ze sklepami płytowymi, które pozostały w formie niszowych butików, dostępnych dla zamożniejszej części społeczeństwa. Nie chodzi o to, żeby uczynić świat lepszym, kasując inne opcje.

Joanna Jeśman – kulturoznawczyni, wykładowczyni School of Ideas oraz Uniwersytetu Humanistycznospołecznego SWPS – podkreśliła, że nadrzędnym prawem człowieka jest wolność. We Francji i Włoszech pojawiło się uprawnienie do niekomunikowania się z pracodawcą po godzinach pracy. Tymczasem u nas wprowadzono obligatoryjne e-zwolnienia. Nie wiadomo, jak to wpłynie na chęć korzystania z wizyt u lekarza. Przy wprowadzaniu nowych rozwiązań trzeba też uwzględniać megatrendy, takie jak starzenie się społeczeństwa. Osobom starszym wcale nie musi zależeć na tym, żeby było nowocześnie. Równolegle obserwowanym megatrendem jest jednak smart everything – czyli wszystko cyfrowe, podłączone do sieci i dziejące się w szybkim tempie. Oznacza to, że pójście tylko jedną drogą może spowodować duże problemy dla znacznej części społeczeństwa.

Paneliści wydawali się więc zgodni, że prawo do cyfrowego wykluczenia powinno nam przysługiwać. Moderator Alek Tarkowski (prezes Fundacji Centrum Cyfrowe) podpytywał jednak, jak powinna wyglądać jego realizacja w praktyce. Paneliści zgodzili się, że to by było trudne. Pozostaje nam – tam, gdzie można – wybierać analogowe rozwiązania.

Wszystko, co jest w sieci, kiedyś wycieknie, dlatego bardzo niepokojące są trendy przenoszenia wszystkiego do internetu, mówił Wojciech Orliński. Szkoły powszechnie korzystają z dzienników elektronicznych. Zwykle nie dostrzegamy zagrożeń z tym związanych, ale to nie znaczy, że ich nie ma.

Z kolei Krzysztof Wojdyło zwracał uwagę, że jesteśmy w przededniu cyfryzacji tożsamości na bazie naszych loginów do bankowości cyfrowej. Skoro cyfrowe konto da się wyczyścić, tak samo da się wykraść naszą cyfrową tożsamość i dokonać w naszym imieniu stu czynności prawnych na całym świecie.

Do tego dochodzi kwestia wyboru cywilizacyjnego: czy stawiamy na efektywność, czy godność jednostki. Chiny nie widzą tego dylematu i mają przewagę konkurencyjną. Wartość dodaną łatwiej jest wygenerować, jeśli człowiek nie przejmuje się innymi wartościami. W efekcie rozdźwięk technologiczny staje się coraz większy. Chińskie algorytmy są skuteczniejsze, bo uczą się na większej liczbie danych. A algorytmy takie mają ogromne znaczenie np. w medycynie. Aby opracować np. terapię na rzadkie choroby, konieczne są ogromne ilości danych, których w Europie nie wolno przetwarzać. Jak jednak znaleźć złoty środek między przeciwstawnymi wartościami?

Prelegenci przewidywali, że cyfrowe odłączenie może stać się kwestią stylu życia, luksusem dostępnym tylko dla najbogatszych, podobnie jak luksusem w czasach zanieczyszczenia światłem jest całkowita ciemność.

Wnioski z dyskusji nie były jednak pesymistyczne. Jak mówił jej moderator, Alek Tarkowski, najlepszym sposobem przewidywania przyszłości jest jej tworzenie. Skoro dostrzegamy zagrożenia, możemy być w stanie je wyeliminować.

Optymistycznie nastawieni byli też goście debaty. W trakcie dyskusji z udziałem słuchaczy dr Jarosław Deminet, informatyk, zwracał uwagę, że wraz z rozwojem technologii utraciliśmy wiele praw, takich jak prawo do podróży bryczką, i jakoś nad tym nie bolejemy. Podróż transatlantykiem do Nowego Jorku też przestała być realną opcją. Z kolei wiele naszych wcześniejszych obaw (czy też nadziei) się nie sprawdziło. Zdolności systemów AI wciąż nie wykraczają poza bardzo proste wnioskowanie.

Z kolei prof. Andrzej Blikle zwracał uwagę, że istnieją pilniejsze problemy, takie jak prawo konsumentów do rzetelnego produktu czy usługi. Kupując dowolną aplikację, musimy zgodzić się na regulamin jej użytkowania zawierający bezwzględne zrzeczenie się praw do roszczeń w przypadku, gdyby błędy istniejące w nabywanym systemie spowodowały u nas jakieś szkody. Pół biedy, gdy chodzi o edytor tekstu, gorzej, gdy błędy są w systemie dawkującym promieniowanie przy terapii nowotworów. Powinny powstać narzędzia prawne i informatyczne, które znalazłyby rozwiązanie tej sytuacji.

Istnieje więc duże pole do działań – zarówno dla prawników, jak i ludzi korzystających z technologii.

Justyna Zandberg-Malec