Sztuczna inteligencja potrafi już nie tylko coraz lepiej imitować czyjś głos, ale też generować obrazy, z mimiką i gestykulacją poszczególnych osób. Niestety pokutuje w nas myślenie na zasadzie, że „to mnie nie dotyczy”. Tymczasem Polska jest dziś krajem frontowym, jesteśmy na celowniku służb. W samym centrum cyberwojny. Tym bardziej jednak musimy być przygotowani. To każdy z nas jest dziś żołnierzem na pierwszej linii frontu - mówi Salonowi 24 dr Piotr Łuczuk, medioznawca, ekspert w dziedzinie cyberbezpieczeństwa, UKSW, redaktor naczelny think tanku cytadela.pro.
W sieci ukazał się przerażający materiał Krzysztofa Stanowskiego, który padł ofiarą spoofingu. Ktoś się pod niego podszył, zadzwonił na policję i „przyznał się” do poćwiartowania żony. Potem jego małżonka odebrała telefon o rzekomej śmierci ich dzieci, następnie przyjechała straż pożarna do pożaru, który nie miał miejsca. A więc ktoś w sposób obrzydliwy nęka rodzinę znanego dziennikarza. Nie wiadomo na razie, jakie są motywy sprawców, ale nie ulega wątpliwości, że mamy do czynienia z czymś nowym, a do takich przestępstw dochodzi coraz częściej. Czy możemy jako społeczeństwo zacząć się bać?
Dr Piotr Łuczuk: Niestety nie jest to zjawisko zupełnie nowe, bo o szeregu możliwości, jakie także do działania w złej wierze daje nowoczesna technika, sztuczna inteligencja, mówiłem nieraz również w Państwa portalu. Niedawno Rafał Brzoska, założyciel i prezes InPostu padł ofiarą deepfake’ów. W sieci pojawiały się wygenerowane przez sztuczną inteligencję nagrania z jego twarzą, jego głosem, których treść wpisywała się w rosyjską propagandę oraz dość kontrowersyjny przekaz. Oczywiście żadnych takich słów biznesmen nie wypowiedział. Zostało to zmanipulowane.
Z kolei zaledwie kilka dni przed historią z Krzysztofem Stanowskim, opowiadałem moim studentom o medialnych doniesieniach ze Stanów Zjednoczonych. Kobieta odebrała telefon, usłyszała zapłakaną córkę, która wręcz spazmatycznie krzycząc, mówiła, że została porwana, że potrzeba pieniędzy na okup. Matka słyszała bardzo wiarygodny głos płaczu własnego dziecka. Na szczęście zadzwoniła do męża, który powiedział „zaraz, jak nasza córka została porwana, skoro stoi teraz obok mnie w sklepie”? Ten jeden telefon do zaufanej osoby, uratował całą rodzinę przed utratą znacznej sumy pieniędzy z konta.
No tak, ale stres, na jaki przestępcy narażają swe ofiary, nawet jeśli nie uda im się ich okraść, dla zdrowia nie jest obojętny. Ciekawe byłoby badanie, ile osób, które dostały nieprawdziwą informację o śmierci, czy wypadku bliskiej osoby, dostało zawału, do ilu osób przez fałszywe alarmy nie dojechała karetka, czy straż pożarna. Łatwo też przychodzi nam śmianie się z osób, które dały się nabrać, ale też przestępcy bywają bardzo przekonujący, sztuczna inteligencja potrafi doskonale imitować rzeczywistość. A informacja, że ktoś bliski uległ wypadkowi, siłą rzeczy wyłącza racjonalne myślenie.
Po części się zgodzę – słysząc o oszustwie metodami „na nigeryjskiego księcia” czy „na wnuczka” zazwyczaj ludzie się śmieją z naiwności ofiar. Jednak z jakiegoś powodu ta forma przestępstw działa. I faktycznie przestępcy bywają bardzo przekonujący. Wykorzystują różnego rodzaju sztuczki socjotechniczne. Teraz wspiera ich również AI. Sztuczna inteligencja potrafi już nie tylko coraz lepiej imitować czyjś głos, ale też generować obrazy, z mimiką i gestykulacją poszczególnych osób. Nie zmienia to faktu, że świadomość społeczeństwa w sprawie zagrożeń w cyberprzestrzeni jest na bardzo niskim poziomie. Niestety pokutuje w nas myślenie na zasadzie, że „to mnie nie dotyczy”.
Tymczasem rozmawialiśmy nie raz o wirtualnym ekshibicjonizmie – gdzie ludzie chwalą się całym, rozkładem mieszkania i terminami urlopu, wysyłając de facto zaproszenie dla włamywaczy. Nie mówię tu rzecz jasna o przypadku Krzysztofa Stanowskiego – dziennikarz z tego, co słyszymy, zachował się prawidłowo. Potem nagrał film, będący ważnym ostrzeżeniem dla nas wszystkich. Natomiast niektórzy pytają, jakim cudem przestępcy byli w stanie przejąć materiały dotyczące dziennikarza, jego numer telefonu. I tu odpowiedź jest akurat prosta.
Właściciel Kanału Zero jest osobą powszechnie znaną. Materiałów filmowych z jego udziałem w internecie jest cała masa. A zdobycie numeru telefonu do bardzo znanej osoby też nie jest rzeczą specjalnie trudną. Nie wiemy też, kim byli sprawcy – w przypadku dziennikarza nie musieli być to „zwykli” przestępcy, mógł zaleźć za skórę bardzo wpływowym środowiskom. Polska jest dziś krajem frontowym, jesteśmy na celowniku służb. W samym centrum cyberwojny. Tym bardziej jednak musimy być przygotowani. To każdy z nas jest dziś żołnierzem na pierwszej linii frontu.
Podczas nagrania Krzysztof Stanowski mówił też coś takiego, że jeżeli ktoś do nas dzwoni, podając się za kogoś z rodziny, to najlepiej zadać mu pytanie np. gdzie spędzaliśmy ostatnie wakacje. Czy to faktycznie dobry sposób na to, by nie dać się przestępcom?
Bardzo dobry, pod warunkiem, że wcześniej nie chwaliliśmy się w mediach społecznościowych szczegółami z naszych wyjazdów. Im mniej podamy informacji na nasz temat, tym lepiej. Natomiast samo zadanie pytania kontrolnego, czegoś w rodzaju zawołania: hasło-odzew, na które oszust nie będzie znać odpowiedzi, może być bardzo skuteczną metodą uniknięcia przykrych konsekwencji tego typu oszustw. O tym właśnie mówimy w ramach szkoleń i kursów realizowanych przez żołnierzy wojsk specjalnych i ekspertów od bezpieczeństwa w ramach think-tanku CYTADELA, którym kieruję.
Mamy mnóstwo pytań o to, jak chronić siebie i swoich bliskich, przed tego typu zagrożeniami. Powiem jedno: musimy wypracować procedurę, dzięki której nie damy się nabrać. Może być to jakieś hasło, seria pytań, na które odpowiedź zna tylko nasza żona, brat, dziecko. I oczywiście nie podawajmy odpowiedzi czy nawet podpowiedzi w internecie, a zwłaszcza mediach społecznościowych.
Wszystko fajnie, tylko Krzysztof Stanowski, choć niewątpliwie musiał przeżyć niebywały stres, ma świadomość, że znajduje się na tej pierwszej linii frontu. Nie tylko jest doświadczonym dziennikarzem, ale też od dawna interesował się sztuczną inteligencją, zagrożeniami w cyberprzestrzeni – świadczył o tym, chociażby dobór gości do jego programów. Tymczasem osoba niebędąca w temacie, na co dzień może, pomimo zaleceń, łatwiej paść ofiarą. Sam znam historię starszej pani, do której zadzwonił bandzior świetnie imitujący głos jej syna, zgubił go drobny szczegół, dzięki któremu staruszka nie dała się nabrać. Zmierzam do tego, że metody przestępców, ale też służb specjalnych idą coraz bardziej do przodu, i jako społeczeństwo tę wojnę przegrywamy?
No cóż, jedynym sposobem jest coraz większa świadomość, jaka jest skala zagrożeń. Musimy wiedzieć, że każde smart urządzenie, smartfon, smart pralkę sterowaną na przykład funkcjami głosowymi, powiązano z mikrofonami. I nie jest to żadna spiskowa teoria dziejów. Koncernom służy to do zbierania informacji na nasz temat w celach handlowych, by łatwiej sprofilować dla nas konkretną ofertę handlową. Tworzone są całe modele behawioralne naszych zachowań.
Medialnym platformom chodzi o generowanie odpowiednich klików. Trzeba mieć jednak świadomość, że z tych dobrodziejstw techniki korzystają też przestępcy, rosyjskie i nie tylko rosyjskie służby specjalne. Edukacja nie eliminuje całkowicie zagrożeń, ale je mocno niweluje. Podczas zajęć ze studentami robiliśmy testy, po których okazało się, że osobie stawiającej dopiero swoje pierwsze kroki w świecie cyberbezpieczeństwa i poznającej metody działania hakerów wystarczyła niecała minuta do wygenerowania witryny phishingowej służącej do wyłudzania danych. Nadmienię, że była ona łudząco podobna do prawdziwego systemu logowania do konta Google. Innym przykładem może być zmasowana akcja firm wykorzystujących w ramach call center imitujące ludzki głos voiceboty.
Czytelnicy mogli chociażby odebrać taki telefon od firmy rzekomo sprzedającej fotowoltaikę lub oferującej jakieś usługi w naszej okolicy. Niektórzy rozmówcy dopiero po dłuższym czasie orientowali się, że nie rozmawiali z człowiekiem. Wielu z nich, zapewne w ogóle tego faktu nie odnotowało. Telefony wykonywały boty, które zaliczyły test Turinga. Dla niezorientowanych – przejście owego testu oznacza, że rozmówca nie jest w stanie odróżnić, czy rozmawia z maszyną, czy człowiekiem. I maszyny zdały ten test, a poprzez rozmowę z człowiekiem mogły się wiele nauczyć. Od sposobu wysławiania się, po różnego rodzaju informacje, które w takiej rozmowie padły.
Czy paradoksalnie, wobec zagrożeń w sieci, nastąpić może niebawem odwrotny trend, w którym jakaś grupa ludzi zacznie szukać ambitniejszych treści, czy nawet nastąpi triumfalny powrót czasopism drukowanych?
Zdecydowanie będą odbiorcy, szukający drugiego, czy nawet trzeciego obiegu. Jednak wśród większości użytkowników głównym trendem jest skupianie się na mediach społecznościowych. Niestety brak jest refleksji, pogłębienia informacji, weryfikacji jej. Coraz większą rolę odgrywają plemienność i fake newsy. I to jest niestety smutny obraz rzeczywistości, w której się znajdujemy. W związku z tym owszem będzie grupa użytkowników szukających treści ambitniejszych. Książki, czasopisma, magazyny, periodyki będą istnieć. Jednak będzie to nisza, a nie wiodący trend.
Rozmawiał Przemysław Harczuk
Źródło zdjęcia: Historia Krzysztofa Stanowskiego to groźne ostrzeżenie. Fot. PAP/Tytus Żmijewski
Inne tematy w dziale Technologie