AI przeciwko AI. Wykorzystanie modeli LLM do wykrywania deepfake'ów podczas weryfikacji klienta

Zagrożenie tego rodzaju atakami jest dziś jak najbardziej realne, a ich skuteczność wynika nie tylko z zaawansowanej technologii, ale także z braku przygotowania zarówno wśród ludzi, jak i organizacji. Dlatego w walce z deepfake'ami szkolenia pracowników oraz odpowiednie procedury bezpieczeństwa są równie ważne jak narzędzia AI. Weźmy pod uwagę opisany wcześniej atak. Prosta zasada, taka jak wymóg zatwierdzenia przelewu na wysoką kwotę w dedykowanym systemie lub druga autoryzacja od niezależnej osoby, skutecznie by go zneutralizowała.

Budowanie odporności organizacji zaczyna się więc od ludzi i procesów. Technologia wchodzi do gry dopiero później.

Pierwsze deepfaki pojawiły się około 2014 roku. Pamiętasz, jak postrzegano je jako technologiczną nowość, coś fascynującego, ale niegroźnego, funkcjonującego głównie na uczelniach i niszowych forach? Od tego czasu ta nisza przerodziła się w globalną plagę dezinformacji.

Statystyki mówią sam za siebie. W 2023 roku wykryto ponad 500 000 materiałów typu deepfake, a eksperci od cyberbezpieczeństwa prognozują, że do końca 2025 roku ich liczba przekroczy 8 000 000. Co istotne, raport opublikowany przez Komisję Nadzoru Finansowego w 2024 roku wskazuje, że deepfaki były dominującą formą ataku w tym roku, a rosnąca skala tego zjawiska jest wynikiem zarówno łatwego dostępu do generatywnych modeli AI, jak i ich mocy. Innymi słowy, sztuczna inteligencja przyspiesza produkcję fałszywych treści.

Zagrożenie przybiera realne formy.

·     Geopolityka jest doprowadzana na skraj destabilizacji. Raport opublikowany przez McAfee w 2024 roku ujawnił, że nie mniej niż 75% ataków z użyciem deepfake’ów w Indiach miało na celu ingerencję w procesy polityczne. Obejmowały one zarówno fałszywie przypisane liderom wypowiedzi, jak i kompromitujące materiały wpływające na wyniki wyborów. Podobne przypadki odnotowano w USA i Słowacji.

·     Firmy są nieustannie na celowniku. W lutym 2024 roku pracownik firmy w Hongkongu przelał 25 000 000 dolarów oszustom po wideokonferencji, na której każdy uczestnik, w tym dyrektor finansowy, był deepfake’iem generowanym w czasie rzeczywistym. Nie zaskakuje więc fakt, że 73% globalnych firm postrzega oszustwa, wyłudzenia i manipulacje jako realne, codzienne zagrożenie, a nie hipotetyczne, i już wdraża technologie wykrywania.

·     Osobista trauma i chaos społeczny. W 2024 roku głośna sprawa związana z Taylor Swift doprowadziła do zalania platformy X (dawniej Twitter) deepfake’ami, ujawniając bezradność ofiar oraz skalę potencjalnych szkód, od zniszczenia reputacji po długotrwałe problemy ze zdrowiem psychicznym.

Pierwsze metody wykrywania deepfake’ów, oparte na wypatrywaniu nienaturalnego mrugania, dziwnej tekstury skóry czy niespójnego oświetlenia, to już przeszłość. Dzisiejsze generatywne sieci neuronowe (GAN) uczą się na błędach niemal natychmiast i eliminują tego typu niedoskonałości.

Istnieje więc tylko jedna skuteczna odpowiedź na złośliwą sztuczną inteligencję. Dobra sztuczna inteligencja. Taka, która jest szybsza, mądrzejsza i dokładniejsza.

·     Neuronowi analitycy obrazu

o Konwolucyjne sieci neuronowe (CNN) analizują obrazy na poziomie mikro, wykrywając subtelne artefakty kompresji, cyfrowy szum i anomalie pikseli niewidoczne dla ludzkiego oka.

o Rekurencyjne sieci neuronowe (RNN) analizują ciągłość ruchu i gestów oraz synchronizację mowy z ruchem ust, wykrywając nienaturalne przeskoki w narracji wideo.

·     Hybrydowe narzędzia przyszłości

o Blockchain, przypisujący cyfrowe certyfikaty autentyczności materiałom oryginalnym przechowywanym w łańcuchu bloków.

o Analiza częstotliwościowa i widmowa, badająca „DNA” dźwięków i obrazów w poszukiwaniu nienaturalnych wzorców pozostawionych przez algorytmy generatywne.

o Biometria behawioralna, wykrywająca mikroekspresje, tempo mowy i charakterystyczne ruchy ciała, których sztuczna inteligencja wciąż nie jest w stanie doskonale odtworzyć.

1.  Paradoks ewolucji. Detektor wytrenowany na deepfake’ach z wczoraj może okazać się bezużyteczny wobec tych z jutra. Potrzebne są systemy zdolne do uczenia się w czasie rzeczywistym.

2.  Mgła dezinformacji. Im gorsza jakość wideo, na przykład wskutek wielokrotnej kompresji, tym trudniej wykryć manipulację. Algorytmy muszą działać skutecznie w warunkach „wysokiego szumu”.

3.  Walka z czasem. Obecnie wygenerowanie deepfake’a zajmuje kilka minut, a jego wykrycie musi nastąpić niemal natychmiast, zanim fałszywe treści staną się wiralowe.

Czego możemy się spodziewać do 2030 roku?

·     Mobilne skanery staną się standardem w smartfonach, umożliwiając weryfikację połączeń i materiałów w czasie rzeczywistym.

·     Wartość rynku technologii wykrywania deepfake’ów przekroczy 3,4 miliarda dolarów.

·     Systemy AI będą w stanie rozróżniać nie tylko autentyczność materiału, ale także jego kontekst i intencję – od satyry po niebezpieczną dezinformację.

W MakoLab rozumiemy, że w grze nie chodzi wyłącznie o technologię. Przede wszystkim stawką jest zaufanie — fundament społeczeństwa, gospodarki i relacji międzyludzkich.

Dlatego:

·     tworzymy systemy łączące uczenie maszynowe, blockchain i analizę behawioralną;

·     wspieramy organizacje w analizie ich procesów krytycznych, szczególnie narażonych na manipulacje i ataki. Pomagamy budować ich odporność i zapewniamy im bezpieczeństwo;

·     działamy w czasie rzeczywistym, aby zapobiegać rozprzestrzenianiu się fałszywych treści;

·     stawiamy na jakość, nieustannie trenując modele na najnowszych typach zagrożeń.

Poznaj architekturę rozwiązań MakoLab | Umów analizę swoich procesów krytycznych i wzmocnij zdolności obronne swojej organizacji.

·                Dlaczego deepfake to problem strategiczny, a nie tylko technologiczny?

Ponieważ uderza w same fundamenty. Niszczy reputację marek i destabilizuje rynki. To broń w wojnach informacyjnych, niosąca najwyższe możliwe ryzyko — operacyjne, finansowe i wizerunkowe.

·                 Czy sama sztuczna inteligencja może nas ocalić?

Kluczowe znaczenie ma tu połączenie technologii AI z wiedzą ekspercką ludzi. Potrzebujemy przejrzystych, stale aktualizowanych systemów, które wspierają analityków, a nie ich zastępują.

·                 Jak pogodzić skuteczną detekcję z ochroną prywatności?

W MakoLab stosujemy podejście privacy-by-design. Analizujemy autentyczność materiału, nie ingerując w treści prywatne. Wykrywając manipulację, jednocześnie chronimy prywatność osób występujących w materiale.