Deepfake i oszustwa AI: jak rozpoznać fałszywkę, zanim stracisz pieniądze 

Pracownik międzynarodowej firmy w Hongkongu dołączył do wideokonferencji, na której zobaczył dyrektora finansowego i kilku innych członków zarządu - wyglądających i brzmiących dokładnie tak, jak ich zapamiętał. Po rozmowie przelał 200 milionów dolarów hongkońskich, czyli około 25,6 miliona dolarów amerykańskich. Żadna z osób na tym połączeniu nie istniała - wszystkie były wygenerowanymi przez AI deepfake'ami stworzonymi na podstawie prawdziwych nagrań i zdjęć. To dziś jeden z największych znanych przypadków oszustwa tego typu, ale skala mniejszych, codziennych prób rośnie znacznie szybciej, niż większość firm zdążyła się na to przygotować.

Czym dokładnie jest deepfake i jak powstaje?

Deepfake to materiał wideo, dźwiękowy lub zdjęcie stworzone albo zmienione za pomocą sztucznej inteligencji tak, żeby wyglądało lub brzmiało autentycznie. Technologia opiera się na głębokim uczeniu (deep learning) - sieć neuronowa jest trenowana na prawdziwych materiałach danej osoby (zdjęciach, nagraniach głosu, filmach), a następnie wykorzystuje tę wiedzę do generowania nowych, fałszywych treści: podmiany twarzy, dopasowania ruchu ust do innej wypowiedzi albo sklonowania czyjegoś głosu na podstawie zaledwie kilkunastu sekund nagrania.

Im więcej autentycznego materiału danej osoby krąży publicznie w sieci - nagrania z konferencji, wywiady, relacje wideo w mediach społecznościowych - tym łatwiej i dokładniej można ją "sklonować" cyfrowo. To dlatego menedżerowie wyższego szczebla i osoby publiczne stają się dziś naturalnym celem tego typu ataków.

Jak oszuści wykorzystali deepfake, żeby wyłudzić 25 milionów dolarów?

W opisanym przypadku z Hongkongu pracownik początkowo był podejrzliwy wobec wiadomości rzekomo od dyrektora finansowego z prośbą o przelew, ale jego wątpliwości rozwiały się dopiero po udziale w wideokonferencji, na której "zobaczył" i "usłyszał" znanych sobie członków zarządu. Dopiero po dokonaniu przelewu i braku dalszego kontaktu firma odkryła, że padła ofiarą starannie przygotowanego oszustwa - w sprawie zatrzymano później sześć osób.

Ten schemat - fałszywa wideokonferencja albo nagranie głosowe rzekomo od przełożonego, połączone z presją czasu i pilnością przelewu - powtarza się w mniejszej skali również w Polsce, choć rzadko na tak spektakularne kwoty. Mechanizm psychologiczny jest zawsze ten sam: zaufanie do znanej twarzy i głosu w połączeniu z presją, żeby działać natychmiast, zanim zdąży się to zweryfikować.

Jakie są najczęstsze scenariusze oszustw AI wymierzonych w firmy i osoby prywatne?

Poza fałszywym prezesem proszącym o pilny przelew, polskie służby (CERT Polska, policja) dokumentują też fałszywe reklamy inwestycyjne, w których znane osoby publiczne rzekomo polecają konkretne platformy - w jednym z udokumentowanych przypadków ofiara straciła w ten sposób ponad 250 tysięcy złotych. Kolejny popularny scenariusz to podszywanie się pod bliską osobę: nagranie głosowe imitujące głos dziecka albo rodzica z pilną prośbą o przelanie pieniędzy, często z tłem sugerującym wypadek albo inną nagłą sytuację.

W środowisku firmowym najczęściej powtarza się wariant "fałszywy szef", "fałszywa księgowość" albo "fałszywy dział IT" - ktoś podszywa się pod osobę z realnym autorytetem w organizacji i prosi o przelew, zmianę danych do przelewu albo udostępnienie danych dostępowych, zawsze z dodatkiem presji czasu, która ma nie dać ofierze czasu na spokojne zastanowienie się.

Ten sam mechanizm bywa też wykorzystywany do wyłudzania danych osobowych klientów pod pretekstem "pilnej weryfikacji" - dlatego warto mieć jasność, na jakich zasadach dane klientów w ogóle mogą być przetwarzane i przekazywane w kontakcie z AI, o czym pisałem przy okazji pytania, RODO a ChatGPT: jak legalnie używać AI z danymi klientów.

Jak rozpoznać fałszywe wideo: na co patrzeć w twarzy i ustach?

Eksperci Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK wskazują okolice ust jako miejsce, gdzie najczęściej pojawiają się błędy w renderowaniu obrazu - nienaturalny ruch warg niedopasowany do wypowiadanych słów to jeden z najbardziej wiarygodnych sygnałów ostrzegawczych. Dodatkowo warto zwrócić uwagę na rozmazane zęby, dziwną linię szczęki, rzadkie lub zupełnie nienaturalne mruganie oraz oświetlenie twarzy niezgodne z resztą sceny w tle.

Przy zdjęciach dodatkowym tropem bywają zdeformowane dłonie i palce (wciąż jeden z najsłabszych punktów generatywnej AI), niesymetryczne okulary czy biżuteria, rozmazany tekst w tle oraz cienie padające w sposób niezgodny z widocznym źródłem światła.

Jak rozpoznać fałszywy głos w rozmowie telefonicznej?

Sklonowany głos często brzmi płasko, bez naturalnych pauz i zmian intonacji charakterystycznych dla żywej rozmowy - eksperci NASK zwracają uwagę na nieprawidłową intonację albo brak płynności wynikający z tego, że model ignoruje interpunkcję w sposób, w jaki robi to człowiek czytający na głos. Dodatkowym sygnałem bywa dziwnie zmieniający się akcent w trakcie rozmowy oraz powtarzające się, sztywne zwroty, jakby rozmówca czytał z gotowego skryptu, a nie prowadził naturalną rozmowę.

W praktyce najskuteczniejszym testem pozostaje zadanie pytania, na które fałszywy rozmówca nie może być wcześniej przygotowany - coś bardzo osobistego albo związanego z bieżącym kontekstem firmy, czego nie da się łatwo wyciągnąć z publicznie dostępnych materiałów.

Jakie sygnały w treści i zachowaniu rozmówcy powinny Cię zaniepokoić?

Automatycznie generowane treści tekstowe wciąż zdradzają się drobnymi błędami gramatycznymi, szczególnie w odmianach liczebników - to sygnał wart sprawdzenia, jeśli wiadomość rzekomo od osoby dobrze znającej język ma nietypowe błędy w tym akurat miejscu. Innym tropem są niespójności logiczne: sytuacja, w której mowa ciała czy ton głosu nie pasuje do wypowiadanych słów, na przykład ktoś mówi o pilnej, stresującej sytuacji zupełnie neutralnym, spokojnym tonem.

Uniwersalnym sygnałem ostrzegawczym - niezależnie od tego, czy to wideo, głos czy tekst - pozostaje presja czasu połączona z prośbą o pieniądze albo dane dostępowe. Prawdziwe, pilne sprawy biznesowe niemal zawsze da się zweryfikować drugim kanałem komunikacji bez utraty tej pilności, a naleganie, żeby zrobić coś "teraz, bez dzwonienia do nikogo innego", to właśnie ten moment, w którym warto się zatrzymać.

Jak zabezpieczyć firmę przed oszustwem typu "fałszywy prezes"?

Najprostszą, a zarazem najskuteczniejszą procedurą jest zasada podwójnej weryfikacji każdego przelewu powyżej ustalonej kwoty - telefon na znany wcześniej, zapisany numer (nigdy na numer podany w podejrzanej wiadomości) do osoby, która rzekomo zleciła przelew, zanim pieniądze faktycznie opuszczą konto firmy. Warto też ustalić w zespole hasło albo pytanie kontrolne używane właśnie w sytuacjach nietypowych próśb o pilne działania finansowe - coś, czego nie da się łatwo znaleźć w publicznych materiałach o firmie.

Dobrze zaprojektowana polityka bezpieczeństwa AI w firmie powinna wprost opisywać takie scenariusze i procedurę postępowania krok po kroku, zamiast liczyć na to, że każdy pracownik sam wpadnie na właściwą reakcję pod presją czasu - gotowy szablon takiej polityki, który można dostosować do własnej organizacji, opisywałem przy okazji pytania, polityka korzystania z AI w firmie.

Co zrobić, jeśli już padłeś ofiarą takiego oszustwa?

Pierwszy krok to zabezpieczenie dowodów - zrzuty ekranu, linki, dokładne daty i godziny kontaktu, zanim cokolwiek zniknie albo zostanie usunięte przez sprawców. Materiału nie należy dalej udostępniać ani komentować publicznie, dopóki sprawa nie trafi do odpowiednich służb, bo to może utrudnić dochodzenie albo dać oszustom sygnał, że sprawa została odkryta.

Jeśli doszło do przelewu pieniędzy albo ujawnienia danych dostępowych, natychmiastowy kontakt z bankiem znacząco zwiększa szansę na zablokowanie transakcji, a zgłoszenie do CERT Polska (SMS na numer 8080 albo formularz na incydent.cert.pl) i na policję dokumentuje sprawę formalnie. Przy oszustwach wykorzystujących wizerunek konkretnej osoby warto też zgłosić naruszenie bezpośrednio na platformie, na której materiał się pojawił.

Jak ograniczyć materiał, z którego oszuści mogą zbudować Twój deepfake?

Im mniej publicznie dostępnych nagrań głosu i wideo danej osoby krąży w sieci, tym trudniej i drożej jest zbudować przekonujący deepfake tej konkretnej osoby - warto szczególnie ograniczyć publiczną dostępność nagrań osób decyzyjnych w firmie (prezesów, dyrektorów finansowych), które są naturalnym celem tego typu ataków. Włączenie weryfikacji dwuetapowej na wszystkich kontach firmowych i prywatnych dodatkowo utrudnia wykorzystanie danych wyciekających z innych źródeł do przejęcia konta, nawet jeśli sam głos czy wizerunek zostaną już podrobione.

Zasadność przechowywania i zabezpieczania firmowych nagrań, zdjęć oraz innych materiałów, które mogłyby posłużyć do budowy deepfake'a, warto rozpatrywać w tym samym kontekście, co ogólne bezpieczeństwo danych firmowych związanych z AI - opisywałem to szerzej przy okazji pytania, gdzie trzymać dane, żeby AI było bezpieczne.

Ten sam ostrożny sposób myślenia o tym, co udostępniamy publicznie i komu ufamy z danymi, dotyczy zresztą całej pracy z narzędziami AI w firmie, nie tylko zagrożenia deepfakiem - o tym, jakich danych nigdy nie warto wprowadzać do popularnych narzędzi AI, pisałem szerzej przy okazji pytania, jakie dane możesz wrzucać do ChatGPT, a jakich nigdy. Warto też znać szerszy kontekst prawny dotyczący odpowiedzialności za wykorzystanie AI w firmie, który opisywałem przy okazji pytania, AI Act 2026: co musisz wiedzieć jako właściciel firmy.