deepfake

Media stały się jednym z najczęstszych celów ataków cyberprzestępców. Podszywanie się pod celebrytów czy polityków jest już tak popularne, że w gąszczu dezinformacji trudno odsiać deepfejki od prawdy. NASK przygotował przewodnik dla mediów i twórców cyfrowych, który ma zwiększyć odporność na cyfrowe zagrożenia.

W ostatnim czasie na platformie społecznościowej Facebook opublikowano film, wygenerowany przy użyciu najnowszych technik podkładania głosu oraz obrazu, z wykorzystaniem sztucznej inteligencji. Materiał dotyczył jednego z preparatów medycznych. W filmie wygenerowano mój wizerunek i wypowiedź na temat preparatu.

Wystarczy jedno zdjęcie i próbka głosu, by stworzyć cyfrową osobę, która powie, co tylko jej każemy.

- Im więcej materiału źródłowego, tym lepiej. Bierzemy go np. z naszego podcastu. Potrzeba nam jeszcze filmu pornograficznego, do którego dokleimy materiał źródłowy. I dla osoby postronnej materiał wyjściowy jest nie do odróżnienia - mówi Martyna Różycka z Dyżurnet, NASK w rozmowie z Anną Wittenberg, dziennikarką DGP.

Tworzenie obrazów typu deepfake o charakterze seksualnym będzie przestępstwem, nawet jeśli ich twórca nie zamierzał ich rozpowszechniać - ogłosił w wtorek brytyjski rząd.

Inwazja rosyjska na Ukrainę, nierzadko relacjonowana w mediach, zwłaszcza tych społecznościowych, pozwala dostrzec nie tylko kolumny wojsk rosyjskich i grozę wojny. Pokazuje też, jak walczy się za pomocą botowych kont na Twitterze czy pospiesznie stworzonych deepfake’ów.

Osoba rozpowszechniająca efekt zastosowania techniki deepfake’u musi liczyć się z tym, że jej działanie może kolidować z przepisami wielu różnych dziedzin prawa np. prawa autorskiego, prawa cywilnego, przepisów chroniących dane osobowe czy nawet prawa karnego.

Problem deepfake został zdemaskowany już dawno. Na długo, zanim świat doświadczył wykorzystania tej techniki w niecnych celach. Pozwala ona na tworzenie filmów w realistyczny sposób przedstawiających aktorów, polityków lub inne osoby podejmujące działania, które nie miały miejsca. W tym roku po raz pierwszy został wykorzystany w kampanii wyborczej.