Facebook będzie usuwał z serwisu materiały typu deepfake. „Dobre posunięcie, ale konieczna edukacja”

Deepfake to zjawisko tworzenia i zamieszczania w internecie zmanipulowanych filmów wideo, fotografii lub nagrań dźwiękowych, w których oryginalna treść zostaje zmieniona zgodnie z intencjami autora.

Deepfake oznacza materiały spreparowane za pomocą sztucznej inteligencji i uczenia maszynowego. W rezultacie może np. powstać film, w którym twarz bohatera zostaje podmieniona na inną, która dopasowuje swoją mimikę do oryginalnej treści nagrania. W rezultacie powstaje deepfake, w którym wstawiona sztucznie osoba może wykonywać czynności, których nigdy nie dokonała czy brać udział w wydarzeniach, w których nigdy nie uczestniczyła. Technika deepfake’ów była już wcześniej wykorzystywana m.in. do walki politycznej w niektórych krajach.

Facebook usunie materiały deepfake

Teraz Facebook zapowiedział ostrzejszą niż dotąd walkę z materiałami typu deepfake. W komunikacie na stronie Monika Bickert, szefowa ds. Global Policy Management poinformowała, że firma zmienia swoje podejście do treści zmanipulowanych za pomocą nowoczesnych technologii.

Zgodnie z zapowiedzią serwis będzie usuwał treści, które spełniają następujące kryteria:

• Materiał został zmontowany lub przetworzony – pomijając korekty służące poprawie jakości lub czytelności – w sposób, który nie jest oczywisty dla przeciętnego widza i mógłby sprawić, że widz uzna, iż osoba widoczna w materiale wypowiedziała słowa, które faktycznie nie padły.
• Materiał powstał przy pomocy sztucznej inteligencji lub uczenia maszynowego, które łączy, zastępuje lub nakłada treści na film, dzięki czemu wydaje się on autentyczny.

Facebook zaznacza, że wymienione zasady nie mają zastosowania do materiałów, które noszą charakter satyryczny oraz filmów, gdzie edycja polegała jedynie na usunięciu lub zmianie kolejności słów.  

Zgodnie z nową polityką niezależnie od powyższych zasad treści mogą zostać usunięte z platformy w przypadku naruszenia standardów społeczności np. w zakresie nagości lub mowy nienawiści.

W sytuacji gdy nie zostały spełnione kryteria by usunąć dany materiał z platformy, wciąż może on podlegać ocenie niezależnych weryfikatorów informacji. Jeśli weryfikator oceni taką treść jako wprowadzającą w błąd, Facebook znacznie obniży jej widoczność w ramach platformy oraz uniemożliwi jej reklamowe wykorzystanie.

Facebook informuje, że opracowując nowe zasady walki z deepfake’ami konsultował się z gronem ponad 50 ekspertów i naukowców specjalizujących się w kwestii manipulowania treściami.

Jan Ściegienny z polskiego oddziału Facebooka poinformował, że nowa polityka dotycząca deepfake’ów dotyczy serwisu we wszystkich ponad 50 jego wersjach językowych, będzie zatem stosowana także w wypadku polskiego Facebooka.

Cenna inicjatywa

Facebook wydaje się jednym z internetowych graczy który dostrzega zagrożenia związane ze stosunkowo nowym zjawiskiem deepfake’ów i stara się z nim aktywnie walczyć.

We wrześniu ub.r. Facebook, Microsoft oraz kilka uczelni powołali inicjatywę o nazwie Deepfake Detection Challenge (DFDC). Partnerzy projektu chcą wspomagać tworzenie nowych narzędzi ułatwiający wykrywanie deepfake’ów. Z kolei agencja Reuters we współpracy z Facebookiem udostępniła w internecie darmowy kurs mający pomagać dziennikarzom w rozpoznawaniu fałszywych treści typu deepfake i walce z tym zjawiskiem. Obie firmy zapowiadają dalsze wspólne działania mające ograniczyć zasięg deepfake’ów w internecie.

Teraz wygląda na to, że Facebook postanowił uporządkować kwestię deepfake’ów także na „własnym podwórku”. Czy będzie w tym względzie skuteczny? W rozmowach z serwisem Wirtualnemedia.pl eksperci branży social media nie mają jednoznacznej odpowiedzi na to pytanie, choć wszyscy przyznają że treści zmanipulowane przez zaawansowane technologie stanowią w sieci rosnący problem.

Grzegorz Berezowski, założyciel i szef NapoleonCat uważa, że Facebook obrał dobry kurs, choć walka z deepfake’ami niesie ze sobą pewne zagrożenia.

- Manipulowanie opinią publiczną przy wykorzystaniu mediów społecznościowych takich jak Facebook czy Twitter jest faktem i niesie ze sobą daleko idące konsekwencje, o czym mogliśmy się przekonać choćby podczas kampanii prezydenckiej w Stanach Zjednoczonych czy referendum w sprawie Brexitu – ocenia Grzegorz Berezowski. - Rozwój technologii sprawia, że coraz łatwiej jest sfabrykować materiały choćby w formie wideo, których ewentualna wiarygodność jest trudna do podważenia czy zweryfikowania przez „zwykłego" człowieka.

Nasz rozmówca przyznaje, że jednocześnie Facebook dla wielu milionów ludzi staje się de facto synonimem internetu i głównym źródłem informacji.

- Dlatego moim zdaniem inicjatywa podjęta przez Facebooka zmierzająca do wykrywania i usuwania lub ograniczania dystrybucji materiałów mogących być fake newsami jest bardzo cenna – zaznacza Berezowski. - Z drugiej strony oczywiście powstaje obawa, że korporacje zaczną przejmować rolę cenzorów, dotychczas zarezerwowaną raczej dla instytucji publicznych. Jeśli chodzi o „polskiego Facebooka" to zapewne też Polacy byli już wielokrotnie wystawieni na tego typu materiały. Biorąc jednak pod uwagę skalę problemu w naszym kraju mechanizm wykrywania i walki z fake newsami w pierwszej kolejności powinien objąć media publiczne.

Niespójna polityka

Także Dominik Batorski, szef Sotrendera oraz Agata Kwapień, senior marketing specialist w tej firmie w rozmowie z nami doceniają uwagę jaką Facebook poświęca deepfake’om, jednak w ogólnym obrazie jego polityka dotycząca dezinformacji wydaje się nieco mętna.

- Nie mamy danych pokazujących, że zagrożenie deepfake'ami jest w Polsce duże – przyznaje Agata Kwapień. - Jednak technologie te są coraz lepiej dostępne i coraz łatwiejsze w użyciu, a stworzony przez nie content coraz trudniejszy do rozpoznania przez „zwykłych” użytkowników internetu. Potencjalne negatywne konsekwencje tego typu manipulacji są bardzo duże. W social mediach treści szybko się rozpowszechniają i zanim zostaną zgłoszone przez zaniepokojonych użytkowników, często docierają już do tysięcy ludzi. Dlatego też systemowe zapobieganie manipulacjom jest potrzebne.

Ekspertka z Sotrendera przypomina, ze na przykład portal Reddit zakazał deepfake’ów już w sierpniu 2018 r., w odpowiedzi na coraz liczniej pojawiające się spreparowane materiały pornograficzne (tzw. revenge porn).

- Innym przykładem, który poruszył opinię publiczną w USA, było wideo przedstawiające spikerkę Izby Reprezentantów Nancy Pelosi z Partii Demokratycznej zedytowane w taki sposób, że wypowiadająca się polityk wygląda na nietrzeźwą – zaznacza Kwapień. - Materiał został udostępniony na Twitterze przez Donalda Trumpa i zdobył dużą popularność w mediach społecznościowych. Oczywiście okazał się nieprawdziwy, ale zdążył wyrządzić ogromne szkody wizerunkowe.

Z kolei według Dominika Batorskiego z drugiej strony nie sposób odnieść wrażenia, że Facebook zabiera się za problem, który budzi powszechne zainteresowanie, ale póki co ma jednak stosunkowo małe znaczenie dla zwykłych użytkowników social mediów.

- W tym samym czasie platforma dopuszcza inne rodzaje kłamstwa i rozpowszechniania nieprawdziwych informacji - odmawiając usuwania jawnie nieprawdziwych i wprowadzających w błąd reklam politycznych. Sprawia to wrażenie dość niespójnej polityki – ocenia Batorski.

Najważniejsza edukacja

Jan Grodecki, strategy group head w Spacecamp ocenia, że najnowsze zmiany zapowiedziane przez Facebook są jedynie rozwiązaniem doraźnym, bowiem w walce z deepfake’ami najbardziej istotne jest wyrobienie i wiedza internautów, o które muszą oni zadbać samodzielnie.

- Deepfake jest pojęciem, które zdobywa ostatnio ogromną popularność. Nic dziwnego, zrodził się z połączenia dwóch trendów, których bardzo się boimy: sztucznej inteligencji i fake news’ów – zaznacza Jan Grodecki. - A strach ten jest skutecznie podsycany przez media i polityków, którzy mogą stać się ofiarą zjawiska. W moim mniemaniu dyskusja ta jest jednak prowadzona nieco „na wyrost”. Bo mimo, że mamy już stosowną technologię, ani przez polskie, ani światowe media nie przetoczyła się jeszcze deepfake’owa afera, która miałaby realny wpływ na politykę, społeczeństwo czy biznes.

Nasz rozmówca przyznaje, że paradoksalnie najgłośniejszy tego typu skandal, mający chyba największy dotąd wpływ na debatę publiczną, to sprawa tzw. „Pijanej Nancy Pelosi".

- Źródłem afery był film z wypowiedzą spikerki Izby Reprezentantów Stanów Zjednoczonych, który został… zwolniony o 20 proc. w prostym programie do obróbki wideo, tworząc wrażenie, jakoby kobieta była pijana lub chora – podkreśla Grodecki. - A to z kolei wywołało szeroko zakrojoną dyskusję w mediach, wprowadzając w błąd wiele opiniotwórczych postaci, z głową państwa na czele. Pokazuje to, że deepfake to problem nie tyle technologiczny, co raczej społeczny. I to właśnie w zmianach społecznych tkwi jego rozwiązanie.

Według eksperta wyłapywanie i usuwanie tego typu filmów to rozwiązanie krótkoterminowe i krótkowzroczne. - W dobie fakenews’ów każdy z nas musi samodzielnie wykształcić sobie aparat obrony przed dezinformacją – ocenia Grodecki. - A do tego potrzebna jest rzetelna edukacja, krytyczne myślenie i nawyk kwestionowania informacji, które do nas docierają. Dlatego bardzo podoba mi się podejście Facebooka, zgodnie z którym nie wszystkie deepfake’owe treści zostają z portalu usunięte, a jedynie oznaczone jako nieprawdziwe. Dzięki temu odbiorcy stykający się z nimi w innych miejscach online będą znali kontekst i umieli wyciągnąć wnioski. Jednocześnie mam nadzieję, że taki format prezentacji fake newsów skłoni nas do refleksji i krytycznego podejścia do tego, co czytamy, oglądamy i w co wierzymy.

W III kwartale 2019 roku Facebook zanotował przychód na poziomie ponad 17,6 miliardów dolarów, a zysk netto sięgnął ponad 6 miliardów dolarów. Liczba użytkowników odwiedzających co miesiąc społecznościowy portal to obecnie blisko 2,5 miliarda.