Czy program potrafi jednoznacznie stwierdzić, że film lub nagranie głosu zostało wygenerowane przez AI? Badania pokazują, że sprawa jest bardziej skomplikowana. Jan Rybarczyk, Mateusz Roszkowski i Jacek Komorowski opracowali DFD-Lab – środowisko pozwalające testować i porównywać narzędzia służące do wykrywania deepfake’ów. Ich eksperymenty pokazują, że detektor skuteczny w jednych warunkach może radzić sobie znacznie gorzej po zmianie danych lub jakości analizowanego materiału.
Deepfake’i stają się coraz poważniejszym wyzwaniem dla osób zajmujących się weryfikacją informacji. W odpowiedzi powstają narzędzia, które analizują nagrania i próbują określić, czy obraz albo głos został zmanipulowany przy użyciu sztucznej inteligencji. Problem polega na tym, że sam wynik takiego narzędzia nie zawsze daje jednoznaczną odpowiedź. Polscy badacze Jan Rybarczyk, Mateusz Roszkowski i Jacek Komorowski przedstawili DFD-Lab – środowisko badawcze stworzone do testowania i porównywania detektorów deepfake’ów analizujących obraz i dźwięk. Ich praca zwraca uwagę na problem istotny również z punktu widzenia OSINT-u i fact-checkingu: detektor AI nie powinien być traktowany jako ostateczny dowód autentyczności lub fałszywości materiału.
Ten sam detektor, inne dane – inny wynik
Jednym z głównych wyzwań związanych z wykrywaniem deepfake’ów jest to, że narzędzie może bardzo dobrze radzić sobie w warunkach, które zna, a znacznie gorzej po otrzymaniu materiałów pochodzących z innego źródła. Można porównać to do rozpoznawania fałszywych banknotów. Jeżeli system został wytrenowany na konkretnych rodzajach podróbek, może nauczyć się bardzo dobrze wykrywać właśnie te cechy. Nie oznacza to jednak, że równie skutecznie rozpozna zupełnie nową metodę fałszowania. Podobny problem występuje w przypadku deepfake’ów. Autorzy DFD-Lab testowali detektory w różnych warunkach i na różnych zbiorach danych. Wyniki pokazały, że przejście na materiały inne niż wykorzystywane podczas treningu może prowadzić do wyraźnego pogorszenia rezultatów. To ważne, ponieważ w rzeczywistym Internecie detektor nie otrzymuje wyłącznie materiałów podobnych do tych, na których wcześniej się uczył.
Kompresja filmu również może mieć znaczenie
Dochodzi do tego jeszcze jeden problem: jakość materiału. Filmy publikowane w mediach społecznościowych, komunikatorach czy na platformach internetowych są często kompresowane. Mogą być również wielokrotnie pobierane, ponownie zapisywane, przycinane lub przeskalowywane. Takie zmiany mogą wpływać na informacje zawarte w obrazie, na podstawie których detektor próbuje rozpoznać manipulację. Eksperymenty przeprowadzone w DFD-Lab pokazały, że degradacja jakości materiału może wpływać na zachowanie testowanych modeli. Autorzy sprawdzali również, czy przygotowanie detektorów do pracy z materiałami o gorszej jakości może zwiększyć ich odporność. Wyniki nie sprowadzają się jednak do prostego stwierdzenia, że kompresja zawsze pogarsza skuteczność. Pokazują raczej, że sposób przetworzenia nagrania jest jednym z czynników, które należy brać pod uwagę podczas interpretowania wyniku detektora.
DFD-Lab pozwala sprawdzać detektory w różnych warunkach
Właśnie temu ma służyć DFD-Lab. Nie jest to kolejny detektor, który ma po prostu odpowiedzieć użytkownikowi: „prawdziwe” albo „fałszywe”. To środowisko badawcze umożliwiające porównywanie różnych metod wykrywania deepfaków w kontrolowanych warunkach. Badacze mogą dzięki niemu sprawdzać między innymi, jak detektor zachowuje się po zmianie zbioru danych oraz jak reaguje na pogorszenie jakości analizowanego materiału. Modułowa konstrukcja pozwala również wymieniać poszczególne elementy systemu i porównywać rozwiązania według wspólnego schematu. Ma to znaczenie, ponieważ samo stwierdzenie, że dany model osiąga wysoką skuteczność, mówi niewiele, jeśli nie wiadomo, na jakich materiałach został przetestowany.
Detektor deepfake’ów to wskazówka, a nie werdykt
Z badania płynie ważny wniosek dla osób zajmujących się weryfikacją treści. Jeżeli detektor wskazuje, że film został prawdopodobnie wygenerowany lub zmodyfikowany przez AI, taki wynik powinien skłonić do dalszej weryfikacji. Nie należy traktować go jako ostatecznego dowodu. Ta sama zasada działa w drugą stronę. Jeżeli narzędzie nie wykryje manipulacji, nie oznacza to automatycznie, że nagranie jest autentyczne. W praktyce podczas weryfikacji materiału warto więc uwzględnić także jego źródło, okoliczności publikacji, wcześniejsze wersje nagrania oraz inne dostępne informacje. Wynik automatycznego detektora może być jednym z elementów tej analizy.
Wykrywanie deepfake’ów to wyścig, który ciągle się zmienia
Rozwój generatywnej AI sprawia, że metody tworzenia syntetycznych materiałów szybko się zmieniają. Dla twórców systemów wykrywających manipulacje oznacza to konieczność radzenia sobie nie tylko z deepfake’ami znanymi z dotychczasowych zbiorów danych, ale również z nowymi sposobami generowania i przetwarzania treści. DFD-Lab nie rozwiązuje tego problemu. Pozwala natomiast dokładniej badać, I właśnie to może być najważniejszą lekcją płynącą z pracy polskich badaczy. W przypadku automatycznego wykrywania deepfake’ów nie wystarczy zapytać, jak skuteczny jest dany model. Trzeba również wiedzieć, na jakich danych został sprawdzony i czy warunki testu przypominają materiał, który chcemy zweryfikować. Dlatego wraz z rozwojem narzędzi do wykrywania treści generowanych przez AI coraz ważniejsza staje się umiejętność właściwej interpretacji ich wyników. Detektor może pomóc w weryfikacji materiału, ale nie powinien zastępować samego procesu weryfikacji.
Źródło: DFD-Lab: A Modular Audio-Visual Deepfake Detection Pipeline, Jan Rybarczyk, Mateusz Roszkowski and Jacek Komorowski
Dezinformacja i fact checking – Dostęp do nagrania INFOBROKERSKA.PL
