OpenAI uruchamia stronę do sprawdzania obrazów z AI

OpenAI chce ułatwić sprawdzanie, czy obraz mógł powstać w jego narzędziach AI. Firma udostępniła podgląd publicznej strony openai.com/verify, na której można przesłać plik graficzny i sprawdzić, czy zawiera sygnały pochodzenia powiązane z OpenAI.

To nie jest magiczny wykrywacz prawdy. Narzędzie nie rozstrzyga, czy zdjęcie jest prawdziwe, zmanipulowane, legalnie użyte, dokładne albo przedstawione we właściwym kontekście. Jego zadanie jest węższe: sprawdzić, czy obraz niesie obsługiwane ślady wskazujące na wygenerowanie przez ChatGPT, Codex lub API OpenAI.

Mimo tego ograniczenia to ważny ruch. Do tej pory rozpoznawanie obrazów AI często opierało się na zgadywaniu po detalach, zawodnych klasyfikatorach albo etykietach platform społecznościowych. OpenAI proponuje bardziej techniczną warstwę: podpisane metadane oraz niewidoczny znak wodny.

Krótko mówiąc, obrazy AI mają coraz częściej nosić ze sobą coś w rodzaju paragonu pochodzenia.

Co właściwie uruchamia OpenAI

Nowa strona OpenAI jest publicznym podglądem narzędzia do weryfikacji obrazów. Użytkownik przesyła plik PNG, JPG albo WEBP, a system szuka dwóch typów sygnałów: Content Credentials C2PA oraz znaków wodnych SynthID.

Jeśli jeden z tych sygnałów zostanie wykryty, wynik może wskazać, że obraz prawdopodobnie pochodzi z narzędzi OpenAI. Według firmy wykryte sygnały mają być wiarygodne, a fałszywe pozytywy rzadkie.

Problem, który OpenAI próbuje zaadresować, jest bardzo realny. Obrazy generowane przez AI są już na tyle dobre, że wiele osób nie rozpoznaje ich wzrokiem. Fałszywe zdjęcie z wydarzenia, produkt, którego nie ma, stylizowany kadr z osobą publiczną albo viralowy screenshot mogą rozchodzić się szybciej, niż ktokolwiek zdąży je sprawdzić.

OpenAI nie twierdzi, że sam ten podgląd rozwiązuje problem. Twierdzi raczej, że warstwa pochodzenia powinna być łatwiejsza do odczytania dla zwykłych użytkowników.

I to jest najciekawsze. Weryfikacja nie powinna wymagać laboratorium ani grzebania w metadanych z poziomu terminala.

OpenAI zapowiedziało tę zmianę w poście na X, podkreślając, że dodaje nowe sposoby rozpoznawania obrazów wygenerowanych przez AI i sprawdzania ich pochodzenia, w tym znaki wodne SynthID obok Content Credentials C2PA.

C2PA i SynthID robią różne rzeczy

Pierwszą warstwą jest C2PA, czyli standard Coalition for Content Provenance and Authenticity. To otwarty format pozwalający dołączać do mediów metadane o pochodzeniu: skąd plik pochodzi, jak został utworzony lub edytowany i kto podpisał te informacje.

OpenAI dodaje Content Credentials do obrazów od 2024 roku, a teraz zostało produktem zgodnym z C2PA jako generator. W praktyce ma to ułatwić innym platformom i narzędziom odczytywanie informacji o obrazach wygenerowanych przez OpenAI.

Drugą warstwą jest SynthID, niewidoczny znak wodny od Google DeepMind. W przeciwieństwie do metadanych SynthID jest osadzony bezpośrednio w obrazie. Taki sygnał ma większą szansę przetrwać kompresję, zmianę rozmiaru, filtry albo screenshot.

Te dwie metody zabezpieczają różne słabości. Metadane mogą przekazać więcej kontekstu, ale łatwo je usunąć lub zgubić podczas publikowania. Znak wodny mówi mniej, ale może zostać nawet wtedy, gdy metadane znikną.

Razem tworzą mocniejszy ślad pochodzenia niż każda z tych metod osobno.

Jak działa openai.com/verify

Sam proces jest prosty. Wgrywasz pojedynczy obraz, czekasz na analizę i sprawdzasz, czy narzędzie znalazło metadane C2PA, znak wodny SynthID, oba sygnały albo żadnego obsługiwanego śladu.

OpenAI radzi, aby przy screenshotach przycinać plik blisko samego obrazu i unikać wrzucania grafik zawierających kilka obrazów naraz. To ma sens, bo screenshot z interfejsem, kilkoma zdjęciami, tekstem i kompresją utrudnia analizę pochodzenia.

Narzędzie skupia się obecnie na obrazach z OpenAI. Jeśli grafika została wygenerowana przez inny model, weryfikator OpenAI może niczego nie wykryć, nawet jeśli obraz jest w całości syntetyczny.

Dlatego wynik trzeba czytać ostrożnie. Pozytywny sygnał jest użyteczny. Brak sygnału nie jest dowodem autentyczności.

OpenAI deklaruje też, że przesłane obrazy są przetwarzane w celu sprawdzenia obsługiwanych sygnałów, nie są używane do trenowania modeli i nie są przechowywane, chyba że wymaga tego prawo.

Najważniejsze ograniczenie

Najważniejszy fragment całej historii brzmi mało efektownie: brak sygnału nie oznacza, że obraz nie jest z AI.

Powodów może być wiele. Platforma społecznościowa mogła usunąć metadane. Znak wodny mógł zostać osłabiony przez edycję. Obraz mógł powstać przed wdrożeniem tych sygnałów. Mógł też zostać wygenerowany w innym systemie, który nie korzysta ze stosu OpenAI.

Dlatego to narzędzie najlepiej traktować jako mechanizm potwierdzający, a nie uniwersalny wykrywacz.

Jeśli znajdzie sygnał OpenAI, dostajemy mocną wskazówkę o pochodzeniu. Jeśli niczego nie znajdzie, nadal trzeba robić zwykłą weryfikację: szukać pierwszego źródła, sprawdzać kontekst, porównywać z wiarygodnymi publikacjami i nie traktować viralowego obrazu jako dowodu sam w sobie.

To mniej widowiskowe niż hasło „detektor AI”, ale znacznie bezpieczniejsze.

Dlaczego to ważne dla redakcji i platform

Dla dziennikarzy, fact-checkerów, edukatorów i zespołów trust and safety pochodzenie treści staje się częścią podstawowego warsztatu.

W starym internecie zdjęcie mogło kłamać, ale zwykle zaczynało jako zapis z aparatu. Era generatywnej AI tę intuicję psuje. Wiarygodnie wyglądający obraz może powstać z promptu, zostać poprawiony rozmową, wyeksportowany, zrzutowany, repostowany i oderwany od źródła w kilka minut.

C2PA daje profesjonalnym użytkownikom sposób na sprawdzenie deklarowanej historii pliku. SynthID dokłada drugi sygnał, gdy metadane znikną.

Żaden z nich nie zastępuje oceny redakcyjnej. Prawdziwe zdjęcie może być użyte w fałszywym kontekście. Ilustracja AI może być zupełnie uczciwa, jeśli jest oznaczona. Screenshot może ukrywać to, co było przed i po nim.

Mimo to solidny sygnał pochodzenia pomaga platformom podejmować lepsze decyzje i zmniejsza liczbę sytuacji, w których podejrzany obraz trzeba oceniać wyłącznie „na oko”.

Partnerstwo z Google ma większe znaczenie

Aktualizacja OpenAI jest istotna także dlatego, że wchodzi tu Google. OpenAI dodaje SynthID od Google DeepMind do obrazów generowanych przez ChatGPT, Codex i API OpenAI.

Google równolegle rozszerza swoje narzędzia weryfikacji i pochodzenia treści w takich produktach jak Search, Gemini, Chrome, Pixel i Cloud. Do SynthID mają też dołączać kolejne firmy, w tym OpenAI, Kakao i ElevenLabs.

To zaczyna wyglądać mniej jak pojedyncza funkcja jednej firmy, a bardziej jak zalążek wspólnej infrastruktury.

Internet nie potrzebuje dwudziestu niekompatybilnych etykiet, które działają tylko w zamkniętym ogrodzie jednej platformy. Potrzebuje sygnałów, które mogą podróżować razem z plikiem, być czytane przez różne narzędzia i przetrwać typowe udostępnianie.

Otwarte pozostaje pytanie, czy dołączą wystarczająco liczni dostawcy AI. Jeśli tylko część dużych laboratoriów będzie oznaczać swoje obrazy, osoby działające w złej wierze po prostu wybiorą narzędzia bez takich zabezpieczeń.

Jak używać tego w praktyce

Dla zwykłych użytkowników nowy weryfikator OpenAI warto mieć pod ręką, ale nie jako jedyne narzędzie oceny.

Po pierwsze, sprawdzaj pochodzenie, gdy obraz dotyczy czegoś ważnego: wydarzenia publicznego, katastrofy, skandalu, osoby publicznej, rzekomego produktu, dokumentu albo screenshota, który może poruszyć rynek.

Po drugie, traktuj brak sygnału jako wynik niejednoznaczny. To znaczy tylko tyle, że narzędzie nie wykryło obsługiwanych śladów OpenAI.

Po trzecie, porównuj obraz z innymi źródłami. Odwrotne wyszukiwanie obrazem, konto pierwszego publikującego, data publikacji i wiarygodne media nadal mają znaczenie.

Po czwarte, patrz na kontekst. Prawdziwe zdjęcie z jednego wydarzenia może zostać użyte jako „dowód” w zupełnie innej historii. Pochodzenie mówi, jak plik powstał, ale nie rozstrzyga wszystkich twierdzeń wokół niego.

Najzdrowsza zasada jest prosta: weryfikator to jeden element dowodów, nie ostateczny werdykt.

Warstwa zaufania staje się infrastrukturą

Publiczny podgląd OpenAI nie kończy problemu obrazów AI w internecie. Jest raczej jednym z elementów większej warstwy zaufania.

Sieć zmierza w stronę świata, w którym media będą potrzebowały czytelnego dla maszyn kontekstu. Aparaty, narzędzia kreatywne, generatory AI, serwisy społecznościowe, przeglądarki i wyszukiwarki muszą współpracować, jeśli pochodzenie treści ma działać w skali internetu.

To nie zatrzyma oszustw. Nadal będzie można przycinać, renderować ponownie, robić screenshoty, fałszować kontekst albo korzystać z modeli bez oznaczeń. Może jednak podnieść koszt manipulacji i dać uczciwym twórcom, redakcjom oraz użytkownikom lepsze narzędzia.

Najlepsza wersja tego systemu nie jest cudownym detektorem obiecującym pewność. Jest zestawem wspólnych sygnałów, które ułatwiają sprawdzenie pochodzenia.

Nowa strona OpenAI jest małym publicznym wejściem do takiej przyszłości. Jeśli branża pójdzie dalej w tym kierunku, sprawdzanie skąd pochodzi obraz może stać się tak normalne, jak sprawdzanie linku przed kliknięciem.

(Zdjęcie: Bernd Dittrich / Unsplash, licencja.)