ChatGPT oznaczy obrazy wygenerowane przez DALL-E 3 cyfrowymi tagami
We współczesnej erze, gdy oszuści wykorzystują generatywną sztuczną inteligencję do oszustw lub zniesławiania, firmy technologiczne opracowują metody pomagające użytkownikom w weryfikacji treści, zwłaszcza obrazów. Zgodnie ze swoją strategią przeciwdziałania dezinformacji do 2024 r., OpenAI zawiera teraz metadane pochodzenia w obrazach utworzonych za pomocą ChatGPT na stronie internetowej i za pośrednictwem interfejsu API DALL-E 3, a mobilne odpowiedniki otrzymają tę samą aktualizację do 12 lutego.
Metadane są zgodne z otwartym standardem C2PA (Coalition for Content Provenance and Authenticity), a gdy taki obraz zostanie przesłany do narzędzia Content Credentials Verify, można prześledzić jego pochodzenie. Na przykład obraz utworzony przy użyciu ChatGPT wyświetli początkowy manifest metadanych wskazujący na jego pochodzenie z interfejsu API DALL-E 3, a następnie drugi manifest metadanych wskazujący, że pochodzi on z ChatGPT.
Pomimo zaawansowanej technologii kryptograficznej C2PA, ta metoda weryfikacji działa tylko wtedy, gdy metadane są nienaruszone; narzędzie jest bezużyteczne, jeśli prześlesz obraz wygenerowany przez sztuczną inteligencję bez metadanych – jak ma to miejsce w przypadku każdego zrzutu ekranu lub obrazu przesłanego do mediów społecznościowych. Nic dziwnego, że obecne przykładowe zdjęcia na oficjalnej stronie DALL-E 3 również nie przyniosły żadnych rezultatów. Na swojej stronie FAQ OpenAI przyznaje, że nie jest panaceum w wojnie z dezinformacją, ale wierzy, że kluczem jest zachęcenie użytkowników do aktywnego poszukiwania takich sygnałów.
Podczas gdy najnowsze wysiłki OpenAI mające na celu zwalczanie fałszywych treści są obecnie ograniczone do statycznych obrazów, DeepMind Google ma już SynthID do cyfrowego znakowania wodnego obrazów i dźwięku generowanych przez sztuczną inteligencję. Tymczasem Meta testuje niewidoczny znak wodny za pomocą generatora obrazu AI, który może być mniej podatny na zakłócenia.
