TikTok wprowadzi automatyczne oznaczanie obrazów i filmów tworzonych przy użyciu sztucznej inteligencji
TikTok zacznie korzystać z technologii, która pomoże oznaczać obrazy i filmy tworzone przez sztuczną inteligencję i przesyłane do usługi udostępniania wideo, donosi Reuters.
TikTok zapowiedział, że zastosuje cyfrowy znak wodny, który wskazuje, w jaki sposób obrazy zostały utworzone i edytowane. Technologia Content Credential została opracowana przez Adobe, jest otwarta do użytku przez inne firmy i została już przyjęta przez firmy takie jak OpenAI, która jest twórcą ChatGPT.
TikTok już teraz oznacza treści generowane przez sztuczną inteligencję za pomocą narzędzi w aplikacji, ale najnowszy krok zastosuje etykietę do treści tworzonych poza usługą.
Aby system działał, zarówno producent narzędzia generującego sztuczną inteligencję używanego do tworzenia treści, jak i platforma, która dystrybuuje treści, muszą zgodzić się na korzystanie ze standardu branżowego.
Na przykład, jeśli dana osoba używa narzędzia Dall-E firmy OpenAI do utworzenia obrazu, OpenAI dołącza znak wodny do wynikowego obrazu. Jeśli ten oznaczony obraz zostanie następnie przesłany do TikTok, zostanie automatycznie oznaczony jako stworzony przez sztuczną inteligencję.
Kontekst
Obrazy tworzone przez sztuczną inteligencję lub “dipshoty” istnieją już od kilku lat. Jednak w ciągu ostatniego roku ich jakość znacznie się poprawiła do tego stopnia, że niektóre fałszywe filmy, obrazy i nagrania audio są trudne do odróżnienia od prawdziwych. Narzędzia do ich tworzenia są obecnie powszechnie dostępne, co ułatwia ich tworzenie.
Treści generowane przez sztuczną inteligencję były już wykorzystywane w kampaniach wyborczych na całym świecie. Na przykład w zeszłym roku reklama wspierająca byłego republikańskiego kandydata na prezydenta Rona DeSantisa wykorzystywała sztuczną inteligencję do naśladowania głosu byłego prezydenta Donalda Trumpa.
Na początku tego roku Google, Microsoft, OpenAI, Meta, TikTok i Adobe podpisały porozumienie, aby zareagować na rozprzestrzenianie się treści generowanych przez sztuczną inteligencję. Chodziło o opracowanie technologii identyfikacji, oznaczania i kontrolowania obrazów, nagrań wideo i audio stworzonych przez sztuczną inteligencję przed tegorocznymi wyborami w wielu krajach.
