Midjourney może zakazać zdjęć Bidena i Trumpa
Wraz z pojawieniem się narzędzi sztucznej inteligencji, które mogą szybko tworzyć zmodyfikowane obrazy i filmy, tworzenie fałszywych obrazów w celu rozpowszechniania dezinformacji politycznej przed zbliżającymi się wyborami prezydenckimi w USA stało się łatwiejsze niż kiedykolwiek. Według Bloomberga, Midjourney proponuje całkowity zakaz obrazów politycznych. David Holtz, dyrektor generalny Midjourney, powiedział podobno użytkownikom podczas czatu Discord, że firma jest bliska zakazania zdjęć takich jak te przedstawiające Bidena i Trumpa w ciągu najbliższych 12 miesięcy.
“Wiem, że tworzenie obrazów Trumpa jest zabawne – ja tworzę obrazy Trumpa” – powiedział użytkownikom, którzy wzięli udział w sesji. “Trump jest estetycznie bardzo interesujący. Jednak prawdopodobnie lepiej tego nie robić – lepiej być trochę rozproszonym podczas tych wyborów. Zobaczymy.”
Jak zauważa Bloomberg, ludzie wcześniej wykorzystywali sztuczną inteligencję firmy do tworzenia fałszywych informacji o aresztowaniu Trumpa. Firma wstrzymała bezpłatne testy swojego generatora obrazów AI po tym, jak obrazy – wraz z niesławnymi fałszywymi wiadomościami o papieżu noszącym płaszcz w stylu Balenciaga – stały się wirusowe.
Firma ma już zasady, które zabraniają tworzenia “wprowadzających w błąd osób publicznych” i “obrazów wydarzeń”, które “mogą wprowadzać w błąd”. Jednak Bloomberg nadal był w stanie tworzyć zmodyfikowane obrazy Trumpa pokrytego spaghetti przy użyciu starej wersji systemu Midjourney, podczas gdy nowa wersja odmówiła generowania zmodyfikowanych obrazów byłego prezydenta. Oczywiście, nawet jeśli Midjourney zakaże wizerunków znanych polityków, ochroni to tylko platformę przed przyciągnięciem gniewu krytyków i byciem w centrum uwagi w tym sezonie wyborczym. Nie zapobiegnie to wykorzystywaniu narzędzi sztucznej inteligencji w politycznych kampaniach dezinformacyjnych lub rozpowszechnianiu fałszywych informacji w celu manipulowania wyborami w ogóle.
Inne firmy technologiczne również podjęły kroki w celu zapobiegania dezinformacji politycznej lub przynajmniej ułatwienia jej wykrywania. ChatGPT wkrótce rozpocznie tag obrazów stworzonych za pomocą DALL-E 3, a Meta pracuje nad rozwojem technologii, która może wykryć i oznaczyć, czy obraz, wideo lub klip audio został stworzony przy użyciu sztucznej inteligencji.
