Apple usuwa z App Store aplikacje wykorzystujące sztuczną inteligencję do rozbierania dziewcząt
Po doniesieniach o problematycznym wykorzystaniu sztucznej inteligencji do tworzenia nieodpowiednich zdjęć na telefonach Huawei, Apple podjęło podobne działania w celu usunięcia aplikacji z App Store, które wykorzystywały generatywną sztuczną inteligencję do tworzenia fałszywych nagich zdjęć.
Programy te były reklamowane jako “generatory sztuki” zdolne do rozebrania każdej młodej damy za darmo. Usunięcie odpowiedniego oprogramowania nastąpiło po tym, jak zespół redakcyjny 404 Media znalazł i udostępnił linki do wspomnianych aplikacji i ich reklam.
Warto zauważyć, że aplikacje te są dostępne w AppStore od 2022 roku. Deweloperzy reklamowali swoje “dzieło” na stronach internetowych dla dorosłych. Później “twórcom” pozwolono pozostać w sklepie z aplikacjami, pod warunkiem usunięcia reklam z takich witryn, ale przynajmniej jedno z tych programów nadal wyświetlało nieodpowiednie treści do początku tego roku (aplikacja została niedawno usunięta ze sklepu Google PlayStore).
Incydent ten rodzi pytanie o reaktywną moderację i możliwość wykorzystania przez deweloperów wszelkiego rodzaju luk prawnych. Temat pojawił się w najbardziej nieodpowiednim momencie dla Apple – w ramach przygotowań do forum WWDC 2024, na którym spodziewane są ważne ogłoszenia dotyczące sztucznej inteligencji dla iOS 18 i Siri.
Incydent ten ma również wpływ na wysiłki Apple zmierzające do zbudowania reputacji odpowiedzialnej firmy w dziedzinie rozwoju sztucznej inteligencji, w tym etycznego licencjonowania danych szkoleniowych. Opóźnione usuwanie aplikacji NCI może mieć negatywny wpływ na ten wizerunek.
