AI-video’s Het nieuwe, hyperrealistische videomodel van OpenAI zorgt in de eerste lanceringsweek al voor veel opschudding.
AI-video-app SORA.
Hitler maar dan in de vorm van de cartoonfiguur Spongebob, een menselijke cowboy die op twee paarden tegelijk rijdt of Pikachu die Pokéballen steelt: sinds de uitgave van de AI-app Sora 2 worden Instagram, TikTok en X overspoeld met hyperrealistische AI-beelden, die soms niet door de beugel kunnen.
Sora 2, het nieuwe videomodel van OpenAI (ontwikkelaar van ChatGPT), is vorige week gelanceerd. Het is de opvolger van het eerste videomodel ‘Sora’ uit 2024. De lancering van Sora 2 valt samen met een nieuwe, gelijknamige videoapp, die als sociale medium moet dienen voor AI-beelden.
Binnen het eerste Sora-model bestonden, naar eigen zeggen van OpenAI, verschillende beperkingen. Sora 2 zou nu in staat moeten zijn hyperrealistische video’s te creëren, met complexe bewegingen. Zo maakt het techbedrijf voor zijn nieuwe videoapp reclame met gegenereerde beelden van olympische sporters die buitengewone stunts uitvoeren.
Daarnaast kan Sora 2 gesynchroniseerd achtergrondgeluid en spraak toevoegen aan de video’s. Ook geeft Sora 2 de gebruikers meer controle: die kunnen hun eigen gezicht en stem laten scannen om zo eigen elementen toe te voegen aan de AI-beelden. Maar juist deze functies roepen zorgen op bij tech-experts.
„We zijn te veel gewend geraakt aan de hoeveelheid data die AI van ons verzamelt”, zegt Natasha Alechina, hoogleraar Safe and Responsible AI aan de Open Universiteit in Heerlen. „Spraak- en gezichtsherkenning behoren tot de belangrijkste vormen van beveiliging, bijvoorbeeld bij je bankrekening. Die gegevens komen nu ook in de cloud van OpenAI terecht.”
Daarnaast kan OpenAI de data in principe gebruiken om zijn model verder te trainen. OpenAI heeft daar nog geen uitspraak over gedaan.
Met de komst van Sora 2 laait ook opnieuw de discussie op over auteursrecht en AI. In de eerste lanceringsweek verschenen al verschillende Sora-video’s waarin bekende cartoonfiguren voorkwamen. Gebruikers plaatsten animatiefiguren Rick en Morty in het computerspel Minecraft.
Een aantal grote mediabedrijven, waaronder Disney en Nintendo, roepen OpenAI daarom op om actie te ondernemen. Maar binnen AI-beelden is het auteursrecht nog een grijs gebied. Het auteursrecht is namelijk alleen van toepassing op ‘door mens gemaakte inhoud’.
Er bestaat daarom onduidelijkheid over de mate van menselijke betrokkenheid bij AI-beelden, zegt Erwin Angad-Gaur, voorzitter van Platform Makers, een Nederlandse vakbond voor behartiging van auteursrechten. „De regelgeving binnen de AI-wereld is echt als het Wilde Westen. Maar ik denk wel dat de mediabedrijven wegens de onvermijdelijke gelijkenis met hun karakters een goede kans maken bij de rechter.” Zolang er nog geen auteursclaims zijn gedaan, waarschuwt Angad-Gaur de gebruikers van Sora 2: „Wanneer je de gegenereerde beelden met auteursrechtelijk materiaal verspreidt, ben je net zo goed in overtreding.”
Alechina uit ook nog een andere zorg over de toegankelijkheid van Sora: „Het biedt ook mogelijkheden om nepnieuws te creëren of mensen te manipuleren. Daar moeten we alert op zijn.”
De Sora-app is momenteel alleen beschikbaar in Amerika en Canada. OpenAI wil de app snel uitbrengen in meer landen.
NIEUW: Geef dit artikel cadeauAls NRC-abonnee kun je elke maand 10 artikelen cadeau geven aan iemand zonder NRC-abonnement. De ontvanger kan het artikel direct lezen, zonder betaalmuur.
Economieredacteuren nemen je mee in de discussies die zij op de redactie voeren over actuele ontwikkelingen
Source: NRC