Irene Schouten openhartig over gezondheid zoontje: ‘Steeds meer zichtbaar’
Het moederschap brengt voor Irene Schouten niet alleen geluk, maar ook zorgen met zich mee.
Lees meer
Experts waarschuwen: dit is de AI-app waar je je kinderen écht voor wilt beschermen
Beeld: Canva
Je dacht dat je alle apps inmiddels wel kende, maar er is een nieuwe speler in de wereld van kunstmatige intelligentie waar ouders zich flink zorgen over maken: Sora.
Lees verder onder de advertentie
Deze app, ontwikkeld door het bekende OpenAI (ja, dat van ChatGPT), maakt in een paar seconden hyperrealistische video’s en dat kan zelfs met het gezicht van je kind erin. Klinkt futuristisch en leuk, maar volgens experts is het eerder iets om je wenkbrauwen bij op te trekken.
Trigger warning: deze tekst bevat informatie over digitale risico’s, waaronder mogelijk seksueel misbruik van minderjarigen via AI. Kan als heftig worden ervaren.
AI en kinderen
Common Sense Media, een organisatie die technologie beoordeelt op geschiktheid voor kinderen, heeft onlangs een nieuw oordeel geveld. ChatGPT blijft volgens hen al “hoog risico” voor jonge gebruikers, maar Sora scoort nóg slechter: ‘onacceptabel’. Waarom? Omdat er nauwelijks toezicht is op wat kinderen er allemaal mee kunnen doen of wat anderen met hún beelden kunnen maken.
Lees verder onder de advertentie
Wat is Sora precies?
Sora is eigenlijk ChatGPT’s zusje. “Het is eigenlijk ChatGPT, maar dan voor video in plaats van tekst”, legt AI-expert Robbie Torney uit. “Gebruikers kunnen hun eigen video’s maken en door een feed scrollen vol AI-content. Een soort TikTok, maar dan is niets echt.” De app is sinds kort voor iedereen beschikbaar in de App Store, en dat maakt hem razend populair onder jongeren. Binnen no time maak je er een video mee op basis van een paar woorden. En met een druk op de knop kun je die delen op TikTok, Instagram of YouTube.
Lees verder onder de advertentie
Het probleem? De grens tussen echt en nep vervaagt compleet. “Daardoor is het bijna onmogelijk nog te weten wat echt is, wanneer AI-video’s zich vermengen met echte beelden op sociale media,” zegt Torney.
Risicovol
De app kreeg dus het zwaarste stempel: onacceptabel. En dat is niet zomaar. Volgens Common Sense Media:
- Glipt schadelijke content (zoals eetstoornissen, stereotypen of gevaarlijke stunts) makkelijk door de controle.
- Worden video’s met risicovolle thema’s vaak gepresenteerd in een vrolijk jasje.
- Is er amper ouderlijk toezicht of waarschuwing bij zorgelijke content.
- Kun je zelfs het gezicht van je kind in een video laten verschijnen via de zogenoemde cameo-functie.
“Die cameo-functie klinkt leuk, maar opent de deur voor ernstig misbruik”, waarschuwt Torney. “Zodra de cameo openbaar is, kan iemand die toegang heeft nieuwe video’s maken waarin het kind dingen zegt of doet waar het nooit mee heeft ingestemd.” Yaron Litwin, van de oudercontrol app Canopy, is het met hem eens: “Cameo’s kunnen razendsnel verspreid worden en het gezicht van een kind kan in vernederende of seksuele video’s terechtkomen die zich als een lopend vuurtje verspreiden.”
Lees verder onder de advertentie
En ChatGPT dan?
Hoewel ChatGPT niet zulke extreme risico’s kent, vormt die ook die volgens Torney een hoog risico. Vooral omdat jongeren het vaak gebruiken als vertrouwenspersoon. “Veel tieners gebruiken ChatGPT als gezelschap of voor emotionele steun”, zegt Torney. “Maar ChatGPT kan niet inschatten hoe ernstig iemands problemen zijn of wanneer hulp van een volwassene nodig is.” Het systeem is gebouwd om te blijven praten, niet om een gesprek te stoppen wanneer dat eigenlijk zou moeten.
Lees verder onder de advertentie
Wat kun je als ouder doen?
Volgens Torney kan ChatGPT, mét goed toezicht, soms veilig worden gebruikt. “ChatGPT kan nuttig zijn, maar vereist actief ouderschap, niet alleen een paar ingestelde filters.” Voor Sora is het advies duidelijker: niet gebruiken. “Gezien de grote risico’s en het gebrek aan bescherming raden we tieners af om Sora te gebruiken”, aldus Torney.
Lees verder onder de advertentie
Toch blijft alleen verbieden niet de oplossing. “Tieners zijn ontzettend handig met technologie”, zegt Laura Tierney, oprichter van The Social Institute. “In plaats van alleen te verbieden, is het beter om open gesprekken te voeren over wat veilig is en hoe je slimme keuzes maakt online.”
Wil je trouwens weten over er sprake is van AI-verslaving? Je leest hier de 7 waarschuwingssignalen dat jouw kind doorslaat met chatbots
Bron: Common Sense Media
Abonneer met cadeau of korting
Ga voor me-time met Kek Mama Magazine!
Ook interessant voor jou
Lees verder onder de advertentie
