KI gegen Web-Gefahren

Gemeinsam mit Kollegen der Cornell University hat er die digitale Kompetenzplattform 'Social Media TestDrive' entwickelt, die 'Kindern beibringt, wie man sich gegen Cybermobbing wehren, Fake News erkennen und sichere Passwörter erstellen kann'.

Dem Experten nach 'handelt es sich um ein Social-Media-Simulationssystem. Es sieht also aus und fühlt sich an wie eine echte Website, ist aber nicht real. Kinder können in einer sicheren Umgebung üben, mit den sozialen Medien umzugehen und sie zu nutzen. Fehler, die sie machen, bleiben folgenlos, außer dass die Kinder daraus lernen', erklärt DiFranzo.

Social Media TestDrive gibt es mittlerweile in Mittelschulen in den USA und mehr als eine Mio. Schüler haben es bisher genutzt. 'Jetzt haben wir haben darüber nachgedacht, wie wir KI nutzen können, um es zu skalieren und noch effektiver zu machen', so DiFranzo. Bei der Arbeit mit den Modulen des Programms soll KI direkt auf Eingaben der Kinder reagieren. Klickt ein Schüler beispielsweise auf einen beunruhigenden Beitrag, wird die KI ihn umgehend warnen: 'Hey, hier stimmt etwas nicht. Bitte denke mal darüber nach, was hier eine Gefahr sein könnte.' Denkbar ist auch, dass die KI die Art der Gefahr direkt erklärt.

Gemeinsam mit den Schülern und seinem Team entwirft DiFranzo Interventionen, die die Social-Media-TestDrive-Plattform erweitern und den Schülern beibringen, proaktiver zu werden, wenn es um Cybermobbing geht. 'Cybermobbing ist eine riesige Krise der öffentlichen Gesundheit. Es wirkt sich sowohl auf die geistige als auch auf die körperliche Gesundheit der Kinder aus. Eine Möglichkeit, wie wir helfen können, ist das Eingreifen von Unbeteiligten', so DiFranzo.

Das können Menschen sein oder auch eine KI-basierte Gesprächsintervention namens 'Social Media Co-Pilot'. Das Tool simuliert kompliziertere Szenarien innerhalb von Social Media TestDrive und gibt Ratschläge, wie User Risiken wie Online-Aggression, Datenschutzverletzungen, Phishing und Betrug am besten begegnen können.

Ihre Meinung dazu? Schreiben Sie hier!

#KI #AI #Social Media #Jugendschutz

Newsticker per eMail oder RSS/Feed!

Auch interessant!
KI sucht die Eskalation
Ließe man Verteidigungs- und Angriffskriege von Künstlicher Intelligenz (KI) planen, wie sie das US-Unter...

Fluch und Segen der KI
Generative Künstliche Intelligenz (KI) ist auch an Schulen auf dem Vormarsch, nicht immer zur Freude der ...

EU möchte Pornhub, Xvideos und Stripchat ruinieren
Durch die Einstufung als sehr große Plattform gelten Regeln, die eine Altersverifikation und andere Maßna...

Sex und Erotik bei Meta Threads
Der große Erfolg gegenüber Twitter lassen die Alarmglocken in der Erotikindustrie klingen - immerhin erla...

Meta: VR für Teens
Facebook-, WhatsApp- und Instagram-Mutter Meta wird in den kommenden Wochen die Pforten zu seiner soziale...

Gute Games
Spitzenreiter im Medienjahr 2022 war diesmal TikTok, das als 'Gefahr für Kinder' und 'Fake-News-Schleuder...