Die süchtig machende Natur sozialer Medien und der negative Tribut, den sie für unsere psychische Gesundheit fordern — insbesondere bei jungen Menschen mit sich entwickelnden Gehirnen — sind nun wirklich kein neues Konzept. Eine Generation von iPad-Kindern sieht sich erschreckend hohen Raten von Depressionen, Angstzuständen und Aufmerksamkeitsspannen gegenüber, die schneller schrumpfen als Wollsocken in einem heißen Trockner.
Doch Unternehmen wie Alphabet (das Google und YouTube betreibt) behaupten, dass dies nicht ihre Schuld sei und der Schutz von Kindern „schon immer ein zentraler Bestandteil ihrer Arbeit“ gewesen sei.
Nun, viele Amerikaner — und sogar ganze Schulbezirke — widersprechen dem vehement. Jetzt sehen sich vier Titanen der sozialen Medien, Alphabet, Meta (Facebook/Instagram), ByteDance (TikTok) und Snap (SnapChat), einer Flut von Klagen gegenüber.
Zu ihrer Verteidigung argumentierten die Unternehmen, sie seien vor Strafverfolgung geschützt, und forderten die Abweisung aller gegen sie erhobenen Ansprüche. Unter Berufung auf den Ersten Zusatzartikel der US-Verfassung und eine Bestimmung des Bundesgesetzes zur Kommunikationsverantwortung, Section 230, gewährt das Gesetz Unternehmen sozialer Medien Immunität vor der Haftung für alles, was Nutzer auf ihren Plattformen veröffentlichen.
In einer wegweisenden Entscheidung am vergangenen Dienstag entschied die US-Bezirksrichterin Yvonne Gonzalez Rogers gegen die vier Reiter der Psychocalypse und verweigerte ihnen Schutz vor einer gerichtlichen Auseinandersetzung. Nun müssen sie sich der Verantwortung stellen.
Rogers zufolge ging es bei dem Problem nicht einfach um Inhalte Dritter, die beeinflussbare Gemüter prägen — die Unternehmen tragen eine rechtliche Verantwortung dafür, einigermaßen sichere Produkte zu entwickeln und Nutzer vor bekannten Mängeln zu warnen. Indem Entwickler sozialer Medien es versäumen, Nutzern bei der Begrenzung ihrer Bildschirmzeit zu helfen, unwirksame Instrumente zur Altersverifizierung einsetzen und Hindernisse für die Deaktivierung von Konten schaffen, können sie sich nicht damit herausreden, die Schuld auf ihre Inhaltsersteller abzuwälzen.
Haben Sie als CX-Fachkraft Ideen, wie Unternehmen sozialer Medien sicherere Erlebnisse für ihre Nutzer schaffen können? Wie bereits besprochen, ist der Aufbau von Vertrauen bei Ihrer Kundschaft äußerst wichtig. Was sollten diese Unternehmen tun, um das Vertrauen der Legionen besorgter Eltern, Schulvorstände und sogar Gesetzgeber wiederherzustellen?
Sicherheit zuerst: Welche Unternehmen machen es richtig?
Eine von Rogers’ Empfehlungen an Unternehmen sozialer Medien zur Verbesserung der Kindersicherheit war der Einsatz von Instrumenten zur Altersverifizierung, die Eltern benachrichtigen, wenn ihre Kinder online sind — aber natürlich wird das allein eine ausgewachsene psychische Gesundheitskrise nicht beenden. Wo sonst können wir Beispiele für wirksame Kindersicherheitsfunktionen im digitalen Bereich finden?
Vielleicht sollte sich Herr Zuckerberg ein Beispiel an den Experten nehmen: Roblox.
Für diejenigen unter Ihnen, die sich in der Welt des Spielens für Kinder im Teenageralter noch nicht besonders gut auskennen: Roblox ist eine Plattform, auf der ihre Nutzer — überwiegend Kinder — eigene Videospiele erstellen und hochladen sowie die Kreationen anderer Nutzer erkunden können. Das Spielen ist kostenlos, aber es gibt kostenpflichtige Funktionen zum Freischalten zusätzlicher Inhalte. Wie viele große Kanäle sozialer Medien ermöglicht Roblox seinen Nutzern, Freundschaftsanfragen zu senden und an Chats teilzunehmen.
Achtzig Prozent der Nutzer sind unter 16 Jahre alt. Mit 70,2 Millionen täglichen Nutzern und 214 Millionen monatlichen Nutzern hat diese Spieleplattform in puncto Beliebtheit bei Kindern zu Minecraft und Fortnite aufgeschlossen. Natürlich hat Roblox in Bezug auf Fragen der Kindersicherheit keine makellose Bilanz. Dennoch haben sie erhebliche Anstrengungen unternommen, Sicherheits- und Schutzfunktionen durchzusetzen, und bieten Eltern eine Fülle von Ressourcen, mit denen sie die Aktivitäten ihrer Kinder wirksam überwachen können. Außerdem gibt es zahlreiche Foren von Drittanbietern, in denen Eltern Antworten und Ratschläge dazu suchen können, wie sie ihren Kindern verantwortungsvolles Spielen vermitteln.
Kundenservice und Sicherheitshotlines rund um die Uhr
Roblox stellt sicher, dass jederzeit jemand verfügbar ist, um elterliche Anliegen so schnell wie möglich zu bearbeiten. Unserer bescheidenen Meinung nach ist das eine ziemlich solide CX-Strategie! Außerdem haben sie einen Beirat für Vertrauen und Sicherheit zusammengestellt, dem einige der weltweit führenden Experten für digitale Sicherheit angehören.
Ein riesiges Moderationsteam sowie Unterstützung durch KI
Jeder auf Roblox hochgeladene Inhalt wird einer gründlichen Sicherheitsprüfung unterzogen. Das Unternehmen beschäftigt derzeit über 1600 Moderatoren, die unangemessene Inhalte in Spielen und Chats überwachen. Nachdem sie Software für maschinelles Lernen eingeführt hatten, um ihre Moderationsbemühungen zu ergänzen, verzeichneten sie eine Reduzierung der Zahl der Nutzer, die Verstößen gegen Richtlinien ausgesetzt waren, um 84 %.
Altersabhängige Inhaltsbewertungen
Einige der Spiele enthalten mäßige Gewalt, daher kategorisiert Roblox die Inhalte entsprechend. Beispielsweise würde ein Spiel mit schwertschwingenden Rittern mit einer Kennzeichnung ab 13 Jahren versehen, während die weniger gewalttätigen Spiele eine Einstufung ab 9 Jahren erhalten.
Anpassbare Jugendschutzeinstellungen
Eltern, die nicht möchten, dass ihre Kinder Chatfunktionen nutzen, können diese deaktivieren oder einschränken. Wenn sie die Nutzung der Chatfunktion erlauben, können Eltern Chatprotokolle und Freundschaftsanfragen problemlos überwachen. Außerdem können sie den Zugriff auf verschiedene Spiele und Erlebnisse anhand von Altersempfehlungen anpassen und Ausgaben beschränken, um Überraschungen auf ihrer Kreditkartenabrechnung zu vermeiden.
Gemeinsam für den Schutz der Kinder sorgen
Was die Begrenzung der Nutzungsdauer und die Vermeidung einer ausgeprägten Spielsucht betrifft, liegt natürlich ein großer Teil der Verantwortung bei den Eltern. Angesichts der zahlreichen anpassbaren Ressourcen, Sicherheitsfunktionen und verfügbaren Supportmitarbeiter stattet Roblox Eltern jedoch mit den Werkzeugen und Informationen aus, die sie benötigen, um die Spielerlebnisse ihrer Kinder zu kontrollieren. Keine komplizierten Hürden, die überwunden werden müssen, und keine übermäßig langen Wartezeiten — stattdessen einfache, optimierte Prozesse und ein hilfsbereites Team von Mitarbeitern im Kundenerlebnis, die bereit sind zu helfen.
Möchten Sie mehr über die Bedeutung der Entwicklung ethischer digitaler Produkte erfahren, bei denen das Wohlbefinden der Nutzer im Vordergrund steht? Hören Sie sich diese Folge des Podcasts The Product Manager an, in der wir mit Samantha Gonzalez, Direktorin für Produktstrategie bei DockYard, Inc., über ethische Produktstrategien sprechen.