Sociala mediers beroendeframkallande natur och den negativa påverkan de har på vår psykiska hälsa — särskilt för unga med hjärnor under utveckling — är knappast ett nytt fenomen. En generation av iPad-barn upplever alarmerande nivåer av depression och ångest, samt uppmärksamhetsspann som krymper snabbare än yllesockor i en varm torktumlare.
Men företag som Alphabet (som driver Google och YouTube) hävdar att det inte är deras fel och att skyddet av barn ”alltid har varit centralt i deras arbete.”
Nåväl, många amerikaner — och till och med hela skoldistrikt — håller bestämt inte med. Nu står fyra jättar inom sociala medier, Alphabet, Meta (Facebook/Instagram), ByteDance (TikTok) och Snap (SnapChat), inför en störtflod av stämningar.
Till sitt försvar hävdade företagen att de var immuna mot åtal och yrkade på att alla krav mot dem skulle avvisas. Avsnitt 230, som hänvisar till det första tillägget i USA:s konstitution och en bestämmelse i den federala lagen om anständighet i kommunikation, ger sociala medieföretag immunitet från ansvar för allt som användare publicerar på deras plattformar.
I ett banbrytande beslut i tisdags förra veckan gick den amerikanska distriktsdomaren Yvonne Gonzalez Rogers emot de fyra ryttarna av den psykiska hälsoapokalypsen och nekade dem skydd mot rättsliga processer. Nu måste de ta konsekvenserna.
Rogers menar att frågan inte bara handlade om innehåll från tredje part som påverkar lättpåverkade sinnen — företagen har ett juridiskt ansvar att utforma rimligt säkra produkter och varna användare för kända brister. Genom att inte hjälpa användare att begränsa skärmtiden, använda ineffektiva verktyg för åldersverifiering och skapa hinder för avaktivering av konton kan utvecklare av sociala medier inte komma undan genom att lägga skulden på sina innehållsskapare.
Som CX-proffs, har du några idéer om hur företag inom sociala medier kan skapa säkrare upplevelser för sina användare? Som vi har diskuterat tidigare är det otroligt viktigt att skapa förtroende hos kundbasen. Vad bör dessa företag göra för att återupprätta förtroendet hos alla bekymrade föräldrar, skolstyrelser och till och med lagstiftare?
Säkerheten först: Vilka företag gör rätt?
Ett av Rogers förslag för att sociala medieföretag skulle förbättra barns säkerhet var att använda verktyg för åldersverifiering som meddelar föräldrar när deras barn är online — men det kommer förstås inte ensamt att sätta stopp för en fullskalig psykisk hälsokris. Var kan vi annars leta efter exempel på effektiva säkerhetsfunktioner för barn i den digitala världen?
Herr Zuckerberg kanske borde ta en sida ur experternas handbok: Roblox.
För er som inte är väl insatta i förtonåringars spelvärld är Roblox en plattform där användarna — huvudsakligen barn — kan skapa och ladda upp sina egna videospel samt utforska andra användares skapelser. Det är gratis att spela, men det finns betalfunktioner för att låsa upp ytterligare innehåll. Precis som många stora sociala mediekanaler låter Roblox användare skicka vänförfrågningar och delta i chattar.
Åttio procent av användarna är under 16 år. Med 70,2 miljoner dagliga användare och 214 miljoner månatliga användare har denna spelplattform nått samma popularitetsnivå bland barn som Minecraft och Fortnite. Roblox har förstås inte ett fläckfritt rykte när det gäller frågor om barns säkerhet. De har dock gjort stora ansträngningar för att införa säkerhetsfunktioner, med en mängd resurser för föräldrar så att de effektivt kan övervaka sina barns aktivitet. Det finns också gott om forum från tredje part där föräldrar kan söka svar och råd om hur de kan hjälpa sina barn att spela ansvarsfullt.
Kundtjänst och säkerhetstelefoner dygnet runt
Roblox ser till att någon alltid finns tillgänglig för att ta itu med föräldrars frågor så snart som möjligt. Det är en ganska stabil CX-strategi, om vi får säga det själva! De har också samlat ett rådgivande råd för förtroende & säkerhet bestående av några av världens främsta experter på digital säkerhet.
Ett stort team av moderatorer, plus lite hjälp från AI
Allt innehåll som laddas upp till Roblox genomgår en noggrann säkerhetsgranskning. Företaget har för närvarande över 1 600 moderatorer anställda för att övervaka olämpligt innehåll i spel och chattar. Efter att ha infört maskininlärningsprogram för att komplettera sitt modereringsarbete såg de en minskning med 84 % av antalet användare som utsattes för policyöverträdelser.
Åldersbaserade innehållsklassificeringar
Vissa av spelen innehåller milt våld, så Roblox kategoriserar innehållet därefter. Ett spel med exempelvis svärdsvingande riddare skulle få märkningen från 13 år, medan de mer stillsamma spelen får åldersgränsen från 9 år.
Anpassningsbara föräldrakontroller
För föräldrar som inte vill att deras barn ska använda några chattfunktioner går det att inaktivera eller begränsa den här funktionen. Om de tillåter användning av chattfunktionen kan föräldrar enkelt övervaka chattloggar och vänförfrågningar. De kan också anpassa åtkomsten till olika spel och upplevelser utifrån åldersrekommendationer samt införa begränsningar för utgifter för att undvika överraskningar på kreditkortsräkningen.
Att samarbeta för att skydda barnen
När det gäller att begränsa användningen och förhindra ett fullt utvecklat spelberoende ligger naturligtvis mycket av ansvaret på föräldrarna. Men med tanke på mängden anpassningsbara resurser, säkerhetsfunktioner och tillgängliga supportmedarbetare ger Roblox föräldrar de verktyg och den information de behöver för att kontrollera sina barns spelupplevelser. Inga komplicerade omvägar att ta sig igenom eller orimligt långa väntetider — bara enkla, smidiga processer och ett hjälpsamt team av kundupplevelsemedarbetare som är redo att hjälpa till.
Vill du veta mer om vikten av att utveckla etiska digitala produkter som prioriterar användarnas välbefinnande? Lyssna på det här avsnittet av podden The Product Manager, där vi pratar med Samantha Gonzalez, produktstrategichef på DockYard, Inc., om etiska produktstrategier.