Sosiale mediers avhengighetsskapende natur og den negative belastningen det påfører den mentale helsen vår — særlig for unge med hjerner i utvikling — er ikke akkurat et nytt konsept. En generasjon med iPad-barn opplever oppsiktsvekkende høye forekomster av depresjon, angst og oppmerksomhetsspenn som krymper raskere enn ullsokker i en varm tørketrommel.
Men selskaper som Alphabet (som driver Google og YouTube) hevder at det ikke er deres skyld, og at beskyttelse av barn «alltid har stått sentralt i arbeidet deres.»
Vel, mange amerikanere — og til og med hele skoledistrikter — er sterkt uenige. Nå står fire giganter innen sosiale medier, Alphabet, Meta (Facebook/Instagram), ByteDance (TikTok) og Snap (SnapChat), overfor en bølge av søksmål.
I sitt forsvar hevdet selskapene at de var immune mot rettsforfølgelse, og ba om at alle krav mot dem skulle avvises. Med henvisning til det første grunnlovstillegget i USAs grunnlov og en bestemmelse i den føderale Communications Decency Act gir Section 230 selskaper innen sosiale medier immunitet mot ansvar for alt brukere publiserer på plattformene deres.
I en historisk avgjørelse sist tirsdag avsa den amerikanske distriktsdommeren Yvonne Gonzalez Rogers en kjennelse mot de fire rytterne av den mentale helse-apokalypsen og nektet dem beskyttelse mot søksmål. Nå må de stå til ansvar.
Rogers sier at saken ikke bare handlet om tredjepartsinnhold som påvirker påvirkelige sinn — selskapene har et juridisk ansvar for å utforme rimelig sikre produkter og advare brukere om kjente mangler. Ved å unnlate å hjelpe brukerne med å begrense skjermtiden, bruke ineffektive verktøy for aldersverifisering og skape hindringer for deaktivering av kontoer, kan utviklere av sosiale medier ikke slippe unna med å skyve skylden over på innholdsskaperne sine.
Som CX-profesjonell, har du noen ideer til hvordan selskaper innen sosiale medier kan skape tryggere opplevelser for brukerne sine? Som vi har diskutert tidligere, er det svært viktig å etablere tillit hos kundegrunnlaget ditt. Hva bør disse selskapene gjøre for å gjenopprette tilliten hos legionene av bekymrede foreldre, skolestyrer og til og med lovgivere?
Sikkerhet først: Hvilke selskaper gjør dette riktig?
Et av Rogers’ forslag til hvordan selskaper innen sosiale medier kan forbedre barns sikkerhet, var å ta i bruk verktøy for aldersverifisering som varsler foreldre når barna deres er på nettet — men selvfølgelig vil ikke det alene sette en stopper for en fullskala mental helse-krise. Hvor kan vi ellers se etter eksempler på effektive sikkerhetsfunksjoner for barn i den digitale verden?
Kanskje Zuckerberg bør lære av ekspertenes fremgangsmåte: Roblox.
For deg som ikke kjenner verdenen av spill for barn i mellomtrinnsalderen særlig godt, er Roblox en plattform som lar brukerne — hovedsakelig barn — lage og laste opp sine egne videospill og utforske det andre brukere har laget. Det er gratis å spille, men det finnes betalte funksjoner for å låse opp mer innhold. I likhet med mange store kanaler for sosiale medier lar Roblox brukerne sende venneforespørsler og delta i chatter.
Åtti prosent av brukerne er under 16 år. Med 70,2 millioner daglige brukere og 214 millioner månedlige brukere har denne spillplattformen nådd samme popularitetsnivå blant barn som Minecraft og Fortnight. Roblox har selvfølgelig ikke plettfri historikk når det gjelder sikkerhetsproblemer for barn. De har imidlertid gjort en stor innsats for å håndheve sikkerhets- og trygghetsfunksjoner, med et vell av ressurser for foreldre slik at de effektivt kan følge med på barnas aktivitet. Det finnes også mange tredjepartsfora der foreldre kan søke svar og råd om hvordan de kan hjelpe barna med å spille på en ansvarlig måte.
Kundeservice og hjelpelinjer for sikkerhet døgnet rundt
Roblox sørger for at noen alltid er tilgjengelig for å håndtere foreldres bekymringer så raskt som mulig. Det er en ganske solid CX-strategi, spør du oss! De har også satt sammen et rådgivende styre for tillit og sikkerhet bestående av noen av verdens fremste eksperter på digital sikkerhet.
Et stort team med moderatorer, pluss litt hjelp fra KI
Alt innhold som lastes opp til Roblox, gjennomgår en grundig sikkerhetskontroll. Selskapet har for tiden over 1600 moderatorer ansatt for å overvåke upassende innhold i spill og chatter. Etter at de tok i bruk programvare for maskinlæring som supplement til modereringsarbeidet, opplevde de en reduksjon på 84 % i antallet brukere som ble eksponert for brudd på retningslinjene.
Innholdsvurderinger basert på alder
Noen av spillene inneholder mild vold, så Roblox kategoriserer innholdet deretter. Et spill med for eksempel riddere som bruker sverd, får merkelappen 13 år og eldre, mens de mer beskjedne spillene får aldersgrensen 9 år og eldre.
Tilpassbare foreldrekontroller
For foreldre som ikke ønsker at barna skal bruke noen av chattefunksjonene, kan denne funksjonen deaktiveres eller begrenses. Hvis de tillater bruk av chattefunksjonen, kan foreldrene enkelt følge med på chattelogger og venneforespørsler. De kan også tilpasse tilgangen til ulike spill og opplevelser basert på aldersanbefalinger og sette begrensninger på pengebruk for å unngå overraskelser på kredittkortregningen.
Samarbeid for å beskytte barna
Når det gjelder å begrense bruken og forhindre en fullt utviklet spillavhengighet, faller selvfølgelig mye av ansvaret på foreldrene. Men med tanke på antallet tilpassbare ressurser, sikkerhetsfunksjoner og tilgjengelige supportmedarbeidere gir Roblox foreldrene verktøyene og informasjonen de trenger for å kontrollere barnas spillopplevelser. Ingen kompliserte hindringer å komme seg gjennom eller uforholdsmessig lange ventetider – bare enkle, effektive prosesser og et hjelpsomt team av medarbeidere som er klare til å hjelpe.
Vil du vite mer om hvor viktig det er å utvikle etiske digitale produkter som prioriterer brukernes velvære? Hør denne episoden av podkasten The Product Manager, der vi snakker med Samantha Gonzalez, direktør for produktstrategi hos DockYard, Inc., om etiske produktstrategier.
