Sosiale mediers avhengighetsskapende natur og den negative belastningen de påfører den mentale helsen vår — særlig hos unge med hjerner i utvikling — er ikke akkurat et nytt fenomen. En generasjon med iPad-barn opplever oppsiktsvekkende høye forekomster av depresjon, angst og oppmerksomhetsspenn som krymper raskere enn ullsokker i en varm tørketrommel.
Men selskaper som Alphabet (som driver Google og YouTube) hevder at det ikke er deres skyld, og at det å beskytte barn «alltid har stått sentralt i arbeidet deres».
Vel, mange amerikanere — og til og med hele skoledistrikter — er sterkt uenige. Nå står fire sosiale medie-giganter, Alphabet, Meta (Facebook/Instagram), ByteDance (TikTok) og Snap (SnapChat), overfor en mengde søksmål.
Til sitt forsvar hevdet selskapene at de var immune mot rettsforfølgelse, og ba om at alle krav mot dem skulle avvises. Med henvisning til det første grunnlovstillegget i USAs grunnlov og en bestemmelse i den føderale Communications Decency Act, gir paragraf 230 sosiale medier-selskaper immunitet mot ansvar for alt brukerne publiserer på plattformene deres.
I en historisk avgjørelse sist tirsdag gikk den amerikanske distriktsdommeren Yvonne Gonzalez Rogers imot de fire rytterne av psykisk helse-apokalypsen og nektet dem beskyttelse mot rettssaker. Nå må de ta konsekvensene.
Rogers sier at saken ikke bare handlet om tredjepartsinnhold som påvirker påvirkelige sinn — selskapene har et juridisk ansvar for å utforme rimelig sikre produkter og advare brukere om kjente mangler. Ved å unnlate å hjelpe brukerne med å begrense skjermtiden, bruke ineffektive verktøy for aldersverifisering og skape hindringer for deaktivering av kontoer, kan ikke utviklerne av sosiale medier slippe unna med å skyve skylden over på innholdsprodusentene sine.
Som CX-fagperson, har du noen ideer til hvordan selskaper innen sosiale medier kan skape tryggere opplevelser for brukerne sine? Som vi har diskutert tidligere, er det svært viktig å etablere tillit hos kundebasen. Hva bør disse selskapene gjøre for å gjenopprette tilliten hos legionene av bekymrede foreldre, skolestyrer og til og med lovgivere?
Sikkerhet først: Hvilke selskaper gjør det riktig?
Ett av Rogers’ forslag til hvordan selskaper innen sosiale medier kunne forbedre barns sikkerhet, var å ta i bruk verktøy for aldersverifisering som varsler foreldre når barna deres er på nettet — men det alene vil selvsagt ikke sette en stopper for en fullskala psykisk helsekrise. Hvor ellers kan vi se etter eksempler på effektive sikkerhetsfunksjoner for barn i den digitale verdenen?
Kanskje Zuckerberg burde lære av ekspertenes fremgangsmåte: Roblox.
For de av dere som ikke kjenner så godt til verdenen av spilling for barn i alderen før tenårene, er Roblox en plattform som lar brukerne — hovedsakelig barn — lage og laste opp sine egne videospill og utforske andre brukeres kreasjoner. Det er gratis å spille, men det finnes betalte funksjoner for å låse opp mer innhold. I likhet med mange store sosiale medier-kanaler lar Roblox brukerne sende venneforespørsler og delta i chatter.
Åtti prosent av brukerne er under 16 år. Med 70,2 millioner daglige brukere og 214 millioner månedlige brukere har denne spillplattformen nådd samme popularitetsnivå blant barn som Minecraft og Fortnite. Roblox har selvsagt ikke plettfri historikk når det gjelder sikkerhetsproblemer for barn. Likevel har de gjort en betydelig innsats for å håndheve sikkerhets- og trygghetsfunksjoner, med et vell av ressurser for foreldre slik at de effektivt kan følge med på barnas aktivitet. Det finnes også mengder av tredjepartsfora der foreldre kan søke svar og råd om hvordan de kan hjelpe barna med å spille på en ansvarlig måte.
Kundestøtte og sikkerhetstelefoner døgnet rundt
Roblox sørger for at noen alltid er tilgjengelig for å håndtere foreldres bekymringer så raskt som mulig. Det er en ganske solid CX-strategi, etter vår ydmyke mening! De har også satt sammen et rådgivende styre for tillit og sikkerhet, bestående av noen av verdens fremste eksperter på digital sikkerhet.
Et stort team av moderatorer, pluss litt hjelp fra KI
Alt innhold som lastes opp til Roblox, gjennomgår en grundig sikkerhetsvurdering. Selskapet har for tiden over 1600 moderatorer som overvåker upassende innhold i spill og chatter. Etter at de tok i bruk programvare for maskinlæring som støtte for modereringsarbeidet, opplevde de en reduksjon på 84 % i antallet brukere som ble utsatt for brudd på retningslinjene.
Innholdsvurderinger basert på alder
Noen av spillene inneholder mild vold, så Roblox kategoriserer innholdet deretter. Et spill med riddere som bruker sverd, får for eksempel en aldersmerking på 13 år og eldre, mens de roligere spillene får en aldersmerking på 9 år og eldre.
Tilpassbare foreldrekontroller
For foreldre som ikke vil at barna skal bruke noen av chattefunksjonene, kan denne funksjonen deaktiveres eller begrenses. Hvis de tillater bruk av chattefunksjonen, kan foreldre enkelt overvåke chattelogger og venneforespørsler. De kan også tilpasse tilgangen til ulike spill og opplevelser basert på aldersanbefalinger og legge begrensninger på pengebruk for å unngå overraskelser på kredittkortutskriften.
Vi samarbeider for å beskytte barna
Når det gjelder å begrense bruken og forhindre en fullt utviklet spillavhengighet, faller selvfølgelig mye av ansvaret på foreldrene. Men med tanke på antallet tilpasningsmuligheter, sikkerhetsfunksjoner og tilgjengelige kundestøtteagenter gir Roblox foreldrene verktøyene og informasjonen de trenger for å kontrollere barnas spillopplevelser. Ingen kompliserte hindringer som må forseres eller urimelig lange ventetider – bare enkle, strømlinjeformede prosesser og et hjelpsomt team med kundeserviceagenter som er klare til å hjelpe.
Vil du lære mer om hvor viktig det er å utvikle etiske digitale produkter som prioriterer brukernes velvære? Sjekk ut denne episoden av podkasten The Product Manager, der vi snakker med Samantha Gonzalez, direktør for produktstrategi hos DockYard, Inc., om etiske produktstrategier.