« Torna indietro

Pinterest

Pinterest ammette: “Sì, quando la bambina si è suicidata, i contenuti non erano sicuri”

Pubblicato il 22 Settembre, 2022

Un dirigente senior di Pinterest si è detto “dispiaciuto” per i contenuti visualizzati da una quattordicenne che si è tolta la vita dopo averli visti.

Judson Hoffman ha ammesso in un’inchiesta che quando Molly Russell stava visualizzando il contenuto sulla piattaforma nel 2017, il sito non era sicuro.

Molly, di Harrow, a nord-ovest di Londra, è morta nel novembre 2017.

Suo padre, Ian, in precedenza aveva detto al Coroners’ Court di North London che i social media erano stati determinanti nella sua morte.

Hoffman, responsabile globale delle operazioni della comunità di Pinterest, ha affermato di “non essere in grado di rispondere” a come i bambini potrebbero accettare di essere potenzialmente esposti a contenuti inappropriati per un i più piccoli.

Nei termini di servizio della piattaforma, mostrati al tribunale, agli utenti veniva chiesto di segnalare “cose ​​negative” se le vedevano sul sito. I termini del servizio, a partire da novembre 2016, affermavano che gli utenti potrebbero essere esposti a materiale “inappropriato per i bambini”.

L’avvocato della famiglia Russell, Oliver Sanders KC, ha chiesto: “Tenendo presente che potrebbero essere i bambini ad aprire l’account… quando un utente apre un account deve essere d’accordo che potrebbero esserci contenuti inappropriati per un bambino. Se l’utente è una bambina, come possono essere d’accordo?”

“Mi dispiace, non sono in grado di rispondere”, ha risposto Hoffman.

Hoffman ha affermato di essere profondamente dispiaciuto del fatto che Molly abbia visto sulla piattaforma contenuti relativi all’autolesionismo, al suicidio e alla depressione.

Judson Hoffman
Judson Hoffman, di Pinterest, ha fornito prove all’inchiesta sulle immagini visualizzate da Molly

È stato colpito da una serie di immagini che la società aveva inviato a Molly via e-mail prima della sua morte, con titoli come “10 spille per la depressione che potrebbero piacerti” e “recupero dalla depressione, ragazza depressa e altre spille di tendenza su Pinterest”.

Molly Russel
Molly ha utilizzato il suo account Instagram fino a 120 volte al giorno

La Corte ha sentito come Pinterest abbia utilizzato l’intelligenza artificiale e i moderatori umani per nascondere o rimuovere contenuti relativi all’autolesionismo e al suicidio, un sistema che ha avuto “un grande successo”, ma gli utenti potrebbero comunque incontrare tali contenuti.

L’avvocato di famiglia ha detto a Hoffman che la piattaforma aveva “scelto di correre un rischio” quando c’era una “opzione senza rischi” di non consentire ai bambini su Pinterest.

“Direi ‘scelta un’opzione diversa da nessun rischio, non direi opzione rischiosa… ovviamente la nostra intenzione è ridurre il rischio”, ha cercato di ribattere il dirigente del social media.

All’udienza sono stati mostrati due flussi di contenuti che Molly aveva visto su Pinterest, confrontando il materiale che aveva visto in precedenza nel suo utilizzo della piattaforma e nei mesi più vicini alla sua morte.

Mentre il flusso di contenuti precedente includeva un’ampia varietà di contenuti, il secondo si concentrava su depressione, autolesionismo e suicidio.

famiglia Russel
Il padre di Molly Russell, Ian Russell (al centro), la madre Janet Russell (a destra) e sua sorella (a sinistra) arrivano a Barnet Coroner’s Court

Hoffman ha convenuto che la piattaforma non era sicura quando Molly l’ha utilizzata e ammette che sul sito “probabilmente esistono ancora contenuti dannosi”.

Sanders ha chiesto: “Pinterest accetta che la sua piattaforma sia sicura per i bambini?”

Hoffman ha risposto: “Dovrebbe essere sicuro per tutti sulla piattaforma”.

Sanders ha continuato: “E accetta che nel 2017, quando Molly era su di esso, non era sicuro?”

Hoffman ha risposto: “Esatto, c’erano contenuti che avrebbero dovuto essere rimossi che non sono stati rimossi. È probabile che sulla nostra piattaforma esistano ancora contenuti che violano le nostre politiche. È sicuro ma imperfetto e ci sforziamo ogni giorno per renderlo sempre più sicuro”.

All’inizio della giornata, l’inchiesta ha rivelato come Molly ha cercato di chiedere aiuto alle celebrità.

Il padre di Molly ha detto che sua figlia ha chiesto aiuto su Twitter a personalità con migliaia o addirittura milioni di follower, che non avrebbero nemmeno notato un tweet da qualcuno come la bambina.

Un messaggio, inviato all’attrice statunitense Lili Reinhart, che è stato letto alla Corte, diceva: “Non ce la faccio più. Ho bisogno di contattare qualcuno, proprio non ce la faccio”.

Russell, che in precedenza aveva detto di essere rimasto scioccato dal fatto che “materiale oscuro, grafico e dannoso” fosse prontamente disponibile per essere visto dai bambini online, si è chiesto come Molly sapesse “come entrare in questo stato” e ha “trovato difficile da credere che alcuni dei marchi globali più potenti del mondo” non sono riusciti a trovare un modo per aiutare a impedire che tali contenuti raggiungano persone vulnerabili.