Responsabilità delle piattaforme: un fil rouge da Los Angeles a Trescore Balneario di Silvia Carlino

Dopo una camera di consiglio di 9 giorni, il 26 marzo scorso la giuria del Tribunale di Los Angeles ha emesso all’unanimità un verdetto destinato ad incidere in modo irreversibile sul diritto delle nuove tecnologie: Meta e Google sono state dichiarate responsabili per negligenza dei danni che le loro piattaforme (Instagram e YouTube) hanno causato alla salute mentale di un’utente al tempo minorenne.

Si è giunti a questo epilogo perché K.G.M., giovane californiana oggi ventenne, ha citato in giudizio le due Big Tech (dopo aver raggiunto un accordo stragiudiziale con TikTok e Snapchat) sostenendo di aver sviluppato una dipendenza da YouTube e Instagram tra i 6 e i 9 anni di età, circostanza che le avrebbe causato un grave stato depressivo, caratterizzato anche da atti di autolesionismo, nonché da dismorfismo corporeo e fobia sociale; il danno subìto è stato quantificato in complessivi 6 milioni di dollari (sia per compensatory che punitive damages).

 

Ma non è in questo che sta la portata innovativa del processo californiano e del relativo verdetto: la vera notizia è che, per la prima volta, lo scudo della libertà di espressione intorno ai fornitori di servizi è stato aggirato. Finora, processi come questo non avevano mai avuto successo perché le piattaforme godono di una quasi inattaccabile immunità data dalla Section 230 del Communications Decency Act, norma federale su cui si fonda l’internet per come lo conosciamo oggi e che tutela appunto le piattaforme dalla responsabilità per i contenuti pubblicati da terzi: sostanzialmente, non possono essere considerate degli editori e, pertanto, non sono legalmente responsabili per eventuali contenuti illeciti caricati dagli utenti.

Ha cambiato direzione, invece, Mark Lanier, difensore di K.G.M.: ha puntato l’attenzione sull’infrastruttura stessa, sul suo design; la negligenza riconosciuta in capo a Meta e Google si è basata proprio su questo, ossia sul fatto che l’ambiente stesso induce alla dipendenza, all’uso compulsivo, e la giuria ha riconosciuto il nesso causale tra l’architettura delle piattaforme e il danno subìto dalla ragazza.

Non solo, a fronte delle testimonianze di esperti e whistleblower delle società in causa,  oltre che dalla lettura di comunicazioni interne a Meta e Google, la giuria ha riconosciuto che le piattaforme sono state progettate così in modo intenzionale, proprio al fine di generare dipendenza negli utenti; i video in autoplay, il feed scrollabile all’infinito, loop di ricompense e raccomandazioni, il tasto “like” che soddisfa il nostro bisogno di validazione (soprattutto nei giovanissimi) servono a catturarci in una rete da cui è difficilissimo liberarsi: è quella che si definisce economia dell’attenzione, che ormai governa (generando profitti) non solo l’intrattenimento ma l’informazione tutta.

Questo ci porta, soprattutto in quanto conoscitori del diritto, ad un altro aspetto degno di attenzione in questa vicenda: la seconda responsabilità accertata dalla pronuncia è il “failure to warn”, ossia l’aver dolosamente omesso di informare l’utenza sui rischi ontologicamente insiti nel prodotto. In sostanza, è la medesima strada seguita negli anni ’90 contro l’industria del tabacco: le società produttrici delle sigarette negavano il rischio che insorgesse dipendenza ma ne erano, in realtà, perfettamente a conoscenza. Ora come allora, si è cercato di attribuire la responsabilità delle conseguenze alla parte debole: i ragazzini, i genitori, gli utenti che non sanno proprio autoregolarsi. 

Una narrativa che non appare più credibile, proprio come la testimonianza in aula di Zuckerberg, evasiva e difensiva: sostenere ancora che Meta desideri solo che le persone vivano “un’esperienza positiva”, quando è ampiamente dimostrato che l’obiettivo aziendale sia tenerci più minuti possibile incollati allo schermo (anche attraverso la reiterazione di contenuti potenzialmente dannosi e senza misure di controllo), rasenta ormai il ridicolo.

In questo contesto, appare miope, per non dire ottuso, liquidare vicende come quella di K.G.M. con un riferimento a genitori evidentemente assenti, distratti, non attenti all’educazione digitale dei figli: una presa di posizione rassicurante per chi commenta senza essere coinvolto, ma del tutto insoddisfacente e fallace dal punto di vista giuridico e sociologico.

Mentre il dibattito sull’argomento prende piede anche nel vecchio continente, dove potrà prendere in prestito i risultati californiani (e gli altri verdetti che arriveranno a breve) per adattarli ad una diversa normativa (in primis, il Digital Services Act europeo), e la Commissione Europea già discute di design delle piattaforme (come ha spiegato la collega Marisa Marraffino su Wired Italia), l’attualità ci mette già di fronte ad un problema ulteriore, ad una conseguenza successiva rispetto a quello che è appena stato accertato.

Un filo rosso lega K.G.M. e il caso di Trescore Balneario, dove uno studente di 13 anni ha accoltellato una sua professoressa: se le piattaforme non sono soggetti neutri né neutrali, ma operano catturando l’attenzione dell’utente e modellando il suo comportamento, dobbiamo allora riflettere su quali contenuti presentano a questo utente. La risposta ce l’abbiamo già: certo non è ancora stato accertato nell’alveo di un giudizio, ma su tutte le piattaforme i contenuti non vengono cercati bensì proposti, insistentemente suggeriti; dopo aver visto il primo, anche in modo passivo, anche solo per curiosità, il sistema algoritmico ci guida verso altri contenuti sempre più specifici, sempre più radicali e polarizzati, conducendoci in una rabbit hole dove spesso si perde il contatto con la realtà (inutile dire che la correttezza delle informazioni è un problema che nessuno si sta ponendo).

Di fronte a un episodio come quello del tredicenne italiano, non ci si deve solo interrogare su cosa sia accaduto quel giorno e nel periodo di preparazione dell’evento, bisogna capire e analizzare quale contesto abbia reso possibile un gesto di violenza così estremo per un ragazzo di quell’età; quale ambiente ha contribuito a plasmare il suo linguaggio, le sue reazioni, le sue lenti di interpretazioni della realtà? Troviamo la risposta nei precedenti storici, guardando (relativamente) lontano, al massacro della Columbine High School in Colorado nel 1999: lì c’era un sito web con poche manciate di visitatori ad ospitare il manifesto e scritti che rivelavano fantasie omicide, frustrazione, rabbia e tendenze violente; c’era anche la componente video, con i “basement tapes” a documentare l’arsenale con cui Harris e Klebold avrebbero poi ucciso 13 persone. È interessante notare che questi video non vennero mai interamente resi pubblici, proprio per il timore che ispirassero gesta emulatorie; in quei video si vedono anche i due attentatori parlare del film che, erano certi, sarebbe stato tratto dalla loro impresa, destinata all’immortalità.

Quello della Columbine è stato il primo caso contemporaneo in cui la violenza giovanile è stata trattata come fenomeno mediatico, imitabile e riproducibile in chiave simbolica, ed è arrivato dritto dritto a Trescore Balneario nel 2026: nella tana del coniglio social in cui il ragazzo si era ritrovato, Harris e Klebold sono gli eroi di riferimento, elogiati insieme ad altri autori di stragi di massa, il tutto in un ambiente dove proliferano varie subculture, di ispirazione soprattutto neonazista e suprematista.

E adesso non serve lasciare videocassette sperando nei posteri, i preparativi possono essere condivisi e (come documenta Serena Mazzini, esperta di fenomeni social e di educazione digitale) già il giorno dopo l’accoltellamento altri ragazzini presenti negli stessi gruppi Telegram e Discord possono creare meme con il volto della professoressa e commentare le gesta del tredicenne, subito idolatrato o, anche, criticato per aver fallito l’obiettivo dell’omicidio.

Questo è quello che gli algoritmi mostrano a dei ragazzini, la famosa “piazza virtuale” a cui accedono senza alcuna difficoltà e in cui vengono tempestati di contenuti allarmanti che, però, a lungo andare diventano ai loro occhi ordinari, quasi banali.

Non è ragionevole assistere a questi fenomeni e pretendere di limitare la responsabilità in capo al singolo utente o al genitore di un adolescente; in quanto giuristi siamo chiamati ad interrogarci anche su chi costruisce gli ambienti in cui certe azioni diventano possibili, scegliendo i contenuti da proporre e, soprattutto, a chi proporli e con quale scopo.