The Social Reckoning: quando l’algoritmo ha imparato a premiare la rabbia

C’è una scena di The Social Reckoning, il nuovo film di Aaron Sorkin dedicato allo scandalo dei Facebook Files, che mi è rimasta particolarmente impressa.

Durante una riunione interna a Facebook viene presentata una proposta per modificare l’algoritmo. Secondo le simulazioni mostrate nel film, la modifica permetterebbe di ridurre del 38% la diffusione di disinformazione politica, a fronte di una perdita di engagement dell’1%.

Un risultato apparentemente straordinario. Quasi il 40% di disinformazione in meno sacrificando appena un punto percentuale di coinvolgimento degli utenti.

Ma quel punto percentuale, su una piattaforma delle dimensioni di Facebook, rappresenta decine di milioni di persone che smettono di scorrere contenuti. E quindi un’enorme quantità di attenzione che non può più essere monetizzata.

La proposta viene accantonata.

È una scena cinematografica, naturalmente. Sorkin ricostruisce e drammatizza fatti realmente accaduti, e sarebbe scorretto considerare ogni dialogo una trascrizione delle riunioni aziendali. Ma il conflitto che rappresenta è documentato: Facebook aveva individuato alcuni effetti dannosi dei propri sistemi di raccomandazione e, in diverse occasioni, le possibili correzioni si erano scontrate con gli obiettivi di crescita della piattaforma.

Ho lavorato abbastanza a lungo nel digitale da sapere quanto una metrica possa condizionare le decisioni di un’azienda. Quando stabilisci che cosa misurare e che cosa premiare, stai già orientando il comportamento di tutto il sistema.

Con Facebook questa scelta ha avuto conseguenze che sono andate ben oltre i risultati economici, sfociando nella modifica culturale della nostra società in modo a volte drammatico.

MSI: quando una condivisione vale trenta like

Nel gennaio 2018 Mark Zuckerberg annunciò una modifica sostanziale al News Feed di Facebook. Il nuovo obiettivo era privilegiare le Meaningful Social Interactions, abbreviate in MSI, ovvero le interazioni sociali significative.

La spiegazione ufficiale era convincente. Facebook si era progressivamente riempito di contenuti prodotti da aziende, editori e pagine commerciali, mentre fotografie, compleanni, matrimoni, lauree e altri momenti della vita delle persone finivano per avere meno visibilità.

Zuckerberg voleva riportare al centro le relazioni personali, privilegiando i contenuti capaci di generare conversazioni tra amici e familiari. Arrivò persino a dichiarare pubblicamente che si aspettava una diminuzione del tempo trascorso sulla piattaforma.

Una decisione che, almeno nelle intenzioni dichiarate, sembrava anteporre il benessere degli utenti agli interessi economici.

Per capire che cosa successe dopo bisogna però entrare nel funzionamento dell’algoritmo.

Facebook aveva bisogno di tradurre un concetto astratto come interazione significativa in qualcosa di misurabile: like, commenti, reazioni, condivisioni. Ciascuna di queste azioni diventava un segnale utilizzato per stabilire quanto un contenuto meritasse di essere mostrato.

Il sistema attribuiva pesi differenti ai vari comportamenti. Nella configurazione iniziale dell’MSI, documentata dalle successive inchieste, una ricondivisione poteva valere fino a trenta volte un semplice like.¹

Trenta volte.

Un commento o una condivisione richiedono effettivamente un coinvolgimento maggiore rispetto a un like, quindi la logica iniziale aveva una sua coerenza. Ma c’era un problema che chiunque frequenti i social conosce benissimo, anche senza aver mai scritto una riga di codice.

I contenuti che ci spingono a reagire con maggiore intensità sono spesso quelli che ci fanno arrabbiare.

L’indignazione è forse il più potente attivatore umano dopo la paura.

Pensiamo a due post. Nel primo una persona racconta una bella esperienza con la propria famiglia. Riceve qualche like, forse un commento affettuoso. Nel secondo qualcuno pubblica una provocazione politica, una notizia controversa o un’affermazione palesemente assurda.

Il secondo post può generare centinaia di commenti, discussioni interminabili e condivisioni indignate. Anche chi lo condivide per criticarlo contribuisce alla sua diffusione.

Per l’algoritmo tutte queste attività rappresentano segnali di coinvolgimento. E maggiore è il coinvolgimento previsto, maggiore può diventare la visibilità del contenuto.

Si innesca così un meccanismo di retroazione. I post provocatori ottengono più interazioni, vengono mostrati a più persone, producono altre interazioni e incoraggiano chi li pubblica a produrne di simili.

I documenti interni emersi nel 2021 mostravano che Facebook era consapevole di questi effetti. Le analisi avevano rilevato una presenza sproporzionata di disinformazione e contenuti tossici tra i post ricondivisi.

Il film affronta anche un dato impressionante: una ricerca interna del 2016 aveva rilevato che il 64% delle adesioni ai gruppi classificati come estremisti derivava dagli strumenti di raccomandazione di Facebook.²

Quel dato precede l’introduzione dell’MSI, quindi sarebbe sbagliato attribuirglielo. Dimostra però quanto fosse già rilevante il ruolo attivo della piattaforma nell’indirizzare le persone verso determinati contenuti e comunità.

E mi ha fatto riflettere su una cosa. Abbiamo passato anni a discutere della cattiveria delle persone sui social, della loro aggressività, della progressiva incapacità di confrontarsi civilmente. Tutti fenomeni che esistono anche al di fuori di Internet.

Ma una piattaforma che attribuisce maggiore visibilità ai comportamenti più conflittuali finisce per modificare anche chi la utilizza.

Le persone imparano, spesso senza rendersene conto, quali comportamenti ricevono attenzione. Chi pubblica contenuti impara ancora più rapidamente. E lentamente cambia anche il tipo di conversazione che siamo abituati a considerare normale.

Voglio più dopamina? Devo pubblicare contenuti divisivi.

La Section 230 e il confine tra ospitare e amplificare

Da buon laureato in legge, non potevo restare indifferente alla Section 230 del Communications Decency Act raccontata nel film, una norma americana introdotta nel 1996 quando Internet era ancora profondamente diverso da quello che conosciamo oggi.

La sua funzione principale è stabilire che un servizio online, in determinate condizioni, non debba essere considerato l’editore o l’autore dei contenuti pubblicati da terzi.

Se un utente scrive qualcosa di diffamatorio su un forum, per esempio, il gestore del servizio gode generalmente di una protezione rispetto alla responsabilità che potrebbe avere un editore tradizionale. La norma tutela inoltre alcune attività di moderazione svolte in buona fede.

È una norma importantissima perché senza questa protezione non esisterebbero le piattaforme che permettono agli utenti di pubblicare contenuti. Senza una disciplina di questo tipo, gestire miliardi di interventi quotidiani comporterebbe rischi legali enormi.

Nel film, però, ho notato una contraddizione che trovo difficile ignorare.

Facebook rivendica il proprio ruolo di spazio pubblico nel quale le persone devono poter parlare liberamente. Quando si discute della disinformazione, i suoi dirigenti richiamano la libertà di espressione e la necessità di evitare interventi che potrebbero limitarla. Nel frattempo, però, un sistema proprietario (Facebook appunto) decide quali contenuti mostrare, a chi mostrarli, con quale frequenza e con quale intensità: decisioni progettuali prese dall’azienda.

La Section 230 non ha imposto a Facebook di adottare l’MSI, né ha determinato direttamente quella specifica scelta algoritmica. Ha contribuito a creare il contesto giuridico nel quale piattaforme come Facebook hanno potuto crescere distribuendo enormi quantità di contenuti prodotti dagli utenti.

Ocio però: sono due responsabilità distinte, quella di pubblicare contenuti degli utenti e quella di scegliere internamente quali di essi abbiano maggiore visibilità.

Un conto è permettere a qualcuno di esprimere un’opinione. Un altro è costruire un sistema che identifica le opinioni capaci di generare più reazioni e le distribuisce sistematicamente a un pubblico sempre più vasto.

Instagram e la dipendenza di cui l’azienda era consapevole

Il secondo aspetto del film che mi ha colpito riguarda Instagram.

Nel 2021 le inchieste del Wall Street Journal, basate sui documenti interni forniti da Frances Haugen, rivelarono che Facebook aveva condotto ricerche approfondite sugli effetti di Instagram sul benessere psicologico degli adolescenti.

Uno dei risultati più citati riguardava il rapporto tra Instagram e la percezione del proprio corpo: il 32% delle ragazze intervistate che già provavano disagio per il proprio aspetto dichiarava che Instagram le faceva sentire peggio.³

Durante la sua testimonianza al Senato americano, Haugen riportò le parole di adolescenti che descrivevano una condizione particolarmente difficile: Instagram le faceva stare male, eppure sentivano di non riuscire a smettere di utilizzarlo.

Questa testimonianza mi ha colpito perfino più delle percentuali: non riuscivano a smettere di utilizzarlo.

Ripetete con me: mi fa star male, sono consapevole che mi fa star male ma non riesco a smettere di utilizzarlo.

Instagram combina diversi elementi capaci di alimentare questo comportamento. Il confronto sociale continuo, il bisogno di approvazione, le ricompense intermittenti rappresentate dalle interazioni ricevute, il flusso potenzialmente inesauribile dei contenuti.

E soprattutto, per un teenager, la paura di essere esclusi.

Abbandonare Instagram può significare perdere conversazioni, occasioni di relazione e informazioni su ciò che fanno gli altri.

Le ricerche interne e le testimonianze raccolte da Haugen indicavano che Facebook conosceva anche queste dinamiche di utilizzo problematico.

Naturalmente non tutti gli utenti sviluppano una dipendenza, e l’uso compulsivo dei social non coincide automaticamente con una diagnosi clinica. Rimane però il problema di un modello economico che trae beneficio dalla nostra difficoltà a interrompere l’utilizzo.

Più tempo trascorriamo sulla piattaforma, più occasioni ci sono per mostrarci pubblicità. Più frequentemente torniamo, maggiori sono le opportunità di monetizzare la nostra attenzione.

Il problema di chi controlla il sistema

C’è un elemento che accomuna i due aspetti del film, la questione Section 230/MSI e la dipendenza da social.

Nel caso di Facebook, la piattaforma può favorire la diffusione di contenuti che esasperano il conflitto. Nel caso di Instagram, può alimentare comportamenti di utilizzo difficili da controllare, soprattutto tra le persone più vulnerabili.

Il modello economico che si basa su un incentivo preciso: mantenere elevato il coinvolgimento.

Però non tutto è negativo: la passione descritta nel film, grazie alla quale molti dipendenti genuinamente credono alle ricadute positive della piattaforma non è campata per aria. Le piattaforme social hanno creato valore reale. Hanno permesso a persone lontane di mantenere relazioni, hanno offerto opportunità di espressione, hanno contribuito alla nascita di comunità e attività economiche che prima avrebbero avuto molte più difficoltà a esistere.

Proprio per questo le decisioni che ne governano il funzionamento dovrebbero poter essere esaminate con un livello di trasparenza proporzionato alla loro influenza.

Un algoritmo può essere modificato. I pesi assegnati alle interazioni possono essere cambiati. I contenuti problematici possono essere declassati senza necessariamente essere rimossi. Possono esistere sistemi di raccomandazione che tengono conto di obiettivi differenti dalla massimizzazione del coinvolgimento.

Ogni soluzione presenta compromessi tecnici, economici e anche politici. Ridurre la visibilità di alcuni contenuti pone questioni legittime sul potere di chi stabilisce i criteri. Nessun algoritmo potrà eliminare la disinformazione, l’odio o la fragilità umana.

Ma il fatto che una soluzione perfetta non esista non giustifica l’assenza di responsabilità per le scelte effettivamente compiute. Soprattutto quando chi gestisce il sistema possiede informazioni che il resto del mondo non ha.

La falsa scelta

Il finale di The Social Reckoning riprende la testimonianza di Frances Haugen davanti al Congresso americano del 5 ottobre 2021. Mentre sullo schermo scorrono le conseguenze delle scelte aziendali, Haugen denuncia la falsa alternativa che Facebook propone al pubblico: accettare una piattaforma invasa da contenuti estremi e divisivi oppure sacrificare la libertà di parola.⁴

È un passaggio che mi ha particolarmente colpito perché, dopo quasi due ore trascorse a osservare il funzionamento di questi meccanismi, quella contrapposizione appare per quello che è: una scelta costruita da chi controlla la piattaforma.

La libertà di parola è un diritto fondamentale. Deve essere difesa anche quando protegge opinioni che non condividiamo, che ci irritano o che consideriamo profondamente sbagliate.

Ma da nessuna parte è scritto che ogni opinione debba ricevere la massima amplificazione possibile. Che ogni provocazione debba essere premiata con altra visibilità. Che la nostra rabbia debba diventare il carburante di un sistema progettato per trattenerci sempre più a lungo.

Possiamo difendere la libertà di espressione e pretendere che chi progetta queste piattaforme risponda delle decisioni con cui sceglie di distribuire i contenuti.

Possiamo volere un luogo nel quale confrontarci liberamente senza accettare che il conflitto venga sistematicamente incentivato.

E possiamo chiedere che un’azienda, quando scopre che alcuni dei suoi meccanismi danneggiano le persone, metta quelle conoscenze al servizio della sicurezza anziché lasciare che siano soltanto i risultati economici a decidere.

Dietro ogni algoritmo ci sono persone che stabiliscono obiettivi, scelgono parametri, misurano risultati e decidono quali conseguenze siano accettabili.

E quando quelle decisioni condizionano la salute dei ragazzi, la qualità delle nostre relazioni e perfino il modo in cui discutiamo della società in cui viviamo, non possono rimanere una questione esclusivamente aziendale.