Intro: l’insostenibile certezza degli algoritmi di moderazione.
Ogni giorno, mi sveglio e so che il mondo digitale corre rapidamente…
Il recente “caso” del copyright strike subito da Nvidia su YouTube, al di là del meme e del paradosso, ha fatto notare in modo piuttosto evidente (potremmo azzardare: virale) tutte le incertezze di una moderazione affidata ad automatismi ed algoritmi. Il video ufficiale del trailer di Nvidia DLSS 5 è stato infatti rimosso a causa di una falsa rivendicazione di copyright da parte del canale La7 per un motivo collegato agli automatismi propri del sistema di Content ID. Banalmente, il servizio televisivo caricato sul canale dell’emittente conteneva alcune clip del trailer, che è stato così contrassegnato come contenuto originale e, per l’effetto, ha bloccato i video di Nvidia e di tutti i creator che lo avevano utilizzato per la creazione di ulteriori contenuti. Insomma, il cocktail letale quando un takedown DMCA claim viene shakerato dall’algoritmo. Ironia della sorte, il lieto fine non sembra essere stato un riconoscimento di Nvidia come creatore originale bensì il ritiro della richiesta da parte di La7.
È cosa piuttosto nota che del doman non v’è certezza, ma nel momento in cui si delega una decisione ad un algoritmo bisogna anche esserne consapevoli dei limiti intrinseci, così da non affidarsi a qualsivoglia illusoria certezza. Altrimenti, ci si ritroverà inevitabilmente sorpresi nel momento in cui si verificherà un fallimento e tutti i limiti si esprimeranno in modalità più o meno dirompenti. Anche perché non è detto che la destinazione d’uso desiderata o proclamata possa essere quella realizzabile.
Fondamentalmente, il concetto di human-in-the-loop, o del diritto all’intervento umano, qualche indizio certo lo fornisce in ordine alla natura tutt’altro che certa di un sistema automatizzato. Il quale, beninteso, resta un presidio e opera come filtro necessario nei sistemi di moderazione nel caso in cui una piattaforma debba passare al vaglio milioni (anzi: miliardi) di contenuti, ma può essere tutto fuorché giusto e perfetto. Anche perché non sempre fallisce per i propri limiti intrinseci ma anche per delle forzature che piegano la scure degli strumenti di moderazione algoritmica a intenti non propriamente virtuosi.
Outro: il rischio di weaponization degli strumenti di moderazione.
Non c’è solo un limite tecnologico, ma anche l’impiego distorto di tale limite da parte di attori fin troppo umani. Ed ecco dunque che l’abuso dello strumento di moderazione apre la porta a scenari non propriamente piacevoli che nel migliore dei casi possono tradursi in una sorte di censura digitale. Ad esempio nel momento in cui si fanno convergere un numero rilevante di segnalazioni pur immotivate ma comunque significative per far scattare qualche automatismo di limitazione o blocco. Censura che può condurre a demonetizzazione di contenuti impattando su guadagni più che leciti, o altrimenti all’estromissione da una piattaforma. Che poi sia temporanea o superabile, comporta comunque un costo per il creatore di contenuti o l’utente, che dovrà formulare un reclamo e attivarsi per non finire nelle maglie di un processo digitale kafkiano.
La weaponization degli strumenti di moderazione è una pratica spesso utilizzata per svolgere o rafforzare alcune azioni di social callout, o altrimenti dare attuazione a strategie non propriamente lecite e virtuose per ottenere un posizionamento di mercato in danno dei propri competitor. In modo amletico dovremmo porci il dilemma se sia più nobile subire i colpi dell’oltraggiosa fortuna algoritmica, o altrimenti inventarci un modo per reagire. Ma l’unica reazione efficace sarebbe abbandonare o scegliere di non giocare la partita, come ci insegna War Games. Ce lo possiamo permettere? Ecco un ulteriore layer di dubbi amletici che porta a più riflessioni che soluzioni. Il che è un bene, soprattutto in questa digitalità liquida in cui sempre più spesso ci troviamo a galleggiare senza poter veramente scegliere una direzione di rotta.
Uno dei rischi che devono e dovranno contemplare sempre più le piattaforme sono proprio gli impieghi scorretti e distorsivi dei sistemi di moderazioni. E forse la nostra parte la potremmo fare pretendendo non solo maggiore trasparenza (alcuni sognatori parlano di “apertura”) degli algoritmi, ma anche dei rimedi realmente efficaci e tempestivi nel caso di errori e deviazioni, memori del fatto che è la domanda che dirige l’offerta e non viceversa. Anche perché, se attendiamo che sia un tribunale a farlo prima o poi arriva ma a velocità ridotta e, solitamente, quando oramai il danno è stato causato.
