Vai al contenuto
Il Cibernetico

Brainrot e controllo parentale "disimpegnato"

Quando i sistemi di controllo parentale falliscono miseramente.

Brainrot e controllo parentale "disimpegnato"

Alcuni mesi fa, mentre mio figlio era intento a guardare i cartoni animati sul suo tablet, impostato con i controlli parentali più stringenti, ho dovuto constatare che l'efficacia di questi ultimi è quantomeno discutibile.
Facendo zapping tra un cartone e l'altro, era incappato in un video con i personaggi del cosiddetto "Italian Brainrot". Si tratta di creature inverosimili, nate da immagini generate con l'intelligenza artificiale: Bombardiro Crocodilo, un ibrido tra un coccodrillo e un aereo; Trallallero Trallalà, uno squalo che indossa sulle pinne delle scarpe sportive; Ballerina Cappuccina, una ballerina la cui testa è una tazza di cappuccino, e molti altri. Personaggi divenuti popolari in meme e video destinati a un pubblico adulto, finendo poi per conquistare anche i bambini. Per questi ultimi sono stati prodotti dei cartoni animati, con trama e contenuto adeguato rispetto all'età di chi deve visionarli.

Bene, mentre mio figlio guardava tale video, il personaggio di Trallalero Trallalà lanciò inaspettatamente un bestemmione, colpendo tutte le principali religioni monoteiste. Dopo essere rimasto di stucco, ho compreso che il cartone in questione era uno di quelli destinati agli adulti e la presenza dei personaggi Brainrot, utilizzati anche in cartoni per l'infanzia, doveva aver ingannato il sistema di protezione.
Non intendo fare qui una battaglia (persa) contro il linguaggio scurrile o blasfemo di meme, video o altro; anzi sono il primo a fare mea culpa: non sono cresciuto né alla corte di Francia né in un collegio di Gesuiti, e il mio linguaggio, per chi mi sente parlare, può risultare forse un po' troppo sboccato. Credo inoltre che l'esposizione dei bambini a un linguaggio di questo genere, prima o poi finisca sempre per capitare, come del resto è capitato alla stragrande maggioranza di noi da piccoli. Certo, quando questo modo di esprimersi gode del privilegio dato dalla viralità, può portare a situazioni quantomeno imbarazzanti, come quella riportata nel seguente articolo:

“Oggi uno dei bambini che ho in asilo ha bestemmiato a pieni polmoni”: cos’è l’Italian Brain Rot, il meme che preoccupa educatori e genitori - Il Fatto Quotidiano
Spopola il trend di meme Italian Brain Rot: ecco cos’è e come funziona

Cose del genere possono creare problemi per chi lavora nel settore educativo-pedagogico, e che magari finisce ingiustamente nel mirino dei genitori, i quali pensano che tale linguaggio venga appreso all'asilo, a scuola ecc. e che gli educatori non facciano abbastanza per correggere certi comportamenti. Ma non è questo il punto.

Lasciare in mano ai bambini un tablet o altro dispositivo in grado di connettersi alla rete implica che lo stesso sia protetto tramite le funzioni di controllo parentale: si tratta di filtri che bloccano determinati contenuti in base alla fascia di età che viene selezionata. Inoltre, è possibile aggiungere ulteriori limitazioni, per esempio impedendo ai risultati delle precedenti ricerche di comparire in evidenza, oppure stabilendo un tempo massimo giornaliero per l'utilizzo. Altra funzione utile è quella del monitoraggio attività e ubicazione, anche se questa potrebbe portare il genitore a sviluppare manie di controllo del tutto deleterie...
Tutte queste forme di protezione si rendono necessarie in quanto i pericoli nei quali un minore può incappare navigando per la rete sono ben più gravi della mera esposizione a un video con contenuti scurrili.

Se il dispositivo è stato pensato per l'utilizzo specifico da parte dei bambini, saranno inoltre presenti delle applicazioni dedicate, in grado di garantire una più facile fruizione dei contenuti e un maggior livello di filtraggio. Ma anche queste, stando a quando riportano alcuni articoli pubblicati in rete, non sono infallibili e possono lasciar passare dei contenuti inadeguati.
Per comprendere il funzionamento di tali applicazioni, riporto un link alla pagina FAQ di YouTube Kids, una delle più famose, alla voce "Come vengono inseriti i video nell'app YouTube Kids?":

❓Domande frequenti: come vengono inseriti i video nell’app YouTube Kids? - Community YouTube
<div>YouTube Kids &egrave; stato progettato per essere un luogo pi&ugrave; sicuro e semplice in cui i bambini possano esplorare i loro interessi attraverso i video online. Utilizziamo un mix di filtri automatici, revisioni umane e feedback degli utenti per determinare quali contenuti mostrare nell&#39;app. Per saperne di pi&ugrave;, potete consultare le domande frequenti&nbsp;<a href=“https://www.youtube.com/intl/ALL_it/kids/safer-experience/” target=“_blank” rel=“noopener”>qui di seguito.</a></div> <div>&nbsp;<div><b>D: Come vengono inseriti i video in YouTube Kids?</b></div> <div>YouTube Kids &egrave; una versione filtrata di YouTube; utilizziamo un mix di filtri automatici costruiti dai nostri team di ingegneri, revisioni umane e feedback degli utenti.&nbsp;</div>&nbsp; <div>Affinch&eacute; un canale o un video venga incluso nell&#39;app YouTube Kids, il contenuto deve essere adatto alle famiglie. Consultate la nostra <a href=“https://static.googleusercontent.com/media/www.youtube.com/en//intl/th/go/family/static/pdfs/creating-for-youtube-kids-fieldguide.pdf” target=“_blank” rel=“noopener”>Guida alla creazione di contenuti per YouTube Kids</a>, pensata per aiutare i creators a creare programmi che possano essere inclusi in YouTube Kids.</div>&nbsp; <div><b>D: Come funzionano i filtri automatici?</b></div> <div>I nostri filtri automatici analizzano diversi aspetti del video, tra cui le miniature, i titoli e il contenuto stesso del video. Ad esempio, se la miniatura di un video presenta immagini inappropriate, o se il titolo del video include bestemmie, o se il contenuto del video presenta un tema adatto ad un pubblico adulto, questi non saranno ammessi a YouTube Kids.&nbsp;</div>&nbsp; <div>Inoltre, se sull&#39;app principale di YouTube si verifica una tendenza inadatta ai bambini, lavoriamo rapidamente per aggiornare i nostri filtri automatici e impedire che questi contenuti entrino in YouTube Kids.</div>&nbsp; <div><b>D: Qual&#39;&egrave; la differenza tra segnalare e bloccare i video?</b></div> <div><a href=“https://support.google.com/youtubekids/answer/6130562?sjid=10197300565117985067-EU&amp;hl=it” target=“_blank” rel=“noopener”>I video segnalati</a>&nbsp;vengono esaminati 24 ore su 24, sette giorni su sette, e saranno rimossi dall&#39;app YouTube Kids per tutti gli utenti se ritenuti inappropriati dopo la revisione. Poich&eacute; non esistono due famiglie uguali e i genitori hanno opinioni diverse su quali siano i contenuti adatti ai loro figli, &egrave; possibile personalizzare ulteriormente l&#39;esperienza dell&#39;app YouTube Kids <a href=“https://support.google.com/youtubekids/answer/7178746?sjid=10197300565117985067-EU” target=“_blank” rel=“noopener”>bloccando i video o i canali</a> che si ritiene non siano adatti alla propria famiglia.</div>&nbsp; <div><b>D: I filtri automatici vengono aggiornati?</b></div> <div>I team o i revisori (persone reali!) controllano due volte le decisioni prese dai filtri automatici campionando i video. Se c&#39;&egrave; un errore, i nostri ingegneri utilizzano queste informazioni per perfezionare i filtri automatici. I team di revisione umana utilizzano anche i video segnalati dai genitori come ulteriore punto di controllo per garantire che i filtri automatici funzionino correttamente.</div>&nbsp; <div><b>D: Chi decide quali contenuti possono essere inseriti in YouTube Kids?</b></div> <div>Il team di YouTube Kids ha sviluppato una serie di criteri sui contenuti che guidano i video idonei per l&#39;applicazione YouTube Kids. Queste politiche sono state ulteriormente informate dal feedback dei genitori e dalla consultazione di una serie di specialisti esterni nel campo dello sviluppo infantile, dei media per bambini, dell&#39;apprendimento e della cittadinanza digitale.&nbsp;</div>&nbsp; <div><b>D: Come funzionano i consigli sui video?</b></div> <div>I video vengono consigliati nella schermata iniziale dell&#39;app in base a ci&ograve; che i bambini guardano e cercano mentre usano l&#39;app. I suggerimenti vengono estratti da tutti i video disponibili in YouTube Kids, esclusi i contenuti segnalati o bloccati dall&#39;utente. I suggerimenti sono selezionati dai nostri sistemi automatici senza alcuna revisione umana. Quando sei un nuovo utente, non mostriamo i suggerimenti finch&eacute; non abbiamo imparato a conoscere i tipi di contenuti che ti piacciono.</div>&nbsp; <div>Continueremo ad aggiornare questo thread, quindi lasciate le vostre domande qui sotto.</div></div>

Se vi prendete tempo per leggerla, vedrete che si parla tanto di filtri automatici, basati sui testi e sulle miniature dei video, che dell'intervento umano tramite revisione degli stessi contenuti approvati dai filtri e segnalazioni effettuate dagli utenti.
Ora, che i filtri automatici non possano essere affidabili al 100% è cosa scontata, poiché un video in apparenza innocuo potrebbe non essere adatto a un minore; ma evidentemente anche da parte dei revisori non c'è stato un grandissimo impegno: avrebbero dovuto conoscere il fenomeno Brainrot e sapere che sotto tale etichetta passano sia contenuti per adulti che per bambini. I video in questione sono stati poi bloccati, una volta ricevuta la segnalazione, ma ormai la notizia aveva già fatto il giro della rete...

Alla fine, anche se c'è la tentazione di affermare che tale problema potrebbe essere risolto grazie all'implementazione di apposite intelligenze artificiali, non resta che concludere con la solita affermazione, forse un po' banale ma sempre valida, ovvero che il controllo parentale non può essere demandato totalmente a terzi (app, dispositivi, la scuola, la parrocchia ecc.) ma richiede una partecipazione attiva da parte dei genitori.

Alessandro Agrati

Alessandro Agrati

Direttore Editoriale - Classe 1979, laureato in Scienze Politiche alla Statale di Milano. Scrivo principalmente articoli riguardanti il rapporto tra tecnologia e fenomeni sociali nonché sulla storia dell' intelligence.

Tutti gli articoli

Altro in Tecnologie

Vedi tutto

Altro da Alessandro Agrati

Vedi tutto