Adesso Instagram individua atti di bullismo anche nelle foto

Nell'era di Internet proteggere gli adolescenti dagli atti di bullismo è sempre più difficile, perché non passano solo per i testi, ma anche per le immagini. Il social network Instagram ha adottato un sistema avanzato per individuare e filtrare contenuti offensivi presenti in fotografie e didascalie.

Chi ha figli adolescenti conosce, almeno per sommi capi, il problema del bullismo e della sua trasposizione digitale, il cyberbullismo. E saprà anche che i giovanissimi usano molto Instagram, il “social network delle immagini”, come spesso è identificato. Forse non tutti hanno collegato le due cose e compreso che gli atti di cyberbullismo possono anche essere perpetrati per immagini, non solo sotto forma di testi in WhatsApp o Facebook. È qui che entra in gioco una notizia interessante legata a una decisione del nuovo capo di Instagram, Adam Mosseri, che ha voluto l’introduzione di una serie di provvedimenti per combattere il cyberbullismo sul suo social newtork.

Come? È piuttosto semplice, se non si entra troppo nei dettagli tecnici. Su molti siti, fra cui Instagram, sono già presenti filtri anti bullismo per i testi, fatti per individuare e nascondere i commenti potenzialmente lesivi per le persone. Su Instagram è stato ora implementato anche un algoritmo capace di individuare e filtrare contenuti offensivi presenti in fotografie e didascalie. Il programma sfrutta la tecnologia dell’apprendimento automatico, esegue una scansione ottica delle foto pubblicate nell’app ed è capace di rilevare riferimenti al bullismo. Le foto che il programma identifica come sospette vengono poi dirottate su un gruppo di esperti umani e, se c’è la conferma della natura offensiva, vengono rimosse. Attualmente l’aggiornamento si concentra solo sulle foto ma, secondo alcune fonti, Instagram sta lavorando anche a soluzioni per la protezione dei video.

Che cosa devono contenere le foto che vengono rimosse? “Attacchi all’aspetto o al modo di essere di una persona, nonché minacce al benessere o alla salute di una persona“. Per capire bene di che cosa parliamo vale la pena riprendere il profilo giuridico del cyberbullismo come spiegato dall’Avvocato Dott. Giuseppe Messina ai tempi dell’approvazione della legge 29 maggio 2017 n. 71. Il fenomeno infatti non si limita all’uso di strumenti informatici per inviare messaggi offensivi, denigratori e oltraggiosi, perché il cyberbullismo è in realtà un grande contenitore che racchiude diversi fenomeni. Fra questi il “sexting”, ossia la pubblicazione di fotografie sessualmente esplicite, il “bodyshaming”, cioè la pratica di spingere un altro soggetto a provare vergogna del proprio corpo, e foto e video di violenza fisica praticata sulla vittima, ripresa tramite cellulare e resa virale all’interno di una comunità online.

Instagram controllo dei commenti. Fonte: Instagram

 

In sostanza, se il bullismo di per sé identifica comportamenti violenti di un gruppo ai danni di una vittima, tramite Internet si declina in molteplici forme che possono sì passare per insulti scritti, ma anche e a maggior ragione per immagini. Con la differenza che un’immagine può valere più di mille parole, sia in accezione positiva, sia negativa. Da qui l’esigenza di tutelare i minori, anche impedendo la diffusione di immagini che possono essere usate come strumenti di pressione, aggressione, molestie, ricatto, denigrazione o diffamazione.

Denuncia atti di bullismo su Instagram. Fonte: Instagram

 

L’idea di Instagram è lodevole e auspichiamo che sia efficace, ma ricordiamo che uno strumento informatico, per quanto efficiente, non può rimpiazzare la sorveglianza a cui sono chiamati i genitori di figli minorenni. Ai minori ricordiamo poi che sono a disposizione molti strumenti di denuncia, usateli!