Se l'IA trasforma le tue foto in un incubo: dalla Sicilia si combatte la violenza online

Essere fotografati o trovarsi al mare in costume non può essere una paura, eppure questo succede e piuttosto frequentemente. Quante volte ci capita di "scrollare" i nostri profili social e di ridere di gusto di fronte a un'intervista manipolata dall'intelligenza artificiale: questa comicità "da social" a cui assistiamo non ci preoccupa, ma se ci fermiamo un attimo a riflettere, ci accorgiamo della rapidità con cui questi contenuti vengono prodotti e messi in rete.

Stessa sorte tocca agli scatti "rubati" di ragazzi e ragazze che ritrovano il loro volto su un corpo che non gli appartiene perché nudo. Con estrema velocità questi file vengono manipolati e diffusi, incutendo timore ad adolescenti e adulti nel pubblicare una loro foto o, ancor peggio, andare al mare e rischiare di finire su qualche telefono.

Quando l'IA diventa un vero e proprio "scanner" per la creazione di immagini sensibili, diventa un problema molto difficile da contrastare. Questo fenomeno si chiama "deep nude".

Ma, ovviamente, l'IA non si attiva da sola: dietro c'è sempre un comando che proviene da qualcuno. L'utilità dell'intelligenza artificiale non è da sottovalutare, ma è opportuno regolamentare uno strumento così potente, perché nelle mani sbagliate può causare danni non indifferenti.

Vi avevamo parlato precedentemente in un nostro articolo di come la violenza stia pian piano assumendo forme diverse e di come agisca sulla creazione di immagini che mirano a ledere ragazze e ragazzi indistintamente. Per non parlare di quanto sia essenziale inserire l'educazione sessuale a scuola sin dalla tenera età.

In Sicilia esiste una realtà che opera nel settore della tutela e promozione dei diritti dell'infanzia ed è l'associazione Meter ad Avola: «Abbiamo una storia lunga 35 anni e ci occupiamo dei diritti dell'infanzia - racconta a Balarm il fondatore e presidente Fortunato Di Noto -. Gestiamo un centro di ascolto e accogliamo le vittime di violenza, anche di deep nude o che si consuma online. Abbiamo un protocollo con la polizia postale da 20 anni e collaboriamo a stretto contatto con loro.

Nel contesto della difesa, noi segnaliamo casi di pedopornografia online, un fenomeno purtroppo molto esteso e gravissimo e coinvolge purtroppo anche la criminalità organizzata. Il nostro principale obiettivo è contrastarlo e il report che produciamo ogni anni è un lavoro concreto che svolge la nostra associazione».

Ma putroppo anche la violenza si trasforma e si adatta a nuovi strumenti: «Da un po' di tempo ci occupiamo anche di intelligenza artificiale - continua Fortunato Di Noto -. Non vogliamo demonizzarla, anzi. È utilissima in tanti settori lavorativi e della nostra vita, ma come al solito ogni innovazione, se gestita, male crea grossi problemi.

Abbiamo presentato il primo dossier a Roma e abbiamo somministrato un questionario. Mi sono accorto che i ragazzi a volte non percepiscono le gravità delle cose che fanno e non va bene. Abbiamo scoperto che in una chat su Telegram dove si scambia materiale pedopornografico e circa 125 studentesse italiane hanno denunciato. Sono state fotografate senza il loro consenso e col deep nude le hanno spogliate.

Questo ha messo in allarme tutti, ledere la dignità di una persona è orribile. Ma per sensibilizzare su questi temi, bisogna partire anche dalla famiglia. Infatti abbiamo già proposto corsi agli adulti per utilizzare in modo responsabile questa macchina e soprattutto per conoscerla. Il consiglio che noi diamo è quello di comprendere il suo valore aggiunto e avere l'intelligenza di non utilizzarla contro qualcuno».

Manipolare un'immagine che non ci appartiene è terribile e c'è chi teme di subire questi abusi o chi ha paura di essere vittima inconsapevolmente: «Ho notato che durante i nostri incontri, i ragazzi sono sempre molto attenti e vogliono sapere come regolamentare uno strumento così potente, atteggiamento che si sposa con il motto dell'associazione Meter che è "La regola salva la vita".

Purtroppo noi diamo una grande responsabilità ai genitori, abbiamo tanti bambini lasciati soli e di conseguenza non seguiti dai genitori. Si accorgono della situazione quando già è grave. C'è tanta indifferenza e noi vorremmo, invece, una maggiore risposta da loro, ma a volte arrivano tardi quando già il danno è fatto.

Non si accorgono nemmeno che i figli falsificano l'età per accedere ai social e i ragazzi inevitabilmente naufragano nel mare che è il web - conclude il presidente -. Tutti siamo responsabili nei confronti dei bambini. Nessun esperto dice di dare un cellulare ai più piccoli, è una fase neurologica troppo delicata. L'educazione all'affettività deve partire da quell'età».

Purtroppo l'utilità dell'IA a volte viene oscurata da questi atti distruttivi che comunque rispondono sempre a un comando dato da qualcuno. La chiave non è prendersela con un colpevole "invisibile", ma iniziare ad agire sulle coscienze, semplicemente parlandone, abbattendo qualche muro. È un inizio, ma da qualche parte si deve pur cominciare.

Il Centro Ascolto di Meter è attivo tutto l’anno, in presenza e online, e mette a disposizione un’équipe multidisciplinare composta da psicologi, psicoterapeuti, legali e tecnici informatici. Offre ascolto e consulenza a minori, famiglie, insegnanti e adulti che affrontano situazioni di forte disagio come questo.

È possibile contattare il centro ascolto tramite il Numero Verde 800 455 270 o compilando il modulo online anche in forma anonima sul sito ufficiale. Si può anche inviare la propria richiesta d'aiuto via WhatsApp, canale preferito soprattutto dagli adolescenti: il servizio è dunque raggiungibile al numero 342 7319716.