L'inquietante dilagare di contenuti per adulti generati da IA: l'urgenza della protezione dei minori

di Francesco Pungitore*

Mentre l'intelligenza artificiale si impone come tema di rilevanza epocale, emergono nuovi timori relativi alla sua regolamentazione e al potenziale utilizzo da parte dei minori. L'onda d'urto di questa tecnologia ha, infatti, intercettato il grande mercato dei contenuti per adulti in Rete, portando alla luce la necessità di adeguare i meccanismi di controllo per proteggere le generazioni più giovani.

Il lato oscuro del virtuale

L'IA offre continue e nuove possibilità per la creazione di contenuti formalmente vietati ai minori di 18 anni, ma facilmente accessibili anche ai minori. Il virtuale si sta rapidamente trasformando in un terreno fertile per il proliferare di piattaforme generative text-to-image. Modelli di IA spesso privi di adeguati filtri o censure che costituiscono un canale incontrollato di materiale potenzialmente dannoso. I loro livelli gratuiti e a pagamento aprono le porte a tutti, compresi i minori, rendendo le semplici barriere di età insufficienti.

Un esempio particolarmente preoccupante è quello delle applicazioni che permettono, letteralmente, di “spogliare” le persone, rimuovendo digitalmente i loro vestiti dalle foto caricate online. Questo tipo di tecnologia, definita deepfake, rappresenta una chiara violazione della privacy e dell'immagine personale, peraltro con profili di rilevanza penale molto gravi.

La mancanza di verifiche convincenti

La pratica comune dell'autodichiarazione di età rappresenta un ostacolo facilmente superabile per i minori desiderosi di esplorare questi mondi virtuali. È un muro di carta che non tiene conto della facilità con cui le informazioni possono essere manipolate online. Troppo spesso, la barriera tra un adolescente e i contenuti per adulti risiede in un semplice clic su un pulsante. “Sì, ho più di 18 anni”, una frase così banale; eppure, così inadeguata a proteggere i minori da un mondo di contenuti potenzialmente dannosi. Questo tipo di verifica basata sull'onore non ha il potere di bloccare l'accesso a chi non è realmente maggiorenne.

L'accesso ai contenuti espliciti è spesso solo questione di secondi. Un minore può facilmente falsificare la propria età, saltare oltre le avvertenze o trovare la strada attraverso semplici misure di sicurezza. Le misure preventive sono semplicistiche e senza una reale efficacia. A peggiorare la situazione, molti siti web o applicazioni offrono una serie di opzioni di registrazione che permettono di aggirare i filtri, come la possibilità di accedere attraverso profili di social media.

È evidente la necessità di implementare misure di sicurezza più severe e sofisticate, che vadano oltre la mera autodichiarazione d'età. Sistemi di verifica dell'identità più robusti, basati su documenti ufficiali o tecnologie di riconoscimento facciale, potrebbero costituire un primo passo verso una migliore protezione dei minori nel mondo digitale. Non possiamo ignorare l'urgenza di questa situazione: la facilità con cui i filtri esistenti possono essere superati costituisce un grave rischio per la sicurezza e il benessere dei nostri giovani.

L'imperativo della responsabilità

In un'era in cui i progressi tecnologici si muovono a passo più rapido dei governi e delle leggi, è necessario un impegno collettivo per garantire che queste piattaforme siano regolamentate e controllate. Devono essere adottati meccanismi di controllo più efficaci, accompagnati da un'educazione digitale di qualità per i minori.

Sarebbe interessante, per esempio, esplorare come la stessa IA possa essere sfruttata per identificare e bloccare l'accesso dei minori a contenuti espliciti. Già ora alcune tecnologie iniziano a esaminare il comportamento degli utenti online per identificare anomalie e comportamenti potenzialmente pericolosi. Perché non utilizzare queste stesse tecnologie per garantire un ambiente digitale più sicuro?

Parallelamente a queste misure di controllo, è fondamentale rafforzare l'educazione digitale. I minori devono essere preparati a navigare nel mare delle informazioni online, comprendendo i rischi e le opportunità. Devono essere incoraggiati a sviluppare un pensiero critico sulle informazioni che ricevono e sulle interazioni che intraprendono online. Questa formazione non dovrebbe essere limitata alle aule scolastiche, ma dovrebbe coinvolgere anche i genitori e le comunità locali.

Infine, i governi e le organizzazioni internazionali devono cooperare per elaborare normative più stringenti e applicabili globalmente. Queste dovrebbero non solo prevedere sanzioni severe per chi viola le regole, ma anche incentivare le buone pratiche tra i produttori di contenuti digitali. La globalità di Internet rende inutile ogni misura che non sia applicabile su scala internazionale.

In conclusione, la soluzione alla problematica dell'accesso dei minori a contenuti dannosi generati da IA non è unica e non è semplice. Richiede un'azione concertata di molteplici attori: governi, aziende, educatori e società civile. E, soprattutto, richiede che prendiamo sul serio la nostra responsabilità collettiva per la protezione dei minori nel mondo digitale.

Conclusioni

Per capire la gravità della situazione non dobbiamo fare altro che guardare al caso recente dell'applicazione “Bikinioff”. Un’app rapidamente diventata popolare tra i più giovani, consentendo loro di modificare le foto delle loro compagne di classe per “spogliarle”, creando e diffondendo immagini nude tramite chat. Solo recentemente, sono state segnalate 27 infrazioni e due adolescenti di soli 14 anni sono stati indagati per la produzione di materiale pedopornografico.

Questo fenomeno è particolarmente diffuso nelle scuole medie, tanto che il Garante dell'Infanzia della Regione Lazio, Monica Sansoni, è intervenuto sulla questione. Secondo Sansoni, “non si tratta di una semplice bravata”. Il suo ufficio riceve almeno due segnalazioni a settimana su vari modi di creare immagini pornografiche tramite l'utilizzo distorto delle tecnologie.

In risposta a ciò, Sansoni ha deciso di organizzare incontri formativi nelle scuole, nelle parrocchie e nei gruppi sportivi, lanciando il progetto “Genitori al centro, missione adolescenza”. Questo progetto è un chiaro segnale dell'urgenza di una risposta collettiva e della necessità di un coinvolgimento di tutte le parti interessate, dalla famiglia alla scuola, dalle istituzioni alla società civile.

La realtà è che non c'è più tempo. L'urgenza è palpabile e richiede un intervento immediato. Le famiglie, in particolare, sono chiamate a svolgere un ruolo attivo e a prestare maggiore attenzione ai propri figli. Questo non significa solo monitorare le loro attività online, ma anche educarli alla consapevolezza digitale, affinché comprendano le potenziali conseguenze del loro comportamento in Rete.

Non possiamo permettere che la generazione di domani cresca in un ambiente virtuale in cui l'etica e il rispetto per gli altri sono sovente trascurati. Le potenzialità dell'IA sono immense e ci offrono strumenti straordinari per migliorare la nostra vita, ma è nostro dovere assicurarci che tali mezzi non diventino un pericolo per i più giovani.

*giornalista professionista, docente di Filosofia, Storia, Scienze Umane e Tecniche della Comunicazione con Perfezionamento post-laurea in Tecnologie per l’Insegnamento e Master in Comunicazione Digitale