L’epidemia di deepfake colpisce le scuole americane

Punti chiave

• I deepfake vengono utilizzati per diffondere disinformazione e provocare il caos nelle scuole di tutta l’America.
• Gli amministratori scolastici vengono presi di mira da deepfake generati dall’intelligenza artificiale che utilizzano un linguaggio razzista e violento rivolto agli studenti neri.
• Si stanno implementando misure legali per criminalizzare l’uso dannoso dei deepfake, ma sono necessarie anche misure preventive e strategie relative alle norme sociali.

I deepfake rappresentano una seria minaccia per le scuole di tutta l’America, costringendo gli insegnanti a sviluppare piani di emergenza per gestire contenuti sessualmente espliciti generati dall’intelligenza artificiale che coinvolgono studenti o personale.

Queste immagini e video generati dall’intelligenza artificiale possono essere utilizzati per diffondere disinformazione, commettere frodi o creare contenuti dannosi, rendendo essenziale per le scuole affrontare questo problema emergente.

Gli eventi recenti hanno evidenziato i pericoli dei deepfake negli ambienti educativi. In due casi separati, gli amministratori scolastici sono stati presi di mira da deepfake generati dall’intelligenza artificiale contenenti linguaggio razzista e violento rivolto agli studenti neri. Un incidente ha coinvolto uno studente che ha creato il deepfake, mentre l’altro ha coinvolto un direttore sportivo scontento che è stato poi arrestato.

Misure tecnologiche e giuridiche

La mancanza di una tecnologia efficace per combattere questi strumenti di intelligenza artificiale è una delle principali preoccupazioni per gli educatori. Mentre vengono adottate misure legali a livello statale e nazionale per criminalizzare l’uso dannoso dei deepfake, gli esperti sottolineano la necessità di misure preventive e strategie di norme sociali.

Diversi stati hanno approvato leggi che criminalizzano la creazione o la distribuzione di pornografia infantile generata dall’intelligenza artificiale. A livello federale, il senatore Ted Cruz ha proposto il Take It Down Act, che criminalizzerebbe la divulgazione intenzionale di immagini visive intime non consensuali, compresi i deepfake.

I distretti scolastici sono alle prese con come rispondere a questa minaccia in evoluzione. In un caso, il direttore sportivo di una scuola superiore del Maryland ha realizzato una falsa registrazione audio del preside di una scuola come ritorsione per un’indagine su presunti comportamenti finanziari illeciti. Gli investigatori sono riusciti a identificare il sospettato attraverso i vecchi registri di accesso al computer.

Incidenti e conseguenze

Un altro incidente ha coinvolto studenti delle scuole superiori di New York che hanno utilizzato l’intelligenza artificiale per fingere di essere i presidi delle scuole superiori e hanno pubblicato deepfake su TikTok. Sebbene gli studenti siano stati puniti, l’evento ha suscitato paura e ansia tra genitori e studenti.

L’uso dei deepfake nelle scuole solleva serie preoccupazioni sulla sicurezza, la privacy e i potenziali danni degli studenti. Affrontare questo problema richiede un approccio articolato che includa quadri giuridici, soluzioni tecnologiche e campagne di sensibilizzazione sociale per promuovere l’uso responsabile dell’IA.

Se vuoi accedere a tutti gli articoli, goditi temporaneamente la nostra promozione e iscriviti qui!