OpenAI finisce nel mirino degli esperti di sicurezza dopo il lancio di “ChatGPT for Teens”, la versione del chatbot pensata per gli utenti tra i 13 e i 17 anni. L’iniziativa nasce con l’obiettivo di offrire ai ragazzi un ambiente più sicuro per utilizzare l’intelligenza artificiale, ma le misure adottate dall’azienda stanno sollevando interrogativi tra organizzazioni per la tutela dei minori e analisti del settore.
Secondo quanto riportato dalla testata specializzata Engadget, il principale dubbio riguarda l'effettiva capacità dei sistemi di protezione di individuare e gestire correttamente le situazioni a rischio. Gli esperti chiedono in particolare verifiche indipendenti, maggiore trasparenza e controlli più efficaci sul funzionamento degli strumenti di sicurezza.
Il nodo della verifica dell’età
Uno dei punti più discussi riguarda il sistema automatico utilizzato per stimare l’età dell’utente. Secondo i tecnici e le organizzazioni che hanno analizzato il sistema, la tecnologia potrebbe non essere sufficientemente precisa e, in alcuni casi, potrebbe essere aggirata con relativa facilità.
Il rischio è che un adolescente riesca ad accedere alla versione standard del chatbot senza beneficiare delle protezioni previste per la fascia d’età più giovane. Una questione particolarmente delicata, considerando la rapidissima diffusione degli strumenti di intelligenza artificiale tra studenti e adolescenti.
Le chat a rischio e l'intervento umano
Altro elemento sotto osservazione è la promessa di OpenAI di sottoporre le conversazioni considerate particolarmente pericolose a una verifica da parte di personale umano e, nei casi più gravi, di avvisare i genitori entro un'ora.
Una promessa che, tuttavia, viene accolta con cautela dagli esperti. Le associazioni ricordano infatti che precedenti test indipendenti avrebbero evidenziato ritardi anche molto significativi negli avvisi relativi a conversazioni legate all'autolesionismo, arrivati in alcuni casi fino a 48 ore.
Un intervallo di tempo considerato problematico quando si parla di situazioni potenzialmente urgenti. Come sottolineato da Engadget, inoltre, alcune restrizioni introdotte nel tempo si sarebbero dimostrate inefficaci o avrebbero perso parte della loro efficacia.
Il ruolo dei genitori
Un'altra criticità riguarda il sistema di collegamento tra l'account del ragazzo e quello del genitore. Gli strumenti di controllo e gli avvisi, infatti, richiedono che l'adulto effettui manualmente la procedura di associazione.
Per le organizzazioni che si occupano di sicurezza online dei minori, questo rappresenta un possibile punto debole. Non tutte le famiglie, infatti, potrebbero completare una procedura considerata complessa o poco intuitiva.
Da qui la richiesta di attivare automaticamente le protezioni più elevate per gli utenti minorenni, senza affidare esclusivamente ai genitori il compito di configurare correttamente gli strumenti di sicurezza.
Intelligenza artificiale e adolescenti: una sfida ancora aperta
Il lancio di ChatGPT for Teens rappresenta quindi un passaggio importante nel rapporto tra intelligenza artificiale e minori, ma anche un banco di prova per l'intero settore tecnologico.
La questione non riguarda soltanto OpenAI. Con l'aumento dell'utilizzo di chatbot, assistenti virtuali e strumenti generativi da parte dei più giovani, diventa sempre più importante stabilire quali standard di sicurezza debbano essere garantiti, come verificarli e chi debba certificare la loro efficacia.
L'obiettivo, secondo gli esperti, non dovrebbe essere soltanto quello di introdurre nuove restrizioni, ma anche di assicurarsi attraverso test indipendenti che queste funzionino davvero nel mondo reale.
La discussione su ChatGPT per adolescenti mette così in evidenza una questione centrale per il futuro dell'AI: come permettere ai ragazzi di sfruttare le opportunità dell'intelligenza artificiale per studiare, informarsi e imparare, garantendo allo stesso tempo protezioni adeguate contro i rischi della tecnologia.
0 Commenti