OpenAI rivoluziona la moderazione dei contenuti con GPT-4

OpenAI sta cercando di risolvere uno dei problemi più difficili del settore tecnologico: la moderazione dei contenuti su larga scala.

OpenAI rivoluziona la moderazione dei co
Lorenzo Pascucci 

OpenAI sta cercando di risolvere uno dei problemi più difficili del settore tecnologico: la moderazione dei contenuti su larga scala.

Gli strumenti di moderazione

OpenAI sta sperimentando l'utilizzo di GPT-4 per la moderazione dei contenuti, con l'obiettivo di creare un sistema scalabile, coerente e personalizzabile. L'azienda sostiene che l'IA può offrire una visione più positiva del futuro delle piattaforme digitali, in cui l'IA può aiutare a moderare il traffico online in base alle politiche specifiche della piattaforma e alleviare il carico mentale dei moderatori umani.

Secondo OpenAI, il suo modello GPT-4 potrebbe sostituire decine di migliaia di moderatori umani, garantendo una moderazione quasi altrettanto accurata ma più coerente. Se ciò fosse vero, le attività più tossiche e mentalmente gravose nel campo della tecnologia potrebbero essere affidate alle macchine.

GPT-4 viene utilizzato anche per sviluppare e perfezionare le politiche aziendali, etichettare i contenuti e prendere decisioni. L'azienda sostiene che il modello può implementare nuove policy istantaneamente, risparmiando settimane o mesi di tempo rispetto ai tradizionali approcci. Inoltre, GPT-4 può aiutare a migliorare la salute mentale dei moderatori umani, riducendo il loro carico di lavoro ed eventuali disturbi da stress post-traumatico per i contenuti visualizzati.

Gli strumenti di moderazione basati sull'intelligenza artificiale non sono una novità. Perspective, gestito dal Counter Abuse Technology Team di Google e dalla divisione Jigsaw del gigante tecnologico, è stato lanciato in versione generale diversi anni fa. Numerose startup offrono servizi di moderazione automatica, tra cui Spectrum Labs, Cinder, Hive e Oterlu.

Benefici della moderazione dei contenuti con GPT-4

OpenAI vede tre vantaggi principali rispetto agli approcci tradizionali alla moderazione dei contenuti.

  • In primo luogo, sostiene che le persone interpretano le policy in modo soggettivo, mentre le macchine sono coerenti nei loro giudizi. Le linee guida possono essere molto e cambiare continuamente. Gli esseri umani hanno bisogno di molto addestramento per imparare e adattarsi, mentre OpenAI sostiene che i modelli linguistici di grandi dimensioni potrebbero implementare nuove policy all'istante.
  • In secondo luogo, GPT-4 può presumibilmente aiutare a sviluppare una nuova policy in poche ore. Il processo di stesura, etichettatura, raccolta di feedback e perfezionamento richiede solitamente settimane o diversi mesi.
  • In terzo luogo, OpenAI cita il benessere dei lavoratori che sono continuamente esposti a contenuti dannosi, come video di abusi su minori o torture. La maggior parte dei moderatori di contenuti risiede in Paesi in via di sviluppo con salari molto bassi, lavora per aziende di outsourcing e lotta contro la salute mentale, ricevendo un'assistenza minima.

Nonostante i potenziali vantaggi, è importante ricordare che l'IA non è perfetta e che la supervisione umana rimane fondamentale. OpenAI riconosce che i risultati e le prestazioni di GPT-4 devono essere attentamente monitorati, convalidati e perfezionati. La moderazione dei contenuti su larga scala rimane una sfida complessa, ma l'utilizzo di modelli di intelligenza artificiale, potrebbe rappresentare un passo avanti significativo nel migliorare l'efficienza e la coerenza della moderazione dei contenuti online.