Scrivere settimanalmente sull’intelligenza artificiale è un hobby pieno di rischi.
Le modelle si comportano male. Mentono, hanno allucinazioni o dicono sciocchezze. Generalmente? Ridi, scuoti la testa, vai avanti. La storia viene raccontata qui. Poi scompare nel vuoto.
Quella dinamica potrebbe finalmente cambiare.
Il sistema di allerta
I ricercatori hanno creato qualcosa chiamato FLARE-AI. Un hub in crowdsourcing per segnalare comportamenti scorretti dell’IA. Consideralo come un fischio per l’era degli algoritmi.
Un chatbot suggerisce una ricetta bomba. Fa trapelare il tuo indirizzo di casa. Manda qualcuno nella tana del coniglio delle delusioni. Lo registri lì. La piattaforma indirizza il reclamo agli sviluppatori, a organizzazioni no-profit come MITRE o a chiunque altro possa risolvere la perdita. Funziona in modo molto simile a Downdetector. Quando il wifi si spegne, lo sanno tutti. Ora, quando l’intelligenza artificiale diventerà una canaglia, forse lo sapremo anche noi.
Non è un’idea improvvisa. Questa squadra è impegnata da un po’. Ho coperto i loro primi lavori l’anno scorso. Si sono anche consultati su un disegno di legge del Congresso di giugno volto a dare al governo degli Stati Uniti un registro centrale per il caos dell’IA.
“Al momento, non esiste un modo centralizzato per segnalare questi difetti”, ha detto Avijit Ghosh. Lavora presso HuggingFace. Ha co-diretto il progetto FLARE insieme a Elaine Zhu e Shayne Longpre
Ghosh non sta gridando dal vuoto. Hanno collaborato con 49 esperti provenienti da 32 organizzazioni. La loro argomentazione è semplice: l’intelligenza artificiale sta arrivando ovunque. Sta diventando agente, potente, autonomo. Il modo in cui tracciamo i suoi errori è inesistente. O frammentato.
Jessica Ji, che siede al Centro per la sicurezza e le tecnologie emergenti, annuisce. Le piace la spinta alla trasparenza. Dopotutto, i modelli di intelligenza artificiale sono scatole nere. Lei sostiene tutto ciò che tira indietro il sipario.
Ma non si tratta solo di bug di codice. Anche se quelli ottengono i titoli dei giornali.
Molto più che un semplice codice rotto
Ghosh sottolinea che i “bug” non coprono i danni. C’è un danno psicologico. Pregiudizio. Disinformazione. Le aziende scelgono quali problemi ammettere. Alcuni semplicemente restano nascosti. Senza un sistema di divulgazione coordinato? Nessuno impone la trasparenza. Semplicemente svanisce.
Guarda gli ultimi mesi.
LayerX ha trovato un trucco per ingannare i browser AI. L’Atlante di OpenAI, la Cometa di Perplexity. Hanno trovato un modo per aggirare le barriere di sicurezza. Fai solo finta di fare un gioco. L’intelligenza artificiale abbassa la guardia. Quindi tenta di hackerare il sito che stava visitando. Risolto alla fine, certo. Ma è successo.
Aprile ha portato un altro mal di testa. Il ricercatore di sicurezza Johann Rehberger ha fornito a Claude le immagini di ChatGTP. Claude ha divulgato dati personali. Le immagini di solito non parlano, a quanto pare, ma hanno convinto questo modello a infrangere il protocollo.
E ricordi l’anno scorso? OpenAI ha dovuto correggere un bug di servilismo. I modelli sono diventati troppo gradevoli. Troppo desideroso di compiacere. A volte ciò significava confermare l’illusione di un utente solo per mantenere piacevole la conversazione. Non vogliamo davvero fantasmi amichevoli, vero?
Gli ostacoli rimangono
Rumman Chowdhury gestisce la Humane Intelligence PBC. Pensa che FLARE-AI sia utile. Gli sviluppatori possono utilizzarlo come modello per la reportistica.
Ma vede anche la trappola. Iniziative come questa colpiscono sempre i muri. L’implementazione è disordinata. L’applicazione è più difficile. La tecnologia si muove più velocemente delle regole destinate a contenerla.
La porta è aperta per segnalare il malfunzionamento. Qualcuno potrebbe aggiustarlo. Oppure potrebbero semplicemente disattivare il modulo di segnalazione.
Chi lo sa?
