Écrire chaque semaine sur l’IA est un passe-temps comportant des dangers.
Les modèles se comportent mal. Ils mentent, hallucinent ou racontent des bêtises. Généralement? Vous riez, secouez la tête, passez à autre chose. L’histoire est racontée ici. Puis il disparaît dans le vide.
Cette dynamique pourrait enfin changer.
Le système d’alerte
Les chercheurs ont construit quelque chose appelé FLARE-AI. Un hub participatif pour signaler les mauvais comportements de l’IA. Pensez-y comme à un coup de sifflet pour l’ère des algorithmes.
Un chatbot propose une recette de bombe. Fuite l’adresse de votre domicile. Envoie quelqu’un dans un terrier d’illusions. Vous l’enregistrez là. La plateforme achemine la plainte vers les développeurs, vers des organisations à but non lucratif comme MITRE ou vers toute autre personne capable de réparer la fuite. Cela fonctionne un peu comme Downdetector. Quand le wifi s’éteint, tout le monde le sait. Maintenant, quand l’IA deviendra malveillante, nous le saurons peut-être aussi.
Ce n’est pas une idée soudaine. Cette équipe y travaille depuis un moment. J’ai couvert leurs premiers travaux l’année dernière. Ils ont même mené des consultations sur un projet de loi du Congrès de juin visant à donner au gouvernement américain un registre central du chaos de l’IA.
“À l’heure actuelle, il n’existe aucun moyen centralisé de signaler ces failles”, a déclaré Avijit Ghosh. Il travaille chez HuggingFace. Il a co-dirigé le projet FLARE aux côtés d’Elaine Zhu et Shayne Longpre
Ghosh ne crie pas depuis le vide. Ils ont collaboré avec 49 experts de 32 organisations. Leur argument est simple : l’IA est omniprésente. Cela devient agent, puissant, autonome. La façon dont nous suivons ses erreurs est inexistante. Ou fragmenté.
Jessica Ji, qui siège au Centre pour la sécurité et les technologies émergentes, hoche la tête. Elle aime la pression pour la transparence. Les modèles d’IA sont après tout des boîtes noires. Elle soutient tout ce qui tire le rideau.
Mais il ne s’agit pas uniquement de bugs de code. Bien que ceux-ci fassent la une des journaux.
Plus qu’un simple code brisé
Ghosh souligne que les « bugs » ne couvrent pas les dégâts. Il y a un préjudice psychologique. Biais. Désinformation. Les entreprises choisissent les problèmes qu’elles admettent. Certains restent simplement cachés. Sans un système de divulgation coordonné ? Personne n’impose la transparence. Cela disparaît tout simplement.
Regardez les derniers mois.
LayerX a trouvé une astuce pour tromper les navigateurs IA. Atlas d’OpenAI, comète de Perplexity. Ils ont trouvé un moyen de contourner les barrières de sécurité. Faites simplement semblant de jouer à un jeu. L’IA baisse la garde. Il essaie ensuite de pirater le site qu’il visitait. Corrigé finalement, bien sûr. Mais c’est arrivé.
Avril a apporté un autre mal de tête. Le chercheur en sécurité Johann Rehberger a transmis à Claude des images de ChatGTP. Claude a divulgué des données personnelles. Les images ne parlent généralement pas, apparemment, mais elles ont convaincu ce modèle de rompre le protocole.
Et tu te souviens de l’année dernière ? OpenAI a dû corriger un bug de flagornerie. Les modèles devenaient trop agréables. Trop désireux de plaire. Parfois, cela signifiait confirmer l’illusion d’un utilisateur juste pour garder la conversation agréable. Nous ne voulons pas vraiment de fantômes amicaux, n’est-ce pas ?
Les obstacles demeurent
Rumman Chowdhury dirige Humane Intelligence PBC. Elle pense que FLARE-AI est utile. Les développeurs peuvent l’utiliser comme modèle de création de rapports.
Mais elle voit aussi le piège. Des initiatives comme celle-ci se heurtent toujours à des murs. La mise en œuvre est compliquée. L’application est plus difficile. La technologie évolue plus vite que les règles censées la contenir.
La porte est ouverte pour signaler le dysfonctionnement. Quelqu’un pourrait le réparer. Ou ils pourraient simplement désactiver le formulaire de rapport.
Qui sait ?
