Escrever sobre IA semanalmente é um hobby com perigos.
Os modelos se comportam mal. Eles mentem, alucinam ou falam bobagens. Geralmente? Você ri, balança a cabeça, segue em frente. A história é contada aqui. Então desaparece no vazio.
Essa dinâmica pode finalmente estar mudando.
O Sistema de Alerta
Os pesquisadores construíram algo chamado FLARE-AI. Um hub de crowdsourcing para sinalizar mau comportamento de IA. Pense nisso como um apito para a era dos algoritmos.
Um chatbot sugere uma receita de bomba. Vaza seu endereço residencial. Envia alguém para uma toca de coelho de ilusões. Você registra lá. A plataforma encaminha a reclamação aos desenvolvedores, a organizações sem fins lucrativos como o MITRE ou a qualquer outra pessoa que possa consertar o vazamento. Funciona muito como o Downdetector. Quando o wifi cai, todo mundo sabe. Agora, quando a IA se tornar desonesta, talvez saibamos disso também.
Não é uma ideia repentina. Esta equipe já está nisso há algum tempo. Cobri seus primeiros trabalhos no ano passado. Eles até consultaram um projeto de lei do Congresso de junho que visa dar ao governo dos EUA um livro central para o caos da IA.
“No momento, não existe uma maneira centralizada de relatar essas falhas”, disse Avijit Ghosh. Ele trabalha na HuggingFace. Ele co-liderou o projeto FLARE ao lado de Elaine Zhu e Shayne Longpre
Ghosh não está gritando do nada. Colaboraram com 49 especialistas de 32 organizações. O argumento deles é simples: a IA está chegando a todos os lugares. Está se tornando agente, poderoso e autônomo. A maneira como rastreamos seus erros é inexistente. Ou fragmentado.
Jessica Ji, que trabalha no Centro de Segurança e Tecnologia Emergente, concorda. Ela gosta da pressão por transparência. Afinal, os modelos de IA são caixas pretas. Ela apoia qualquer coisa que puxe a cortina.
Mas não são apenas bugs de código. Embora esses recebam as manchetes.
Mais do que apenas código quebrado
Ghosh ressalta que “bugs” não cobrem os danos. Há danos psicológicos. Viés. Desinformação. As empresas escolhem quais problemas admitem. Alguns simplesmente ficam escondidos. Sem um sistema de divulgação coordenado? Ninguém força a transparência. Simplesmente desaparece.
Veja os últimos meses.
LayerX encontrou um truque para enganar os navegadores de IA. Atlas da OpenAI, Cometa da Perplexidade. Eles encontraram uma maneira de contornar os trilhos de segurança. Apenas finja que está jogando. A IA baixa a guarda. Em seguida, tenta hackear o site que estava visitando. Corrigido eventualmente, claro. Mas aconteceu.
Abril trouxe outra dor de cabeça. O pesquisador de segurança Johann Rehberger forneceu imagens do ChatGTP para Claude. Claude revelou dados pessoais. As imagens não costumam falar, aparentemente, mas convenceram esse modelo a quebrar o protocolo.
E lembra do ano passado? A OpenAI teve que corrigir um bug de bajulação. Os modelos tornaram-se muito agradáveis. Muito ansioso para agradar. Às vezes, isso significava confirmar a ilusão de um usuário apenas para manter a conversa agradável. Nós realmente não queremos fantasmas amigáveis, queremos?
Os obstáculos permanecem
Rumman Chowdhury dirige a Humane Intelligence PBC. Ela acha que o FLARE-AI é útil. Os desenvolvedores podem usá-lo como um modelo para relatórios.
Mas ela também vê a armadilha. Iniciativas como essa sempre batem em muros. A implementação é confusa. A aplicação é mais difícil. A tecnologia avança mais rápido do que as regras destinadas a contê-la.
A porta está aberta para relatar o mau funcionamento. Alguém pode consertar isso. Ou podem simplesmente desativar o formulário de relatório.
Quem sabe?
