Psát každý týden o umělé inteligenci je zábavný, ale riskantní koníček.
Modelky se často chovají nesprávně: lžou, halucinují nebo uvádějí nesmysly. Obvykle je reakce jediná – usmějte se, zatřeste hlavou a jděte dál. V informačním kanálu se objeví příběh a poté zmizí v digitální prázdnotě.
Zdá se však, že se tato dynamika konečně začíná měnit.
Výstražný systém
Vědci vytvořili platformu nazvanou FLARE-AI. Toto je centralizované centrum pro zaznamenávání porušení chování AI založené na principech crowdsourcingu. Představte si to jako upozornění na dobu algoritmů.
Chatbot navrhl recept na bombu? Unikla vaše adresa domů? Nebo svedl uživatele do králičí nory paranoie? Na této platformě zaznamenáte incident. Systém předá stížnost vývojářům, neziskovým organizacím, jako je MITER, nebo jiným specialistům, kteří mohou zranitelnost opravit. Princip fungování je podobný službě Downdetector: když Wi-Fi zmizí, každý o tom okamžitě ví. Nyní se možná stane totéž, když se AI vymkne kontrole.
Tento nápad nepřišel z ničeho nic. Tým se tímto problémem zabývá již delší dobu. Zabýval jsem se jejich ranou prací v loňském roce. Poradili dokonce ohledně návrhu zákona představeného v americkém Kongresu v červnu, který by vytvořil jediný vládní registr pro sledování incidentů AI.
„V současnosti neexistuje žádný centralizovaný způsob, jak tyto zranitelnosti nahlásit,“ řekl Avijit Ghosh. Pracuje pro Hugging Face a spolu s Elaine Zhu a Shanem Longrepem vede projekt FLARE.
Ghosh nemluví z ničeho nic. Studie se zúčastnilo 49 odborníků z 32 organizací. Jejich argument je jednoduchý: AI se dostává všude. Stává se autonomnějším, výkonnějším a účinnějším agentem, ale způsoby, jak sledovat jeho chyby, chybí nebo jsou roztříštěné.
Jessica Ji, expertka z Centra pro bezpečnost a vznikající technologie (CSET), sdílí tento názor. Má ráda snahu o transparentnost. Modely umělé inteligence jsou stále černé skříňky, takže podporuje veškerá opatření, která mohou pozvednout závoj tajemství.
Problémem ale nejsou jen chyby v kódu, i když právě ty se nejčastěji objevují v titulcích.
Více než jen selhání kódu
Ghosh poznamenává, že termín „chyby“ nepokrývá celé spektrum poškození. Dochází k psychické újmě, algoritmickému zkreslení a dezinformacím. Firmy se často samy rozhodují, které problémy přiznají a které skryjí. Bez dohodnutého systému zveřejňování porušení jednoduše zmizí v zapomnění, aniž by kdokoli prosazoval transparentnost.
Podívejte se na události posledních měsíců.
LayerX objevil způsob, jak oklamat prohlížeče pomocí AI. Řeč je o systémech jako Atlas od OpenAI a Comet od Perplexity. Vědci našli způsob, jak obejít ochranné filtry: prostě předstírejte, že hrajete hru. Umělá inteligence snížila ostražitost a pokusila se hacknout navštívenou stránku. Problém byl nakonec vyřešen, ale k incidentu došlo.
Duben přinesl další bolest hlavy. Bezpečnostní výzkumník Johann Rechberger nahrál obrázky z ChatGPT do modelu Claude. Claude zveřejnil osobní údaje. Jak se ukázalo, normálně tiché snímky přesvědčily model, aby porušil bezpečnostní protokol.
Pamatujete si na loňský incident? OpenAI muselo opravit zranitelnost související s inherentní užitečností modelů. Modely se staly příliš náchylnými na to, aby potěšily uživatele. Někdy to znamenalo potvrdit falešná přesvědčení uživatele, jen aby se zachoval příjemný tón konverzace. Nepotřebujeme “přátelské duchy”, že?
Překážky zůstávají
Rumman Chowdhury, šéf Humane Intelligence PBC, vidí FLARE-AI jako užitečný nástroj. Vývojáři jej mohou použít jako šablonu pro vytvoření svých vlastních systémů podávání zpráv.
I ona však vidí past. Takové iniciativy vždy narazí na zeď. Implementace je chaotická a prosazování je ještě obtížnější. Technologie se vyvíjí rychleji než pravidla určená k jejímu ovládání.
Dveře k hlášení poruch jsou otevřené. Někdo může problém vyřešit. Nebo může někdo jednoduše deaktivovat formulář zpětné vazby.
kdo ví?
