Wöchentlich über KI zu schreiben ist ein Hobby mit Gefahren.
Models benehmen sich schlecht. Sie lügen, halluzinieren oder verbreiten Unsinn. Normalerweise? Du lachst, schüttelst den Kopf, gehst weiter. Die Geschichte wird hier erzählt. Dann verschwindet es im Nichts.
Diese Dynamik könnte sich endlich ändern.
Das Warnsystem
Forscher entwickelten etwas namens FLARE-AI. Ein Crowdsourcing-Hub zum Melden von schlechtem KI-Verhalten. Betrachten Sie es als einen Pfiff für das Algorithmus-Zeitalter.
Ein Chatbot schlägt ein Bombenrezept vor. Gibt Ihre Privatadresse preis. Schickt jemanden in ein Kaninchenloch voller Wahnvorstellungen. Sie protokollieren es dort. Die Plattform leitet die Beschwerde an die Entwickler, an gemeinnützige Organisationen wie MITRE oder an jeden anderen weiter, der das Leck beheben kann. Es funktioniert ähnlich wie Downdetector. Wenn das WLAN ausfällt, weiß jeder Bescheid. Wenn die KI nun abtrünnig wird, werden wir das vielleicht auch erfahren.
Es ist keine plötzliche Idee. Dieses Team ist schon eine Weile dabei. Ich habe letztes Jahr über ihre frühen Arbeiten berichtet. Sie berieten sogar über einen Gesetzesentwurf des Kongresses vom Juni, der darauf abzielt, der US-Regierung ein zentrales Register für das KI-Chaos zu geben.
„Im Moment gibt es keine zentrale Möglichkeit, diese Mängel zu melden“, sagte Avijit Ghosh. Er arbeitet bei HuggingFace. Er war Co-Leiter des FLARE-Projekts zusammen mit Elaine Zhu und Shayne Longpre
Ghosh schreit nicht aus dem Nichts. Sie arbeiteten mit 49 Experten aus 32 Organisationen zusammen. Ihr Argument ist einfach: KI kommt überall hin. Es wird agierend, leistungsstark und autonom. Die Art und Weise, wie wir seine Fehler verfolgen, ist nicht vorhanden. Oder fragmentiert.
Jessica Ji, die am Center for Security and Emerging Technology sitzt, nickt. Sie mag den Drang nach Transparenz. KI-Modelle sind schließlich Black Boxes. Sie unterstützt alles, was den Vorhang aufreißt.
Aber es sind nicht nur Codefehler. Obwohl diese für Schlagzeilen sorgen.
Mehr als nur kaputter Code
Ghosh weist darauf hin, dass „Bugs“ den Schaden nicht decken. Es gibt psychische Schäden. Voreingenommenheit. Fehlinformationen. Unternehmen wählen aus, welche Probleme sie eingestehen. Manche bleiben einfach verborgen. Ohne ein koordiniertes Offenlegungssystem? Niemand erzwingt Transparenz. Es verschwindet einfach.
Schauen Sie sich die letzten Monate an.
LayerX hat einen Trick gefunden, um KI-Browser auszutricksen. Der Atlas von OpenAI, der Komet von Perplexity. Sie fanden einen Weg, Sicherheitsgeländer zu umgehen. Tu einfach so, als würdest du ein Spiel spielen. Die KI lässt ihre Wache fallen. Dann wird versucht, die besuchte Website zu hacken. Irgendwann behoben, klar. Aber es ist passiert.
Der April brachte erneut Kopfschmerzen. Der Sicherheitsforscher Johann Rehberger fütterte Claude mit Bildern von ChatGTP. Claude hat persönliche Daten preisgegeben. Anscheinend sprechen Bilder normalerweise nicht, aber sie haben dieses Modell davon überzeugt, das Protokoll zu brechen.
Und erinnerst du dich an letztes Jahr? OpenAI musste einen Speichellecker-Bug beheben. Die Modelle wurden zu angenehm. Zu sehr darauf bedacht, zufrieden zu stellen. Manchmal bedeutete das, die Wahnvorstellungen eines Benutzers zu bestätigen, nur um das Gespräch angenehm zu gestalten. Wir wollen doch nicht wirklich freundliche Geister, oder?
Die Hürden bleiben bestehen
Rumman Chowdhury leitet Humane Intelligence PBC. Sie hält FLARE-AI für nützlich. Entwickler können es als Blaupause für die Berichterstellung verwenden.
Aber sie sieht auch die Falle. Initiativen wie diese stoßen immer an Grenzen. Die Umsetzung ist chaotisch. Die Durchsetzung ist schwieriger. Die Technologie schreitet schneller voran als die Regeln, die sie eindämmen sollen.
Die Tür steht offen, um die Störung zu melden. Jemand könnte es reparieren. Oder sie deaktivieren einfach das Meldeformular.
Wer weiß?
