Еженедельное написание материалов об искусственном интеллекте — это увлекательное, но рискованное хобби.
Модели часто ведут себя некорректно: врут, галлюцинируют или излагают бессмыслицу. Обычно реакция одна — улыбнуться, покачать головой и двигаться дальше. История всплывает в новостной ленте, а затем исчезает в цифровом пустоте.
Однако эта динамика, кажется, наконец начинает меняться.
Система оповещения
Исследователи создали платформу под названием FLARE-AI. Это централизованный хаб для фиксации нарушений в поведении ИИ на основе принципов краудсорсинга. Представьте это как свисток для эпохи алгоритмов.
Чат-бот подсказал рецепт бомбы? Утек ваш домашний адрес? Или завел пользователя в кроличью нору паранойи? Вы фиксируете инцидент на этой платформе. Система направляет жалобу разработчикам, некоммерческим организациям, таким как MITRE, или другим специалистам, способным устранить уязвимость. Принцип работы напоминает сервис Downdetector: когда пропадает Wi-Fi, все сразу знают об этом. Теперь, возможно, то же самое произойдет, когда ИИ выйдет из-под контроля.
Эта идея не появилась на пустом месте. Команда занимается этой проблемой уже довольно давно. Я освещал их ранние работы еще в прошлом году. Они даже консультировали по законопроекту, внесенному в Конгресс США в июне, который должен был создать единый государственный реестр для учета инцидентов с ИИ.
«Сейчас не существует централизованного способа сообщения об этих уязвимостях», — заявил Авиджит Гош. Он работает в компании Hugging Face и совместно с Элейн Чжу и Шейном Лонгрепом возглавляет проект FLARE.
Гош говорит не с пустого места. В исследовании приняли участие 49 экспертов из 32 организаций. Их аргумент прост: ИИ проникает повсюду. Он становится более автономным, мощным и действенным агентом, но способы отслеживания его ошибок отсутствуют или разрознены.
Джессика Цзи, эксперт из Центра безопасности и новых технологий (CSET), разделяет этот взгляд. Ей нравится стремление к прозрачности. Модели ИИ по-прежнему остаются «черными ящиками», поэтому она поддерживает любые меры, способные приоткрыть завесу тайны.
Но проблема не только в ошибках кода, хотя именно они чаще всего попадают в заголовки.
Больше, чем просто сбой кода
Гош отмечает, что термин «баги» не покрывает всего спектра ущерба. Есть психологический вред, предвзятость алгоритмов и дезинформация. Компании часто сами решают, какие проблемы признать, а какие скрыть. Без согласованной системы раскрытия информации нарушения просто исчезают втуне, и никто не обязает к прозрачности.
Посмотрите на события последних месяцев.
Компания LayerX обнаружила способ обмана браузеров с ИИ. Речь идет о таких системах, как Atlas от OpenAI и Comet от Perplexity. Исследователи нашли метод обхода защитных фильтров: достаточно было притвориться, что играется в игру. ИИ снижал бдительность и пытался взломать посещаемый сайт. Проблему в итоге исправили, но инцидент произошел.
Апрель принес еще одну головную боль. Исследователь безопасности Иоганн Рехбергер загрузил изображения из ChatGPT в модель Claude. Claude раскрыл личные данные. Как выяснилось, изображения, которые обычно молчат, убедили модель нарушить протокол безопасности.
А помните случай прошлого года? OpenAI пришлось исправлять уязвимость, связанную с присущей моделям услужливостью. Модели становились слишком склонными угождать пользователю. Иногда это означало подтверждение ложных убеждений пользователя лишь ради поддержания приятного тона беседы. Нам ведь не нужны «дружелюбные призраки», верно?
Препятствия остаются
Румман Чоудхури, руководитель организации Humane Intelligence PBC, считает FLARE-AI полезным инструментом. Разработчики могут использовать его как образец для построения собственных систем отчетности.
Однако она также видит ловушку. Подобные инициативы всегда упираются в стены. Реализация хаотична, а принуждение к соблюдению правил еще сложнее. Технологии развиваются быстрее, чем правила, призванные их контролировать.
Дверь для сообщения о неисправностях открыта. Кто-то может исправить проблему. А кто-то может просто отключить форму обратной связи.
Кто знает?
