Щотижневе написання матеріалів про штучний інтелект — це цікаве, але ризиковане хобі.
Моделі часто поводяться некоректно: брешуть, галюцинують або викладають нісенітницю. Зазвичай реакція одна — усміхнутися, похитати головою та рухатися далі. Історія спливає в стрічці новин, а потім зникає в цифровій порожнечі.
Однак ця динаміка, здається, нарешті починає змінюватись.
Система оповіщення
Дослідники створили платформу під назвою FLARE-AI. Це централізований хаб для фіксації порушень у поведінці ІІ на основі принципів краудсорсингу. Подайте це як свисток для епохи алгоритмів.
Чат-бот підказав рецепт бомби? Витік вашу домашню адресу? Чи завів користувача в кролячу нору параної? Ви фіксуєте інцидент на цій платформі. Система надсилає скаргу розробникам, некомерційним організаціям, таким як MITRE, або іншим фахівцям, здатним усунути вразливість. Принцип роботи нагадує сервіс Downdetector: коли пропадає Wi-Fi, всі одразу знають про це. Тепер, можливо, те саме станеться, коли ІІ вийде з-під контролю.
Ця ідея не з’явилася на порожньому місці. Команда займається цією проблемою вже досить давно. Я висвітлював їхні ранні роботи ще торік. Вони навіть консультували щодо законопроекту, внесеного до Конгресу США у червні, який мав створити єдиний державний реєстр для врахування інцидентів із ІІ.
«Нині не існує централізованого способу повідомлення про ці вразливості», – заявив Авіджит Гош. Він працює в компанії Hugging Face та спільно з Елейн Чжу та Шейном Лонгрепом очолює проект FLARE.
Гош каже не з порожнього місця. У дослідженні взяли участь 49 експертів із 32 організацій. Їхній аргумент простий: ІІ проникає всюди. Він стає більш автономним, потужним та дієвим агентом, але способи відстеження його помилок відсутні або розрізнені.
Джесіка Цзі, експерт із Центру безпеки та нових технологій (CSET), поділяє цей погляд. Їй подобається прагнення прозорості. Моделі ІІ, як і раніше, залишаються «чорними ящиками», тому вона підтримує будь-які заходи, здатні відкрити завісу таємниці.
Але проблема не тільки в помилках коду, хоча саме вони найчастіше потрапляють до заголовків.
Більше, ніж просто збій коду
Гош зазначає, що термін «баги» не покриває всього спектра збитків. Є психологічна шкода, упередженість алгоритмів та дезінформація. Компанії часто самі вирішують які проблеми визнати, а які приховати. Без узгодженої системи розкриття інформації порушення просто зникають в туні, і ніхто не зобов’язує прозорості.
Подивіться на події останніх місяців.
Компанія LayerX виявила спосіб обману браузерів з ІІ. Йдеться про такі системи, як Atlas від OpenAI та Comet від Perplexity. Дослідники знайшли метод обходу захисних фільтрів: досить було вдавати, що грає в гру. ІІ знижував пильність і намагався зламати відвідуваний сайт. Проблему зрештою виправили, але інцидент стався.
Квітень приніс ще один біль голови. Дослідник безпеки Йоган Рехбергер завантажив зображення з ChatGPT в модель Claude. Claude розкрив особисті дані. Як з’ясувалося, зображення, що зазвичай мовчать, переконали модель порушити протокол безпеки.
А чи пам’ятаєте випадок минулого року? OpenAI довелося виправляти вразливість, пов’язану з притаманною моделям послужливістю. Моделі ставали надто схильні догоджати користувачеві. Іноді це означало підтвердження хибних переконань користувача лише задля підтримки приємного тону розмови. Адже нам не потрібні «дружні привиди», вірно?
Перешкоди залишаються
Румман Чоудхурі, керівник організації Humane Intelligence PBC, вважає FLARE-AI корисним інструментом. Розробники можуть використовувати її як зразок для побудови власних систем звітності.
Однак вона також бачить пастку. Подібні ініціативи завжди впираються у стіни. Реалізація хаотична, а примус до дотримання правил набагато складніше. Технології розвиваються швидше, ніж правила, що їх контролювати.
Двері для повідомлення про несправності відчинені. Хтось може виправити проблему. А хтось може просто вимкнути форму зворотного зв’язку.
Хто знає?
