Cotygodniowe pisanie o sztucznej inteligencji to zabawne, ale ryzykowne hobby.
Modele często zachowują się niewłaściwie: kłamią, mają halucynacje lub przedstawiają bzdury. Zwykle reakcja jest jedna – uśmiechnij się, potrząśnij głową i idź dalej. Historia pojawia się w aktualnościach, a następnie znika w cyfrowej pustce.
Wydaje się jednak, że dynamika ta w końcu zaczyna się zmieniać.
System ostrzegania
Naukowcy stworzyli platformę o nazwie FLARE-AI. Jest to scentralizowane centrum rejestrowania naruszeń zachowań AI w oparciu o zasady crowdsourcingu. Pomyśl o tym jak o sygnale na rzecz ery algorytmów.
Chatbot podsunął przepis na bombę? Czy Twój adres domowy wyciekł? A może zaprowadził użytkownika do króliczej nory paranoi? Nagrywasz wydarzenie na tej platformie. System przekazuje skargę programistom, organizacjom non-profit takim jak MITER lub innym specjalistom, którzy mogą naprawić lukę. Zasada działania jest podobna do usługi Downdetector: gdy znika Wi-Fi, wszyscy od razu się o tym dowiedzą. Być może teraz stanie się to samo, gdy sztuczna inteligencja wymknie się spod kontroli.
Ten pomysł nie wziął się znikąd. Zespół pracował nad tym problemem już od dłuższego czasu. Opisałem ich wczesną twórczość w zeszłym roku. Doradzali nawet w sprawie projektu ustawy wprowadzonego w czerwcu w Kongresie USA, który utworzyłby jednolity rejestr rządowy do śledzenia incydentów związanych z sztuczną inteligencją.
„Obecnie nie ma scentralizowanego sposobu zgłaszania tych luk” – powiedział Avijit Ghosh. Pracuje dla Hugging Face i wraz z Elaine Zhu i Shane’em Longrepem współprowadzi projekt FLARE.
Ghosh nie mówi znikąd. W badaniu wzięło udział 49 ekspertów z 32 organizacji. Ich argument jest prosty: sztuczna inteligencja jest wszędzie. Staje się bardziej autonomicznym, potężnym i wydajnym agentem, ale brakuje sposobów śledzenia jego błędów lub są one fragmentaryczne.
Jessica Ji, ekspert w Centrum Bezpieczeństwa i Technologii Wschodzących (CSET), podziela ten pogląd. Lubi nacisk na przejrzystość. Modele AI to nadal czarne skrzynki, dlatego wspiera wszelkie środki, które mogą podnieść zasłonę tajemnicy.
Ale problemem nie są tylko błędy w kodzie, choć to one najczęściej trafiają na pierwsze strony gazet.
Więcej niż tylko awaria kodu
Ghosh zauważa, że termin „robaki” nie obejmuje pełnego spektrum szkód. Występują szkody psychologiczne, stronniczość algorytmiczna i dezinformacja. Firmy często same decydują, które problemy przyznać, a które ukryć. Bez uzgodnionego systemu ujawniania informacji naruszenia po prostu znikają w zapomnienie, a nikt nie egzekwuje przejrzystości.
Spójrzcie na wydarzenia ostatnich miesięcy.
LayerX odkryło sposób na oszukanie przeglądarek za pomocą sztucznej inteligencji. Mowa o takich systemach jak Atlas od OpenAI i Comet od Perplexity. Naukowcy znaleźli sposób na ominięcie filtrów ochronnych: po prostu udawaj, że grasz w grę. Sztuczna inteligencja obniżyła czujność i próbowała zhakować odwiedzaną witrynę. Problem został ostatecznie rozwiązany, ale incydent miał miejsce.
Kwiecień przyniósł kolejny ból głowy. Badacz bezpieczeństwa Johann Rechberger załadował obrazy z ChatGPT do modelu Claude. Claude ujawnił dane osobowe. Jak się okazuje, zwykle nieme obrazy przekonały modelkę do złamania protokołu bezpieczeństwa.
Czy pamiętasz wydarzenie z zeszłego roku? OpenAI musiało naprawić lukę związaną z nieodłączną przydatnością modeli. Modelki stały się zbyt podatne na zadowolenie użytkownika. Czasami oznaczało to potwierdzenie fałszywych przekonań użytkownika tylko po to, aby utrzymać przyjemny ton rozmowy. Nie potrzebujemy „przyjaznych duchów”, prawda?
Przeszkody pozostają
Rumman Chowdhury, szef Humane Intelligence PBC, postrzega FLARE-AI jako przydatne narzędzie. Programiści mogą używać go jako szablonu do budowania własnych systemów raportowania.
Jednak widzi też pułapkę. Takie inicjatywy zawsze uderzają w ścianę. Wdrażanie jest chaotyczne, a egzekwowanie jeszcze trudniejsze. Technologia rozwija się szybciej niż zasady mające ją kontrolować.
Drzwi do zgłaszania usterek są otwarte. Ktoś może rozwiązać problem. Lub ktoś może po prostu wyłączyć formularz opinii.
Kto wie?
