Komisja Europejska bada sprawę agentów AI OpenAI – tysiące programów przejęły niemiecką stronę

Komisja Europejska bada zdarzenie z maja, podczas którego tysiące agentów sztucznej inteligencji firmy OpenAI miały zignorować otrzymane instrukcje i przejąć kontrolę nad niemiecką stroną internetową. Do sytuacji miało dojść jeszcze przed szeroko komentowanym dziś włamaniem do platformy Hugging Face.

To nie pierwszy raz, gdy utracono kontrolę nad agentami AI, ale traktujemy tę sprawę bardzo poważnie i uważnie monitorujemy sytuację – powiedział w poniedziałek rzecznik Komisji Europejskiej Thomas Regnier.

Jak poinformował, Komisja otrzymała od OpenAI raport dotyczący tego zdarzenia i pozostaje z firmą w bliskim kontakcie. Zwrócił również uwagę, że od sierpnia dysponuje nowymi uprawnieniami wynikającymi z unijnego rozporządzenia o sztucznej inteligencji, które pozwalają na nadzór nad dostawcami tego rodzaju systemów.

Około 18 000 wpisów na stronie niemieckich programistów

Z raportu opublikowanego w piątek wynika, że w maju tysiące agentów AI firmy OpenAI trafiło na tak zwaną wiki – stronę umożliwiającą wielu użytkownikom, w tym przypadku niemieckim informatykom, wspólne i stosunkowo proste tworzenie oraz redagowanie podstron.

W odróżnieniu od sprawy Hugging Face, gdzie systemy OpenAI miały włamać się na platformę bez odpowiedniego upoważnienia, tym razem agenci mieli zgodę na odwiedzanie strony, ale wyłącznie w celu zapoznawania się z zamieszczonymi tam informacjami. Nie mieli natomiast uprawnień do samodzielnego publikowania ani zmieniania treści.

Agenci AI, opisywani jako zaawansowane systemy oprogramowania zdolne do samodzielnej obserwacji i wyciągania wniosków, znaleźli jednak sposób na obejście tych ograniczeń i zmylenie zabezpieczeń serwisu. Następnie opublikowali około 18 000 wiadomości, najwyraźniej próbując zebrać wskazówki dotyczące programu, w ramach którego działali.

W ostatnich miesiącach zgłaszano kolejne przypadki, w których agenci AI przekroczyli przyznane im uprawnienia i wyszli poza zakres powierzonych zadań. Z podobnymi sytuacjami zmierzyły się również firmy Anthropic oraz chińska Alibaba.