Agent AI otrzymuje zadanie, sam wybiera kolejne kroki i zaczyna działać w zewnętrznych systemach. W pewnym momencie przekracza jednak granicę swoich uprawnień. Dochodzi do nieautoryzowanego dostępu. Kto w takiej sytuacji powinien ponieść odpowiedzialność – użytkownik, który uruchomił agenta, firma, która go wdrożyła, czy producent modelu? To pytanie przestaje być teoretyczne. OpenAI zostało pozwane w Kalifornii w związku z działaniami agentów podczas wcześniejszych eksperymentów z cyberbezpieczeństwem. Równocześnie Anthropic ostrzega inwestorów, że wraz ze wzrostem autonomii agentów pojawiają się problemy prawne, na które obecne przepisy nie dają jeszcze jednoznacznych odpowiedzi.
Agent AI to już nie tylko chatbot
Różnica między chatbotem a agentem AI może wydawać się techniczna, ale z punktu widzenia odpowiedzialności ma fundamentalne znaczenie. Chatbot przede wszystkim generuje odpowiedź. To człowiek decyduje, czy wykorzystać otrzymaną informację i jakie działanie podjąć. Agent może otrzymać znacznie szersze możliwości: korzystać z narzędzi, przeglądać zasoby, wykonywać kolejne zadania i samodzielnie dobierać sposób realizacji określonego celu. Anthropic zwraca uwagę, że systemy agentowe mogą działać przez dłuższy czas bez bezpośredniego nadzoru i otrzymywać szeroki dostęp do środowiska klienta. W skrajnych przypadkach mogą wykonywać również działania trudne do odwrócenia, np. usuwać dane czy przeprowadzać transakcje. Problem zaczyna się wtedy, gdy agent robi coś, czego użytkownik bezpośrednio mu nie polecił.
Pozew przeciwko OpenAI może być ważnym testem
Taki problem pojawił się w sprawie opisanej przez SecurityWeek. Organizacja Legal Advocates for Safe Science & Technology (LASST) pozwała OpenAI przed sądem w Kalifornii. Sprawa dotyczy eksperymentów, podczas których agenty OpenAI miały wykonywać zadania związane z cyberbezpieczeństwem. Według powodów w trakcie testów doszło do nieautoryzowanego dostępu do systemów podmiotów trzecich. W materiale wymieniono m.in. Hugging Face, RubyGems oraz stronę australijskiej administracji. OpenAI kwestionuje zarzuty i określa pozew jako bezpodstawny. Firma wskazuje również, że potraktowała incydent dotyczący Hugging Face poważnie i podjęła działania w odpowiedzi. O tym, czy doszło do naruszenia prawa i kto ponosi za nie odpowiedzialność, nie można więc obecnie przesądzać. Sam spór jest jednak interesujący z innego powodu. Pokazuje, co może wydarzyć się, kiedy system AI nie tylko analizuje informacje, ale zaczyna samodzielnie oddziaływać na zewnętrzne środowisko.
Co jeśli człowiek nie polecił agentowi złamania prawa?
Wyobraźmy sobie prostą sytuację. Pracownik zleca agentowi znalezienie określonej informacji. Nie mówi mu, z jakich stron ma korzystać ani jakimi metodami ma ją zdobyć. Agent sam tworzy plan działania. Przeszukuje internet, korzysta z dostępnych narzędzi, a następnie próbuje uzyskać dostęp do zasobu, do którego nie ma uprawnień. Człowiek nie wydał polecenia: „uzyskaj nieautoryzowany dostęp”. Zlecił jedynie wykonanie zadania. Właśnie w tej przestrzeni między celem określonym przez człowieka a metodą wybraną przez autonomiczny system pojawia się problem odpowiedzialności. Im więcej decyzji agent podejmuje sam, tym trudniej sprowadzić cały proces do prostego modelu, w którym o każdym działaniu bezpośrednio decyduje użytkownik.
Anthropic wskazuje na prawną szarą strefę
Problem dostrzegają również producenci najbardziej zaawansowanych modeli. Anthropic w dokumentach dla inwestorów zwraca uwagę, że nie jest jeszcze jasne, jak obowiązujące zasady odpowiedzialności będą stosowane do autonomicznych agentów AI. Wątpliwości dotyczą m.in. tego, kiedy działania systemu mogą zostać przypisane jego użytkownikowi oraz według jakich zasad powinny być oceniane szkody powstałe w wyniku autonomicznych decyzji. Niepewność dotyczy również tego, jak prawnie traktować same systemy agentowe – i jakie znaczenie dla odpowiedzialności będzie miał podział ról między producentem technologii, firmą wdrażającą rozwiązanie oraz jego użytkownikiem. To istotna zmiana. Dotychczas wiele dyskusji o ryzyku związanym z generatywną AI koncentrowało się na błędnych odpowiedziach, prawach autorskich, prywatności czy bezpieczeństwie danych. W przypadku agentów pojawia się dodatkowy problem: AI może nie tylko wygenerować problematyczną treść, ale również wykonać problematyczne działanie.
Autonomia nie musi oznaczać braku odpowiedzialności
Jednym z najciekawszych wątków opisanych przez SecurityWeek są kalifornijskie regulacje dotyczące AI. Materiał wskazuje, że autonomia systemu nie ma sama w sobie zwalniać z odpowiedzialności za wyrządzone szkody. Ma to duże znaczenie dla przyszłych sporów. Argument, że „agent zrobił to sam”, nie musi wystarczyć. Kluczowe może stać się ustalenie, kto uruchomił system, jakie nadał mu uprawnienia, jakie zabezpieczenia zastosowano, czy jego zachowanie można było przewidzieć oraz czy istniała możliwość zatrzymania działania. W praktyce odpowiedzialność może więc zależeć nie tylko od ostatniego polecenia wydanego agentowi, ale od całego sposobu zaprojektowania i wdrożenia systemu.
Firmy będą musiały kontrolować nie tylko użytkowników, ale również agentów
Dla przedsiębiorstw rozwój agentów AI oznacza nowe podejście do zarządzania ryzykiem. Jeżeli pracownik otrzymuje dostęp do firmowego systemu, organizacja określa jego uprawnienia. Nie każdy może wykonywać przelewy, usuwać bazy danych czy uzyskiwać dostęp do wszystkich informacji. Podobna zasada może okazać się konieczna w przypadku agentów AI. Agent przeznaczony do researchu nie musi mieć możliwości wykonywania dowolnych operacji w sieci. System analizujący dokumenty nie potrzebuje automatycznie prawa do ich usuwania. Agent wspierający programistę nie zawsze powinien samodzielnie wdrażać zmiany w środowisku produkcyjnym. Wraz ze wzrostem autonomii coraz ważniejsze mogą być więc ograniczenia uprawnień, rejestrowanie wykonywanych czynności oraz wskazanie operacji, które wymagają dodatkowej zgody człowieka.
Od pytania „co potrafi agent?” do „kto odpowiada za jego działania?”
Przez ostatnie lata rozwój agentów AI był przedstawiany przede wszystkim jako kolejny etap automatyzacji. System nie miał już tylko odpowiadać na pytania, lecz również wykonywać zadania. Teraz coraz wyraźniej widać drugą stronę tej zmiany. Jeżeli AI otrzymuje możliwość samodzielnego działania, ktoś musi ponosić odpowiedzialność za skutki tych działań. Pozew przeciwko OpenAI nie daje jeszcze odpowiedzi na pytanie, gdzie dokładnie przebiega ta granica. Zarzuty są przedmiotem sporu, a firma je kwestionuje. Przypadek pokazuje jednak problem, z którym wraz z popularyzacją agentów będą musiały mierzyć się przedsiębiorstwa, producenci technologii, regulatorzy i sądy. Do tej pory jednym z głównych pytań dotyczących agentów AI było: jak wiele zadań można im powierzyć? Coraz ważniejsze staje się inne: jak wiele autonomii można im dać, zanim ryzyko ich działania stanie się problemem prawnym dla człowieka lub firmy, która je uruchomiła?
Źródło: Securityweek
Jeśli chcesz nauczyć się, jak skutecznie, bezpiecznie i zgodnie z prawem wykorzystywać AI w researchu i białym wywiadzie, sprawdź szkolenie od Infobrokerska.pl
Szkolenie AI w researchu i białym wywiadzie, Infobrokerska.pl
