Sztuczna inteligencja agentów wkracza do firm: wydajność, ryzyko i zarządzanie

  • Inteligentni agenci AI zaczynają być wdrażani w takich sektorach jak bankowość, służba zdrowia i administracja publiczna, przechodząc od etapu testów do środowisk rzeczywistych.
  • Europejskie regulacje postępują wraz z rozporządzeniem w sprawie sztucznej inteligencji oraz nową dyrektywą w sprawie odpowiedzialności za produkt, zmuszając przedsiębiorstwa do określenia limitów i nadzoru.
  • Cyberbezpieczeństwo staje się kluczowym filarem: cyberprzestępcy już teraz wykorzystują architektury wieloagentowe w celu kradzieży danych uwierzytelniających lub zatruwania modeli.
  • Rynek hiszpański postrzega kanał partnerski jako dźwignię przyspieszającą adopcję sztucznej inteligencji agentowej. Prognozy mówią, że w 2029 r. liczba agentów przekroczy 1.000 miliard.

Agentyczna sztuczna inteligencja w środowisku biznesowym

Sztuczna inteligencja oparta na agentach wyszła poza ramy laboratoryjne jako obiecująca koncepcja i stała się operacyjną rzeczywistością w przedsiębiorstwach i administracji publicznej w całej Europie. Autonomiczne agenty, zdolne do planowania, wykonywania i podejmowania decyzji bez stałego nadzoru , transformują procesy od obsługi klienta po zarządzanie infrastrukturą krytyczną. Jednak ta nowa możliwość wiąże się z szeregiem wyzwań prawnych, etycznych i związanych z bezpieczeństwem, którym organizacje muszą sprostać, opracowując jasną strategię.

W Hiszpanii ekosystem biznesowy już zaczyna się ożywiać. Microsoft przedstawił nową mapę drogową dla kanału partnerskiego, mającą na celu przyspieszenie wdrażania inteligentnych agentów w ponad 12.000 1.000 firm i instytucji publicznych. Według danych IDC, do 2029 roku na całym świecie będzie wdrożonych ponad miliard agentów AI, co przełoży się na wzrost zapotrzebowania na usługi projektowania, wdrażania i bezpieczeństwa . Ten trend jest wspierany przez wizję firm konsultingowych, takich jak Gartner, które identyfikują agentową sztuczną inteligencję jako najbardziej wpływowy trend w modernizacji sektora publicznego.

GPT-6 Astra
Podobne artykuł:
GPT-6 Astra: nowy model sztucznej inteligencji działający wyłącznie na komputerze

Od pilotażu do wdrożenia: dlaczego firmy uruchamiają

Różnica między reaktywną a agentową sztuczną inteligencją jest kluczowa. Podczas gdy tradycyjni asystenci odpowiadają na pytania lub generują treści, agentowa sztuczna inteligencja działa w oparciu o zdefiniowany cel, korzysta z narzędzi zewnętrznych i deleguje zadania podagentom, aby ukończyć całe procesy. Przejście od eksperymentów do produkcji to obecnie największe wyzwanie , jak przyznał Iván Martínez, dyrektor ds. partnerów w Microsoft Spain, podczas spotkania z integratorami w Madrycie.

Przykładem tego postępu jest inicjatywa firmy SAGE, która oferuje już swoim klientom platformę do projektowania agentów automatyzujących zadania back-office. Podobnie, walencki startup Maisa wdraża agentów w środowiskach finansowych i ubezpieczeniowych, ale z jedną kluczową różnicą: wymagają oni od agentów pracy z deterministycznym kodem, aby zagwarantować identyfikowalność i zapobiec błędom. To podejście kontrastuje z podejściem innych firm, które wykorzystują wielkoskalowe modele językowe do realizacji bardziej elastycznych zadań.

Sektor publiczny również się do tego przyłącza. Gartner ostrzega, że ​​dyrektorzy ds. informatyki w administracji publicznej muszą zmodernizować swoje działania i wzmocnić cyberbezpieczeństwo, aby zarządzać sztuczną inteligencją na dużą skalę. Wiele rządów pracuje już nad ramami zarządzania i tożsamościami cyfrowymi , które umożliwią bezpieczne wdrażanie agentów AI, uznając, że transformacja ma charakter nie tylko technologiczny, ale także organizacyjny.

Ryzyko i regulacje: drobny druk autonomii

Nowe europejskie rozporządzenie w sprawie sztucznej inteligencji oraz dyrektywa w sprawie odpowiedzialności za produkty wadliwe stanowią fundamenty ram regulacyjnych, które z pewnością będą miały konsekwencje. Ostatnia faza unijnego rozporządzenia w sprawie bezpieczeństwa ogólnego, obowiązującego od lipca 2026 r ., uzupełnia ramy regulacyjne, które zobowiązują producentów do wzięcia odpowiedzialności za działanie swoich systemów.

Sądy wydały już ostrzeżenie w oparciu o rzeczywiste przypadki. W 2024 roku Air Canada próbowało zdystansować się od błędów swojego chatbota, ale sąd orzekł, że firma ponosi odpowiedzialność za informacje udostępniane na swojej stronie internetowej, niezależnie od ich źródła. Agenci, którzy teraz się pojawiają, są znacznie bardziej autonomiczni, a prawo przygotowuje się do zdefiniowania, co stanowi „wadę” w systemie, który uczy się samodzielnie. Dyrektywa w sprawie odpowiedzialności za produkt obejmuje oprogramowanie i sztuczną inteligencję i stanowi, że czynniki związane z ciągłym uczeniem się i cyberbezpieczeństwem mają znaczenie przy ocenie wady.

W kontekście konkurencji Komisja Europejska nałożyła na Meta środki ostrożności, aby przywrócić dostęp do WhatsApp Business dla konkurencyjnych asystentów. Walka o kontrolę nad kanałami, którymi agenci wchodzą na platformę, to kolejny aspekt tego samego problemu: delegowanie ustalania cen lub dostępu do jednego dostawcy może prowadzić do praktyk antykonkurencyjnych , co zauważył już Departament Sprawiedliwości USA w przypadku oprogramowania do wyceny wynajmu.

Cyberbezpieczeństwo: Kiedy agenci stają się bronią

Cyberprzestępcy dostrzegli również potencjał w sztucznej inteligencji opartej na agentach. Raport Google Threat Intelligence Group, AI Threat Tracker, ujawnia, że ​​podmioty działające w imieniu państwa wykorzystują modele językowe i architektury wieloagentowe do automatyzacji całych faz ataków. Jednym z najbardziej niepokojących odkryć jest kampania, która w ciągu sześciu godzin zhakowała tysiące danych uwierzytelniających, wykorzystując przejętą infrastrukturę.

Zatruwanie modeli stało się powszechną taktyką: grupa TeamPCP wdraża złośliwe oprogramowanie, które infekuje narzędzia asystenta kodu, powodując, że zalecają one szkodliwe zależności. Co więcej, atakujący kradną własność intelektualną związaną ze sztuczną inteligencją i wykorzystują przejęte konta w chmurze do hostowania modeli lokalnych i unikania monitorowania. Hiszpańska Agencja Ochrony Danych Osobowych (AEPD) proponuje prostą zasadę: agent nie powinien mieć jednoczesnego dostępu do poufnych danych, niezaufanych treści ani możliwości działania bez autoryzacji.

Komputer lokalny: alternatywa dla poufnych danych

W tym kontekście rozwiązania zorientowane na prywatność zyskują na popularności. Perplexity i NVIDIA rozszerzyły swoją platformę komputerów przenośnych o komputery PC z kartami graficznymi GeForce RTX, umożliwiając agentom przetwarzanie poufnych dokumentów bez konieczności przesyłania informacji do chmury. Przetwarzanie lokalne nie tylko chroni dane, ale także redukuje koszty przetwarzania zdalnego . Agent może jednak poprosić o pozwolenie na korzystanie z zasobów zewnętrznych, gdy zadanie tego wymaga.

To zobowiązanie do suwerenności danych wpisuje się w europejski trend regulacji przetwarzania danych osobowych. Połączenie lokalnych agentów i usług w chmurze staje się najbardziej zrównoważonym modelem dla firm przetwarzających krytyczne dane, mimo wysokich wymagań sprzętowych: potrzebny jest procesor graficzny z co najmniej 24 GB pamięci VRAM.

Wpływ sztucznej inteligencji opartej na agentach nie ogranicza się do dużych korporacji. W Hiszpanii startupy takie jak Supersonik wykorzystują agentów do optymalizacji procesów sprzedaży, a Orbio automatyzuje cykl życia pracownika w dziale HR. Kluczem jest znalezienie równowagi między autonomią a kontrolą ludzką , jak wskazywali eksperci na konferencji Revista Emprendedores. Nie chodzi o zastąpienie pracowników, ale o uwolnienie ich od powtarzalnych zadań, aby mogli skupić się na decyzjach strategicznych.

Ostatecznie pytanie nie brzmi, czy agenci się pojawią, ale raczej, ile mocy operacyjnej jesteśmy gotowi delegować i z jakimi zabezpieczeniami. Europejskie ramy prawne zmierzają w kierunku pociągnięcia do odpowiedzialności podmiotów wdrażających sztuczną inteligencję , ale organizacje muszą uznać, że zarządzanie tymi systemami jest równie ważne, jak ich techniczne wdrożenie. Inteligencja agentów oferuje ogromny potencjał, ale zmaterializuje się tylko wtedy, gdy od samego początku będzie jej towarzyszyć wizja integrująca innowacyjność, etykę i zgodność z przepisami.


Dodaj jako preferowane źródło w Google