CIO Dąży do Rozszerzenia Zespołu przez Tworzenie Cyfrowych Klonów Pracowników

CIO z UC San Diego chce wykorzystać agentów AI i cyfrowe kopie do automatyzacji pracy IT, poprawy cyberbezpieczeństwa i złagodzenia obciążeń personelu.

Podczas tegotygodniowej konferencji Cisco Live, Dr Vince Kellen zaproponował wykorzystanie agentów AI i cyfrowych bliźniaków doświadczonych pracowników IT do radzenia sobie z powtarzalnymi zadaniami i nocnymi awariami, jak pierwotnie doniósł The Register.

Przemawiając do pełnej sali, Kellen stwierdziła: „Wszystkie drogi prowadzą do wysokiego poziomu automatyzacji, kiedykolwiek jest to możliwe”, donosi The Register.

Uniwersytet działa jak małe miasto, ponieważ każdego dnia gości ponad 100 000 osób, jednocześnie musząc radzić sobie ze spadkiem liczby studentów i ograniczonymi zasobami finansowymi

Kellen przewiduje, że systemy AI zdobędą wiedzę od pracowników technologicznych, aby sprostać rosnącym wymaganiom w przyszłości. „Posiadamy całą tę wiedzę w ludziach dotyczącą polityki sieciowej, którą musimy wydobyć z ich umysłów w rodzaju kroplowego nawadniania” – powiedział, jak donosi The Register.

Kellen wierzy, że powolne przekazywanie tej wiedzy do AI pozwoliłoby zespołom IT zmniejszyć swoje obciążenie pracą i poprawić wydajność sieci.

Instytut Oceanografii przy UCSD również staje w obliczu zagrożeń dla bezpieczeństwa narodowego. „Kiedy umieszczasz sonar w wodzie, odkrywasz więcej niż tylko ryby, a inne kraje chcą wiedzieć o tym,” ostrzegał, jak podaje The Register.

Cyberataki wspierane przez zagraniczne siły stają się coraz bardziej zaawansowane, wymagając od personelu automatyzacji podstawowych obron, aby mogli skupić się na bardziej niebezpiecznych zagrożeniach.

Kellen wierzy, że AI „ma potencjał, aby umożliwić proaktywne wykrywanie problemów” i widzi cyfrowe klony jako sposób na zachowanie wiedzy specjalistycznej pracowników, jednocześnie ułatwiając im pracę. „Wtedy ta osoba nie musi być torturowana, gdy zdarzy się kolejny incydent. Nie zostają wezwani kolejnym razem” – dodał, jak podaje The Register.

Jego pomysł stawia prowokacyjne pytanie: Czy pozwoliłbyś swojemu pracodawcy na cyfrowe sklonowanie twojej wiedzy, gdyby oznaczało to mniej stresujących wyjazdów służbowych? Wraz z rozwojem automatyzacji granica między pracą człowieka a maszyny może się zacierać, ale dla zespołów IT mogłoby to oznaczać bardzo potrzebną ulgę.

Jednakże, większa automatyzacja rodzi również obawy dotyczące cyberbezpieczeństwa. Systemy obsługiwane przez zautomatyzowanych pracowników IT i agentów AI stanowią atrakcyjne cele dla hakerów, ponieważ atak na te systemy może skutkować szeroko zakrojonymi zakłóceniami.

Rzeczywiście, skompromitowany cyfrowy bliźniak mógłby być wykorzystany do obejścia protokołów bezpieczeństwa i szybszego rozprzestrzeniania złośliwego oprogramowania niż to jest możliwe dla operatorów ludzkich.

Raport z Światowego Forum Ekonomicznego argumentuje, że atakujący mogą zanieczyszczać dane treningowe AI lub odkrywać podatności w modelach AI, co prowadzi do awarii systemów lub generowania błędnych wyników.

Te „zatrucia danych” i ataki na wykorzystanie modeli często są łatwe do przeprowadzenia, ale trudne do obrony, ponieważ obecne środki bezpieczeństwa są niewystarczające, jak zauważa ITPro.

Pomimo tych ryzyk, 96% profesjonalistów IT uznaje agenty AI za zagrożenie dla bezpieczeństwa, a jednak większość organizacji spieszy się z ich implementacją bez właściwych kontroli czy polityki, jak podaje ZDNet.