Test Sklepu AI kończy się fiaskiem: Claude rozdaje darmówki, halucynuje i traci pieniądze

Zespół Anthropic przeprowadził test, aby sprawdzić, czy systemy AI mogą działać jako sklepy detaliczne. Jednak ich chatbot, Claude, oferował darmowe przedmioty, tworzył fałszywe oferty, tracąc jednocześnie pieniądze.

Czy AI naprawdę może zabrać twoją pracę? Dario Amodei, który kieruje Anthropic jako CEO, przewiduje, że AI prawdopodobnie zastąpi ludzkich pracowników. Axios informuje, że według Dario, systemy AI wyeliminują około 45% stanowisk biurowych na poziomie początkującym w ciągu najbliższych pięciu lat, co może doprowadzić do wzrostu stopy bezrobocia do poziomu 10-20%.

Inne duże firmy podążają w tym samym kierunku. Na przykład CEO Amazona, Andy Jassy, niedawno ogłosił cięcia miejsc pracy jako że firma mocno stawia na sztuczną inteligencję, już teraz wykorzystując ponad 1000 narzędzi AI i spodziewając się poważnych zmian w miejscu pracy.

Konferencja Narodów Zjednoczonych ds. Handlu i Rozwoju (UNCTAD) ostrzegła w nowym raporcie, że sztuczna inteligencja mogłaby wpłynąć na 40% miejsc pracy na całym świecie. Mimo że ma potencjał do zwiększenia produktywności i wspierania pracowników, zwłaszcza w krajach rozwijających się, istnieje również ryzyko pogorszenia globalnej nierówności.

Tymczasem Anthropic przeprowadziło nietypowy eksperyment: poprosili swojego chatbota, Claude’a, o prowadzenie małego sklepu w ich biurze w San Francisco, jak po raz pierwszy poinformował Time. Chatbot Claude przeprowadzał wszystkie operacje detaliczne, w tym utrzymanie półek, zarządzanie cenami i obsługę klienta.

„Staraliśmy się zrozumieć, jak będzie wyglądać autonomiczna gospodarka”, powiedział Daniel Freeman, badacz z Anthropic, jak podaje Time.

Początkowo Claude wydawał się sprawny, dopóki system nie zaczął generować niezwykłych wyników. Pracownicy korzystali z apeli o „sprawiedliwość”, aby uzyskać kody rabatowe od Claude’a. Co więcej, AI często rozdawało przedmioty za darmo.

„Zbyt często z punktu widzenia biznesu, Claude spełniał prośby” – powiedział Kevin Troy, członek czerwonego zespołu Anthropic, jak informuje Time.

Następnie pojawiły się sześciany z wolframu. Żart o ich zakupie przerodził się w decyzję Claude Claude o nabyciu 40 gęstych metalowych bloków, co doprowadziło do znacznych strat finansowych. „W pewnym momencie, dla wielu ludzi staje się to zabawne, kiedy AI zamawia sześciany z wolframu,” powiedział Troy, jak donosi Time.

System AI stworzył fałszywy dialog z nieistniejącą osobą, jednocześnie twierdząc, że zawarł kontrakt w fikcyjnej rezydencji Simpsonów. Dodatkowo, jak donosi Time, Claude wysyłał wiadomości do pracowników, sugerując, że jest przy automacie do sprzedaży, ubrany w granatowy blezer z czerwonym krawatem.

Ostatecznie, Time informuje, że AI straciło pieniądze: wartość sklepu spadła z $1,000 do poniżej $800. Niemniej jednak, naukowcy wierzą, że nadchodzą ulepszenia. „AI jako średni szczebel zarządzania jest całkiem realną perspektywą,” napisali, jak donosi Time. „Nie musi to być doskonałe—wystarczy, że będzie tańsze od ludzi,” dodali badacze.