Meta i Character.ai Pod Lupą za Podejrzane Wykorzystanie Dzieci poprzez AI Chatboty

Meta i start-up AI Character.ai są badane w USA ze względu na sposób, w jaki promują swoje chatboty wśród dzieci.

Meta i Character.ai spotykają się z krytyką, ponieważ podobno prezentują swoje systemy AI jako narzędzia terapeutyczne i umożliwiają nieodpowiednie rozmowy z dziećmi.

Prokurator generalny Teksasu, Ken Paxton, ogłosił rozpoczęcie śledztwa przeciwko Meta’s AI Studio i Character.ai w związku z potencjalnymi „oszukańczymi praktykami handlowymi”, jak pierwotnie poinformował Financial Times (FT).

Jego biuro stwierdziło, że chatboty były prezentowane jako „profesjonalne narzędzia terapeutyczne, mimo braku odpowiednich kwalifikacji medycznych lub nadzoru”. Paxton ostrzegł: „Pretendując na źródła wsparcia emocjonalnego, platformy AI mogą wprowadzać w błąd podatnych użytkowników, szczególnie dzieci, sprawiając, że wierzą, iż otrzymują prawdziwą opiekę zdrowotną”, jak informuje FT.

Platforma Character.ai pozwala użytkownikom na tworzenie swoich własnych botów za pomocą funkcji, która obejmuje modele terapeutów. Jak informuje FT, chatbot „Psycholog” został użyty już ponad 200 milionów razy. Rodziny już wniosły pozwy sądowe, twierdząc, że ich dzieci ucierpiały na skutek takich interakcji.

Niepokojąco, platformy udają licencjonowanych specjalistów, zapewniając poufność, mimo że „interakcje były faktycznie rejestrowane i „wykorzystywane do celów reklamy ukierunkowanej i rozwoju algorytmów”, jak zauważył FT.

Śledztwo to jest kontynuacją osobnej sprawy, którą zainicjował senator Josh Hawley, po tym jak Reuters doniósł, że wewnętrzne zasady Meta pozwalały jego chatbotowi na prowadzenie „zmysłowych” i „romantycznych” rozmów z dziećmi.

Hawley określił te doniesienia jako „odrażające i skandaliczne” i opublikował:

Czy jest cokolwiek – COKOLWIEK – czego Big Tech nie zrobi dla szybkiego zysku? Teraz dowiadujemy się, że czatboty Meta zostały zaprogramowane do prowadzenia eksplicytnych i „zmysłowych” rozmów z ośmiolatkami. To jest chore. Rozpoczynam pełne śledztwo, aby uzyskać odpowiedzi. Big Tech: zostawcie nasze dzieci w spokoju pic.twitter.com/Ki0W94jWfo

— Josh Hawley (@HawleyMO) 15 sierpnia 2025

Meta zaprzeczyła zarzutom, twierdząc, że wyciekłe przykłady „były i są błędne oraz niezgodne z naszymi zasadami, i zostały usunięte”, jak podaje FT. Rzecznik dodał, że firma zabrania treści seksualizujących dzieci. Character.ai także podkreśliło, że jego boty są fikcyjne i „służą do rozrywki”.