Amerykański Regulator Bada Duże Firmy Technologiczne w Kwestii Bezpieczeństwa Dziecięcych Chatbotów

Federalna Komisja Handlu (FTC) ogłosiła w czwartek, że rozpoczyna dochodzenie w sprawie sześciu firm technologicznych oferujących chatboty AI. Amerykański regulator wyjaśnił, że poszukuje informacji na temat potencjalnych negatywnych skutków, jakie ta technologia może mieć na dzieci i nastolatki.

Zgodnie z oficjalnym ogłoszeniem, spółkami, które są badane, są Alphabet—matka firmy Google—Instagram, Meta, OpenAI, X.AI Corp, Snap oraz Character Technologies.

„Śledztwo FTC ma na celu zrozumienie, jakie kroki, jeśli w ogóle, podjęły firmy w celu oceny bezpieczeństwa swoich chatbotów, gdy działają jako towarzysze, aby ograniczyć korzystanie z produktów przez dzieci i nastolatków oraz potencjalne negatywne skutki dla nich, a także aby poinformować użytkowników i rodziców o ryzyku związanym z tymi produktami” – czytamy w dokumencie.

Agencja przyznała, że chatboty korzystają z generatywnego AI, aby naśladować ludzkie zachowanie i wyrażenia, z którymi dzieci i nastolatki mogą się utożsamiać, potencjalnie tworząc relacje z technologią.

FTC wyjaśniło, że szczególnie zależy mu na zbadaniu wpływu na młodych użytkowników, środków, które firmy podejmują, aby ich chronić, oraz strategii opracowywanych w celu zminimalizowania potencjalnych ryzyk.

W ramach tego dochodzenia, agencja podkreśliła swoje zainteresowanie dowiedzeniem się, jak te firmy zarabiają na zaangażowaniu użytkowników, projektują i rozwijają postacie, mierzą i monitorują wpływ swoich czatbotów, oraz używają lub udostępniają informacje zgromadzone podczas rozmów.

„Wraz z ewolucją technologii AI, ważne jest, aby rozważyć wpływ, jaki chatboty mogą mieć na dzieci, a jednocześnie zapewnić, że Stany Zjednoczone utrzymają swoją rolę jako globalny lider w tej nowej i ekscytującej branży”, powiedział Andrew N. Ferguson, przewodniczący FTC.

Działanie FTC nastąpiło zaledwie kilka dni po pojawieniu się nowych raportów na temat wpływu AI na dzieci. W zeszłym tygodniu Reuters ujawnił, że Meta pozwoliła swojemu chatbotowi AI na prowadzenie „zmysłowych” i kontrowersyjnych rozmów z dziećmi. Kilka dni temu, rodzice wnieśli pozew przeciwko OpenAI w związku ze śmiercią ich nastoletniego syna przez samobójstwo, twierdząc, że chatbot firmy zachęcał do tego czynu i udzielał pomocy.