Włochy Nakładają Karę 5 Milionów Euro na Twórcę AI Chatbota Replika za Naruszenie Ochrony Danych

Włoski organ ochrony danych nałożył karę na firmę macierzystą Replika, Luka Inc., w wysokości 5 milionów euro – co odpowiada mniej więcej 5,64 milionowi dolarów – za nieprzestrzeganie przepisów mających na celu ochronę danych użytkowników. Władze wyraziły obawy dotyczące potencjalnych ryzyk związanych z technologią dla dzieci oraz braku wystarczającej podstawy prawnej do przetwarzania danych osobowych użytkowników włoskich.

Według Reuters, organ nadzoru prywatności Garante ogłosił decyzję w poniedziałek, stwierdzając, że platforma chatbotów nie wprowadziła systemu weryfikacji wieku, aby zapobiec udostępnianiu lub dostępowi do wrażliwych treści przez dzieci. W rezultacie, firma Luka Inc. została ukarana za te naruszenia.

Replika oferuje użytkownikom personalizowane awatary, które mogą prowadzić rozmowy – za pośrednictwem czatu i głosu – tworząc „wirtualnych przyjaciół”. Kilka miesięcy temu, kobieta o imieniu Sarah Kay zgłosiła nawiązanie emocjonalnego związku z jednym z chatbotów Replika.

Prawna batalia między włoskimi władzami a Replika trwa już od kilku lat. W 2023 roku, włoska agencja ochrony danych zakazała Replika przetwarzanie danych osobowych obywateli Włoch, powołując się na potencjalne ryzyko, jakie ta technologia stwarza dla dzieci.

Przez prawie dwa lata, włoskie władze prowadziły ciągłe śledztwo i doszły do wniosku, że firma zajmująca się sztuczną inteligencją (AI) nie posiada prawnej podstawy do przetwarzania danych włoskich użytkowników.

Agencja ochrony danych prowadzi również oddzielne śledztwo, aby ustalić, czy Replika przestrzega polityk i ram prawnych Unii Europejskiej, ze szczególnym naciskiem na to, jak jest trenowany model językowy AI.

Niedawno weszło w życie Rozporządzenie Unii Europejskiej o Sztucznej Inteligencji (AI Act), mające na celu zapewnienie, że technologia AI w regionie jest bezpieczna, godna zaufania i szanuje prawa człowieka.

Replika nie wydała żadnych komentarzy ani oficjalnych oświadczeń na temat włoskiego grzywny. Luka Inc. nie jest jedyną amerykańską firmą AI, która zmaga się z prawnymi działaniami ze strony włoskiego rządu – OpenAI zostało chwilowo zablokowane i również stanęło w obliczu grzywny w wysokości 15 milionów euro, ponieważ włoski organ ochrony danych twierdzi, że firma naruszyła regulacje UE dotyczące prywatności.