Meta AI Niesłusznie Oskarża Nauczyciela o Wykorzystywanie Dzieci, Przywraca Instagrama Po Publicznej Presji

Meta zawiesiła konto kanadyjskiej nauczycielki na Instagramie z powodu fałszywych oskarżeń o nadużycia. Jej konto zostało oznaczone przez system moderacji AI, a decyzję cofnięto dopiero po zwróceniu na to uwagi przez media.

Nauczycielka z liceum w Vaughan, Ontario, miała zawieszone konto na Instagramie, po tym jak Meta niesłusznie oskarżyła ją o publikowanie treści związanych z „seksem dzieci, wykorzystywaniem seksualnym i nagością.”

„Gdy przeczytałam, o co mnie oskarżono, bardzo mnie to zraniło. Byłam bardzo zaskoczona, zwłaszcza biorąc pod uwagę to, co robię na co dzień” – powiedziała Megan Conte w rozmowie z CBC Toronto. „I nie było nikogo, z kim mogłabym się skontaktować – żadnego człowieka.”

Nauczycielka historii, Conte, straciła dostęp do swoich osobistych zdjęć, kontaktów biznesowych i twórczych projektów, które gromadziła przez 15 lat. Conte próbowała wielokrotnie rozwiązać problem za pomocą systemu pomocy Meta, próbowała również zapłacić za weryfikację konta swojej matki, mając nadzieję na kontakt z prawdziwą osobą. Konto Conte zostało przywrócone dopiero po tym, jak CBC Toronto skontaktowało się z Metą.

„Przykro nam, że popełniliśmy błąd i przez pewien czas nie mogliście korzystać z Instagrama” – napisała firma Meta w mailu. „Czasami musimy podjąć działania, aby nasza społeczność była bezpieczna.”

CBC informuje, że analityk technologiczny Carmi Levy twierdzi, że Meta mocno polega na AI do moderowania miliardów użytkowników, ale ostrzega: „To jest automatyzacja, która wymknęła się spod kontroli”. Dodał: „Z ponad trzema miliardami regularnych użytkowników tych platform, nie ma możliwości, aby Meta mogła zatrudnić wystarczająco dużo ludzi […] Automatyzacja to jedyny sposób, aby to mogło funkcjonować w takiej skali.”

Brittany Watson z Peterborough w Ontario rozpoczęła petycję po swoim niesłusznym zawieszeniu. „Media społecznościowe to już nie tylko media społecznościowe. Teraz są częścią naszego codziennego życia” – powiedziała. Jej petycja zebrała ponad 34 000 podpisów, jak podaje CBC.

Conte powiedziała: „Oskarżenie jest przerażające, obraźliwe i całkowicie fałszywe […] To czuje się jak rodzaj kradzieży tożsamości”. Mimo że odzyskała swoje konto, nadal martwi się o innych użytkowników napotykających podobne problemy i nie otrzymujących pomocy czy wyjaśnień.