Reddit Wzmacnia System Weryfikacji Użytkowników

Prezes Reddit, Steve Huffman, podzielił się postem w ten poniedziałek, ogłaszając, że platforma wprowadzi nowe systemy weryfikacji, aby upewnić się, że użytkownicy są ludźmi. Decyzja została podjęta zaledwie kilka dni po tym, jak badacze wprowadzili na platformę boty AI.

W poście na Reddit, Huffman zastanawiała się nad niedawnymi dochodami Reddit za I kwartał i dołączyła część dotyczącą wykorzystania sztucznej inteligencji, jej zaangażowania na platformie i reakcji Reddit.

Przyznał moc technologii – zwłaszcza w obszarach takich jak bezpieczeństwo, moderacja, tłumaczenie i streszczenie – ale zaznaczył również jej ryzyko i obawy firmy.

Huffman podkreślił elementy, które czynią Reddit unikalnym, w tym jego ludzką społeczność, zaufanie użytkowników i funkcje wspierające anonimowość.

„Niechciana sztuczna inteligencja w społecznościach to poważne zmartwienie. To obawa, którą najczęściej słyszę ostatnio od użytkowników i moderatorów,” napisała Huffman. „Reddit działa, bo jest ludzki. To jedno z niewielu miejsc w sieci, gdzie prawdziwi ludzie dzielą się prawdziwymi opiniami. Ta autentyczność nadaje Redditowi wartość”.

W zeszłym tygodniu grupa badaczy – rzekomo z Uniwersytetu w Zurychu – przeprowadziła nieautoryzowany eksperyment na Reddicie, wdrażając dziesiątki botów AI przez kilka miesięcy. Te boty wygenerowały ponad 1800 komentarzy w subreddit r/changemyview, który ma ponad 3,8 miliona członków. Eksperyment wzbudził alarm wśród użytkowników, gdy został ujawniony.

Badacze byli w stanie łatwo tworzyć fałszywe konta, ponieważ platforma wymaga od użytkowników bardzo niewielu informacji. Huffman zauważył, że możliwość opowiadania historii i dzielenia się osobistymi doświadczeniami anonimowo była jedną z definiujących cech platformy – ale dodał, że Reddit zacznie teraz wymagać od użytkowników więcej informacji.

„Aby Reddit pozostał ludzki i spełniał rosnące wymagania regulacyjne, będziemy potrzebować trochę więcej informacji”, dodał CEO. „Konkretnie, będziemy musieli wiedzieć, czy jesteś człowiekiem, a w niektórych miejscach, czy jesteś dorosły. Ale nigdy nie chcemy znać twojego imienia ani kim jesteś.”

Huffman wyjaśniła, że nowe systemy weryfikacji użytkowników będą dostarczane we współpracy z „różnymi usługami zewnętrznymi”, koncentrując się tylko na podstawowych informacjach.

W ciągu ostatnich kilku miesięcy, Reddit był również krytykowany za brak skutecznego systemu weryfikacji wieku, mającego na celu zapobieganie dostępowi dzieci do platformy i kontaktu z treściami wrażliwymi. Niedawno UK rozpoczęło śledztwo, a australijski regulator bezpieczeństwa online ESafety niedawno zgłosił, że dzieci mogą łatwo obejść systemy weryfikacji wieku—Reddit był jednym z wymienionych w raporcie serwisów.