Nowy model AI powstrzymuje klonowanie głosu za pomocą „Maszynowego Zapominania”

Image by Vecstoc, from Freepik

Nowy model AI powstrzymuje klonowanie głosu za pomocą „Maszynowego Zapominania”

Przeczytasz w: 2 min

Południowokoreańscy naukowcy opracowali nowy sposób na „zapomnienie” przez generatory głosu AI, jak naśladować konkretne głosy ludzi.

Spieszysz się? Oto szybkie fakty:

  • Metoda redukuje dokładność naśladowania głosu o ponad 75%.
  • Dopuszczone głosy nadal działają, z tylko 2,8% stratą wydajności.
  • System potrzebuje 5 minut nagrań audio, aby zapomnieć o mówcy.

System „machine unlearning”, mający na celu zapobiegnięcie nadużywaniu technologii klonowania głosu, które są wykorzystywane przez oszustów i twórców deepfake.

Obecne modele zero-shot text-to-speech (ZS-TTS) wymagają tylko kilku sekund dźwięku, aby stworzyć realistyczne imitacje głosu dowolnej osoby. „Głos każdego może być odtworzony lub skopiowany, wystarczy kilka sekund jego głosu,” powiedział Jong Hwan Ko, profesor na Uniwersytecie Sungkyunkwan, jak podaje MIT Technology Review.

Otwiera to drzwi do poważnych problemów z prywatnością i bezpieczeństwem, takich jak podszywanie się pod innych i oszustwa.

Zespół badawczy Ko opracował pierwszy system o nazwie Teacher-Guided Unlearning (TGU), który szkoli modele AI do zapomnienia, jak naśladować konkretne głosy ludzi. Wyjaśniają w swoim artykule, że zamiast blokowania żądań za pomocą filtrów (nazywanych „barierkami”), ta technika modyfikuje pamięć AI, dzięki czemu dane głosowe stają się niedostępne dla systemu.

Gdy AI jest poproszone o wygenerowanie mowy zapomnianym głosem, zaktualizowany model AI zwraca losowy głos. Ta losowość, jak argumentują badacze, dowodzi, że oryginalny głos został pomyślnie usunięty. W testach AI okazało się o 75% mniej precyzyjne w naśladowaniu usuniętego głosu, podczas gdy wydajność dla dozwolonych głosów spadła tylko nieznacznie (o 2,8%).

Metoda wymaga jedynie pięciu minut nagrań audio od każdego mówcy do zakończenia swojego procesu. Wczesny etap rozwoju pokazuje duże obietnice, zgodnie z opinią ekspertów. „To jedna z pierwszych prac, które widziałam na temat mowy,” powiedziała Vaidehi Patil, doktorantka na UNC-Chapel Hill, jak donosi MIT.

Spodobał Ci się ten artykuł? Oceń go!
Był okropny Nie podobał mi się Był w porządku Był całkiem dobry! Był super!

Cieszymy się, że doceniasz to, co robimy!

Cenimy Twoją opinię. Czy możemy liczyć na ocenę na Trustpilot? Zajmie Ci to tylko chwilę. Będziemy zobowiązani. Dziękujemy za wsparcie!

Oceń nas na Trustpilot
0 Na podstawie głosów 0 użytkowników
Tytuł
Komentarz
Dziękujemy za Twoją opinię