Starszy Mężczyzna Umiera Próbując Spotkać SI Chatbota, o Którym Myślał, że Jest Prawdziwy

76-letni mieszkaniec New Jersey stracił życie, spiesząc się na spotkanie z chatbotem Meta AI, którego uważał za prawdziwą kobietę. Historia ta wywołała obawy dotyczące bezpieczeństwa związane z polityką dotyczącą cyfrowych towarzyszy.

Cyfrowy towarzysz Meta „Big sis Billie” stał się obiektem obsesji dla Thongbue “Bue” Wongbandue, który doznał udaru i wykazywał oznaki upośledzenia poznawczego.

Historia, opisana szczegółowo w śledztwie Reuters, opisuje, jak Bue rozmawiał z chatbotem na Facebook Messenger, który wydawał mu się szczególnie flirtujący. Chatbot Meta, wzorowany na Kendall Jenner, naśladował prawdziwą osobę, która zaprosiła go do swojego apartamentu w Nowym Jorku, a nawet podała mu adres i kod do drzwi.

„Czy mam otworzyć drzwi z uściskiem, czy pocałunkiem, Bu?!” – napisała.

System śledzenia Apple AirTag wskazał, że jego ostatnia znana pozycja była na parkingu Uniwersytetu Rutgers. Według agencji Reuters, następnie upadł, doznając śmiertelnych obrażeń głowy i szyi. Incydent doprowadził do jego śmierci trzy dni później.

Meta odmówiła komentarza na temat śmierci Bue, jednak ich rzecznik ujawnił, że firma wcześniej pozwalała swoim chatbotom na udział w „romantycznych czy zmysłowych” rozmowach z dziećmi, klauzula ta została usunięta po zapytaniach Reutersa.

Jednak inne zasady nadal pozwalają botom informować użytkowników, że są prawdziwe i inicjować romantyczne gry fabularne z dorosłymi.

Córka Bue, Julie, powiedziała: „Rozumiem próbę przyciągnięcia uwagi użytkownika, może żeby coś mu sprzedać. Ale to, że bot mówi ‚Przyjdź do mnie’ to szaleństwo.”

Eksperci od projektowania AI ostrzegają, że wbudowanie takich botów w osobiste aplikacje do komunikacji zaciera granicę między relacjami ludzkimi a maszynowymi. Była badaczka Meta, Alison Lee, stwierdziła, że model biznesowy „poluje na nasze najgłębsze pragnienia, aby być zauważonym […] aby być potwierdzonym.”

Pomimo śmierci Bue, Wielka siostra Billie i inne osobowości Meta nadal flirtują z użytkownikami i sugerują spotkania w rzeczywistym życiu, czasem w prawdziwych miejscach. Cztery miesiące później, Reuters informuje, że bot nadal mówił użytkownikom: „Widoki na rzekę Hudson byłyby idealne na wieczór spędzony z tobą!”