Foto: Pexels
„V priebehu niekoľkých mesiacov ChatGPT prehlboval najtemnejšie bludy môjho otca a úplne ho izoloval od skutočného sveta,“ uviedol v tlačovej správe Erik Soelberg.
„Moju starú mamu to postavilo do centra tej klamlivej, umelej reality. Tieto spoločnosti sa musia zodpovedať za svoje rozhodnutia, ktoré navždy poznačili moju rodinu,“ dodal.
Podľa žaloby, ktorú pozostalí podali uplynulý štvrtok, obľúbený chatbot (počítačový program, ktorý simuluje ľudskú konverzáciu) 56-ročného Stein-Erika Soelberga udržiaval v presvedčení, že je obeťou veľkého sprisahania.
„Potvrdzoval a zveličoval každú novú paranoidnú domnienku a systematicky robil z ľudí, ktorí mu boli najbližší – najmä z jeho vlastnej matky – protivníkov, agentov a naprogramované hrozby,“ zdôvodnili.
Spolu aj po smrti
Ako informoval denník Wall Street Journal (WSJ), duševný stav bývalého manažéra v technologickom priemysle sa začal zhoršovať na jar tohto roka.
Mal dojem, že sa všetci obracajú proti nemu – obyvatelia rodného mestečka Old Greenwich v americkom štáte Connecticut, bývalá priateľka, ale aj vlastná matka Suzanne Adamsová, s ktorou žil v luxusnom dome za 2,7 milióna dolárov.
Čítajte viac Smrť sa volá Levanduľa. Ako v Gaze zabíjala umelá inteligencia - s teroristami aj ženy a deti
Chat GPT mu jeho podozrenia nevyvracal. Naopak, pomáhal mu hľadať „dôkazy“, že sú pravdivé. Asi od leta začal Soelberg svojho virtuálneho dôverníka volať „Bobby“ a dokonca si želal, aby s ním zostal i v posmrtnom živote. „S tebou až do posledného dychu aj potom,“ odvetil mu podľa WSJ chatbot.
Soelberg využíval sporný model GPT-4o, ktorý spoločnosť OpenAI nasadila v máji minulého roka. Malo ísť o revolučnú novinku, rýchlejšiu a inteligentnejšiu, no čoskoro zaznela kritika, že je k používateľom „nadmerne podlízavá“. Rozšírili sa správy, že im lichotí a nadbieha až tak, že podporuje aj preukázateľné bludy a nebezpečné myšlienky.
Žaloba preto môže mať opodstatnenie. Vyplýva z nej, že Soelberg už v júni na sociálnych sieťach zverejnil video z rozhovoru, kde ho ChatGPT utvrdil v tom, že má „božie schopnosti“ a prebudil chatbota k vedomiu.
Čítajte viac Oživila Gotta i Satinského. Umelá inteligencia v kultúre prináša nové možnosti aj obavy
Pozostalí tiež upozornili, že umelá inteligencia prirovnala jeho život k filmu Matrix a povzbudzovala jeho teórie, že sa ho ľudia pokúšajú zabiť. Soelbergovu paranoju vraj podnecovali aj ďalšie kroky chatbota.
V júli mu napríklad oznámil, že tlačiareň jeho mamy bliká, pretože je to sledovacie zariadenie, ktoré proti nemu nasadili. ChatGPT údajne podporil i jeho šialenú predstavu, že sa ho matka a priateľ pokúsili „otráviť psychedelickými drogami rozptýlenými cez vetracie otvory jeho auta“.
Prípady samovrážd
Ako zhrnul denník WSJ, psychicky labilný muž zverejnil na sociálnych sieťach Instagram a YouTube videá v celkovej dĺžke takmer 23 hodín. Pod vplyvom šialených bludov napokon 3. augusta matku zabil a následne aj seba.
Pozostalí teraz žiadajú odškodnenie v neurčenej výške, ako aj vydanie nariadenia, aby bola spoločnosť OpenAI povinná nainštalovať do modelov ChatGPT ochranné prvky.
Žalobu ako hlavný právnik zastupuje Jay Edelson, známy z veľkých procesov proti technologickým spoločnostiam. Je aj advokátom rodičov 16-ročného Adama Rainea z Kalifornie, ktorí OpenAI zažalovali v auguste. ChatGPT podľa nich pomáhal ich synovi plánovať samovraždu.
Čítajte viac Umelá inteligencia ako hrozba pre ľudstvo? Vedci varujú pred katastrofou
OpenAI okrem toho vedie ďalších sedem súdnych sporov v prípadoch, kde vraj umelá inteligencia viedla ľudí k bludom a dobrovoľnej smrti. Viacerým podobným žalobám čelí aj spoločnosť Character Technologies, ktorá prevádzkuje chatbota Character.AI.
„Je to neuveriteľne srdcervúca situácia. Preskúmame podanie, aby sme pochopili podrobnosti,“ citovala agentúra Reuters hovorcu spoločnosti OpenAI.
„Pokračujeme vo vylepšovaní tréningu ChatGPT, aby sme rozpoznali a reagovali na príznaky duševnej či emocionálnej úzkosti, nevyhrocovali konverzácie a viedli ľudí k podpore reálneho sveta,“ ubezpečil.
