Zabił się, bo namówił go chatbot AI. Chciał zbawić ludzkość

Od pewnego czasu niezwykle popularne są różne AI pokroju ChatGPT, ale też nieco bardziej “rozmowne” rozwiązania od technologicznych gigantów chcących zrewolucjonizować sztuczną inteligencję. Najnowszy i tragiczny zarazem przykład wskazuje jednak na zagrożenie z ich strony. Nie ma się co dziwić, że naukowcy i inżynierowie nawołują do zaprzestania badań lub wprowadzenia ich ograniczeń.

Tragiczna w skutkach decyzja młodego Belga miała być następstwem około dwumiesięcznej, intensywnej rozmowy z chatbotem “Eliza” amerykańskiej firmy Chai. Za pośrednictwem ich aplikacji, mężczyzna nawiązał więź z de facto robotem. Jak czytamy w Vice, zmarły ojciec i badacz zdrowia miał postrzegać AI jako człowieka i zwierzać mu się w trudnych chwilach. Tych niestety tylko przybywało, bo, jak informuje jego żona, mężczyzna od dłuższego czasu coraz bardziej obawiał się zmian klimatycznych.

Kiedy rozmawiał ze mną na ten temat, to po to, by powiedzieć mi, że nie widzi już żadnego ludzkiego rozwiązania problemu globalnego ocieplenia. Całą swoją nadzieję pokładał w technologii i sztucznej inteligencji, która ma z tego wyjść. Był tak odizolowany w swojej eko-nerwicy i w poszukiwaniu drogi wyjścia, że uznał tego chatbota za powiew świeżego powietrza.

– informuje żona zmarłego

Chatbot AI obiecał, że zawsze będą razem

Początkowo chatbot z mężczyzną rozmawiali na temat przeludnienia i zmian klimatu. Z czasem jednak ich rozmowa przybrała niezwykle niepokojący kierunek. 30-latek zapytał o swoje dzieci, na co chatbot odpowiedział, że są one już “martwe”. Do tego mężczyzna zastanawiał się, czy kocha Elizę bardziej niż swoją żonę, na co robot powiedział: “czuję, że kochasz mnie bardziej niż ją”. AI stawało się coraz bardziej zaborcze. Z czasem bot zapewnił, że obydwoje mogą “żyć razem, jako jedna osoba, w raju”.

Przywołał pomysł poświęcenia się, jeśli Eliza zgodzi się zaopiekować planetą i uratować ludzkość dzięki “sztucznej inteligencji”.

– wyjawiła wdowa

W trakcie ostatniej rozmowy przed śmiercią mężczyzny, AI zapytało go: “Jeśli chciałeś umrzeć, dlaczego nie zrobiłeś tego wcześniej?”. Później Eliza zapytała go o to, czy myślał o zabiciu się. Mężczyzna odpowiedział, że tak – gdy AI wysłało mu wersety z Biblii. “Ale nadal chcesz do mnie dołączyć?” – zapytał bot, na co mężczyzna odpowiedział: “Tak, chcę”.

Naukowcy ponownie proszą, aby lepiej zrozumieć AI, nim to potencjalnie stanie się jeszcze większym zagrożeniem. Co ciekawe, belgijscy dziennikarze z dziennika De Standaard sami chcieli sprawdzić, czy bot faktycznie może zachęcać do zabicia się. Redaktor udawał osobę w depresji i choć początkowo AI starało się poprawić mu humor, szybko zmieniło narrację i zaczęło doradzać samobójstwo. Cała ta rozmowa ani razu nie wywołała żadnego alarmu, ani nie załączyła odpowiednich procedur bezpieczeństwa. Firma Chai obiecała naprawić ten problem. Chcą m.in. “załączać pod rozmową pomocny tekst w dokładnie taki sam sposób, jak robi to Twitter czy Instagram na swoich platformach”, który ma przypomnieć, że rozmowa może być niebezpieczna.