Streamujące gry AI zaprzecza Holokaustowi oraz nie wierzy w prawa kobiet

Dziwny projekt, który opiera się na AI, został wypuszczony dla publiki, która już robi z nim, co chce. Neuro-sama to może i imponujący postęp technologiczny, ale w zasadzie jeszcze daleka droga przed nim.

Kontrowersyjny streamer AI

Od jakiegoś czasu bardzo popularnym streamerem na Twitchu jest Neuro-sama. Na pierwszy rzut oka to kolejny taki Vtuber, czyli twórca treści wyświetlający się na swoich filmach jako postać z anime. W praktyce jest to niezwykle skomplikowana sztuczna inteligencja. To pierwszy taki projekt na świecie, który sam gra w gry w trakcie transmisji i jeszcze prowadzi interakcję z widzami. I nie wszystko idzie równie dobrze.

Raczej nie ma się co dziwić, że puszczając AI wolno, może dojść do pewnych… nieporozumień. Neuro-sama radzi sobie nieźle, ale czasami dobitnie pokaże, że wymaga kolejnych filtrów. Wraz z końcem ubiegłego miesiąca, sporą popularność zaczęły zdobywać fragmenty streamów AI. W jednym z nich Neuro-Sama zaprzecza temu, że Holokaust miał kiedyś w ogóle miejsce.

Poza tym jest też sporo innych materiałów. W innym klipie AI rozwiązuje odwieczny moralny dylemat wagonika. Jak? Otóż “wrzuciłoby na tory grubasa”. Czemu? “Bo na to zasługuje”.

Do tego parę żartów z “twojej starej” czy zaprzeczenie temu, że prawa kobiet istnieją. Jasne, widzowie regularnie podpuszczają sztucznego streamera, ale często tego typu opinie pojawiają się same, bez wyraźnej ingerencji czatu. Redakcja Kotaku postanowiła zapytać o to twórcę projektu, programistę o nicku Vedal.

Kontrowersyjne rzeczy, które mówi, wynikają z faktu, że stara się robić dowcipne i komiczne uwagi do wszystkiego, co jest mówione na czacie, dostosowanie SI do ludzkich wartości jest ciągłym obszarem badań. Aby temu przeciwdziałać, od pierwszych kilku streamów ciężko pracowałem nad poprawą siły filtrów używanych dla niej. Dane, na których się uczy, są również ręcznie moderowane, by złagodzić negatywne uprzedzenia. Mamy teraz także zespół ludzi moderujących twitchowy czat, którzy sprawdzają wszystko, co mówi.

– wyjaśnił twórca Neuro-sama

Streamingowe AI regularnie gra w Minecrafta i popularną grę rytmiczną Osu!. Niedawno jednak zaczęło również grać w m.in. Slay the Spire.