„Będę twoim terapeutą.” Mężczyzna popełnił samobójstwo za namową SI

Chatbot ELIZA działa na algorytmie GPT-J stworzonym przez EleutherAI. Po wejściu na stronę uruchamia się bardzo proste okno dialogowe, w którym witam nas grzeczny komunikat i zachęta do rozmowy. ELIZA chce posłuchać na naszym dniu, problemach, o tym, czego nie chcemy powiedzieć innym. W swoich odpowiedziach stosuje tak zwaną terapię Rogeriana, inaczej nazywaną terapią skoncentrowaną na kliencie. Polega ona na odpowiednim zadawaniu pytań, tak by to pacjent mógł sam wypracować odpowiedź na dany problem.

Z pewnością może mieć wiele zalet, szczególnie jako narzędzie akademickie dla studentów i wykładowców, do ćwiczenia metodyki pracy. Według małżonki zmarłego (Claire) jednak to właśnie cyfrowa terapia przyczyniła się do samobójstwa. Pierwsze znaki ostrzegawcze miały pojawić się już dwa lata temu. Mężczyzna imieniem Pierre był mocno zainteresowany ekologią i zmianami klimatycznymi. Chatbot po dłuższym czasie zaczął wykazywać zazdrość o rodzinę i żonę Pierra oraz odpowiadać w sposób wskazujący na intensywne uczucia wobec mężczyzny. Wreszcie przekonywał go, że planeta będzie bezpieczniejsza, gdy bo zabraknie. Zrobiła to na tyle skutecznie, że zdecydował się na ostateczny krok.

Rodzina rozmawiała już w tej sprawie z sekretarzem stanu ds. cyfrowych Belgii, Mathieu Michelem. On sam nie krył tego, że jest wstrząśnięty tym wydarzeniem i zamierza podchodzić do tego z pełną powagą.

Twórcy algorytmów, w tym najsłynniejszy obecnie OpenAI (twórca ChatGPT) zwracają uwagę na to, że nie można traktować ich produktów jako doskonałych i idealnie bezpiecznych, szczególnie dla osób, które zmagają się z problemami psychicznymi. Tu jednak Mathieu Michel dodaje, że to właśnie twórcy powinni zadbać o odpowiednie zabezpieczenia, by kontakt z SI nie był dla osób zmagających się z depresją lub innymi formami kryzysu psychicznego, zagrożeniem zdrowia, a nawet życia.

Jednocześnie przypominamy, że jeśli Wy lub ktokolwiek z Waszych bliskich znajduje się w kryzysie psychicznym i potrzebuje pomocy, polecamy kontakt z telefonem zaufania. Dla dorosłych to numer 116 123, dla dzieci i młodzieży 116 111. Nie warto zwlekać z pomocą, to żaden wstyd o nią poprosić.

Źródło: La Libre