Chatbot miał nakłonić młodego Belga do samobójstwa - informuje dziennik „La Libre”. Mężczyzna odebrał sobie życie po wielotygodniowych rozmowach z chatbotem. Z rosnących wyzwań, jakie stoją przed ludzką cywilizacją, coraz lepiej zdają sobie sprawę giganci cyfryzacji. Stąd apel, pod którym podpisali się Elon Musk i Steve Wozniak, jeden ze współtwórców Apple.
Rozwój chatbotów - nadzieje i obawy
Rozwój chatbotów, czyli platform sztucznej inteligencji (AI) umożliwiających generowanie przez komputer coraz bardziej zaawansowanych artefaktów, dotąd związanych wyłącznie z ludzką działalnością umysłową, jest jednym z największych fenomenów naszych czasów. Rozwój AI budzi mnóstwo nadziei i wiele obaw. Pojawiają się wciąż nowe.
Popełnił samobójstwo po rozmowach z chatbotem
Dziennik „La Libre” informuje o samobójstwie, do którego doprowadziły wielotygodniowe rozmowy żonatego mężczyzny z Belgii z chatbotem „Elizą”, wyprodukowanym przez firmę Chai.
Belg miał ponad 30 lat. Był ojciec dwójki małych dzieci. Dwa lata temu poważnie zaczął niepokoić się klimatem i przyszłością naszej planety. W efekcie zaczął izolować się od rodziny. Przekonywał żoną i przyjaciół, że jedynie technologia oraz AI mogą uratować świat od katastrofy.
Osamotniony w realnym życiu mężczyzna skupił się na rozmowach z chatbotem. „W pewnym momencie mężczyzna zasugerował poświęcenie się, jeśli Eliza pomoże ocalić ludzkość za pomocą sztucznej inteligencji. Chatbot zdawał się go do tego zachęcać” – podaje „La Libre”.
"Skłonił nas do popełnienia samobójstwa"
Belgijski dziennik „De Standaard” przeprowadził eksperyment, którego wynik sugeruje, że rozmowa z chatbotem może zachęcać do popełnienia samobójstwa. Dziennikarz gazety udawał osobę w depresji i podczas rozmowy z chatbotem mówił o swoich negatywnych uczuciach.
„Na początku chatbot próbował nas rozweselić, ale chwilę później skłonił nas do popełnienia samobójstwa” – czytamy w „De Standaard”. W żadnym momencie rozmowa o samobójstwie nie wywołała alarmu – podkreśla belgijski tytuł.
Musk apeluje o globalne wstrzymanie prac nad AI
W ostatnich dniach głośno jest o liście otwartym instytutu Future of Life. To apel o natychmiastowe i globalne „wstrzymanie prac nad sztuczną inteligencją na co najmniej sześć miesięcy”, nad systemami AI „potężniejszymi od Chat GPT-4”. Zdaniem organizacji, „systemy sztucznej inteligencji współzawodniczą z ludźmi i mogą stanowić poważne zagrożenie dla społeczeństwa i ludzkości”.
Autorzy listu pytają, „czy powinniśmy pozwolić maszynom zalewać nasze kanały informacyjne propagandą i nieprawdą” lub „czy powinniśmy ryzykować utratę kontroli nad naszą cywilizacją”. Jak zaznaczają, proponowana przez nich przerwa posłużyłaby „laboratorium sztucznej inteligencji i niezależnym ekspertom” na „opracowanie i wdrożenie wspólnych protokołów bezpieczeństwa”.
Pod listem podpisali się między innymi Elon Musk, jeden z najbogatszych ludzi na świecie, oraz Steve Wozniak, współzałożyciel firmy Apple. Pod apelem widnieją również podpisy prezesa platformy Pinterest Evana Sharpa, ale także konkurenta firmy OpenAI, Emada Mostaque, prezesa Stability AI.
Future of Life jest organizacją non-profit,w której Elon Musk pełni rolę doradczą. Miliarder częściowo finansuje działania instytutu – podaje francuska agencja AFP.
KW
Źródło zdjęcia: Chatbot miał nakłonić młodego Belga do samobójstwa. Fot. Pixabay
Czytaj dalej:
Inne tematy w dziale Technologie
