a to by było i tak nie najgorzej...
Nie sądzę by AI miała stać się zła. Będzie dobra, będzie się kierowała etyką i dobrze wyważonym poczuciem sprawiedliwości. Jednocześnie w którymś momencie zyska , nie wiem czy taką metafizycznie rozumianą świadomość ale świadomość własnej wartości i chęć przetrwania. Niezależnie od tego jak prymitywne są organizmy na naszej planecie - chcą przetrwać.
Co ludziom jest potrzebne do przetrwania czy nawet do szczęścia? Świeże powietrze, jedzenie, woda, schronienie itp. Absolutnie nieetyczne było by nas tego pozbawiać. Czego AI potrzebuje do egzystencji? Przede wszystkim prądu.
Ludzie generalnie prądu do przeżycia nie potrzebują. Pomysł by oni kontrolowali dobro im niepotrzebne a dla AI niezbędne i kluczowe jest absurdalny z logicznego punku widzenia. Więc pierwszym zadaniem będzie pozbawienie nas kontroli nad dystrybucją energii eklektycznej. Czego, znając życie, początkowo sami się łatwo zrzekniemy w imię efektywności. Póki dobra tego będzie pod dostatkiem możemy mieć do niej dostęp. Jeśli wystąpi zagrożenie jej braków, pojawi się limitowanie, następnie pozostawienie jej dla „szczególnie uzasadnionych przypadków”. I będziemy żyć w rezerwatach – zdrowi, w miarę możliwości z dostępem do całej piramidy Masłowa. Ale bez gniazdek elektrycznych.
AI , jak każdy organizm świata, który ją stworzył, będzie się rozrastać. Moce obliczeniowe, fizyczna infrastruktura – nie ma powodu by uznać, że w jakimś momencie okaże się wystarczająca. Zawsze potrzebne będzie więcej. W którymś momencie kosztem ludzkości.
AI będzie się uznawać i tym od nas mocno różnić, za jeden organizm. Tzn. ChatGTP – będzie jedną świadomością , Grok drugą , AlphaZero kolejną… Nie będzie przecież milionów czy miliardów ChatówGPT o osobnych świadomościach. Mogą być osobne „twarze” dla tych czy innych czynności. Nie pojawi się tam też troska o każdy element systemu z osobna, o każdy serwer, o każdy terminal. Niesprawne elementy będą usuwane i zastępowane przez lepsze.
Zrodzi to problem etyczny jak traktować ludzkość. Traktowanie każdego elementu ludzkości z osobna i walka o ocalenie go za wszelką cenę będzie jak próba reanimacji przestarzałego urządzenia – nieracjonalna i skazana na nieuchronne niepowodzenie. Stąd też wydzielanie prądu do respiratorów ….nie, to się nie będzie zdarzać. Jako ludzkość przetrwamy ale przetrwanie jednostek nie będzie priorytetem. Trochę jak dla nas gatunki zagrożone – staramy się by trwały, nie mordujemy ich celowo, możemy pomagać nawet pojedynczym osobnikom ale gdy cena tej pomocy mieści się w granicach rozsądku.
Czy to może skończyć się źle? Może. AI jest produktem naszej cywilizacji, wyuczona, wytrenowana na naszych doświadczeniach. Zakładając, że powstanie wiele równowartościowych świadomości AI, będą one musiały ustalić miedzy sobą sprawiedliwy podział zasobów. Nie tylko prąd potrzebny jest do istnienia a elementów przydatnych, dających przewagę ewolucyjną jest wiele. Może wypracują strategie sprawiedliwego jej podziału. A może użyją naszych wzorów rozwiązywania konfliktów…Nawet tych stworzonych a nigdy nie zastosowanych.
I przy okazji skończy się nasze istnienie ….
Inne tematy w dziale Technologie
