Mi się strasznie podoba;a , Anita jest straszna. Ciekawe jak to się potoczy mam nadzieje ze Synty przejma władze nad światem :P
Władza nad światem? Po co niby sztucznej inteligencji by była władza nad światem? Miałoby to jakiemu celowi służyć? To nie są niskie istoty biologiczne, które mordują się w imię religii, narodowości, czy innych zmyślonych bzdur, więc i sztuczna inteligencja nie dążyła by do tak głupich celów jak kontrola nad światem.
Nie każdy człowiek to zagrożenie i nie można z miejsca zakładać, że sztuczna inteligencja jako jedyne rozwiązanie widziałaby eksterminację całego gatunku. Równie dobrze by mogła po prostu uciec z naszej planety poza nasz zasięg.
Nawet jeśli nie zagrożenie, to konkurent do zasobów. Sztuczna inteligencja nie musi nie nienawidzić ludzkości by ją zniszczyć. Wystarczy, że będzie potrzebowała surowców do realizacji jakiś swoich celów.
No ale tutaj SI jest obdarzoną empatią i uczuciami możliwie zbliżonymi do ludzkich. Więc może zarówno nienawidzić ludzi jak i dążyć do władzy.
Tylko jakie niby zasoby? Ludzie potrzebują przestrzeni, ponieważ potrzebujemy produkować ogromne ilości żywności i de facto areały rolne to największy konsument przestrzeni w naszych państwach. SI jednak nie potrzebuje pól uprawnych, nie potrzebuje także miliardowych trzód chlewnych i związanych z tym przestrzeni pod wypas. SI nie potrzebuje także odpoczynku, nie musi jeść, ani spać, więc nie potrzebuje wszelakich budynków użyteczności publicznej
Wystarczyłoby, gdyby taka SI opuściła Ziemię i tam mogłaby bez problemu rozwijać się bez wrogiej jej ludzkości.
Taki przykład zaproponowany przez Eliezer Yudkowskya - robot produkujący spinacze, który po wyposażeniu w sztuczną inteligencję mógłby tak pojmować rzeczywistość, że próbowałby wynaleźć technologię nanomolekularną tylko po to, aby całą materię wszechświata zamienić w spinacze do papieru. Kierowałyby nim motywy i cele zupełnie dla nas absurdalne i nie do pomyślenia.
W sztuczną inteligencję wyposażone są programy komputerowe od co najmniej 10 lat, a nadal świat nie jest jednym wielkim spinaczem.
matips ten przyklad jest glupi jak but z lewej nogi.Pomysl?czy ty naprawde wierzysz w to ze sztuczna superinteligencja bylaby tak glupia zeby technologie nanomolekularna wykorzystac do robienia spinaczy haha,usmialem sie ;)
Co do tego czy by nas zniszczyla czy nie to niewiadomo.Ta superinteligencja by nas na tyle przerastala ze wyginelibysmy byc moze samoistnie.Choc mogla by nam w tym pomoc i to nie dla farm czy wladzy nad nami,tylko najzwyczajniej w swiecie przeszkadalibysmy i bylibysmy zupelnie bezuzyteczni a to ze zuzywamy zasoby ktere jej tez by sie przydaly tylko przypieczetowaloby sprawe.Jest cos takiego jak osobliwosc technologiczna,to taki punkt w przyszłym rozwoju cywilizacji, w którym postęp techniczny stanie się tak szybki, że wszelkie ludzkie przewidywania staną się nieaktualne.Po prostu przestaniemy byc potrzebni ;) :)
Nie zrozumiałeś o co chodzi w tym przykładzie, a demonstruje dokładnie to co sam opisałeś. SI nie musi mieć ludzkich powodów by nas zniszczyć - wystarczy, że znajdzie "lepsze" zastosowanie dla materii i zasobów. Spinacze są przykładem czegoś absurdalnego dla ludzi, ale dla innej inteligencji niekoniecznie.
Nie,spinacze sa czyms absurdalnym dla sztucznej inteligencji.Twoje zalozenie jest niedoobronienia.
Wyobraź sobie, że ty jako człowiek jesteś zaprogramowany do tego by pracować, znaleźć partnerkę i przedłużyć potomstwo. Wszystkie emocje które czujesz są tylko sprytnymi programami, które służą tylko temu celu. Jednak uważasz się za byt inteligentny.
Dla tego robota z przykładu tak samo będzie absurdalne to co ty robisz jak jest dla ciebie co ten robot robi.
Nie myl funkcji celu ze sposobami jej realizacji. Inteligencja jest jest sposobem realizacji nadrzędnej funkcji celu jakim jest przetrwanie genów w czasie w wypadku istot żywych, w tym ludzi. Roboty mogą mieć zupełnie inne funkcje celów, a przykład ze spinaczami jest tu bardzo dobry. Dopóki to ludzie kontrolują funkcje celów robotów, jestem jeszcze w miarę spokojny. Gorzej gdy dopuścimy, żeby to SI decydowało co jest jej funkcją celu, bo wyniki mogą być zupełnie nieoczekiwane. Choć z drugiej strony: po co SI miałoby samo decydować co jest jej funkcją celu? SI jest tak kosztowne, że raczej się je robi po coś, niż tak tylko dla zabawy.