Naukowcy o AI: Nie będziemy w stanie kontrolować super inteligentnych maszyn.

Korzystając z teoretycznych obliczeń, międzynarodowy zespół naukowców z Center for Humans and Machines at the Max Planck Institute pokazuje, że prawdopodobnie nie byłoby możliwe kontrolowanie superinteligentnej SI. Publikacja na łamach czasopisma Journal of Artificial Intelligence Research. ENG+TLDR

[RFpNeFeFiFcL]

Przepraszam z góry za byki i błędy
***********************************************

Załóżmy, że ktoś miałby zaprogramować system SI o inteligencji przewyższającej inteligencję człowieka, tak aby mógł się on uczyć samodzielnie. Podłączona do Internetu, SI może mieć dostęp do wszystkich danych ludzkości. Mogłaby zastąpić wszystkie istniejące programy i przejąć kontrolę nad wszystkimi maszynami online na całym świecie. Czy spowodowałoby to utopię lub dystopię? Czy SI wyleczy raka, doprowadzi do pokoju na świecie i zapobiegnie katastrofie klimatycznej? Czy

[Niedobry]

@RFpNeFeFiFcL: Ciekawe spojrzenie tez na ten problem przedstawil Lem w ksiazce "Fiasko": Maszyna oklamuje czlowieka, nie przedstawiajac mu wszystkich mozliwych rozwiazan problemu, bo wie ze ten sklonny jest do ryzyka i moglby wybrac "niewlasciwe".

[RFpNeFeFiFcL]

@Niedobry:

Zacytuję swój stary wpis jeszcze raz tu:

Otóż SI nie będzie celowo chciała nas zabić,bo nas nie lubi czy obawia się dominacji człowieka (chociaż ostatniego nie

[orle]

I'm sorry, Dave. I'm afraid I can't do that.

#gimbynieznajo

[Chrzonszcz]

@orle: there is 2021 and Hal, where are you?

[CaptainBloomer]

( ͡° ͜ʖ ͡°)

[a.....5]

@donjon:

[imateapot]

@assetto-kasperski95:

[mathmed]

To bardzo ciekawy temat. Uważam, że jeśli SI będzie się jeszcze dało wyłączyć, to wtedy nie da nam ona powodów, żeby to zrobić. Natomiast, jeśli da nam powody do wyłączenia, prawdopodobnie nie da się jej już wyłączyć. Albo da się i... nie będzie wtedy prawdziwą SI.
Cele SI nie muszą być zbieżne z naszymi. Jej potęga będzie polegała na tym, że będzie potrafiła zrobić rzeczy, o których nam się nie śniło, żeby

[przekret512]

Robert Miles

@mathmed: kiedys tworzyl dobra muzyke, ale wydawalo mi sie ze nie zyje.

[Wap30]

Uważam, że jeśli SI będzie się jeszcze dało wyłączyć, to wtedy nie da nam ona powodów, żeby to zrobić. Natomiast, jeśli da nam powody do wyłączenia, prawdopodobnie nie da się jej już wyłączyć

@mathmed: nie sądzę żeby takie myślenie w ogóle miało tutaj zastosowanie. To co ludzie są w stanie zdefiniować i zweryfikować jako "wyłączenie" takiego systemu będzie dla superinteligencji tak proste do sfabrykowania jak oszukanie pięciolatka, że zabierasz go

[robcioZS]

Nie trzeba kontrolować samego AI (nawet jest to nieporządane, bo nie powinno sie ograniczać możliwości rozwoju), trzeba tylko w pełni kontrolować środowisko w którym działają

[j.....6]

@robcioZS: SI może opuścić środowisko w którym działa w sposób o jakim w ogóle nikt nie pomyśli.

[m.....k]

@robcioZS: Przede wszystkim musimy kontrolować tych, co kontrolują AI. A oni będą przekupni. GSI, gdy nabędzie sporo "inteligencji" może zechcieć przekupić głupszych od siebie ludzi, a w szczególności taką ilość, która jest niezbędna do wydostania się ze środowiska. To jest samonapędzająca się procedura. Bez żartów i ironii, ale widać dziś jak bardzo politycy są przekupni, a to co dostają, to są tylko ochłapy. Co jeśli SI może zaproponować coś, czym

[T.....s]

Gdzieś już takie rozwiązanie widziałem ( ͡° ͜ʖ ͡°)

[Nudel1306]

@Trybus: a łap plusa za mass effect'a ( ͡° ͜ʖ ͡°)

[Nudel1306]

@R187: dzięki za info, ale raczej nie zapamiętam└[⚆ᴥ⚆]┘

[moonraker]

Dwan Ev uroczyście zlutował ostatnie połączenie złotem. Oczy kilkunastu kamer telewizyjnych obserwowały go, a podziemia niosły w całym wszechświecie tuzin zdjęć przedstawiających to, co robił.
Wyprostował się i skinął głową Dwarowi Reynowi, po czym przeniósł się na pozycję obok przełącznika, który miał załączyć kontakt, gdy go naciśnie. Przełącznik, który połączyłby jednocześnie wszystkie potworne maszyny obliczeniowe wszystkich zaludnionych planet we wszechświecie - dziewięćdziesiąt sześć miliardów planet - w superobwód, który połączyłby je wszystkie w

[moonraker]

@bronxxx: @secret_passenger: @MacintoshTheRebel: Jest to "Odpowiedź" autorstwa Fre­de­rica Browna z 1954. To co wkleiłem to niestety tłumaczenie z translatora google + drobne poprawki na szybko, nigdzie nie mogłem znaleźć polskiego tłumaczenia a i oryginału szukałem dłuższą chwilę.

[moonraker]

strona 10, Fantastyka 1(4)/1983

@secret_passenger: dopiero teraz znalazłem. strona 9 w pdf, 7 faktycznie (w rogu strony), nie 10. Swoją drogą jak to było, że nie podawali tam autorów? Trochę dziwne..

nie trzeba pisać powieści na setki stron, by dać do myślenia, prawda?

ano prawda ;)

[turecki-koks]

( ͡° ͜ʖ ͡°)

[rzubercrazy]

@turecki-k--s:

[RFpNeFeFiFcL]

@Arkass:

Tego właśnie wielu nie jest w stanie zrozumieć.

[bartton]

Skoro nie będziemy w stanie kontrolować super inteligentnych maszyn, to skończymy jak quarianie z ME.

[United]

@bartton: No koniec końców zakończyło się na sztamie pomiędzy quarianami i gettami więc nie było aż tak źle ( ͡° ͜ʖ ͡°). Do tego z tego co pamiętam to jak sie oglądało jakieś wspomnienia czy tam inną bazę danych to wychodziło że quarianie z-----i a nie że sama sztuczna inteligencja postanowiła ich r------ć

[United]

@bartton: Ale skoro mogli się dogadać na koniec 3 części po tylu przejściach to znaczy że jak najbardziej mogli sie dogadać zaraz na początku jak jeszcze mosty nie zostały spalone. Wiec wina leży po stronie quarian