Naukowcy o AI: Nie będziemy w stanie kontrolować super inteligentnych maszyn.
Korzystając z teoretycznych obliczeń, międzynarodowy zespół naukowców z Center for Humans and Machines at the Max Planck Institute pokazuje, że prawdopodobnie nie byłoby możliwe kontrolowanie superinteligentnej SI. Publikacja na łamach czasopisma Journal of Artificial Intelligence Research. ENG+TLDR
RFpNeFeFiFcL z- #
- #
- #
- #
- #
- #
- 308
Komentarze (308)
najlepsze
***********************************************
Załóżmy, że ktoś miałby zaprogramować system SI o inteligencji przewyższającej inteligencję człowieka, tak aby mógł się on uczyć samodzielnie. Podłączona do Internetu, SI może mieć dostęp do wszystkich danych ludzkości. Mogłaby zastąpić wszystkie istniejące programy i przejąć kontrolę nad wszystkimi maszynami online na całym świecie. Czy spowodowałoby to utopię lub dystopię? Czy SI wyleczy raka, doprowadzi do pokoju na świecie i zapobiegnie katastrofie klimatycznej?
Zacytuję swój stary wpis jeszcze raz tu:
Otóż SI nie będzie celowo chciała nas zabić,bo nas nie lubi czy obawia się dominacji człowieka (chociaż ostatniego nie wykluczam).
Może być tak jak opisał Nick Bostrom, szwedzki filozof z Oksfordu.
Jego zdaniem nie można oczekiwać, iż wyposażone w inteligencję przewyższającą ludzką byty będą działać zgodnie z intencjami człowieka,niezależnie, czy pochodzą z innego świata, czy to człowiek sam je stworzył.
Bostrom przestrzega, że
#gimbynieznajo
Cele SI nie muszą być zbieżne z naszymi. Jej potęga będzie polegała na tym, że będzie potrafiła zrobić rzeczy, o których nam się nie śniło, żeby
@mathmed: kiedys tworzyl dobra muzyke, ale wydawalo mi sie ze nie zyje.
@mathmed: nie sądzę żeby takie myślenie w ogóle miało tutaj zastosowanie. To co ludzie są w stanie zdefiniować i zweryfikować jako "wyłączenie" takiego systemu będzie dla superinteligencji tak proste do sfabrykowania jak oszukanie pięciolatka, że zabierasz go do
Wyprostował się i skinął głową Dwarowi Reynowi, po czym przeniósł się na pozycję obok przełącznika, który miał załączyć kontakt, gdy go naciśnie. Przełącznik, który połączyłby jednocześnie wszystkie potworne maszyny obliczeniowe wszystkich zaludnionych planet we wszechświecie - dziewięćdziesiąt sześć miliardów planet - w superobwód, który połączyłby je wszystkie
@secret_passenger: dopiero teraz znalazłem. strona 9 w pdf, 7 faktycznie (w rogu strony), nie 10. Swoją drogą jak to było, że nie podawali tam autorów? Trochę dziwne..
ano prawda ;)
Tego właśnie wielu nie jest w stanie zrozumieć.