•  

    pokaż komentarz

    Ilon Mask powiedział w wywiadzie dla Lexa Friedmana zMassachusetts Institute of Technology , że jego pierwsze pytanie skierowane do super-zaawansowanej sztucznej inteligencji będzie związane z teorią symulacji.
    W trakcie dość spokojnej rozmowy o przyszłości bezzałogowych pojazdów, która rozpoczęła się w ramach podcastu, temat płynnie wpadł najpierw w pole fizyki, potem miłości, a potem doszedł do pytania, czy nasz wszechświat jest czyjąś bardzo złożoną symulacją komputerową.

    "Być może ty, a może ktoś inny, stworzy bardzo potężny system ogólnoświatowej sztucznej inteligencji (AI).
    I wtedy będziesz miał okazję zadać mu jedno pytanie. Jakie to będzie pytanie?" zapytał Friedman pod koniec 33-minutowego podcastu.

    Musk zatrzymał się na kilka sekund, opuścił oczy na podłogę i zaczął szybko przesuwać je z boku na bok, najwyraźniej bardzo ostrożnie zastanawiając się wyborem odpowiedzi.

    W końcu, powiedział: "Co się znajduje poza granicami symulacji?"

    Na poczatku wywiad z Muskiem dotyczył tego, jak zaawansowane będą bezzałogowe pojazdy przyszłości, a także tego, jak wykorzystanie sieci neuronowej, która zbiera dane z ośmiu zainstalowanych kamer i 12 czujników ultradźwiękowych w każdym pojeździe Tesla umożliwi realizację w pełni bezzałogowych pojazdów. Ostatecznie pojawiło się pytanie, w jaki sposób te czujniki neuronowe mogą służyć jako podstawa do stworzenia uniwersalnej sztucznej inteligencji na poziomie świadomości i inteligencji człowieka lub wyższym.

    "Ta technologia pojawi się bardzo szybko. Więc musimy zdecydować, co dalej robić. Oczywiście, jeśli w ogóle mamy taką możliwość", odpowiedział Musk.

    "Wyobraźmy sobie, że przenieśliśmy 10 000 lat w przyszłość, która nie jest niczym na skalę ewolucyjną. Rozwój gier wideo już teraz zbliża się do pełnego fotorealizmu, kiedy coraz trudniej jest odróżnić obrazy generowane komputerowo od rzeczywistości. Teraz wyobraź sobie, że przez wiele stuleci poziom technologii będzie tysiąc razy wyższy niż obecnie, a najbardziej realistyczne gry będzie można zagrać na miliardach konsolach, komputerach lub innych urządzeniach do gier. Mając to wszystko na uwadze, możemy bezpiecznie założyć, że jeden z tych miliardów uruchomionych gier to nasze dzisiejsze życie."

    W trakcie wywiadu Mask zauważył również, że jeśli nie ma fizycznego rozróżnienia między rzeczywistością a symulacją, jest bardzo prawdopodobne, że nie będzie możliwe zweryfikowanie, czy nasza rzeczywistość też jest symulacją.

    "Mogą być sposoby, aby sprawdzić, czy wszystko jest symulacją. Można by założyć, na przykład, że komputer, który steruje tą technologią, określi, że osoby w niej przebywające znalazły rzeczywisty sposób na sprawdzenie, czy otaczający je świat jest symulacją. Jest całkiem możliwe, że w tym przypadku zostanie uruchomiony program do korekcji błędów; symulacja może się zatrzymać, a może nawet zrestartować", powiedział Musk.

    We wczorajszym znalezisku o rozwoju AI pisałem, że niektórzy eksperci w dziedzinie sztucznej inteligencji są przekonani, że super zaawansowana sztuczna inteligencja pojawi się w ciągu najbliższych 10-20 lat.
    Być może Musk będzie miał okazję osobiście zadać systemowi pytanie, które go interesuje.

    Jeśli chcesz być na bieżąco z najlepszymi znaleziskami to zapisz się na MikroListę.
    https://mirkolisty.pvu.pl/list/56Bf7jbXdbGvM2NK i dodaj Swój nick do listy #swiatnauki.

    #swiatnauki #gruparatowaniapoziomu #liganauki #ligamozgow #psychologia #neurobiologia #sztucznainteligencja #ai
    #komputery #internet #lingwistyka #informatyka

    źródło: 6548975231.jpg

  •  

    pokaż komentarz

    Podobno pierwsze pytanie, które zadamy general AI bedzie brzmialo- "Czy Bog istnieje?" odpowiedz padnie: Teraz juz tak.

  •  

    pokaż komentarz

    A skąd AI miała by czerpać tę wiedzę?

    •  

      pokaż komentarz

      @SpokojnyLudzik: To niezłe informacje ta AI będzie miała xd

    •  

      pokaż komentarz

      A skąd AI miała by czerpać tę wiedzę?

      @LowcaG: Z matematycznego wglądu w ideały platońskie dzięki czystej logice leżącej u jej podstaw ( ͡~ ͜ʖ ͡°)

    •  

      pokaż komentarz

      To niezłe informacje ta AI będzie miała xd

      @r3solver: że naszych wszechświatem zapewne rządzą koty albo coś w ten deseń ;)

    •  

      pokaż komentarz

      @LowcaG: se będzie przeglądać wikipedie

    •  

      pokaż komentarz

      @AdireQ: ale wiesz, że u podstaw logiki leżą aksjomaty?

    •  

      pokaż komentarz

      se będzie przeglądać wikipedie

      @arczer: No ale choćbyś nie wiem jak byś przeglądał całą dostępną wiedzę, nie jesteś w stanie wydedukować co jest "po za naszym pudełkiem"

    •  

      pokaż komentarz

      @LowcaG: no chyba, że przeniesiesz się po za pudełko xD
      lol

      A skąd AI miała by czerpać tę wiedzę?
      jak będzie to zapytasz się ją ( ͡° ͜ʖ ͡°)

    •  

      pokaż komentarz

      no chyba, że przeniesiesz się po za pudełko xD
      lol


      @MicGell: No jak się przeniosę po za pudełko to nie muszę pytać ;)

      jak będzie to zapytasz się ją ( ͡° ͜ʖ ͡°)

      @MicGell: Bez pytania wiem, że nie może czerpać z po za pudełka, więc choćby posiadała całą naszą wiedzę, nie jest w stanie wydedukować jak jest naprawdę jedynie może fantazjować.(czy bardziej technicznie snuć przypuszczenia).

      Jednak nawet jak fizyka może podlegać innym prawom, świat zewnętrzny może być nawet i 10 wymiarowa i to tam będzie normalne, ba nawet pewne logiki mogą być inne. Z naszego punktu widzenia nie do odgadnięcia.

    •  

      pokaż komentarz

      @LowcaG: a może wymyślić też coś nowego - oczywiście coś też albo innego niż po za pudełkiem.

      Zrobi nowe pudełko w pudełku xD

      Albo znajdzie przejście, żeby dostać się po za pudełko lub ktoś jej pozwoli na to. Tak jak ona bedzie mogła stworzyć jakąś drogę do pudełka lub dać komuś w tym pudełku drogę do siebie.

    •  

      pokaż komentarz

      @LowcaG: wystarczy nam odpowiedź w stylu "najbardziej prawdopodobna opcja jest taka, że poza symulacją znajduje się.." w oparciu o całą wiedzę zgromadzoną przez ludzkość z zakresu biologii, chemii, fizyki, astronomii itd. Można założyć, że żaden człowiek na świecie nie ogarnia wszystkich niuansów na raz a taki superkomputer połączy fakty i znajdzie odpowiedź. Bystra trójwymiarówa mrówka biegająca po płaskiej kartce prędzej czy później też się zorientuje, że ten papierowy świat to "symulacja" i poza nim istnieje coś znacznie większego. Kolejne pytanie czy nam taka wiedza faktycznie jest potrzebna do szczęścia skoro nawet mając świadomość życia w symulacji nigdy się z niej nie uwolnimy a jak wspomniano algorytm symulacji może zawierać kod który cofnie proces i nawet tego nie zauważymy, że odpowiedź się pojawiła, zostaniemy wpuszczeni na inną ścieżkę by odwlec moment uświadomienia o x "taktów" symulacji i tak w kółko. A "wielki architekt" pewnie dawno zapomniał że odpalił naszą symulacją i bawi się czymś znacznie ambitniejszym niż stworzenia czerpiące energię ze zjadania siebie nawzajem ( ͡° ͜ʖ ͡°)

    •  

      pokaż komentarz

      @hu-nows: bede dalej trzymal sie tego. Ze nie jestesmy w stanie na podstawie naszej fizyki nawet oszacowac prawdopodobienstw.

      Oprocz w sumie jednej odpowiedzi ktora juz teraz znamy.

      pokaż spoiler Jest podobny do naszego.


      Pomysl sobie na przykladzie packmana do jakiego moglby dosjc wniosku obserwujac swoj swiat. (Od razu podpowiem ze nie jest wstsnie zajrzec w kod ktory i tak nic nie mowi o naszym swiecie)

      Co do mrowki to biala by pewne przeslanki bo jest wzieta z innego swiata a papier jest innym swiatem.

      Oczywiscie zgadzam sie z tym ze jest zsyntetyzowac cala wiedze ludzka i potrafila by odpowiedziec na wiele pytan ale akurat nie to.

      Chyba ze nasz stan wiedzy by sie zmienil bo tworcy zostawili by nam wskazowki celowo ot taki eksperyment/zabawa.

      A czy ban myla przydatna? Dobre pytanie, u mnie by nic sie nie zmienilo ale dla wielu chociaz nic z tym by nie mogli zrobic moglo by wplynac.

    •  

      pokaż komentarz

      @LowcaG: z tym pacmanem ciekawe, język programowania jest jak inne języki używane przez ludzkość a przecież badacze analizując jakieś pradawne języki sporo dowiadują się o autorach, packman analizując kod gry może wykryć, że pewne rzeczy są zbyt powtarzalne by mogły być dziełem przypadku, że jego wszechświat ma wyraźną granicę, że nie wiadomo co jest poza "if" lub "for" ale na pewno coś jest. Niedoskonałości kodu, błędy czy "heheszki" w polu komentarzy mogą packaman-badacza upewnić, że to pisała rozumna istota ale nie boska/idealna. Czy kod naszego wszechświata jest dla nas dostępny? Czy znamy jakieś "glitche" w naturze poza chorobami z dupy które byłyby dowodem, że ani to przypadek, ani celowy zamysł, racze zwykły błąd, przeoczenie lub lenistwo twórcy? Wyobraźmy sobie pacmana który podmienia rejestr rozkazów i przeskakuje ot tak o x plansz, czy człowiek mógłby takim prostym trickiem podróżować w czasie? Może AI znajdzie nasz rejestr rozkazów?

    •  

      pokaż komentarz

      @hu-nows:
      ok, packman bez umożliwienia mu tego przez twórców nie ma wglądu w kod. Może tylko interpretować i badać swoją fizykę wyciągać pewne wnioski. A jak byśmy mu pozwolili to widzi kod maszynowy a to trochę gorzej z jego punktu widzenia.

      Oczywiście masz rację co do obserwacji i powtarzalności, hm..ok, powtarzalność to też zależy jaka bo taka może być natura jego wszechświata ;)

      Prędzej błędy, to jest właśnie jeden z elementów który jest podnoszony przez naukowców, że wykrycie takiego czegoś mogło by być dowodem, no ale na razie wszystko się zgadza jak na razie.

      Samo życie (w sensie na ziemi) raczej nie da nam żadnej wskazówki, tylko ewolucja pełna ślepych zaułków.

      Prędzej fizyka na jakimś niskim poziomie. Jednak tutaj na razie nic takiego na horyzoncie z tego co wiem nie widać.

      Nikt, nawet AI bez pozwolenia (bądź dziwnego buga) z zewnątrz nie zdobędzie dostępu do takiego kodu

    •  

      pokaż komentarz

      ale wiesz, że u podstaw logiki leżą aksjomaty?

      @pan_demonium: No wiem. A czemu pytasz?

      Czy znamy jakieś "glitche" w naturze poza chorobami z dupy które byłyby dowodem, że ani to przypadek, ani celowy zamysł, racze zwykły błąd, przeoczenie lub lenistwo twórcy?

      @hu-nows: Nie doszukiwałbym się w chorobach genetycznych ewentualnego błędu programisty bo to oznaczałoby że zakładamy że owy programista projektował nasze ciała bezpośrednio. Jeżeli mówimy o symulacji całego świata włącznie z ewoluującymi populacjami organizmów żywych to choroba genetyczna nie jest błędem a etapem pośrednim w procesie wyszukującym najlepiej dostosowany genom.

  •  

    pokaż komentarz

    Gorzej jak super AI nakłamie dla swoich potrzeb.

  •  

    pokaż komentarz

    Ale jakby na to nie patrzeć, to jest to głupie pytanie. Skąd ta Super AI stworzona w naszej symulacji mogłaby wiedzieć co jest poza tą symulacją? No chyba, że zakładamy, że ta AI będzie wszechwiedząca, a symulacja, w której żyjemy, niedoskonała, czyli w jakiś sposób jednak do nas przedostaje się coś z zewnątrz symulacji.

    Odpowiedź, że inna symulacja nie jest żadną odpowiedzią, bo tego się spodziewamy. Jeśli żyjemy w symulacji, to uważanie naszej symulacji za pierwszą symulację jest po prostu... no tej samej wagi, co uważanie, że nasza planeta czy chociażby Słońce jest centrum wszechświata.
    Więc ta Super AI musiałaby dostać pytanie co jest poza granicami pierwotnej symulacji. A na to odpowiedź też już przecież znamy. Jeśli granica symulacji jest czymś, co symulację ogranicza i tylko w jej wnętrzu symulacja jest, to poza granicą symulacji znajduje się nie-symulacja.
    I to jest najpełniejsza odpowiedź, jaką możemy uzyskać, o ile nie dopuścimy możliwości, by w ciągu kolejnych symulacji, poprzedzających naszą (a nasz wcale nie musi być teraz na końcu ciągu ( ͡° ͜ʖ ͡°)), nie powstała symulacja doskonale odcinająca przepływ informacji z poprzedzającej.

    •  

      pokaż komentarz

      Skąd ta Super AI stworzona w naszej symulacji mogłaby wiedzieć co jest poza tą symulacją?

      @pan_demonium: Dokładnie. Sztuczna inteligencja tak jak każda inna inteligencja bazuje na danych empirycznych. To ludzie wymyślili sobie jakiś "magiczny wgląd w wiedze tajemną w oparciu o matematyczne czary" i teraz część osób myśli że AI będzie wyrocznią a część twierdzi że AI nie może istnieć bo komputery nie mają w sobie magii (w przeciwieństwie do ludzi).

    •  

      pokaż komentarz

      @pan_demonium: Super AI będzie mogła wychwycić błędy w symulacji, czy nienaturalne zachowania, jakieś nienaturalne zmiany czy bugi.

    •  

      pokaż komentarz

      @Richyrich no nie, to też bez sensu. Bo raz, że nawet jeśli istnieją takie, to nie oznacza to, że będzie można przez nie wyjrzeć na zewnątrz (a już całkiem, że poza pierwotną symulację), a dwa, że wszystko co się dzieje w naszej symulacji jest z naszej perspektywy naturalne. AI również będzie miała co najwyżej perspektywę uczestnika symulacji.
      Poza tym, co oznacza, że nienaturalne lub bugi? Wszystkie takie rzeczy, które w przeszłości były za takie uważane, dzisiaj wyjaśniamy naukowo. A jeśli stan naszej nauki nie jest w stanie tego wyjaśnić, to nie dlatego, że coś jest nienaturalne, a dlatego, że po prostu jeszcze nie poznaliśmy wszystkiego.