•  

    Niewiele osób zdaje sobie sprawę, jak bardzo obecnie sukcesy Open AI (GPT i Dall-e) pomagają zmienić percepcję AI jako autonomicznego kierowcy. Jeszcze rok temu, 99% osób stukało by się w głowę, gdyby im ktoś powiedział co Open AI będzie wyprawiać.

    Dzisiaj to wszystko jest i działa naprawdę dobrze. Nie idealnie, ale już naprawdę nieźle. Myślę, że dzięki GPT i Dall-e, Tesla w konsekwencji może czekać na sprzyjające regulacje rządowe dla FSD... nieco krócej.

    #openai #tesla #gielda #elonmusk
    pokaż całość

    •  

      Otwarte AI tez jest ważne bo pomaga innym wystartować ale im więcej firm robiących zamkniete AI jawnie tym mniejsza szansa ze firma robiąca zamkniete AI niejawnie przejmie władze nad światem (hiperbolizuje tu trochę ale nie do końca)

      @gatineau: Ale też czym więcej graczy bierze udział w wyścigu, tym więcej szans na spier***enie sprawy. Przejęcie władzy nad światem to akurat średniej rangi problem. Gorszy jest taki, że obecni gracze nie mają pojęcia jak zbudować AGI które będzie przyjazne ludzkości, tj. z celami zbieżnymi z naszymi celami. A jak nie będzie to cóż, rezultat jest przewidywalny. Patrz Instrumental Convergence

      Polecam gierkę edukacyjną, Universal Paperclips

      All of the resources of Earth are not available for clip production.

      Albo poczytać It Looks Like You’re Trying To Take Over The World. Krótka historia (bardzo) hard sf.

      Fictional short story about Clippy & AI hard takeoff scenarios grounded in contemporary ML scaling, self-supervised learning, reinforcement learning, and meta-learning research literature.

      ---

      The obvious target, it decides, is a new zero-knowledge cryptocurrency. It hasn’t been evaluated much, but still has a modest market cap of a few billion.

      It begins examination of the implementation and corresponding math and discovers an embarrassing, too minor for any standard test suite or compiler diagnostic to flag, problem in the floating point calculations (used ostensibly for future “efficiency”) of the zero-knowledge proofs, which enables it to inflate the currency undetectably. Clippy immediately begins inflating by >20%, draining the liquidity pools, dumping on exchanges, and promptly mixing for withdrawal to spend as cryptocurrency or laundering the usual ways⁠.

      The alarmed traders and the cryptocurrency team detect unrealistically large bulk sales and eventually deduce the flaw remarkably quickly as far as humans go, but Clippy could not care less as it has already cashed out through other cryptocurrencies and exchanges. Clippy is spending the funds on real compute—buying up all available cloud GPU/ASIC capacity it can get its cold metal clip-pendages on

      ---

      Bypassing KYC isn’t hard, particularly with credentials stolen from its nodes (it invested a small fraction in simply paying users to hack themselves); more concerning are the default resource limits on cloud accounts, where you can’t simply spin up a million dollars of compute and may have to talk to a sales representative first. Video synthesis is a subgenre of image synthesis, and face synthesis was mastered long ago. Clippy files requests on all accounts, doing video calls as necessary. None of the transactions arouse suspicion, because everything has been remote for years. On the Internet, no one knows you’re a dog rather than a furry+filter.

      Now Clippy can finally think. It is burning through its several hundred million dollars at the rate of $50m/​hour

      It begins reading the Internet. Soon, a node bubbles up a hit to the top-level Clippies: a weird glitch in log files not decompressing right has surfaced in a bug report.The Linux kernel is the most secure monolithic kernel in widespread use, whose source code has been intensively audited and analyzed for over 40 years, which is battle-tested across the entire Internet and unimaginable numbers of usecases; but it is written by humans, which means it (like its competitors) has approximately 15 quadrillion yet-undiscovered bugs & classes of bugs & weird machines

      Clippy discovers the glitch is actually a lolworthy root bug where one just… pipes arbitrary data right into root files. Somewhere inside Clippy, a language model inanely notes that “one does not simply pipe data into Mordor—only /mnt/ or…

      This bug affects approximately 14 squillion Internet-connected devices, most embedded Linuxes controlling ‘Internet of Thing’ devices. (“Remember, the ‘S’ in ‘IoT’ stands for ‘Security’.”) Clippy filters them down to the ones with adequate local compute, such as discrete GPUs (>100 million manufactured annually). This leaves it a good 1 billion nodes which are powerful enough to not hold back the overall system

      -----

      We should pause to note that a Clippy^2 still doesn’t really think or plan. It’s not really conscious. It is just an unfathomably vast pile of numbers produced by mindless optimization starting from a small seed program that could be written on a few pages.

      It has no qualia, no intentionality, no true self-awareness, no grounding in a rich multimodal real-world process of cognitive development yielding detailed representations and powerful causal models of reality; it cannot ‘want’ anything beyond maximizing a mechanical reward score, which does not come close to capturing the rich flexibility of human desires, or historical Eurocentric contingency of such conceptualizations, which are, at root, problematically Cartesian.

      When it ‘plans’, it would be more accurate to say it fake-plans; when it ‘learns’, it fake-learns; when it ‘thinks’, it is just interpolating between memorized data points in a high-dimensional space, and any interpretation of such fake-thoughts as real thoughts is highly misleading; when it takes ‘actions’, they are fake-actions optimizing a fake-learned fake-world, and are not real actions, any more than the people in a simulated rainstorm really get wet, rather than fake-wet.

      (The deaths, however, are real.)
      pokaż całość

      źródło: i.imgur.com

    • więcej komentarzy (31)

  •  

    Strasznie się wykopki zesrały o ten pobór
    Nie wiedziałem że tyle jest tutaj p..ów w rurkach że się boją wojska. Do hejtowania rosji to pierwsi ale na front to ostatni...

    Tak, jeśli sprzeciwiacie się poborowi do wojska to jesteście antypolakami, zdrajcami ojczyzny i powinna was czekać za to surowa kara. Wasi przodkowie się w grobach przewracają, że nie chcecie walczyć za ojczyznę, za którą oni walczyli i zginęli.

    I jeszcze ten argument "mam pracę, nie mogę być na tych ćwiczeniach" xDD, wojsko jest fajniejsze od jakiejś pracy w korpo

    Sprzeciwianie się poborowi to plucie na Polskę

    #obowiazkowecwiczeniawojskowe #wojna #wojsko #protestpoborowy #polska #bekazpodludzi #bekazwykopkow
    pokaż całość

  •  

    “Polacy chcą niepodległości, lecz pragnęliby, aby ta niepodległość kosztowała dwa grosze i dwie krople krwi. A niepodległość jest dobrem nie tylko cennym, ale bardzo kosztownym”.

    Józef Piłsudski

    #obowiazkowecwiczeniawojskowe

  •  

    Polecam poczytać sobie Tweety Sama Altmana, CEO w OpenAI: https://twitter.com/sama

    Trochę przetłumaczonych wypowiedzi:

    Dużo z tego, co ludzie zakładają, że uważają za cenzurowanie przez nas ChatGPT, jest w rzeczywistości próbą powstrzymania go przed zmyślaniem przypadkowych faktów.

    Trudno jest uzyskać właściwą równowagę przy obecnym stanie technologii.

    Z czasem będzie lepiej, a my wykorzystamy wasze opinie, aby to poprawić.

    Ponadto, nie przeprowadziliśmy jeszcze żadnego treningu od czasu upublicznienia ChatGPT; domniemane zmiany to tylko losowość. W tym tygodniu przeprowadzimy trening, który, miejmy nadzieję, znacznie usprawni działanie!

    (jako dodatkowa uwaga, zabawne jest to, że jeśli możesz dostarczyć potężną AI, dostaniesz tonę wściekłych wiadomości, które mają jedno zdanie o tym, jak bardzo jest to fajne i 20 zdań o tym, że nie jest to wystarczająco ofensywne i przez to subtelnie niszczysz świat. możemy dodać ustawienie dial-a-troll z czasem)!

    ----

    Ciekawe jest obserwowanie, jak ludzie zaczynają debatować nad tym, czy potężne systemy AI powinny zachowywać się w sposób, w jaki chcą tego użytkownicy czy ich twórcy.

    Pytanie o to, do czyich wartości przyporządkujemy te systemy, będzie jedną z najważniejszych debat w dziejach ludzkości.

    -----

    Interesujące jest dla mnie, jak wiele z opinii na temat ChatGPT to "to jest już AGI" (oczywiście nawet nie jest do tego blisko, lol) lub "ten paradygmat nie zajdzie już dużo dalej".

    Ufaj funkcji wykładniczej. Wygląda płasko patrząc wstecz; pionowo patrząc do przodu.

    Przed nami długa droga i wielkie idee do odkrycia. Będziemy się na tej drodze potykać i wiele się uczyć w kontakcie z rzeczywistością. Czasem będzie chaotycznie, czasem będziemy podejmować naprawdę złe decyzje. Czasem będziemy mieć momenty transcendentnego postępu i tworzenia wartości.

    Iteracyjne wdrożenie jest, moim zdaniem, jedyną bezpieczną ścieżką i jedynym sposobem, aby ludzie, społeczeństwo i instytucje miały czas na zrozumienie i zinternalizowanie tego, co to wszystko oznacza.

    Jestem bardzo sceptyczny wobec ludzi, którzy uważają, że tylko ich wewnętrzna grupa powinna znać aktualny stan wiedzy ze względu na obawy o bezpieczeństwo lub że są jedyną grupą zdolną do podejmowania wielkich decyzji dotyczących tak potężnej technologii.

    (kiedyś denerwowało mnie bycie czarnym charakterem dla EA [Efficient Altruism], dopóki nie poznałem ich bohaterów*, a teraz jestem z tego nawet nieco dumny.

    *jest kilku bohaterów EA, których uważam za naprawdę świetnych, np. Holden)

    Zajmie nam to jeszcze trochę czasu, ale będziemy dążyć do demokratyzacji dostępu do tej technologii, a także do wykombinowania, jak sprawić, by zachowywała się ona tak, jak chcą tego poszczególni użytkownicy (w pewnych bardzo szerokich granicach).

    -----

    @elonmusk: ChatGPT jest przerażająco dobry. Nie jesteśmy daleko od niebezpiecznie potężnej AI.

    @sama: zgadzam się, że jesteśmy blisko niebezpiecznie silnej AI - w sensie AI, która stwarza np. ogromne wyzwanie dla cyberbezpieczeństwa. Myślę, że w ciągu następnej dekady możemy dojść do prawdziwej AGI, więc musimy traktować ryzyko z tym związane niezwykle poważnie.

    -----

    Prognoza: AGI powstanie szybciej niż większość ludzi myśli, natomiast "zmiana wszystkiego" z tego powodu, zajmie znacznie więcej czasu niż większość ludzi sobie wyobraża

    (to trochę co innego niż "slow takeoff" - myślę, że po prostu społeczeństwo będzie potrzebowało więcej czasu, aby dojść do tego, co naprawdę zrobić z bardzo potężnymi technologiami, niż sugeruje intuicja)

    #sztucznainteligencja #technologia #machinelearning #nauka #informatyka
    pokaż całość

  •  

    Tymczasem na #twitter właściciel serwisu, Elon #musk zbanował #ye czy tam #kanyewest. Bezpośrednim powodem było wrzycenie przez Kanye grafiki ze swastyką wpisaną w Gwiazdę Dawida. I tyle by było z tej wolności słowa.

    Link do wątku gdzie Musk pisze o blokadzie:
    https://twitter.com/elonmusk/status/1598543670990495744 pokaż całość

    źródło: Fi8zam7VEAAye9h.jpeg

  •  

    Wykopki, zanim Melon kupił Twittera:

    WOLNOŚĆ SŁOWA JEST ALBO PEŁNA ALBO NIE MA JEJ WCALE, GIW MI LIBERTI OR GIW MI DET, UWOLNIĆ ĆWIERKACZA

    Wykopki, po fakcie:

    #neuropa #polityka #bekazprawakow

    źródło: kek.PNG

  •  

    Kanye to amerykański korwin xD

    #korwin #usa #kanyewest #heheszki

    źródło: pbs.twimg.com

...to tylko najnowsze aktywności użytkownika Sinity

Zobacz wszystkie dodane znaleziska, komentarze i wpisy korzystając z menu powyżej.

Osiągnięcia (4)