[mirko_anonim]

#biedanonim
Jako kogoś zajmującego się AI na co dzień strasznie wkuriwa mnie ten cały sztuczny hype i rzesze pseudoeksperów, którzy obejrzeli 10 minutowy filmik o ChatGPT od "entuzjasty technologii" i już wszystko rozumieją.

Modele bazujące na tej architekturze co GPT4, czyli na Transformerach nie są stanie osiągnąć poziomu AGI i zyskać świadomości. W zasadzie to co odróżnia GPT4 od modelu który można sobie wytrenować w domu to rozmiar sieci oraz przede wszystkim liość danych na których został wytrenowany. GPT nie jest w stanie uczyć się nowych rzeczy po zakończeniu trenowania. Wiem, że jak podacie mu coś na wejście jako kontekst to będzie to pamiętał, jednak kontekst ten ma ograniczoną wielkość i po zakończeniu sesji generacyjnej jest resetowany. Nie zmienia on wag sieci (czyli takiego w pewnym sensie mózgu), a co za tym idzie sieć się nie uczy. Przykładem jest choćby to, że świetnie radzi sobie z zadaniami algorytmicznymi które zostały zamieszczone przez zakończeniem treningu. Jednak nowe zadania, które wymagają analogicznych umiejętności są dla niego nierozwiązywalne. Powód jest prosty: w danych treningowych znalazły się gotowe rozwiązania. Ten sam efekt uzyskacie wpisując treść polecenia w google.

Ponadto jako model językowy kompletnie nie rozumie o czym pisze. Podczas generacji w każdej iteracji bazując na aktualnym kontekście zwraca prawdopodobieństwa wystąpienia następnych tokenów (subwordów), a potem losuje (pewnie jest tam jakiś bardziej zaawansywany algorytm przeszukiwania, ale i tak te z najwiąkszym prawdopodobieństwem będą najczęściej wybierane). Następnie wybrany token zostaje dodany do kontekstu. Zauważyliście pewnie, że ChatGPT nigdy nie powie, że czegoś nie wie, tylko będzie zmyślał jak podczas matury z polskiego.

GPT4 to nie żaden przełom tylko po prostu brute force pod względem wielkości danych treningowych wsparty miliardami dolarów. Skoro już wytrenowali go na większości internetu, to co dalej? Moim zdaniem, by uzyskać AGI potrzebne będzie zupełnie nowe podejście do uczenia sieci. Przypominam, że parę lat temu był hype na samojeżdżące samochody i Tesle miały być autonomiczne już dawno temu. Tymczasem autopilot osiągnął swój peak i hype wygasł. Zaraz pewnie jakiś ekspert od AI, który jeszcze niedawno był specjalistą blockchaina się ze mną nie zgodzi no ale cóż.

#programista15k #programowanie #it #ai #sztucznainteligencja #chatgpt

─────────────────────

· Akcje: Odpowiedz anonimowo · Wyślij anonimową PW do autora (niebawem) · Więcej szczegółów
· Zaakceptował: Jailer
· Autor wpisu pozostał anonimowy dzięki Mirko Anonim
· Tag #biedanonim to wpisy z niską potrzebą anonimowości.

[manticore]

@mirko_anonim Praktycznie z niczym się nie zgadzam jeżeli chodzi o zarzuty.
Jeżeli chodzi o przełom, to w branży IT w której pracuję i z której mam wielu znajomych praktycznie każdy z GPT czy Binga już korzysta. Moja firma wszystkim wykupiła subskrypcję, bo bardzo to przyspiesza pracę.
Rzeczy których szukam czasami godzinę, czat GPT jest w stanie wypluć po jednym zapytaniu.
Oczywiście, czasami się myli, ale jest to przełom przynajmniej w mojej branży,

[kowalzki]

@mirko_anonim: Piszesz jak typowy szpenio od IT. Podejdz do tematu od drugiej strony: marketingowej, spolecznej itd. Tu nie chodzi o przelomowa technologie, tylko o efekt koncowy, łatwość dostepu, predkosc dzialania itd. Iphone nie byl pierwszym smartphonem, tak naprawde nie bylo w nim nic wyjatkowego jezeli chodzi o czesci skladowe. Ale calosc robila wrazenie i zmienila swiat. I tak jest z ChatGPT.

[PozdroPocwicz]

@mirko_anonim: taaaki wielki programista, pryncypałek ( ͡° ͜ʖ ͡°) dlatego pisze z #anonimowemirkowyznania

[ElMatadore]

@mirko_anonim wow, w koncu jakis sensowny post w temacie na Wykopie.

ChatGPT to fajna zabawka, ma sensowne praktyczne use case'y, ale to tyle, nie wyprze ona specjalisty. Kazde AI to po prostu model matematyczny trenowany na olbrzymim datasecie.

[slx2000]

czym różni się nasz mózg od AI?

@Mrbimbek: przede wszystkim tym, że mózg potrafi rozwiązać nowy, nieznany problem bazując na znanych rozwiązaniach, czyli kreatywnie zrobić użytek z wiedzy, którą posiada. AI potrafi rozwiązać tylko takie problemy, które były znane podczas jej treningu. Innymi słowy AI nie jest kreatywna i nigdy nie będzie. W zasadzie to taka trochę bardziej wysublimowana wyszukiwarka.

[niebieskipatyk]

@mirko_anonim na szczęście AI niedługo zastąpi takich pseudoekspertów jak ty. chłopcze poczytaj trochę zanim cos napiszesz..

[dolor]

@mirko_anonim Też mnie to denerwowało, gdy w moim środowisku wszyscy byli podnieceni, że przejmie on w końcu władze nad światem. Jednak skutecznie zgasiłem ich emocje, gdy powiedziałem, że to tak na prawdę bardziej zaawansowane podpowiedzi w autokorekcie.

[MAti_gca]

@Anoniemamowy: Popełniłeś jeden błąd, zakładasz że dokładnie wiemy jak działa nasz mózg. Mamy pewne poszlaki, ale możliwe że brakuje nam wiedzy o jakimś kluczowym mechanizmie. A tzw. "sztuczne neurony" itp. to tylko nazwy marketingowe a nie próba wzorowania się na biologii. Więc jeśli jesteś inteligenty to dobrą odpowiedzią było by "nie wiemy do końca".

[bzdr]

@mirko_anonim: nie dziwne, że z anonimowych - pewnie wstyd się przyznać, że dla pieniędzy jest się jednym z gnojów odpowiedzialnych za ten syf do masowego naruszania praw autorskich i wysysania radości z życia

[felixd]

Takie centra danych generują mnóstwo ciepła.

[bin-bash]

ten @mirko_anonim to zaden tam prycypalek tak obstawiam, klepie pewnie jakies modele w Sagemaker czy tam uzywa gotowcow typu comprehend czy rekognition od AWS i zgrywa teraz znawce :-)

[mariosek1]

Ludzie nie rozumieją że AI to poprostu zwykły chociaż bardzo rozbudowany algorytm. Nie rozumieją że podstawą tej "inteligencji" jest aż albo tylko cała wiedzą ludzkości i nic pozatym. Problem polega na tym że dla szarej masy może stać wręcz wyrocznią bo nie zrozumieją że w dalszym ciągu jakaś grupa ludzi będzie decydowała o tym jak ukierunkować AI. Jeśli stwierdzą że algorytm ma być lewacki to algorytm zrobi conw jego mocy by przekonać

[Fobiczek]

@mirko_anonim: podeslesz ten filmik o chatgpt od entuzjasty o ktorym piszesz? nie widzialem go

[podajdalej]

@mirko_anonim: ogółem dobrej poezji to ten chat nie tworzy

[SarahC]

@Lethaliity: Ale ty chłopie porównujesz rybę do człowieka i piejesz, że nie potrafi wejść na drzewo. Nie potrafi ale ona z założenia nigdy na drzewo miała nie wchodzić. Komputery już teraz przewyższają człowieka pamięcią i mocą obliczeniową. Ja już teraz sama praktycznie nie liczę robi to program czy kalkulator. Świadomości komputer jaki by nie był nigdy nie będzie mieć ale to jest po prostu sprzęt i nie musi jej mieć. Próbujesz

[spunky]

. Jednak nowe zadania, które w

@mirko_anonim: chat GPT nie ogarnia, o co go poprosisz 2 zdania wcześniej, a co dopiero jakieś uczenie xD

[aleksandra_k376]

Pewnie w GPT nie umieli zaimplementować wstecznej propagacji :D

[Shadowglory]

Ciekawe

[adam-dobrawy]

Hej wykopowicze!

Chciałbym uspokoić Wasze obawy na temat GPT, czyli systemu sztucznej generacji tekstu. Wbrew temu, co niektórzy mogą myśleć, GPT nie jest sztuczną inteligencją i nie powinien spowodować masowego bezrobocia na rynku pracy.

W praktyce GPT to tylko narzędzie, które może być używane przez ludzi do generowania tekstu. To tak jakbyśmy mieli nowoczesną maszynę do pisania, która ułatwia pisanie, ale to zawsze człowiek decyduje, co chce napisać. GPT nie jest w

[EndThis]

Przecież OP to wszystko z dupy wyciągnął XD