[aptitude]

Chcecie mieć darmowy premium ChatGPT i nawet bez dostępu do internetu?
Żaden problem! (Polecam mocną kartę graficzną)

oLlama

W sumie spoko jest, na razie działa tylko na macOS i strasznie mi grzeje macbooka ale działa.
Ale uważajcie, model 7b waży około 4GB i jest dość głupi, jak można zaobserwować na moim screenshot, ale 70b waży już już 39GB i jest dużo mądrzejszy, ale wygenerowanie jednego zdania na naszym zwykłym macbooku może potrwać z 10 minut.

#apple #mac #macbook #macos #ai #ciekawostki #meta #facebook #llama2 #chatgpt

[midalohn]

@aptitude przetestuje, dzieki

[aptitude]

@midalohn: W sumie masz kilka modeli jak coś, jak chcesz tylo do chatu, masz llama-chat, a jak chcesz do pomocy w pisaniu kodu to masz llama-code: https://ollama.ai/library

[maryce]

@aptitude: o fajnie, też protestuje. Narazie pobrałem ten pierwszy domyślny i na pytanie o dzisiejszą datę po polsku odpowiada że "dnia dwudziestego drugiego lutego", dobrze to nie wróży ????
Zobaczymy jak będzie generować kod jak się tylko skończy pobierać model.

[aptitude]

@maryce: Musisz pamiętać, że te modele zostały wytrenowane na danym dniu, ale pokaż mi kilka screenshotów z modelu codellama i napisz jaki model pobrałeś i jak szybko Ci generuje np, kod do React.

Bo ciekawy jestem jak Ci odpowie :3

U mnie 7b nawet jak chce aby coś powiedział coś po polsku, to zawsze uczy mnie polskiego o_O

Jaki model pobierasz?

[maryce]

Nie wiem na ile odpowiedź jest sensowna, ale na każdy prompt zaczyna się generowanie tekstu w ciagu kilku (typowo 1-3) sekund:

[aptitude]

@maryce: WOW, z jakiego masz roku macbooka?

U mnie nie patrowi wygenerować"K u . r w .w a MAĆ! POWIEDŹ COŚ PO POLSKU! JA POLAK, TY POLAK, Powiedź, że mnie kochasz po polsku!"

Spróbuj u siebie.

[aptitude]

@maryce: Ale jak widać wszystko do form jako submit dodaje, tak samo jak github copilot, ja wole jednak onClick i funkcje. Dwie formy są poprawne, ale z form musisz pobierać dane z form, a z input tylko event.

Nawet jak mam kilkanaście inputów wole po ID jechać niż korzystać z form, ale każdy może inaczej programować.

[maryce]

MBP M1 Pro, 32G. Być może robotę robią specjalne rdzenie w tym procku do AI.
Narazie pobrane mam 3 modele, tutaj masz odpowiedź każdego z nich.

[aptitude]

@maryce: Lol, dosłownie to samo Ci odpowiada co mi o_O
a możesz pobrać jak możesz model "70b-text", bo pobrałeś 7b jak widzę i co ciekawe, odpowiada tak samo jak u mnie.

[aptitude]

@maryce: Jedynie mam MBP Intel, bez M1, czyli jeszcze z procesorem Intel. M1 to już ARM.

Dlatego możecie szybciej obliczać.

[aptitude]

@maryce: Heh :D

7b w torii zna polski ale nie mówi po polsku XD

Szczerze? Już lepiej kupić ChatGPT premium XD Bo już mi się nie chce xD
I tak każdy bez internetu nie przeżyje. więc jest okay.

A mało osób jest jak ja, którzy wolą hostować coś na swoim dysku jak ja.

[perfumowyswir]

@aptitude: czyli to jest model GPT 4? Wiesz może czemu tak długo generuje odpowiedź, z czasem odpowie szybciej?