Zainstalujmy w pełni lokalnego bota podobnego do ChatGPT na telefonie z Androidem - za pomocą kilku poleceń, przepraszamy użytkownicy iPhone.. >>> Q&A
września 30, 2024 #Android LLMs #Generative A.I #A.INie ma głupich pytań, wszystko, co chcesz wyjaśnić lub połączyć, jest mile widziane. Mamy dostęp premium i zazwyczaj wcześniejszy dostęp do wszystkich najnowszych i najlepszych modeli oraz chatbotów, więc jeśli chcesz wiedzieć, jak mogą wyglądać ich odpowiedzi i jak działają, wspomnij o tym, kiedy zadajesz pytanie. Wyślij wiadomość na Matrix lub Instagram. Możesz pozostać anonimowy lub po prostu użyć jakiegoś pseudonimu!
P: Czym jest więc Ollama?
O: Ollama to wrapper / framework dla innego frameworka / biblioteki, który z czasem sam stał się frameworkiem. (Tak, wiem) A LLM-y to w zasadzie pliki binarne, więc potrzebujesz sposobu na ich odczytywanie / uruchamianie. ChatGPT to zasadniczo pomysł Google'a (Transformers paper) z frameworkiem Facebooka (Pytorch, który jest, swoją drogą, znacznie bardziej rozbudowany niż Ollama. Ponieważ pozwala nie tylko na używanie LLM-ów, ale także na ich trenowanie / tworzenie). A ponieważ ChatGPT (lub dowolny LLM) to tylko sprytna metoda zamiany wartości tekstowych na liczby i kontynuowania sekwencji na podstawie wszystkiego, co zostało wcześniej zamapowane ("Faza treningowa" – tak przy okazji, w tę fazę (mapowanie) wchodzi mnóstwo ludzkich poprawek, oznaczania i dostrajania, zanim powstanie coś takiego jak ChatGPT, który prawdopodobnie nie jest nawet pojedynczym LLM-em). Nie myśl więc, że coś takiego doskonale naśladuje ludzkie odpowiedzi i interakcje przez przypadek. W skrócie, Ollama to jak książka, komputer czy nawet telefon, który pozwala ci w inteligentny sposób mapować i pracować z liczbami. Pytorch w tej analogii byłby bardziej jak plecak z książkami, długopisami i ołówkami, ale to dalekie od doskonałości. Będziemy przechodzić przez wiele narzędzi, więc przygotuj swoje Nix i flakes, jeśli chcesz.
P: Czym jest Nix?
O: Możesz myśleć o Nix jak o czymś w rodzaju sklepu z aplikacjami, ale działającym na znacznie niższym poziomie. Mamy cały post na ten temat, więc koniecznie sprawdź!