Lass uns einen komplett lokalen ChatGPT-ähnlichen Bot auf einem Android-Handy installieren - mit ein paar Befehlen, sorry iPhone-Leute.. >>> Q&A
September 30, 2024 #Android LLMs #Generative A.I #A.IEs gibt keine dummen Fragen, alles, was du klären oder verbinden möchtest, ist willkommen. Wir haben Premium-Zugang und in der Regel frühen Zugang zu den neuesten und besten Modellen und Chatbots. Wenn du also wissen möchtest, wie deren Antworten aussehen oder wie sie performen, dann erwähne das einfach, wenn du deine Frage stellst. Schick uns eine Nachricht auf Matrix oder Instagram. Du kannst anonym bleiben oder einfach irgendeinen Spitznamen verwenden!
F: Was ist also Ollama?
A: Ollama ist ein Wrapper / Framework für ein anderes Framework / eine andere Bibliothek, das irgendwie sein eigenes Framework geworden ist. (Ja, ich weiß) Und LLMs sind letztendlich nur Binärdateien, also braucht man eine Möglichkeit, sie zu lesen / auszuführen. ChatGPT ist im Wesentlichen Googles Idee (Transformers-Papier) mit Facebooks Framework (Pytorch, das übrigens viel vollständiger ist als Ollama. Denn es erlaubt das Training / Erstellen von LLM-Dateien, nicht nur deren Nutzung). Und da ChatGPT (oder jedes LLM) nur eine clevere Methode ist, Textwerte in numerische Werte zu überführen und die Sequenz basierend auf allem, was du bis dahin erfasst hast, fortzusetzen ("Die Trainingsphase" - Übrigens, es gibt viel menschliches Feintuning, Labeling und Anpassungen, die in die Trainingsphase (das Mapping) einfließen, bevor man etwas wie ChatGPT erhält, das wahrscheinlich nicht einmal ein einzelnes LLM ist. Nur damit du nicht denkst, dass so etwas menschliche Antworten und Interaktionen so gut nachahmt, es entwickelt sich einfach zufällig. Kurz gesagt, Ollama ist wie ein Buch, ein Computer oder sogar ein Telefon, das dir ermöglicht, auf clevere Weise mit Zahlen zu interagieren. Pytorch wäre in dieser Analogie eher wie ein Rucksack mit Büchern, Stiften und Bleistiften, aber es ist weit davon entfernt, perfekt zu sein. Wir werden viele Werkzeuge durchgehen, also mach dich bereit mit deinem Nix und Flakes, wenn du willst.
F: Was ist also Nix?
A: Man kann sich Nix wie einen App-Store vorstellen, der nur auf einer viel tiefer liegenden Ebene funktioniert. Wir haben einen ganzen Beitrag darüber, also schau dir das unbedingt an!