Installons un bot local similaire à ChatGPT sur un téléphone Android - avec quelques commandes, désolé pour les utilisateurs d'iPhone..
septembre 30, 2024 #Android LLMs #Generative A.I #A.IIl n’y a pas de questions stupides, tout ce que tu veux clarifier ou connecter est le bienvenu. Nous avons un accès premium et généralement un accès anticipé aux derniers modèles et chatbots. Donc, si tu veux savoir à quoi ressembleraient leurs réponses et comment ils fonctionnent, mentionne-le simplement quand tu poses ta question. Envoie un message sur Matrix ou Instagram. Tu peux rester anonyme ou utiliser un pseudonyme également !
Q : Alors, qu'est-ce que Ollama ?
R : Ollama est un wrapper / framework pour un autre framework / une bibliothèque qui est en quelque sorte devenu un framework à part entière. (Oui, je sais) Et les LLMs ne sont en fin de compte que des fichiers binaires, donc tu as besoin d'un moyen pour les lire / exécuter. ChatGPT est essentiellement l'idée de Google (papier sur les Transformers) avec le framework de Facebook (Pytorch, qui, soit dit en passant, est bien plus complet qu’Ollama. Car il permet de créer et d’entraîner des fichiers LLM, pas seulement de les utiliser). Et comme ChatGPT (ou n’importe quel LLM) est simplement une manière intelligente de transformer des valeurs textuelles en valeurs numériques et de continuer la séquence basée sur tout ce qui a été mappé jusque-là ("La phase d'entraînement" – D’ailleurs, il y a beaucoup d'ajustements, d’étiquetages et de réglages manuels humains dans la phase d'entraînement (le mapping) avant d'obtenir quelque chose comme ChatGPT, qui n’est probablement même pas un seul LLM. Ne pense donc pas qu’un système comme celui-ci imite aussi bien les réponses et interactions humaines juste par hasard). En résumé, Ollama est comme un livre, un ordinateur ou même un téléphone qui te permet de lire ta méthode intelligente pour mapper et interagir avec des nombres. Pytorch serait plutôt comme un sac à dos rempli de livres, de stylos et de crayons dans cette analogie, mais ce n'est pas parfait. Nous allons explorer de nombreux outils, alors prépare ton Nix et tes flakes si tu veux.
Q : Et qu'est-ce que Nix ?
R : Tu peux penser à Nix comme une sorte de magasin d’applications, mais qui fonctionne à un niveau bien plus bas. Nous avons un post complet à ce sujet, alors assure-toi d’y jeter un œil !