Vamos instalar um bot completamente local semelhante ao ChatGPT em um telefone Android - com alguns comandos, desculpe pessoal do iPhone..
setembro 30, 2024 #Android LLMs #Generative A.I #A.INão existem perguntas estúpidas, qualquer coisa que você queira esclarecer ou conectar é bem-vinda. Temos acesso premium e geralmente acesso antecipado a todos os últimos e melhores modelos e chatbots, então, se quiser saber como seriam as respostas deles e como eles performam, é só mencionar isso quando fizer a pergunta. Mande uma mensagem no Matrix ou no Instagram. Você pode permanecer anônimo ou apenas usar algum apelido também!
P: O que é Ollama?
R: Ollama é um wrapper / framework para outro framework / biblioteca que meio que virou seu próprio framework. (Sim, eu sei) E LLMs são apenas arquivos binários no fim do dia, então você precisa de uma maneira de lê-los / executá-los. O ChatGPT é essencialmente a ideia do Google (artigo sobre Transformers) com o framework do Facebook (Pytorch, que, aliás, é muito mais completo que Ollama, pois permite o treinamento / criação de arquivos LLM, não apenas seu uso). E como o ChatGPT (ou qualquer LLM) é apenas uma maneira inteligente de mapear valores de texto para valores numéricos e continuar a sequência com base em tudo o que você mapeou até aquele ponto ("A fase de treinamento" – E, a propósito, há muito ajuste humano, rotulagem e refinamento que acontece durante a fase de treinamento (o mapeamento) antes de se obter algo como o ChatGPT, que provavelmente nem é um único LLM). Só para você não achar que algo assim imita respostas e interações humanas tão bem de forma aleatória. Em resumo, Ollama é como um livro, um computador ou até mesmo um telefone que permite que você leia sua maneira inteligente de mapear e interagir com números. O Pytorch seria mais como uma mochila cheia de livros, canetas e lápis nessa analogia, mas está longe de ser perfeito. Vamos explorar muitas ferramentas, então prepare seu Nix com flakes se quiser.
P: O que é Nix?
R: Você pode pensar no Nix como algo semelhante a uma loja de aplicativos, só que funcionando em um nível muito mais baixo. Temos um post completo sobre isso, então confira!