Ollama for Mac - Download

Eu estava cansado de atingir limites de taxa na API do OpenAI enquanto codificava tarde da noite, e toda vez que tentava resumir um documento longo, meu navegador travava. Foi quando encontrei o Ollama para Mac - Download para Mac. Acontece que você pode executar LLMs decentes diretamente no seu laptop, sem enviar nada para a nuvem. Fiquei cético no início - como algo gratuito poderia fazer o que as ferramentas pagas fazem? Mas depois de instalar um modelo como o llama3, digitei um prompt e recebi uma resposta em menos de um segundo. Não há espera. Sem vazamentos de dados.

As coisas boas

Executar modelos localmente é uma virada de jogo para a privacidade. Não preciso me preocupar com meu código ou notas privadas flutuando no servidor de outra pessoa. E a linha de comando é surpreendentemente simples - depois que você pega o jeito, alternar entre modelos é apenas uma linha. Executei mistral-small e depois troquei para phi3 com atrito zero. O aplicativo GUI (que eles adicionaram recentemente) ainda é básico, mas muito melhor do que CLI puro se você não gosta de trabalho de terminal. Já o conectei a um script Python que gera casos de teste automaticamente e simplesmente funciona. Sem chaves de API, sem contas. Também é de código aberto, então você pode dar uma olhada nos bastidores se estiver curioso. Para uma ferramenta gratuita, esse nível de controle parece raro.

O não tão bom

Não é perfeito. No macOS Big Sur, tive um travamento estranho ao carregar um modelo grande – nada muito sério, mas o suficiente para me fazer reiniciar o app. Além disso, a documentação não é muito amigável para iniciantes. Se você nunca usou uma CLI antes, você pode se deparar com uma parede ao tentar instalar um modelo. E sim, a GUI ainda é bastante básica. Sem histórico de bate-papo sofisticado, sem temas, nada chamativo. Você está basicamente usando um terminal com alguns botões extras. Além disso, não foi desenvolvido para multitarefas pesadas - executando vários modelos ao mesmo tempo? Não é realmente suportado. Portanto, se você estiver fazendo automação complexa ou precisar de recursos avançados, provavelmente desejará adicionar outra coisa.

Resultado final

Se você é um desenvolvedor ou hobby que deseja IA local sem pagar um centavo, vale a pena tentar Ollama para Mac - Download para Mac. Não é para todos - especialmente se você deseja uma interface polida e clicável - mas para aqueles que se preocupam com a privacidade e não se importam com um pouco de trabalho no terminal, é uma opção gratuita sólida. Experimente. Não ganhará nenhum prêmio de design, mas dá conta do recado.