O que mais me chamou atenção no Ollama é o fato de que ele permite treinar um modelo de IA diretamente no meu computador, sem necessidade de conexão com a internet. Isso torna o uso da IA muito mais seguro, pois você mantém total privacidade sobre seus códigos e pesquisas, sem precisar compartilhar esses dados com nenhuma empresa.

Um pouco de contexto sobre o que é o Ollama...

Ollama

Ollama funciona como uma plataforma que facilita a interação com modelos de linguagem avançados. Essa ferramenta permite que desenvolvedores façam ajustes finos, testem e implantem modelos de IA diretamente em seus projetos, sem a necessidade de conhecimento profundo em machine learning.

Como usar o Ollama?

Para começar a usar, acesse o site ollama.com e baixe a versão para o sistema operacional de sua preferência. Em seguida, vá para a seção de Models e escolha o modelo que deseja usar. É importante observar o tamanho do modelo selecionado, pois modelos maiores tendem a oferecer respostas mais precisas, mas ocupam mais espaço de armazenamento.
Exemplo: O modelo de 1b equivale a 1,3 GB no seu computador.

Voltando ao tutorial 🤖
Após o download, execute o seguinte comando para iniciar o Ollama:

ollama run llama3.2

Quando a instalação estiver concluída, você já pode começar a usar o Ollama. Embora ele funcione em um terminal, é possível deixá-lo com uma interface mais amigável, semelhante à do próprio GPT, utilizando o projeto Open WebUI. Siga os passos abaixo:

Para sair do Ollama, use o comando:
/bye

Para iniciar a interface com o Ollama, execute o seguinte comando no terminal:

docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Este comando cria um contêiner Docker que executa a interface gráfica diretamente no seu computador. Assim, sempre que reiniciar a máquina, o contêiner será iniciado automaticamente.

Agora é só treinar sua IA do jeito que desejar, de maneira segura e sem compartilhar seus dados com nenhuma empresa.

🔗 Ollama:
https://ollama.com/

🔗 Open Web UI:
https://docs.openwebui.com/

🔗 Github Open Web UI:
https://github.com/open-webui/open-webui