Chat GPT Rodando no Docker - De Graça
Todo mundo que me conhece já sabe que eu atualmente rodo tudo que posso no Docker, então a bola da vez foi Inteligência Artificial. rsrs..
O uso de IA está cada vez mais popular, mas você sabia que é possível rodar uma IA na sua infra local e sem custo?
Atenção! Dependendo do caso de uso, vai compensar mais você pagar uma API, então cada caso é um caso.
Existem empresas que proibem o uso do chat GPT, pela preocupação do vazamento de dados, mas existe uma solução capaz de rodar na sua infra e mesmo sem conexão com a internet processar e devolver uma resposta "inteligente".
Nesse vídeo eu mostro 2 casos de uso interessantes:
1 - Criação de um modelo próprio que vai responder com base nos parâmetros fornecidos por mim. Ex: Disse que meu nome é Wallace, sou Data Engineer e moro em Portugal. Quando faço a pergunta para este modelo, ele usa os parâmetros fornecidos para processar a resposta. Essa solução pode ser interessante para executar um chatbot.
2 - Gerador de documentação automática em Markdown.
Conteúdo Abordado no vídeo:
Contextualizando sobre as ferramentas
Como instalar as ferramentas
Validando funcionamento do Chat GPT local
Criando um modelo próprio
Gerando documentação automática de códigos Python
Propostas comerciais:
www.fwx-consulting.com
[email protected]
Conheça nossos workshops de Docker e Git:
https://do-zero-to-know-what.mailchim...
Meu Linkedin:
/ wallace-camargo-35b615171
Repositório do Projeto:
https://github.com/wlcamargo/ia_local...
Referências:
https://hub.docker.com/r/ollama/ollama
https://docs.openwebui.com/
https://ollama.com/library
#llama3 #ia #ai #docker #python #produtividade