AI LLM на Kubernetes | GitOps LM-Controller |
Легендарна компанія Weaveworks оголосила про припинення своєї комерційної діяльності. Проте OpenSource живий - проект Flux підтримується і розвивається. Ми розглянемо на практиці, як розгорнути AI LLM чат-бота зі штучним інтелектом на Kubernetes за допомогою GitOps LM-Controller.
Посилання:
https://github.com/weave-ai/lm-contro...
https://github.com/weave-ai/weave-ai
Матеріали:
https://fwdays.com/event/devops-fwday... - промо 15% - CCD4090099
00:00 Хвилина вайбу
01:10 WeaveWorks shut down
03:45 AI LM-Controller
04:40 Налаштування CodeSpaces
05:17 Встановлення CLI Weave AI
05:37 Розгортаємо кластер Kubernetes
06:21 Піднімаємо Flux стек
07:00 weave-ai install компоненти
08:24 Запускаємо LLM та AI Chatbot
09:05 Інтерфейс AI Chatbot
09:22 Hello World
09:49 CRD Languagemodels
10:47 Підсумки: LLM та SRE