运行在 Kubernetes 中

对于在 Kubernetes 中安装 LocalAI，可以使用 examples 目录下的部署文件，并根据需要进行自定义：

kubectl apply -f https://raw.githubusercontent.com/mudler/LocalAI-examples/refs/heads/main/kubernetes/deployment.yaml

对于 Nvidia GPU：

kubectl apply -f https://raw.githubusercontent.com/mudler/LocalAI-examples/refs/heads/main/kubernetes/deployment-nvidia.yaml

或者，也可以使用 helm chart：

# 安装 helm 仓库
helm repo add go-skynet https://go-skynet.github.io/helm-charts/
# 更新仓库
helm repo update
# 获取配置值
helm show values go-skynet/local-ai > values.yaml

# 如果需要，编辑 values 文件
# vim values.yaml ...

# 安装 helm 图表
helm install local-ai go-skynet/local-ai -f values.yaml