ollama
工具
1- 使用中
Ollama
在自己的機器上跑本地大型語言模型,搭配 Open WebUI 當介面。
腳本
1- container
Ollama + Open WebUI
用 Docker Compose 跑本地大型語言模型。預設走 NVIDIA GPU 加速,另附 CPU-only override。
在自己的機器上跑本地大型語言模型,搭配 Open WebUI 當介面。
用 Docker Compose 跑本地大型語言模型。預設走 NVIDIA GPU 加速,另附 CPU-only override。