appstore-1panel/apps/ollama
renovate[bot] d40f640ef2
chore(deps): update ollama/ollama docker tag to v0.3.0 (#1805)
* chore(deps): update ollama/ollama docker tag to v0.3.0

* Update app version [skip ci]

---------

Co-authored-by: renovate[bot] <29139614+renovate[bot]@users.noreply.github.com>
Co-authored-by: github-action update-app-version <githubaction@githubaction.com>
2024-07-25 15:09:49 +08:00
..
0.3.0 chore(deps): update ollama/ollama docker tag to v0.3.0 (#1805) 2024-07-25 15:09:49 +08:00
data.yml feat: 优化 AI 标签显示 2024-03-20 11:58:13 +08:00
logo.png feat: 新增 Ollama (#1089) 2024-03-14 17:27:33 +08:00
README.md feat: 优化 Ollama 等应用描述信息 2024-03-15 11:22:36 +08:00

ollama

Ollama 是一个开源的大型语言模型服务,提供了类似 OpenAI 的 API 接口和聊天界面,可以非常方便地部署最新版本的 GPT 模型并通过接口使用。支持热加载模型文件,无需重新启动即可切换不同的模型。

快速开始

进入 容器 列表,找到 Ollama 容器,点击进入终端运行并与 Llama 2 聊天:

ollama run llama2

模型库

Ollama 支持 ollama.com/library 上提供的一系列模型

以下是一些可以下载的示例模型:

Model Parameters Size Download
Llama 2 7B 3.8GB ollama run llama2
Mistral 7B 4.1GB ollama run mistral
Dolphin Phi 2.7B 1.6GB ollama run dolphin-phi
Phi-2 2.7B 1.7GB ollama run phi
Neural Chat 7B 4.1GB ollama run neural-chat
Starling 7B 4.1GB ollama run starling-lm
Code Llama 7B 3.8GB ollama run codellama
Llama 2 Uncensored 7B 3.8GB ollama run llama2-uncensored
Llama 2 13B 13B 7.3GB ollama run llama2:13b
Llama 2 70B 70B 39GB ollama run llama2:70b
Orca Mini 3B 1.9GB ollama run orca-mini
Vicuna 7B 3.8GB ollama run vicuna
LLaVA 7B 4.5GB ollama run llava
Gemma 2B 1.4GB ollama run gemma:2b
Gemma 7B 4.8GB ollama run gemma:7b

注意:您应该至少有 8 GB 可用 RAM 来运行 7B 型号16 GB 来运行 13B 型号32 GB 来运行 33B 型号。