[AI开源]ollama - 本地运行各种 LLM
yuyutoo 2024-12-15 17:42 1 浏览 0 评论
关于 ollama
用 Go 语言写的工具，用于在本地一条命令安装、启动和管理大型语言模型，支持 Llama 3、Gemma、Mistral 等大模型，适用于 Windows、macOS、Linux 操作系统。
主要特性
- 多模型支持：
Model | Parameters | Size | Download |
Llama 3 | 8B | 4.7GB | ollama run llama3 |
Llama 3 | 70B | 40GB | ollama run llama3:70b |
Phi 3 Mini | 3.8B | 2.3GB | ollama run phi3 |
Phi 3 Medium | 14B | 7.9GB | ollama run phi3:medium |
Gemma 2 | 9B | 5.5GB | ollama run gemma2 |
Gemma 2 | 27B | 16GB | ollama run gemma2:27b |
Mistral | 7B | 4.1GB | ollama run mistral |
Moondream 2 | 1.4B | 829MB | ollama run moondream |
Neural Chat | 7B | 4.1GB | ollama run neural-chat |
Starling | 7B | 4.1GB | ollama run starling-lm |
Code Llama | 7B | 3.8GB | ollama run codellama |
Llama 2 Uncensored | 7B | 3.8GB | ollama run llama2-uncensored |
LLaVA | 7B | 4.5GB | ollama run llava |
Solar | 10.7B | 6.1GB | ollama run solar |
Note: You should have at least 8 GB of RAM available to run the 7B models, 16 GB to run the 13B models, and 32 GB to run the 33B models.
- 操作系统兼容：适用于 Windows、macOS、Linux 操作系统。
开源项目
- 源码地址：https://github.com/ollama/ollama
- Stars：80.2k
- Forks：6.1k
- 主力语言：Golang
- 官网：https://ollama.fan/
- 许可： MIT license
开始使用
macOS
下载地址：https://ollama.com/download/Ollama-darwin.zip
Windows preview
下载地址：https://ollama.com/download/OllamaSetup.exe
Linux
curl -fsSL https://ollama.com/install.sh | sh手动安装指南：https://github.com/ollama/ollama/blob/main/docs/linux.md
Docker
官方镜像：https://hub.docker.com/r/ollama/ollama
Libraries
Python: https://github.com/ollama/ollama-python
Javascript：https://github.com/ollama/ollama-js
运行
llama3 为例：
ollama run llama3相关推荐
- 上位机程序如何保存配置信息
-
上位机程序通常都会需要保存一些用户的配置信息。比如目标PLC的IP地址、变量信息等。这些信息需要上位机程序在运行时将其保存。保存用户配置信息的方法有很多，比如设置文件、INI文件、XML文件和本地数据...
- #X5效果器回声调试教程
-
大家好，今天教大家调回声按键。·按一下是回声相位和回声效果音量。·按一下下键，下面是回声直达声相位和音量。直达声只直接体现话筒的声音和回声效果，根据现场环境边调边试合适就好。·按第二下显示回声预延迟，...
- 对象存储、文件存储和块存储
-
对象存储定义：以对象为单位来处理、存储和检索数据，每个对象包含数据本身、元数据以及一个全局唯一的标识符，通过API调用进行数据读写，通常基于HTTP或HTTPS协议。优点：...
- SINAMICS S200 常见问题(调试篇)
-
01概述...
- SQLSERVER:存储过程和函数
-
在SQLServer中，存储过程和函数是数据库编程的基础。它们允许开发者编写SQL脚本来执行复杂的操作，同时提供了代码重用和逻辑封装的能力。下面将通过一些实例来详细介绍存储过程和函数的使用。...
- PVE8.0连接并使用windows server 2019上的IPSAN存储
-
本文将演示如何在Windowsserver2019服务器中部署IP-SAN存储并在PVE8.0中正确连接IPSAN存储。如果这篇文章能为大家带来帮助，希望大家能慷慨点赞，并持续关注我的账号，未来我...
- 【Oracle】Package 存储过程编写以及其他实用技术
-
这篇文章是之前自己在公司的一篇技术分享，搬过来就不提供脚本了!...
- 数据库|数据库存储过程相关学习
-
哈喽，你好啊，我是雷工！前面学习记录了数据库中视图的相关内容...
- 轻松达成4K160帧，威联通NAS补帧教程丨调用第三方开启超分和补帧
-
前言大家好，我是加勒比考斯。...
- 群晖NAS(一)存储管理介绍
-
第1章前言加更一期SMARTX备份。近期群晖厂商那边借了一台群晖3621xs+的NAS存储测试，想着SMARTX里面带备份功能，然后做下实验，怎么把SMARTX备份到群晖存储上。以下此架构图其中19...
- mysql存储过程入门及基本用法总结
-
现在学习存储过程，有一种四九年入国军的感觉，之前看公司计费相关的业务上还在用，所以还是抽时间简单学习了一下，这里记录一下。说到存储过程，它的意义自不必提，各大老牌数据库都支持，而且经常以此来挤兑一些还...
- 存储过程与函数
-
存储过程与函数MySQL从5.0版本开始支持存储过程和函数。存储过程和函数能够将复杂的SQL逻辑封装在一起，应用程序无须关注存储过程和函数内部复杂的SQL逻辑，而只需要简单地调用存储过程和函数即可。...
- 【测试】JMeter调用存储过程
-
JMeter是可以直接调用SQL语句或者存储过程来完成测试的，这次就给大家讲一下如何通过调用MySQL存储过程完成测试。首先我们先创建一个数据库连接池的配置信息：如上图所示，已填写的参数描述如下：Na...
- ADO.NET调用带输入输出的存储过程
-
在ADO.NET中调用带输入和输出参数的存储过程，通常使用SqlCommand对象来执行存储过程，并通过其Parameters集合来设置和获取参数值。以下是一个示例，展示了如何调用一个带输入和输出参数...
- JAVA大厂面试题——String、StringBuffer 和 StringBuilder
-
一、类型String是只读字符串，它不是基本数据类型，是一个对象，是一个final类型的字符数组，所引用的字符串不能被改变，定义后，无法在增删改，而StringBuffffer和StringBuil...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- mybatis plus (70)
- scheduledtask (71)
- css滚动条 (60)
- java学生成绩管理系统 (59)
- 结构体数组 (69)
- databasemetadata (64)
- javastatic (68)
- jsp实用教程 (53)
- fontawesome (57)
- widget开发 (57)
- vb net教程 (62)
- hibernate 教程 (63)
- case语句 (57)
- svn连接 (74)
- directoryindex (69)
- session timeout (58)
- textbox换行 (67)
- extension_dir (64)
- linearlayout (58)
- vba高级教程 (75)
- iframe用法 (58)
- sqlparameter (59)
- trim函数 (59)
- flex布局 (63)
- contextloaderlistener (56)