打开APP
userphoto
未登录

开通VIP,畅享免费电子书等14项超值服

开通VIP
用ollama的免费API零代码开发第一个AI应用
userphoto

2024.05.22 广东

关注

首先安装ollama软件,

然后打开cmd或者powershell命令提示符,然后输入:

ollama run llamafamily/llama3-chinese-8b-instruct

这就在本地电脑安装了一个llama3大模型的中文版,然后就可以调用ollama的api,基于llama3大模型来开发各种AI应用。这个api调用的是本地电脑上的大模型服务,所以不会有任何费用;而且不联网传输,数据很安全。

首先安装ollama的Python库:pip install ollama

然后在deepseek的代码助手中输入提示词:

你是一个Python编程专家,现在要完成一个编写AI应用的Python脚本,具体步骤如下:

ollama的模型是'llamafamily/llama3-chinese-8b-instruct';

用ollama库输入内容“将以下内容翻译为英文:为什么天是蓝色的?”

解析流式响应,提取出文本内容;

ollama库的使用示例:

import ollama

stream = ollama.chat(

model='llama3',

messages=[{'role': 'user', 'content': 'Why is the sky blue?'}],

stream=True,

)

deepseek代码助手生成的代码:

import ollama

# 定义消息列表,包含要翻译的内容

messages = [{'role': 'user', 'content': '将以下内容翻译为英文:为什么天是蓝色的?'}]

# 调用ollama库的chat函数,指定模型和消息列表,并开启流式响应

stream = ollama.chat(

model='llamafamily/llama3-chinese-8b-instruct', # 使用你提供的模型名称

messages=messages,

stream=True, # 开启流式响应

)

# 遍历流式响应,提取文本内容并输出

for chunk in stream:

# 检查chunk是否包含'message'字段

if 'message' in chunk:

# 提取'content'字段并打印

print(chunk['message']['content'], end='')

运行程序,返回结果:why is the sky blue? 说明程序运行成功了。

本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请点击举报
打开APP,阅读全文并永久保存 查看更多类似文章
猜你喜欢
类似文章
【热】打开小程序,算一算2024你的财运
零代码本地部署ChatGPT:让电脑秒变智能助手,体验最强人工智能
本地部署Llama3教程,断网也能用啦!
Ollama WebUI AnythingLLM,构建安全可靠的个人/企业知识库
本地部署完全离线版并上传PDF知识库的对话大模型
开源大模型超越GPT-3.5!爆火MoE实测结果出炉,网友:OpenAI越来越没护城河了
?无显卡+纯本地跑Qwen1.5版模型!0基础闭眼部署指南!适用绝大部分开源模型!llama2+Mistral+Zephyr通杀!
更多类似文章 >>
生活服务
热点新闻
分享 收藏 导长图 关注 下载文章
绑定账号成功
后续可登录账号畅享VIP特权!
如果VIP功能使用有故障,
可点击这里联系客服!

联系客服