网站首页 > 开源技术 正文
目前,硅基流动的大模型API平台SiliconCloud默认生成非结构化文本,但在某些应用场景中,你可能希望模型以结构化形式输出内容,但通过提示词的方式直接告诉大模型无法获得正确的结构化输出。
作为一种标准化、轻量级的数据交换格式,JSON模式是支持大模型API进行结构化输出的重要功能。当你调用大模型的API进行请求时,模型返回的结果以JSON格式呈现,易于人类阅读和编写,同时也易于机器解析和生成。
现在,SiliconCloud平台所有语言模型都已支持JSON模式,能让模型输出JSON格式的字符串,以确保模型以预期的结构输出,便于后续对输出内容进行逻辑解析。
比如,你现在可以通过SiliconCloud API对以下案例尝试结构化输出:
- 从公司相关报道中构建新闻数据库,包括新闻标题、链接等。
- 从商品购买评价中提取出情感分析结构,包括情感极性(正面、负面、中性)、情感强度、情感关键词等。
- 从商品购买历史中提取出产品列表,包括产品信息、推荐理由、价格、促销信息等。
注意
- 启用JSON模式时,无论是在系统消息还是用户消息中始终指示模型生成JSON,以便它仅以JSON形式响应。
- 你的应用必须检测并处理可能导致模型输出不完整JSON对象的边缘案例。
- 请合理设置max_tokens,防止JSON字符串被中断。
以下为一个JSON输出功能的使用样例。
示例代码(以Python为例):
import json
from openai import OpenAI
client = OpenAI(
api_key="your_api_key",
base_url="https://api.siliconflow.cn",
)
response = client.chat.completions.create(
model="deepseek-ai/DeepSeek-V2-Chat",
messages=[
{"role": "system", "content": "You are a helpful assistant designed to output JSON."},
{"role": "user", "content": "? 2020 年世界奥运会乒乓球男子和女子单打冠军分别是谁? "
"Please respond in the format {\"男子冠军\": ..., \"女子冠军\": ...}"}
],
response_format={"type": "json_object"}
)
print(response.choices[0].message.content)
模型将会输出:
{"男子冠军": "马龙", "女子冠军": "陈梦"}
让超级产品开发者实现“Token自由”
邀请好友体验SiliconCloud,狂送2000万Token/人
邀请越多,Token奖励越多
siliconflow.cn/zh-cn/siliconcloud
(加入用户交流群请后台私信)
猜你喜欢
- 2024-09-16 比较一下XML, JSON和YAML(xml与json区别)
- 2024-09-16 JSON的概念及应用场景举例(json的概念及应用场景举例分析)
- 2024-09-16 Java实现在线SQL编程(完整版)(java代码中怎样写sql语句)
- 2024-09-16 RESTful API (Application Programming Interface)
- 2024-09-16 API低代码开发平台实践(低代码开发工具)
- 2024-09-16 JSON 格式的接口测试流程【Eolink Apikit】
- 2024-09-16 推荐腾讯开源的零代码、全功能、强安全API架构
- 2024-09-16 下个十年高性能 JSON 库来了:fastjson2!
- 2024-09-16 高并发之API接口,分布式,防刷限流,如何做?
- 2024-09-16 可以让你零代码快速开发REST API的几个开源项目
你 发表评论:
欢迎- 最近发表
- 标签列表
-
- jdk (81)
- putty (66)
- rufus (78)
- 内网穿透 (89)
- okhttp (70)
- powertoys (74)
- windowsterminal (81)
- netcat (65)
- ghostscript (65)
- veracrypt (65)
- asp.netcore (70)
- wrk (67)
- aspose.words (80)
- itk (80)
- ajaxfileupload.js (66)
- sqlhelper (67)
- express.js (67)
- phpmailer (67)
- xjar (70)
- redisclient (78)
- wakeonlan (66)
- tinygo (85)
- startbbs (72)
- webftp (82)
- vsvim (79)
本文暂时没有评论,来添加一个吧(●'◡'●)