OpenAI对Assistants API 进行大量更新

专注AIGC领域的专业社区，关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型（LLM）的发展和应用落地，聚焦LLM的市场研究和AIGC开发者生态，欢迎关注！

OpenAI宣布对 Assistant API 进行了大量更新，并将 Beta 版移至新的 API 版本OpenAI-Beta: assistants=v2中。

主要更新内容如下：

OpenAI正在推出一款名为的改进检索工具file_search，每个助手最多可以提取 10,000 个文件，比以前多了500 倍。速度更快，支持通过多线程搜索进行并行查询，并具有增强的重新排名和查询重写功能。

在API 中引入了vector_store对象。将文件添加到向量存储后，它会自动解析、分块和嵌入，以供搜索。向量存储可以跨助手和线程使用，从而简化文件管理和计费。

用户现在可以在 Assistants API 中控制运行使用的最大tokens数量，从而管理tokens使用成本。用户还可以设置每次运行中使用的先前/最近消息的数量限制。

添加了对tool_choice参数的支持，该参数可用于强制在特定运行中使用特定工具例如，file_search、code_interpreter或 a 。

现在，用户可以使用在线程中创建自定义对话历史记录的角色来创建消息。assistant

Assistant和 Run 对象现在支持流行的模型配置参数，例如temperature、response_format（JSON 模式）和top_p。

用户现在可以在 Assistants API 中使用微调模型。目前，仅gpt-3.5-turbo-0125支持微调版本。

Assistants API 现在支持流式传输。

在Node和PythonSDK中添加了几个流式传输和轮询助手。

本文素材来源OpenAI官网，如有侵权请联系删除

END

本篇文章来源于微信公众号: AIGC开放社区