4月17日消息,OPENAI今日发布了一项新的API,专为需要处理大量内容的开发者设计。该批量处理API允许开发者一次性提交大量数据,并在24小时内接收处理结果,从而极大地提升了处理效率。
这一新功能的推出,不仅为开发者带来了便利,同时也对OPENAI自身运营有所裨益。据悉,OPENAI可以在服务器非高峰时段处理这些请求,更有效地平衡服务器资源,节约成本。为此,OPENAI为使用这项异步任务API的开发者提供了半价优惠,他们只需支付原价的50%。
据了解,当需要对大量的文本、摘要、翻译或图像进行分类整理时,开发者可以利用这个新API进行批量处理。尽管结果并非实时返回,但对于对及时性要求不高的任务来说,这无疑大大提升了工作效率。此外,除了享受半价折扣,开发者还能获得更高的请求速率,即每分钟可以提交更多的请求。
使用这项新服务时,开发者需要通过JSONL文件格式进行数据传输。具体来说,他们需要将所有需要处理的请求集中在一个JSONL文件中,然后通过batch参数上传到服务器。
OPENAI已经在API文档中详细说明了如何使用这项新服务,包括如何创建批处理、设置请求正文、以及结果检索等步骤。有需求的开发者可以访问OPENAI的官方网站查看具体的调用示例。