Last edited time
May 18, 2024 01:48 PM
用到的是这个开源项目,把 OpenAI 的 API 换成 Cloudflare AI。
我认为在不久的将来,更小、更便宜的大语言模型将成为 OpenAI 的 GPT-3.5 和 GPT-4 API 的有力竞争对手。大多数开发者不会为了使用这些新兴模型而重写整个代码库。我还认为 Cloudflare Workers 是托管 AI 和 API 的一种巧妙方式,因此我在 Workers AI 上实现了 OpenAI API。这使得开发者可以使用 OpenAI SDK 与新的 LLM 进行交互,而无需重写所有代码。这段代码和 Workers AI 一样,还没有做好生产准备,但会随着 Workers AI 的新功能发布而进行半定期的更新。
映射大模型到openAI

用法

注:此时就可以直接在任何支持opanai的API应用上使用了。
API:ACCESS_TOKEN(你自定义的)
proxy URL:https://openai-cf.yourusername.workers.dev 或者 https://openai-cf.yourusername.workers.dev/v1
chat model: 如果自己映射了openai的,就是用openai的模型 gpt-3.5-turbo gpt-4o
如果没有映射过,就直接使用cloudflare支持的开源大模型。这里是列表:
rehub&notion&begin项目自定义IMPORTXML导入数据到GoogleSheets
开户通
开户通
一个炒币炒股炒汇砖家!
公告
Last edited time
Dec 30, 2023 03:37 PM
🎉最新版的评测🎉
-- 感谢您的支持 ---