Last edited time
May 18, 2024 01:48 PM
summary
用到的是这个开源项目，把 OpenAI 的 API 换成 Cloudflare AI。
我认为在不久的将来，更小、更便宜的大语言模型将成为 OpenAI 的 GPT-3.5 和 GPT-4 API 的有力竞争对手。大多数开发者不会为了使用这些新兴模型而重写整个代码库。我还认为 Cloudflare Workers 是托管 AI 和 API 的一种巧妙方式，因此我在 Workers AI 上实现了 OpenAI API。这使得开发者可以使用 OpenAI SDK 与新的 LLM 进行交互，而无需重写所有代码。这段代码和 Workers AI 一样，还没有做好生产准备，但会随着 Workers AI 的新功能发布而进行半定期的更新。
映射大模型到openAI
用法
注：此时就可以直接在任何支持opanai的API应用上使用了。
API：ACCESS_TOKEN（你自定义的）
proxy URL：
https://openai-cf.yourusername.workers.dev 或者 https://openai-cf.yourusername.workers.dev/v1chat model: 如果自己映射了openai的，就是用openai的模型
gpt-3.5-turbo gpt-4o如果没有映射过，就直接使用cloudflare支持的开源大模型。这里是列表：
- 作者:开户通
- 链接:https://fx.ssgg.net/works-ai
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议，转载请注明出处。