如果文章对您有帮助,
欢迎点赞、关注、分享
简介
目前市面上免费的使用国产的免费大模型越来越多,one-api(另外一个接口转换软件)对于个人用起来还是有点麻烦,就想要一个不要统计、流量、计费等等的适配程序即可。
还有一点是:即使有些厂商说兼容openai的接口,但是实际上还是存在些许差异的!!!
simple-one-api主要是解决以上2点,旨在兼容多种大模型接口,并统一对外提供 OpenAI 接口。通过该项目,用户可以方便地集成和调用多种大模型,简化了不同平台接口差异带来的复杂性。
安装搭建
本次部署还是在飞牛nas的docker compose环境下,其他nas需对应修改映射目录部署
simple-one-api支持的功能如下:
docker compose代码如下:
services:
simple-one-api:
image: fruitbars/simple-one-api
container_name: simple-one-api
ports:
- "19090:9090"
volumes:
- ./config.json:/app/config.json
restart: unless-stopped
可以看到配置里有个config.json的文件映射
各个模型的配置文件在大佬开源页有写,因为如果访问不了大佬的开源页,可以到我仓库看,我转了过来:
仓库里对应模型的配置文件是config_****.json,需要把文件中通过模型注册后获得的对应的apikey等等数据修改成自己的,然后改名config.json放入nas的项目文件夹
大佬把各个模型的注册流程也都写好了,
我测试了下,测试用的msty
接入接口我填的我容器对外接口地址http://192.168.1.112:19090/v1
api-key作者说随便填。。。
测试成功,效果如图:
有什么用?以后肯定会用到的
另外上一次文章
书签管理器hoarder的部署
红薯丸子,公众号:红薯丸子Nas上搭建自己的离线书签管理器(可自动保存完整网页副本):Hoarder
中书签管理器hoarder可以使用ai打标签了,就是那4个环境参数填入
自动打标签的效果如图所示,上一次没讲完,这次补充下
也就是把上篇文章中.env环境变量代码中的ai打标签部分配置下就行了
NEXTAUTH_SECRET=btjLioG8QFVsxJAiXdiUO55wST4v6lQzpD5PRsz7ny7MLavG
MEILI_MASTER_KEY=OWNhcZ7souiAQil5dpBfO5CWGkHXyZW9kKoF5kMEQ9d3Ms/d
NEXTAUTH_URL=http://192.168.1.112:3000/
#这个是hoarder的容器外地址
#HTTP_PROXY=http://192.168.1.106:10809
#这个是代理,如果hoarder运行正常就不挂代理
CRAWLER_FULL_PAGE_SCREENSHOT=true
#完整图片快照
CRAWLER_FULL_PAGE_ARCHIVE=true
#完整网页副本
CRAWLER_JOB_TIMEOUT_SEC=180
#网页爬取响应时间
OPENAI_BASE_URL=http://192.168.1.112:19090/v1/
#这个是simple-one-api的容器对外接口地址
OPENAI_API_KEY=123
#这个key随便写
INFERENCE_TEXT_MODEL=7414723666912722955
#这里是文本图形名称
INFERENCE_IMAGE_MODEL=7414723666912722955
#这里是图形模型名称
hoarder这里我用的是simple-one-api转换后的字节的coze.cn的模型,千帆和星火我都试过,转换后在msty前端也能用,但是hoarder里不行,可能是simple-one-api转换的兼容性还没那么强吧
再比如你的小爱音箱也能接入大模型了,这个如果有需要的话下次单独说下
链接:https://gitee.com/hswz5525/dockercompose
文章底部nas合集目录中有更多软件文章,希望能帮助到你
有好的建议或者需求也可以底部留言告诉我,知无不言,互助共进
文章评论