Skip to content
This repository has been archived by the owner on Mar 20, 2024. It is now read-only.

可以支持不同accessToken的同一时间请求吗?目前要等另一个结束才能回答 #58

Closed
yifangyujason opened this issue Apr 20, 2023 · 20 comments

Comments

@yifangyujason
Copy link

用不同的accessToken发起提问,必须要等待其中一个回答结束,另一个才开始回答,能优化下吗?感谢

@linweiyuan
Copy link
Owner

参考 #49

@yifangyujason
Copy link
Author

不同的accessToken加不同的锁可以吗?

@linweiyuan
Copy link
Owner

不确定

@yifangyujason
Copy link
Author

我这边启动了两个go-chatgpt-api,但都是对应同一个chatgpt-proxy-server,用不同的accessToken同时发起提问是能够成功的,请问这是什么原因,有没有更好的实现方式
(我的chatgpt-web服务改造了下,根据ip调用不同的go-chatgpt-api服务且使用不同的accessToken)

@linweiyuan
Copy link
Owner

正常行为

api 加锁,proxy 并不加

如果 api_1 中聊天数据正在返回,此时 api_2 刚好触发浏览器(proxy)刷新,那么 api_1 就会莫名断开回复

@yifangyujason
Copy link
Author

api_1和api_2对于proxy中的浏览器而言是浏览器中不同的页签吗?可以设置为只刷新对应的页签吗?这样就不会受影响了吧?

@linweiyuan
Copy link
Owner

好像你对,我搞混了,两个 api 互不影响

但是,这样做又能用来干什么呢?

我不是杠,是疑问

@yifangyujason
Copy link
Author

chatgpt-web项目我已经实现了使用多个accessToken聊天且互不影响(我根据ip分流),当初这样做是为了可以分享给身边的家人朋友使用,且同一时间发起提问时不会报错。目前我只有两个gpt账号,即两个accessToken。按照目前的代理逻辑,若后面我能借到其他gpt账号,那就要多启动一个go-chatgpt-api服务了,所以希望能解决这方便的问题。

@linweiyuan
Copy link
Owner

目前为止没有找到好办法,一一绑定是迫于无奈,这个不知何年何月能解决

@yifangyujason
Copy link
Author

那这个问题好解决吗?

正常行为

api 加锁,proxy 并不加

如果 api_1 中聊天数据正在返回,此时 api_2 刚好触发浏览器(proxy)刷新,那么 api_1 就会莫名断开回复

@linweiyuan
Copy link
Owner

目前为止没有找到好办法,一一绑定是迫于无奈,这个不知何年何月能解决

@linweiyuan
Copy link
Owner

目前简单测试过支持了,可以试一下有无其他 bug

@yifangyujason
Copy link
Author

感谢大佬,我马上试。顺便问问,我还需要启动了两个go-chatgpt-api吗?

@linweiyuan
Copy link
Owner

一个即可,什么配置都不变

@yifangyujason
Copy link
Author

很棒,目前没有什么问题

@yifangyujason
Copy link
Author

chatgpt-proxy-server一夜之间产生大量的日志,塞满了空间,不知道什么原因
image
image
image

@linweiyuan
Copy link
Owner

加个环境变量 LOG_LEVEL=OFFchatgpt-proxy-server 上重启

其实挺矛盾的,日志少了不好排查,多了占空间

@yifangyujason
Copy link
Author

嗯嗯,我这样加也可以吧?
image

@linweiyuan
Copy link
Owner

这个 logging 参数我还从来没用过,不确定可不可以,可以试一下

@yifangyujason
Copy link
Author

这个 logging 参数我还从来没用过,不确定可不可以,可以试一下

有效的,到500m后会清空日志重新记录

Sign up for free to subscribe to this conversation on GitHub. Already have an account? Sign in.
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants