能使用oobabooga/text-generation-webui的api功能嗎?

[win10ogod]

能比较不会有麻烦的更新模型，也能更换LLaMA或基于LLaMA的模型

[cdfmlr]

我超居然有这种东西了😍 我研究一下。

[cdfmlr]

似乎可以用，封装一下它的 api 调用就能接入。但我最近应该没时间做，不过应该挺简单的，就是写一个这里的 chatbot grpc 服务去调用它的 api 服务。等我实现了 #37 应该就更容易了，有手就行。