最好的2个推理服务工具

5.0
mancer

用于生成文本的语言模型推理服务。

网站
5.3
本地AI游乐场

一个用于离线AI实验的应用程序,无需GPU。

网站