b站地址:RWKV-Runner发布并开源,可商用的大语言模型,一键启动管理,2-32G显存适配,API兼容,一切前端皆可用_哔哩哔哩_bilibili
开源仓库地址
https://github.com/josStorer/RWKV-Runner
下载地址:
https://pan.baidu.com/s/1wchIUHgne3gncIiLIeKBEQ?pwd=1111
请注意模型默认下载地址在hf,需要科学上网才能进行下载
显存2GB起用
运行界面如下:
实际跑续写任务如下(使用了GPU-4G-3B-CN模型)
显存占用如下所示