前言
关于拿 LLM 做角色扮演这件事情,自从 OpenAI 发布 ChatGPT 时就已经发展起来,在近几年的硬件升级和模型升级下,已经形成了一个较为完善的生态。
相关的资料散落在各个站点,普通人想要了解,需要花费很大的功夫。
正好最近在逛 Reddit,收集到一些知识索引,本文就尝试做“索引的索引”
客户端
唯一推荐的客户端: SillyTavern , 仓库链接
安装方法:
git clone https://github.com/SillyTavern/SillyTavern -b release
cd SillyTavern && npm i && npm run start
本地模型
本地模型通常在性能上比不上云端模型,但是如果考虑到隐私性和费用,并且你也有一些合适的硬件,本地模型也不失为一种选择。
根据能运行的尺寸,在角色扮演方向表现不错的模型。
当然我也 尝试 过一些新的模型:
本地模型的问题是经常输出一些重复的描述。因此诞生了禁用词表,例如: 链接
在线模型
免费:
- Gemini by google AI studio. 有免费的模型
- deepseek v3、deepseek-r1. openrouter 上提供免费接口
模型服务商:
社区
- SillyTavernAI: a place to discuss the silly fork of TavernAI
- LocalLlama
- https://huggingface.co/unsloth, 经常对模型进行量化、修复模型中存在的问题
- https://huggingface.co/mradermacher. 对各种模型进行量化
- https://huggingface.co/bartowski 同上也是非常快速地量化模型
参考文档
本文大部分是根据自己的体验,从互联网上摘抄得来。想了解更多的话可以直接看以下链接