====== KoboldAI ====== ---- 您通往[[GPT写作]]的大门。 这是一个基于浏览器的前端，用于AI辅助写作（交互冒险故事、[[NSFW]]小说、对话），支持多个本地和远程AI模型。 它提供了标准的一系列工具，包括记忆、作者注释、世界信息、保存和加载、可调整的AI设置、格式选项，以及导入现有[[https://play.aidungeon.io/|AI Dungeon]]冒险的能力。您还可以打开冒险模式，并像AI Dungeon Unleashed一样玩游戏。 故事可以像小说一样进行，也可以作为文本冒险游戏或聊天机器人使用，通过简单的切换可以在多种游戏风格之间进行选择。 这使得KoboldAI不仅是一个写作助手、游戏，还是一个更多用途的平台。您玩的方式和[[人工智能]]的表现取决于您决定使用的模型或服务。无论您想使用免费、快速的[[https://colab.research.google.com/|Google Colab]]、您自己的高端图形卡、在线服务（例如[[OpenAI]]或Inferkit）的API密钥，还是您宁愿在CPU上较慢地运行，您都将能够找到适合您的使用KoboldAI的方式。 {{ :wiki:koboldai.png |}} ====== 网站 ====== ---- [[https://github.com/KoboldAI/KoboldAI-Client|源码]] [[https://github.com/KoboldAI/KoboldAI-Client/releases|下载]] [[https://huggingface.co/KoboldAI|模型下载]] [[http://koboldai.net/|KoboldAI Horde]] [[https://lite.koboldai.net/|KoboldAI Lite]] ====== 备注 ====== ---- 安装好软件后，可以通过软件界面左上角AI直接下载相关模型。也可以从模型网站下载免费模型到电脑上，并把模型拷贝到KoboldAI\models文件夹下，每个不同的模型放在一个新建文件夹中。 不同的模型对显卡显存有不同要求，其中： 1.3B的模型（也就是13亿参数的模型），需要显卡至少拥有4GB显存。 2.7B的模型（也就是27亿参数的模型），需要显卡至少拥有8GB显存。 6B的模型（也就是60亿参数的模型），需要显卡至少拥有16GB显存。 13B的模型（也就是130亿参数的模型），需要显卡至少拥有32GB显存。 20B的模型（也就是200亿参数的模型），需要显卡至少拥有64GB显存。 ps：同样规模参数的模型，根据对通用模型微调任务的不同，会有其他专用模型，比如专门写冒险故事的模型、专门写小说的模型或专门聊天的模型。另外提一下，闭源ChartGPT的模型是175B，也就是1750亿参数模型。 ---- **为什么我们需要把此类人工智能服务安装到本地的电脑中？** //因为ChartGPT作为美国公司的闭源软件，不仅用户发到上面的数据完全受到美国政府监控；而且基于泛化国家安全等理由，美国政府完全可以命令该公司禁止向中国邮箱注册用户或与之相关的用户提供人工智能服务。除此之外，ChartGPT完全可以在个人对其产生依赖时大幅度提高其服务价格（或者通过缓慢输出文本等措施来降低目前免费用户的体验），或者直接像推特那样傲慢地大规模封杀中国用户不允许你使用，或者生成的内容带有强烈的政治色彩和盎格鲁撒克逊民族傲慢的非普世价值观！// //为此，我们必须尽可能地寻找此类人工智能服务的开源替代，因为此类人工智能服务必将对未来人类日常生产生活方式产生重大影响，绝不能让此类服务掌握在少数的且傲慢的人群手中。目前的开源[[人工智能]][[多模态模型]]包括：BigScience的176B模型[[https://huggingface.co/bigscience/bloom|Bloom]]和176B模型[[https://huggingface.co/bigscience/bloomz|Bloomz]]，Bloom和Bloomz的模型过大，不适宜个人用户部署，但多个个人用户可以采取合作的方式以类似Bittorrent的形式分布式共同部署它（参见[[https://github.com/bigscience-workshop/petals|Petals]]）；清华大学的6B中文多模态模型[[https://huggingface.co/THUDM/chatglm-6b|ChatGLM]]，该模型可以运行在个人消费级电脑上（参见[[https://github.com/Akegarasu/ChatGLM-webui|ChatGLM-webui]] ，Windows系统下点击webui-start.cmd文件完成一键安装及运行，安装完成后会自动打开网页界面，在该页面上对话吧），个人也可以通过微调的方式实现模型的专业化（参见[[https://github.com/mymusise/ChatGLM-Tuning|ChatGLM-Tuning]]）。// ====== 相关模型分类 ====== ---- ^ 模型 ^ 介绍 ^ | 小说 | 对于常规故事写作，不兼容冒险模式或其他特殊模式。 | | NSFW |表示该模型强烈偏向 NSFW 内容，不适合儿童、工作环境或直播。 大多数 NSFW 模型本质上也是小说模型。 | | 冒险 | 这些模型非常适合愿意像文字冒险游戏一样玩KoboldAI的人，并且可以在启用冒险模式的情况下使用。 即使你想将它用作小说类型模型，你也应该始终打开冒险模式并将其设置为故事。这些模型通常对使用“你”这个词有强烈的偏见，并且在没有启用冒险模式的情况下会打破故事流程并代表你编写动作。| | 混合 | 混合模型是不同类型之间的混合，例如，它们接受了小说故事和冒险故事的训练。 这些模型种类繁多，您可以将它们用于多种不同的游戏类型和模式，但根据您的使用情况，您可能需要启用冒险模式或 You bias（在用户脚本中）。| | 通用 | 通用模型没有针对任何特定事物进行训练，通常用作其他任务和模型的基础。 他们可以做其他模型可以做的一切，但需要更多的调整才能正常工作。 通用模型是我们没有特定模型的任务的理想基础，或者是体验原始形式的软提示的理想基础。 | ====== 参见 ====== ---- 类似KoboldAI开源项目，参见[[https://github.com/oobabooga/text-generation-webui|text-generation-webui]]