AI续写

使用本地大语言模型续写小说。 我的硬件环境: CPU:AMD R9-9950X 内存:96GB GPU:RTX 5090D 32GB 本地大模型配置: 模型:Qwen3.6-35B-A3B-GGUF Q4_K_M Embedder:Qwen3-embedding:4b 大致过程: 首先我下载了本站里的一万多本小说,然后在Anything LLM中使用Ollama Qwen3-embedding:4b做了一个RAG向量库。再在LM Studio中加载Qwen3.6-35B-A3B-GGUF Q4_K_M,最后在Anything LLM中要求AI去续写某篇小说。 至于Prompt,我是先用ChatGPT 5.5 Thinking去阅读整篇小说,把要求告诉它,让它来写一个大纲。然后对每一章也是让它帮我写一份Prompt,再把这个Prompt发给本地大模型。 但是即使是这样,感觉本地大模型也不算很让人省心的,有时候写的很烂(比如我最新的AI续写《寸止还是榨精》就感觉写的不怎么样),有时候又会出现大量重复段落或者没有标点符号,还是得花时间调参数和重试。