AI續寫

使用本地大語言模型續寫小說。 我的硬件環境: CPU:AMD R9-9950X 內存:96GB GPU:RTX 5090D 32GB 本地大模型配置: 模型:Qwen3.6-35B-A3B-GGUF Q4_K_M Embedder:Qwen3-embedding:4b 大致過程: 首先我下載了本站裡的一萬多本小說,然後在Anything LLM中使用Ollama Qwen3-embedding:4b做了一個RAG向量庫。再在LM Studio中加載Qwen3.6-35B-A3B-GGUF Q4_K_M,最後在Anything LLM中要求AI去續寫某篇小說。 至於Prompt,我是先用ChatGPT 5.5 Thinking去閱讀整篇小說,把要求告訴它,讓它來寫一個大綱。然後對每一章也是讓它幫我寫一份Prompt,再把這個Prompt發給本地大模型。 但是即使是這樣,感覺本地大模型也不算很讓人省心的,有時候寫的很爛(比如我最新的AI續寫《寸止還是榨精》就感覺寫的不怎麼樣),有時候又會出現大量重複段落或者沒有標點符號,還是得花時間調參數和重試。