Win11 privateGPT
目标还是用GPT实现局域网内文档内容快速查询。发现privateGPT似乎更接近这个目标。
使用privateGPT进行多文档问答 · ymcui/Chinese-LLaMA-Alpaca Wiki (github.com)
第一步安装llama-cpp-python这里就遇到问题了。
默认的命令是需要编译的，结果就报错了。查了一下，是我的VS太老了，需要VS2019以上版本，来支持cmake的std:c11。
VS2022已经装好了，才发现其实不用按文档上的命令去编译，直接从
Releases · abetlen/llama-cpp-python (github.com)
这里选择适合自己环境的whl，然后本地安装whl就可以了。privateGPT require里面要求llma-cpp-python版本是0.1.68，别选最新版本。
Step 1: 克隆目录并安装依赖包 通过了，有空继续。