在自定义大模型以及使用HuggingFaceEmbedding时,使用了transformers库以及sentence-transformers库,如果安装了这两个库还分别报错:AttributeError: 'ChatGLMTokenizer' object has no attribute 'sp_tokenizer'或者“could not import sentence_transformers python package. pip intall sentence-transformers”。第一个报错往往是transformers版本过高。使用pip install transformers==4.27.1亲测可以解决第一个问题。第二个问题可能是两个包版本冲突了。可以降低一下sentence-transformers版本,pip install sentence-transformers==2.2.2可以解决上面问题。
亲测用这两个版本可以。