is not supported for `4-bit` or `8-bit` bitsandbytes models-HuggingFace论坛-模型训练-社区 | AheadAI
幻灯片-社区 | AheadAI
图标卡片
这是一个图标卡片示例
原创作品
这是一个图标卡片示例
灵感来源NEW
这是一个图标卡片示例
系统工具 GO
这是一个图标卡片示例

is not supported for `4-bit` or `8-bit` bitsandbytes models

用huggingface框架项目遇到报错:
ValueError: `.to` is not supported for `4-bit` or `8-bit` bitsandbytes models. Please use the model as it is, since the model has already been set to the correct devices and casted to the correct `dtype`.

解决方案:将 accelerate 下降版本到 0.26.0

pip install accelerate==0.26.0

 

请登录后发表评论

    没有回复内容