将Phi-3-mini 4k模型无缝集成到ComfyUI,自动下载模型,支持系统指令与多轮对话,便于快速部署与交互式文本生成。
💡 在ComfyUI中调用Phi-3-mini进行多轮对话与文本生成
🍴 17 Forks💻 Python🔄 2024-06-30
https://pan.quark.cn/s/e00a65475347
📦 requirements.txt
transformers>=4.40.0
📄 README
Phi-3-mini in ComfyUI
项目介绍 | Info
将微软 Phi-3-mini-4k-instruct 模型引入到 ComfyUI 中,模型很小,速度很快,性能很强(媲美 GPT-3.5 和 Mixtral 8x7B)
Phi-3-mini-4k-instruct 开源可商用( MIT 许可),中文表现很不错,可用于 生成/补全提示词 或畅聊人生!
版本:V1.0 支持系统提示词,支持单/多轮对话双模式,支持中文输入自动并输出英文提示词
详细说明 | Features
节点:
🏖️Phi3mini 4k ModelLoader:会自动下载模型(请保持网络畅通)
🏖️Phi3mini 4k:支持系统指令设置(System Instruction)
🏖️Phi3mini 4k Chat:支持系统指令设置(System Instruction)+ 多轮对话
节点示例:
上下文多轮对话:
参数说明 | Parameters
model:接入模型
tokenizer:分词器
prompt:提示词
system_instruction:系统指令
temperature:随机性
安装 | Install
环境依赖要求:transformers>=4.40.0,手动升级:pip uninstall -y transformers && pip install git+https://github.com/huggingface/transformers
推荐使用管理器 ComfyUI Manager 安装(ON THE WAY)
手动安装:
cd custom_nodes
https://github.com/ZHO-ZHO-ZHO/ComfyUI-Phi-3-mini.git
cd custom_nodes/ComfyUI-Phi-3-mini
pip install -r requirements.txt
重启 ComfyUI
输出节点可配合像ComfyUI-Gemini中 ✨DisplayText_Zho 一样的任何接受文本的节点
工作流 | Workflow
V1.0 工作流
Phi-3-mini-4k + CosXL【Zho】
Phi-3-mini-4k Chat【Zho】
更新日志 | Changelog
20240426
V1.0: 支持系统提示词,支持单/多轮对话双模式,支持中文输入自动并输出英文提示词
创建项目
Stars
[](https://star-history.com/#ZHO-ZHO-ZHO/ComfyUI-Phi-3-mini&Timeline)
关于我 | About me
📬 联系我:
邮箱:zhozho3965@gmail.com
QQ 群:839821928
🔗 社交媒体:
个人页:-Zho-
Bilibili:我的B站主页
X(Twitter):我的Twitter
小红书:我的小红书主页
💡 支持我:
B站:B站充电
爱发电:为我充电
Credits
Phi-3-mini-4k-instruct