ComfyUI_DiffusionModel_fp8_converter

ComfyUIで、Diffusionモデル部分のみ/CLIPモデルのみをfp8に変換するカスタムノードです。

VAEのfp8変換については対応していません。

このノード利点としては、fp8変換時にあらかじめunet/clip/vaeなどに分ける必要がなく、ComfyUIが出している、あらかじめ1つにまとめてあるsafetenrosファイルを使用できる点です。

This is a custom node to convert only the Diffusion model part or CLIP model part to fp8 in ComfyUI.

VAE fp8 conversion is not supported.

The advantage of this node is that you do not need to separate unet/clip/vae in advance when converting to fp8, but can use the safetenros files that ComfyUI provides.

Usage

以下のように間にノードをはさんで使用します。

Checkpoint

SDXL・Auraflow・HunyuanDITのsafetensorsファイルをf8変換してファイルサイズの圧縮を確認しました。

変換したチェックポイントは、通常の画像生成フローで使用してもエラーの発生なく使用出来ています。

I have converted SDXL, Auraflow, and HunyuanDIT safetensors files to f8 and verified the file size compression.

The checkpoints can be used in the normal image generation flow without any errors.

＜変換によるサイズの変化：DiffusionモデルとCLIPをfp8にした場合＞

① SDXL

6.5GB ⇒ 3.4GB

② Auraflow

16GB ⇒ 7.7GB

③ HunyanDiT

7.7GB　⇒ 3.5GB

＜CLIPモデルについて＞

T5xxlモデルのCLIPはfp8に変換できました。参考まで。

Install

以下のコマンドでインストール出来ます。

You can install it with the following command.

cd Yourdirectory/ComfyUI/custom_nodes
git clone https://github.com/Shiba-2-shiba/ComfyUI_DiffusionModel_fp8_converter.git

Reference Script

fp8化のスクリプトは、以下のサイトで公開しているスクリプトを参考にしています。感謝です。

This project references a main script from the following source:

Source URL: https://note.com/den2_nova/n/n073adc24eb40

This script is used under the assumption that it is publicly available without licensing restrictions. If there are any concerns or issues regarding the usage of this script, please feel free to contact us.