なにそれ
2026/08/10に追加された新機能で、雑に言えばINT8 ConvRotを利用したsage attentionの亜種らしい。
最新のComfyUI(Comfy-Kitchen)に内蔵されたため、オプションに--use-ck-attentionだけで動くので大変お手軽。
仕組みについては、ワイがあんま分かってないから合ってるかどうか分かんないけど、sageがこれまでFP8とか使ってた部分をINT8に置き換えて、INT8で攻めた分の精度低下をConvRotで補償する、みたいな設計らしい。
ConvRotのオーバーヘッドがあるので素朴なFP8のsageよりは多分若干遅いけど、精度面では有利なはずだし、FP8が使えない世代のGPUなら純粋に速度も精度も有利になるんじゃないかな。
海外ニキの報告では、RTX5000番代だとsage attention2.2よりやや遅いが、RTX3000番代だとsage attentionより速く、また画質はsage attentionより良いとの評価が出ているようだ。
本当にまだ出たばかりなので最適化にしろ評価にしろこれからになるとは思うが、内蔵されるというのはインストールの手間がないという点で大きい。またsage attentionは外部ライブラリで保守状況が微妙だったこともあり、Comfyの直轄でメンテナンスされる利点は非常に大きいと思う。
使い方
起動時に--*-atentionを付ける代わりに--ck-attentionにするだけで全面的に切り替わる。
もしくは、公式ノードに追加されたModelAttentionBackendノードをモデルの後ろに突っ込んでおけば、そこだけck-attentionに切り替えることもできる。
RADEON対応はどうなの?
2026/08/13にROCm(RDNA3以上)対応版がリリースされている。
これまでROCm環境はflash attention2相当の--use-pytorch-cross-attention(TORCH_ROCM_AOTRITON_ENABLE_EXPERIMENTAL=1)が基本で、これもまあまあ悪くない性能ではあったが、まともなsage attention(v2.2)を利用するのは難しかった。
性能面での恩恵はRADEONが一番大きいかもしれない。
ちなみに軽く実測してみたところ
Anima/1920x1080/step20/batch4という条件下で、--pytorch-cross-attentionが2回目199秒、--ck-attentionが2回目175秒
MiniMax-H2/960x544/5sec/step20という条件下で、--pytorch-cross-attentionが2回目774秒、--ck-attentionが2回目654秒
という感じだった。ざっと10~20%の性能ゲインだろうか。
今のところ特におかしな挙動は見られず、かなり良さそうに思える。