概要
- プログラム実行の際にコードがJIT*1でコンパイル(合理化)され、学習が少しだけ速くなるライブラリ。
- 以前はLinux専用だったが、2025年頃Windows版が登場した。
- ComfyUIやsd-scriptsなどで導入できる
- ほかの高速化ライブラリを使用する上で必須となる。下記は一例
- torch.compile
- flash-attn
- SageAttention
- tritonを導入するべきかどうかは、それを使用する対処のアプリ(sd-scripts等)のインストール時にほぼ決まっており、意識的にtritonだけをインストールすることは基本的にない。先述の高速化ライブラリを使用するとユーザーが判断した場合にのみ、必要に迫られて導入することになる。
- triton単体で導入するメリット(高速化)はインストール失敗のリスクに比べると小さく、入れても困る可能性は少ないがお勧めはしない、アプリによっては良いことがあるかもしれない、という立ち位置である
インストール方法
注意点
- tritonに限った話ではないが、インストール時に他のライブラリとの依存関係が崩れる可能性があるため、念のためバックアップを取っておくこと
- OSとGPU要件を確認しておくこと
triton導入
Windows版
triton-windows
導入済みのtorchバージョンを調べて、
そのtorchのバージョンに対応するtritonをインストールする
pip install triton-windows==XX.XX.XX XXにはVer.を記入。
Lunux版
(本来こちらが先に開発された事以外、筆者はよく知りません)