Diffusers documentation
MiniMaxMusic3Transformer1DModel
MiniMaxMusic3Transformer1DModel
MiniMax Music 3の2.4BパラメータのフローマッチングDiffusion Transformerです。このモデルは、自己回帰型言語モデル段階のフレームごとの隠れ状態を条件として、128チャネルのFlow-VAEオーディオ潜在変数をノイズ除去します。フローマッチングのタイムステップをシーケンストークンとして先頭に追加します(Stable-Audio系譜の連続型トランスフォーマーで、部分的なローテーションアテンションとGLUフィードフォワードを使用)。
MiniMaxMusic3Transformer1DModel
class diffusers.MiniMaxMusic3Transformer1DModel
< source >( in_channels: int = 128condition_dim: int = 2048num_layers: int = 36num_attention_heads: int = 32attention_head_dim: int = 64ff_inner_dim: int = 8192rotary_dim: int = 32fourier_embedding_dim: int = 256 )
MiniMax Music 3 の flow-matching diffusion transformer です。autoregressive language-model ステージによって生成されるフレームごとの hidden state を条件として、Flow-VAE の audio latent を denoise します。
入力値は、(batch, in_channels, length) の形状を持つ 1 次元の潜在変数シーケンスです。条件付けシグナル(encoder_hidden_states、形状 (batch, length, condition_dim))は、潜在変数のタイムラインにすでに整合されている必要があります。MiniMaxMusic3ConditionEncoder を参照してください。フローマッチングの timestep は 0(ノイズ)から 1(データ)まで変化します。
forward
< source >( hidden_states: Tensortimestep: Tensorencoder_hidden_states: Tensorreturn_dict: bool = True )
パラメータ
- hidden_states (
torch.Tensor、形状(batch, in_channels, length)) — ノイズ付き Flow-VAE 潜在変数。 - timestep (
torch.Tensor、shape(batch,)) —[0, 1]における Flow-matching の時間。0 は純粋なノイズ、1 はデータを表します。 - encoder_hidden_states (
torch.Tensor、形状(batch, length, condition_dim)) —MiniMaxMusic3ConditionEncoderからのフレーム整列された条件付けです。classifier-free guidance の無条件ブランチにはゼロを渡してください。 - return_dict (
bool, defaults toTrue) — Whether to return a Transformer2DModelOutput instead of a plain tuple.