Diffusers documentation

MiniMaxMusic3Transformer1DModel

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.42.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

MiniMaxMusic3Transformer1DModel

MiniMax Music 3の2.4BパラメータのフローマッチングDiffusion Transformerです。このモデルは、自己回帰型言語モデル段階のフレームごとの隠れ状態を条件として、128チャネルのFlow-VAEオーディオ潜在変数をノイズ除去します。フローマッチングのタイムステップをシーケンストークンとして先頭に追加します(Stable-Audio系譜の連続型トランスフォーマーで、部分的なローテーションアテンションとGLUフィードフォワードを使用)。

MiniMaxMusic3Transformer1DModel

class diffusers.MiniMaxMusic3Transformer1DModel

< >

( in_channels: int = 128condition_dim: int = 2048num_layers: int = 36num_attention_heads: int = 32attention_head_dim: int = 64ff_inner_dim: int = 8192rotary_dim: int = 32fourier_embedding_dim: int = 256 )

MiniMax Music 3 の flow-matching diffusion transformer です。autoregressive language-model ステージによって生成されるフレームごとの hidden state を条件として、Flow-VAE の audio latent を denoise します。

入力値は、(batch, in_channels, length) の形状を持つ 1 次元の潜在変数シーケンスです。条件付けシグナル(encoder_hidden_states、形状 (batch, length, condition_dim))は、潜在変数のタイムラインにすでに整合されている必要があります。MiniMaxMusic3ConditionEncoder を参照してください。フローマッチングの timestep は 0(ノイズ)から 1(データ)まで変化します。

forward

< >

( hidden_states: Tensortimestep: Tensorencoder_hidden_states: Tensorreturn_dict: bool = True )

パラメータ

  • hidden_states (torch.Tensor、形状 (batch, in_channels, length)) — ノイズ付き Flow-VAE 潜在変数。
  • timestep (torch.Tensor、shape (batch,)) — [0, 1] における Flow-matching の時間。0 は純粋なノイズ、1 はデータを表します。
  • encoder_hidden_states (torch.Tensor、形状 (batch, length, condition_dim)) — MiniMaxMusic3ConditionEncoder からのフレーム整列された条件付けです。classifier-free guidance の無条件ブランチにはゼロを渡してください。
  • return_dict (bool, defaults to True) — Whether to return a Transformer2DModelOutput instead of a plain tuple.
Update on GitHub