パラメータ

• num_attention_heads (int, 任意、デフォルトは 16) — マルチヘッドアテンションに使用するヘッド数。
• attention_head_dim (int, 任意、デフォルトは 72) — 各ヘッドのチャネル数。
• in_channels (int, デフォルトは 4) — 入力データのチャネル数。
• out_channels (int, optional) — 出力のチャネル数。入力のチャネル数と異なる場合は、このパラメータを指定してください。
• num_layers (int, 任意、デフォルトは 28) — 使用する Transformer ブロックの層数。
• dropout (float, 任意、デフォルトは 0.0) — Transformer ブロック内で使用する dropout の確率。
• norm_num_groups (int, 任意、デフォルトは 32) — Transformer ブロック内のグループ正規化におけるグループ数。
• attention_bias (bool, 任意、デフォルトは True) — Transformer ブロックの attention に bias パラメータを含めるかどうかを設定します。
• sample_size (int, デフォルトは 32) — 潜在画像の幅です。このパラメータは学習中に固定されます。
• patch_size (int, デフォルトは 2) — モデルが処理するパッチのサイズです。シーケンスでないデータを扱うアーキテクチャに関連します。
• activation_fn (str, optional, デフォルトは “gelu-approximate”) — Transformer ブロック内のフィードフォワードネットワークで使用する活性化関数。
• num_embeds_ada_norm (int, optional, デフォルト値は 1000) — AdaLayerNorm に使用される埋め込みの数です。学習中に固定され、推論時の最大デノイジングステップ数に影響します。
• upcast_attention (bool, optional, デフォルトは False) — true の場合、パフォーマンスの向上を目的として、attention メカニズムの次元をアップキャストします。
• norm_type (str, optional, defaults to “ada_norm_zero”) — 使用する正規化の種類を指定します。‘ada_norm_zero’ を指定できます。
• norm_elementwise_affine (bool, optional, デフォルトは False) — True の場合、正規化レイヤーで要素ごとのアフィンパラメータを有効にします。
• norm_eps (float, optional, デフォルトは 1e-5) — 正規化レイヤーの分母に追加される小さな定数で、ゼロ除算を防ぐために使用されます。