Diffusers documentation
AuraFlowTransformer2DModel
AuraFlowTransformer2DModel
نموذج Transformer للبيانات المشابهة للصور من AuraFlow.
AuraFlowTransformer2DModel
فئة diffusers.AuraFlowTransformer2DModel
< source >( sample_size: int = 64patch_size: int = 2in_channels: int = 4num_mmdit_layers: int = 4num_single_dit_layers: int = 32attention_head_dim: int = 256num_attention_heads: int = 12joint_attention_dim: int = 2048caption_projection_dim: int = 3072out_channels: int = 4pos_embed_max_size: int = 1024 )
المعاملات
- sample_size (
int) — عرض الصور الكامنة. هذا ثابت أثناء التدريب لأنه يُستخدم لتعلم عدد من تضمينات المواقع. - patch_size (
int) — حجم الباتش لتحويل البيانات المدخلة إلى باتشات صغيرة. - in_channels (
int، اختياري، القيمة الافتراضية 4) — عدد القنوات في المدخلات. - num_mmdit_layers (
int، اختياري، القيمة الافتراضية 4) — عدد طبقات كتل MMDiT Transformer التي سيتم استخدامها. - num_single_dit_layers (
int, اختياري، القيمة الافتراضية 32) — عدد طبقات كتل Transformer المستخدمة. تستخدم هذه الكتل تمثيلات الصور والنص المدمجة. - attention_head_dim (
int، اختياري، القيمة الافتراضية 256) — عدد القنوات في كل رأس. - num_attention_heads (
int، اختياري، القيمة الافتراضية 12) — عدد الرؤوس المستخدمة في الانتباه متعدد الرؤوس. - joint_attention_dim (
int، اختياري) — عدد أبعادencoder_hidden_statesالتي سيتم استخدامها. - caption_projection_dim (
int) — عدد الأبعاد المستخدمة عند إسقاطencoder_hidden_states. - out_channels (
int، القيمة الافتراضية 4) — عدد قنوات الإخراج. - pos_embed_max_size (
int، القيمة الافتراضية 1024) — الحد الأقصى للمواقع المضمنة من الكمونات (latents) للصورة.
نموذج Transformer ثنائي الأبعاد كما تم تقديمه في AuraFlow (https://blog.fal.ai/auraflow/).
forward
< source >( hidden_states: FloatTensorencoder_hidden_states: FloatTensor = Nonetimestep: LongTensor = Noneattention_kwargs: dict[str, typing.Any] | None = Nonereturn_dict: bool = True )
المعاملات
- hidden_states (
torch.FloatTensorمن الشكل(batch size, channel, height, width)) — مدخلاتhidden_states. - encoder_hidden_states (
torch.FloatTensorمن الشكل(batch size, sequence_len, embed_dims)) — تضمينات شرطية (تضمينات محسوبة من الشروط المدخلة مثل الأوامر النصية) للاستخدام. - timestep (
torch.LongTensor) — يُستخدم للإشارة إلى خطوة إزالة الضوضاء. - attention_kwargs (
dict، اختياري) — قاموس kwargs يُمرَّر إلىAttentionProcessorإذا تم تحديده، كما هو معرَّف تحتself.processorفي diffusers.models.attention_processor. - return_dict (
bool، اختياري، القيمة الافتراضيةTrue) — ما إذا كان يجب إرجاع~models.transformer_2d.Transformer2DModelOutputبدلاً من tuple عادي.
طريقة AuraFlowTransformer2DModel الأمامية.
يعطّل إسقاط QKV المدمج إذا كان مفعّلًا.
> هذه الواجهة البرمجية 🧪 تجريبية.