Parámetros

• adapter_config ([~peft.PeftConfig]) — La configuración del adaptador a añadir; los adaptadores admitidos son los métodos de ajuste no prefijo y de prompt de adaptación.
• adapter_name (str, opcional, por defecto "default") — El nombre del adaptador que se va a añadir. Si no se pasa ningún nombre, se asigna un nombre predeterminado al adaptador.

Parámetros

• adapter_names (list[str, str]) — Los nombres (cadena única o lista de cadenas) del adaptador que se debe eliminar.

Parámetros

• target_rank (int, opcional, valor predeterminado 128) — El rango más alto entre todos los adaptadores que se cargarán.
• check_compiled (str, opcional, por defecto "error") — Cómo manejar el caso en que el modelo ya está compilado, algo que generalmente se debe evitar. Las opciones son:
  • “error” (predeterminado): lanza un error
  • “warn”: emitir una advertencia
  • “ignore”: no hacer nada

Parámetros

• pretrained_model_name_or_path_or_dict (str o os.PathLike o dict) — Puede ser:
  • Una cadena de texto, el model id (por ejemplo, google/ddpm-celebahq-256) de un modelo preentrenado alojado en el Hub.
  • Una ruta a un directorio (por ejemplo, ./my_model_directory) que contiene los pesos del modelo guardados con ModelMixin.save_pretrained().
  • Un diccionario de estado de torch.
• prefix (str, opcional) — Prefijo para filtrar el state dict.
• cache_dir (str | os.PathLike, opcional) — Ruta a un directorio donde se almacena en caché la configuración de un modelo preentrenado descargado si no se utiliza la caché estándar.
• force_download (bool, opcional, valor predeterminado False) — Indica si se debe forzar la (re)descarga de los pesos del modelo y los archivos de configuración, ignorando las versiones en caché si existen.
• proxies (dict[str, str], opcional) — Un diccionario de servidores proxy a utilizar por protocolo o punto de acceso, por ejemplo, {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Los proxies se utilizan en cada solicitud.
• local_files_only (bool, opcional, valor predeterminado False) — Indica si se deben cargar únicamente los pesos y archivos de configuración del modelo locales. Si se establece en True, el modelo no se descargará desde el Hub.
• token (str o bool, opcional) — El token que se usará como autorización HTTP bearer para los archivos remotos. Si True, se utiliza el token generado desde diffusers-cli login (almacenado en ~/.huggingface).
• revision (str, opcional, valor predeterminado "main") — La versión específica del modelo que se va a utilizar. Puede ser el nombre de una rama, el nombre de una etiqueta, un id de commit o cualquier identificador permitido por Git.
• subfolder (str, opcional, por defecto "") — La ubicación de la subcarpeta de un archivo de modelo dentro de un repositorio de modelos más grande en el Hub o localmente.
• network_alphas (dict[str, float]) — El valor de la alfa de la red utilizado para un aprendizaje estable y para evitar el underflow. Este valor tiene el mismo significado que la opción --network_alpha en el script de entrenamiento de kohya-ss. Consulte este enlace.
• low_cpu_mem_usage (bool, opcional) — Acelera la carga del modelo cargando solo los pesos LoRA preentrenados y no inicializando los pesos aleatorios.
• hotswap — (bool, opcional) Por defecto es False. Si se debe sustituir un adaptador (LoRA) existente por el adaptador recién cargado en su lugar. Esto significa que, en lugar de cargar un adaptador adicional, se tomarán los pesos del adaptador existente y se reemplazarán con los pesos del nuevo adaptador. Esto puede ser más rápido y eficiente en memoria. Sin embargo, la principal ventaja del hotswap es que, cuando el modelo se compila con torch.compile, la carga del nuevo adaptador no requiere recompilar el modelo. Al usar hotswap, el adapter_name debe ser el nombre de un adaptador ya cargado. Si el nuevo adaptador y el antiguo tienen rangos y/o alphas de LoRA (es decir, escalado) diferentes, es necesario llamar a un método adicional antes de cargar el adaptador: pipeline = ... # carga el pipeline de diffusers max_rank = ... # el rango más alto entre todos los LoRAs que se desean cargar # llamar *antes* de compilar y cargar el adaptador LoRA pipeline.enable_lora_hotswap(target_rank=max_rank) pipeline.load_lora_weights(file_name) # opcionalmente, compilar el modelo ahora Tenga en cuenta que el hotswap de adaptadores del codificador de texto aún no se admite. Esta técnica tiene algunas limitaciones adicionales, documentadas aquí: https://huggingface.co/docs/peft/main/en/package_reference/hotswap

  Si el nuevo adaptador y el antiguo tienen rangos y/o alfas LoRA (es decir, escalado) diferentes, necesitas llamar a un método adicional antes de cargar el adaptador:

  pipeline = ...  # load diffusers pipeline
  max_rank = ...  # the highest rank among all LoRAs that you want to load
  # call *before* compiling and loading the LoRA adapter
  pipeline.enable_lora_hotswap(target_rank=max_rank)
  pipeline.load_lora_weights(file_name)
  # optionally compile the model now

  Tenga en cuenta que el intercambio en caliente de adaptadores del codificador de texto aún no es compatible. Esta técnica tiene algunas limitaciones adicionales, que se documentan aquí: https://huggingface.co/docs/peft/main/en/package_reference/hotswap

• metadata — Metadatos del adaptador LoRA. Cuando se proporciona, los metadatos inferidos a través del state dict no se utilizan para inicializar LoraConfig.

Parámetros

• save_directory (str o os.PathLike) — Directorio donde se guardarán los parámetros de LoRA. Se creará si no existe.
• adapter_name — (str, por defecto “default”): El nombre del adaptador que se va a serializar. Útil cuando el modelo subyacente tiene varios adaptadores cargados.
• upcast_before_saving (bool, por defecto False) — Si se debe convertir el modelo subyacente a torch.float32 antes de la serialización.
• safe_serialization (bool, opcional, valor predeterminado True) — Si se guarda el modelo usando safetensors o de la forma tradicional de PyTorch con pickle.
• weight_name — (str, opcional, valor predeterminado None): Nombre del archivo con el que serializar el state dict.

Parámetros

• adapter_name (str | list[str])) — La lista de adaptadores a establecer o el nombre del adaptador en el caso de un solo adaptador.

Parámetros

• adapter_names (list[str] o str) — Los nombres de los adaptadores a utilizar.
• weights (Union[List[float], float], opcional) — Los pesos del adaptador o adaptadores que se usarán con el UNet. Si es None, los pesos se establecen en 1.0 para todos los adaptadores.