Transformers documentation
Utilidades para pipelines
Utilidades para pipelines
Esta página enumera todas las funciones de utilidad que la biblioteca proporciona para las tuberías.
La mayoría de ellas solo son útiles si estás estudiando el código de los modelos de la biblioteca.
Gestión de argumentos
Interfaz base para manejar los argumentos de cada Pipeline.
Gestiona los argumentos para la clasificación de texto en cero disparos convirtiendo cada etiqueta posible en un par premisa/hipótesis de NLI.
Formato de datos
clase transformers.PipelineDataFormat
< source >( output_path: str | Noneinput_path: str | Nonecolumn: str | Noneoverwrite: bool = False )
Clase base para todos los formatos de datos admitidos por la tubería, tanto para lectura como para escritura. Los formatos de datos admitidos actualmente incluyen:
- JSON
- CSV
- stdin/stdout (tubería)
PipelineDataFormat también incluye algunas utilidades para trabajar con múltiples columnas, como el mapeo de columnas de conjuntos de datos a argumentos de palabras clave de pipelines a través del formato dataset_kwarg_1=dataset_column_1.
from_str
< source >( format: stroutput_path: str | Noneinput_path: str | Nonecolumn: str | Noneoverwrite = False ) → PipelineDataFormat
Parámetros
- format (
str) — El formato del pipeline deseado. Los valores aceptables son"json","csv"o"pipe". - output_path (
str, opcional) — Dónde guardar los datos de salida. - input_path (
str, opcional) — Dónde buscar los datos de entrada. - column (
str, opcional) — La columna que se debe leer. - overwrite (
bool, opcional, valor predeterminadoFalse) — Indica si se debe sobrescribiroutput_path.
Devuelve
El formato de datos adecuado.
Crea una instancia del subclase correcto de PipelineDataFormat en función de format.
save
< source >( data: dict | list[dict] )
Guarde el objeto de datos proporcionado con la representación para el PipelineDataFormat actual.
save_binary
< source >( data: dict | list[dict] ) → str
Guarde el objeto de datos proporcionado como datos binarios en formato pickle en el disco.
clase transformers.CsvPipelineDataFormat
< source >( output_path: str | Noneinput_path: str | Nonecolumn: str | Noneoverwrite = False )
Soporte para pipelines que utilizan el formato de datos CSV.
save
< source >( data: list[dict] )
Guarde el objeto de datos proporcionado con la representación para el PipelineDataFormat actual.
clase transformers.JsonPipelineDataFormat
< source >( output_path: str | Noneinput_path: str | Nonecolumn: str | Noneoverwrite = False )
Soporte para pipelines que utilizan el formato de archivo JSON.
Guarde el objeto de datos proporcionado en un archivo json.
clase transformers.PipedPipelineDataFormat
< source >( output_path: str | Noneinput_path: str | Nonecolumn: str | Noneoverwrite: bool = False )
Lee datos de la entrada por tubería del proceso de python. Para datos de varias columnas, las columnas deben estar separadas por
Si se proporcionan columnas, la salida será un diccionario con {column_x: value_x}
Imprime los datos.
Utilidades
clase transformers.pipelines.PipelineException
< source >( task: strmodel: strreason: str )
Lanzada por un Pipeline al manejar call.