PEFT documentation
PEFT 유형
시작하기
가이드
구성 및 모델통합 메모리 효율적인 학습모델 병합양자화커스텀 모델Adapter 주입PEFT 방법 혼합torch.compilePEFT에 기여하기문제 해결PEPT 체크포인트 형식
분산 학습
메서드
API 참조
You are viewing main version, which requires installation from source. If you'd like
regular pip install, checkout the latest stable version (v0.21.0).
PEFT 유형
PeftType에는 PEFT에서 지원하는 어댑터가, TaskType에는 PEFT가 지원하는 작업이 포함되어 있습니다.
PeftType
PEFT의 다양한 어댑터 유형을 위한 Enum 클래스입니다.
지원되는 PEFT 유형:
- PROMPT_TUNING
- MULTITASK_PROMPT_TUNING
- P_TUNING
- PREFIX_TUNING
- LORA
- ADALORA
- BOFT
- ADAPTION_PROMPT
- IA3
- BEFT
- LOHA
- LOKR
- OFT
- XLORA
- POLY
- LN_TUNING
- VERA
- FROD
- FOURIERFT
- HRA
- BONE
- MISS
- RANDLORA
- SHIRA
- PACA
- C3A
- ROAD
- WAVEFT
- OSF
- DELORA
- GRALORA
- ADAMSS
- SHADOW
- DEFT
TaskType
PEFT가 지원하는 다양한 작업 유형을 위한 Enum 클래스입니다.
지원되는 작업 유형 개요:
- SEQ_CLS: 텍스트 분류.
- SEQ_2_SEQ_LM: 시퀀스-투-시퀀스 언어 모델링
- CAUSAL_LM: 인과적 언어 모델링
- TOKEN_CLS: 토큰 분류
- QUESTION_ANS: 질의응답
- FEATURE_EXTRACTION: 특징 추출. 다운스트림 작업에서 임베딩 또는 특징으로 사용할 수 있는 히든 상태를 제공합니다