Llama-Adapter

Llama-Adapter, Llama'yı talimat takibi yapabilen bir modele dönüştürmek için özel olarak tasarlanmış bir PEFT yöntemidir. Llama modeli dondurulur ve yalnızca girdi talimat jetonlarının başına eklenen bir dizi adaptasyon istemi öğrenilir. Modele rastgele başlatılmış modüllerin eklenmesi, modelin mevcut bilgilerinin bir kısmını kaybetmesine neden olabileceğinden, Llama-Adapter, talimat istemlerini modele kademeli olarak eklemek için sıfır başlatılmış dikkati ve sıfır kapılamayı kullanır.

Makalenin özeti şudur:

LLaMA-Adapter'ı sunuyoruz; bu, LLaMA'yı bir talimat takibi modeline verimli bir şekilde ince ayarlamak için hafif bir uyarlama yöntemidir. 52K self-instruct gösterimi kullanarak LLaMA-Adapter, dondurulmuş LLaMA 7B modeli üzerine yalnızca 1,2M öğrenilebilir parametre ekler ve 8 A100 GPU üzerinde ince ayar için bir saatten az bir maliyet gerektirir. Özellikle, bir dizi öğrenilebilir uyarlama istemini (adaption prompt) benimser ve bunları daha yüksek transformer katmanlarında girdi metin token'larının başına ekler. Ardından, sıfır kapılamalı (zero gating) sıfır başlatmalı (zero-init) bir dikkat mekanizması önerilir; bu mekanizma, yeni talimat ipuçlarını LLaMA'ya uyumlu bir şekilde enjekte ederken önceden eğitilmiş bilgisini etkili bir şekilde korur. Verimli eğitimle LLaMA-Adapter, tamamen ince ayarlanmış 7B parametrelere sahip Alpaca ile karşılaştırılabilir yüksek kaliteli yanıtlar üretir. Ayrıca, yaklaşmamız, örneğin görüntüler gibi çok modlu girdilere basitçe genişletilebilir; bu da ScienceQA'da üstün akıl yürütme kapasitesi elde eden görüntü koşullu LLaMA'yı sağlar. Kodumuzu https://github.com/ZrrSkywalker/LLaMA-Adapter adresinde yayınladık.

Karma performans değerlendirmesi genel bakış

API

AdaptionPromptConfig

AdaptionPromptModel