Ana Sayfa Keşfet Yardım
Giriş Yap
dongzenan
/
alpaca-lora
1
0
Çatalla 0
Dosyalar Sorunlar 0 Değişiklik İstekleri 0 Wiki

Açıklama Yok

Ağaç: 357ec81a17
Dallar Biçim İmleri
alpaca-lora
Eric Wang 357ec81a17 decapoda 3 yıl önce
.gitignore 26f64780ad initial commit 3 yıl önce
DATA_LICENSE 63121244c8 Licenses and whatnot 3 yıl önce
LICENSE 63121244c8 Licenses and whatnot 3 yıl önce
README.md 357ec81a17 decapoda 3 yıl önce
alpaca_data.json 26f64780ad initial commit 3 yıl önce
conversion.py 26f64780ad initial commit 3 yıl önce
finetune.py 357ec81a17 decapoda 3 yıl önce
generate.py 357ec81a17 decapoda 3 yıl önce
iteration.ipynb 26f64780ad initial commit 3 yıl önce
lengths.ipynb 26f64780ad initial commit 3 yıl önce
loss.ipynb 357ec81a17 decapoda 3 yıl önce

README.md

alpaca-lora (WIP)

This repository contains code for reproducing the Stanford Alpaca results. Users will need to be ready to fork transformers.

Setup

  1. Install dependencies (install zphang's transformers fork)

    pip install -q datasets accelerate loralib sentencepiece

pip install -q git+https://github.com/zphang/transformers@llama_push
pip install -q git+https://github.com/huggingface/peft.git

  2. Install bitsandbytes from source

Inference

See generate.py.

Training

Under construction.