Эхлэл Бүгдийг харах Тусламж
Нэвтрэх
dongzenan
/
alpaca-lora
1
0
Салаа 0
Файлууд Асуудлууд 0 Хуулах хүсэлтүүд 0 Мэдлэгийн сан

Тайлбар байхгүй

Мод: 357ec81a17
Салаанууд Тагууд
alpaca-lora
Eric Wang 357ec81a17 decapoda 3 жил өмнө
.gitignore 26f64780ad initial commit 3 жил өмнө
DATA_LICENSE 63121244c8 Licenses and whatnot 3 жил өмнө
LICENSE 63121244c8 Licenses and whatnot 3 жил өмнө
README.md 357ec81a17 decapoda 3 жил өмнө
alpaca_data.json 26f64780ad initial commit 3 жил өмнө
conversion.py 26f64780ad initial commit 3 жил өмнө
finetune.py 357ec81a17 decapoda 3 жил өмнө
generate.py 357ec81a17 decapoda 3 жил өмнө
iteration.ipynb 26f64780ad initial commit 3 жил өмнө
lengths.ipynb 26f64780ad initial commit 3 жил өмнө
loss.ipynb 357ec81a17 decapoda 3 жил өмнө

README.md

alpaca-lora (WIP)

This repository contains code for reproducing the Stanford Alpaca results. Users will need to be ready to fork transformers.

Setup

  1. Install dependencies (install zphang's transformers fork)

    pip install -q datasets accelerate loralib sentencepiece

pip install -q git+https://github.com/zphang/transformers@llama_push
pip install -q git+https://github.com/huggingface/peft.git

  2. Install bitsandbytes from source

Inference

See generate.py.

Training

Under construction.