Không có mô tả

Eric Wang 357ec81a17 decapoda		3 năm trước cách đây
.gitignore	26f64780ad initial commit	3 năm trước cách đây
DATA_LICENSE	63121244c8 Licenses and whatnot	3 năm trước cách đây
LICENSE	63121244c8 Licenses and whatnot	3 năm trước cách đây
README.md	357ec81a17 decapoda	3 năm trước cách đây
alpaca_data.json	26f64780ad initial commit	3 năm trước cách đây
conversion.py	26f64780ad initial commit	3 năm trước cách đây
finetune.py	357ec81a17 decapoda	3 năm trước cách đây
generate.py	357ec81a17 decapoda	3 năm trước cách đây
iteration.ipynb	26f64780ad initial commit	3 năm trước cách đây
lengths.ipynb	26f64780ad initial commit	3 năm trước cách đây
loss.ipynb	357ec81a17 decapoda	3 năm trước cách đây

alpaca-lora (WIP)

This repository contains code for reproducing the Stanford Alpaca results. Users will need to be ready to fork transformers.

Setup

Install dependencies (install zphang's transformers fork)

pip install -q datasets accelerate loralib sentencepiece

pip install -q git+https://github.com/zphang/transformers@llama_push
pip install -q git+https://github.com/huggingface/peft.git

Install bitsandbytes from source

Inference

See generate.py.

Training

Under construction.

README.md

alpaca-lora (WIP)

Setup

Inference

Training