06f1fd69a6
7.0 KiB
Kurulum
Transformers, PyTorch ile çalışır. Python 3.10+ ve PyTorch 2.4+ üzerinde test edilmiştir.
Sanal ortam
uv, Rust tabanlı son derece hızlı bir Python paket ve proje yöneticisidir ve farklı projeleri yönetmek ile bağımlılıklar arasındaki uyumluluk sorunlarını önlemek için varsayılan olarak bir sanal ortam gerektirir.
pip yerine doğrudan kullanılabilir, ancak pip'i tercih ediyorsan aşağıdaki komutlardan uv kısmını kaldırman yeterli.
Tip
uv'yi kurmak için uv kurulum belgelerine bak.
Transformers'ı kurmak için bir sanal ortam oluştur.
uv venv .env
source .env/bin/activate
Python
Aşağıdaki komutla Transformers'ı kur.
uv, Rust tabanlı hızlı bir Python paket ve proje yöneticisidir.
uv pip install transformers
GPU hızlandırması için PyTorch ile uyumlu CUDA sürücülerini kur.
Sisteminin bir NVIDIA GPU algılayıp algılamadığını kontrol etmek için aşağıdaki komutu çalıştır.
nvidia-smi
Transformers'ın yalnızca CPU sürümünü kurmak için aşağıdaki komutu çalıştır.
uv pip install torch --index-url https://download.pytorch.org/whl/cpu
uv pip install transformers
Kurulumun başarılı olup olmadığını aşağıdaki komutla test et. Verilen metin için bir etiket ve skor döndürmesi gerekir.
python -c "from transformers import pipeline; print(pipeline('sentiment-analysis')('hugging face is the best'))"
[{'label': 'POSITIVE', 'score': 0.9998704791069031}]
Kaynaktan kurulum
Kaynaktan kurulum, kütüphanenin kararlı sürümü yerine en son sürümünü kurar. En güncel Transformers değişikliklerine sahip olmanı sağlar ve en son özelliklerle deney yapmak veya henüz kararlı sürümde resmi olarak yayınlanmamış bir hatayı düzeltmek için kullanışlıdır.
Dezavantajı, en son sürümün her zaman kararlı olmayabilmesidir. Herhangi bir sorunla karşılaşırsan, lütfen en kısa sürede düzeltebilmemiz için bir GitHub Issue aç.
Aşağıdaki komutla kaynaktan kur.
uv pip install git+https://github.com/huggingface/transformers
Kurulumun başarılı olup olmadığını aşağıdaki komutla kontrol et. Verilen metin için bir etiket ve skor döndürmesi gerekir.
python -c "from transformers import pipeline; print(pipeline('sentiment-analysis')('hugging face is the best'))"
[{'label': 'POSITIVE', 'score': 0.9998704791069031}]
Düzenlenebilir kurulum
Düzenlenebilir kurulum, Transformers ile yerel olarak geliştirme yapıyorsan kullanışlıdır. Dosyaları kopyalamak yerine yerel Transformers kopyanı Transformers deposuna bağlar. Dosyalar Python'ın import yoluna eklenir.
git clone https://github.com/huggingface/transformers.git
cd transformers
uv pip install -e .
Warning
Kullanmaya devam etmek için yerel Transformers klasörünü saklamalısın.
Ana depodaki en son değişikliklerle yerel Transformers sürümünü güncellemek için aşağıdaki komutu çalıştır.
cd ~/transformers/
git pull
conda
conda, dilden bağımsız bir paket yöneticisidir. Yeni oluşturduğun sanal ortamda conda-forge kanalından Transformers'ı kur.
conda install conda-forge::transformers
Yapılandırma
Kurulumdan sonra Transformers önbellek konumunu yapılandırabilir veya kütüphaneyi çevrimdışı kullanım için ayarlayabilirsin.
Önbellek dizini
Önceden eğitilmiş bir modeli [~PreTrainedModel.from_pretrained] ile yüklediğinde, model Hub'dan indirilir ve yerel olarak önbelleğe alınır.
Bir modeli her yüklediğinde, önbelleğe alınmış modelin güncel olup olmadığı kontrol edilir. Aynıysa yerel model yüklenir. Değilse yeni model indirilir ve önbelleğe alınır.
Varsayılan dizin, HF_HUB_CACHE kabuk ortam değişkeni tarafından belirlenir ve ~/.cache/huggingface/hub şeklindedir. Windows'ta varsayılan dizin C:\Users\kullaniciadi\.cache\huggingface\hub şeklindedir.
Bir modeli farklı bir dizine önbelleğe almak için aşağıdaki kabuk ortam değişkenlerindeki yolu değiştir (öncelik sırasına göre listelenmiştir).
- HF_HUB_CACHE (varsayılan)
- HF_HOME
- XDG_CACHE_HOME +
/huggingface(yalnızcaHF_HOMEayarlanmamışsa)
Çevrimdışı mod
Transformers'ı çevrimdışı veya güvenlik duvarı olan bir ortamda kullanmak için indirilen ve önbelleğe alınmış dosyaların önceden hazır olması gerekir. [~huggingface_hub.snapshot_download] yöntemiyle Hub'dan bir model deposunu indir.
Tip
Hub'dan dosya indirmek için daha fazla seçenek hakkında Hub'dan dosya indirme rehberine bak. Belirli sürümlerden dosya indirebilir, CLI'dan indirebilir ve hatta bir depodan hangi dosyaların indirileceğini filtreleyebilirsin.
from huggingface_hub import snapshot_download
snapshot_download(repo_id="meta-llama/Llama-2-7b-hf", repo_type="model")
Bir model yüklerken Hub'a HTTP çağrılarını engellemek için HF_HUB_OFFLINE=1 ortam değişkenini ayarla.
HF_HUB_OFFLINE=1 \
python examples/pytorch/language-modeling/run_clm.py --model_name_or_path meta-llama/Llama-2-7b-hf --dataset_name wikitext ...
Yalnızca önbelleğe alınmış dosyaları yüklemek için başka bir seçenek de [~PreTrainedModel.from_pretrained] içinde local_files_only=True ayarlamaktır.
from transformers import LlamaForCausalLM
model = LlamaForCausalLM.from_pretrained("./path/to/local/directory", local_files_only=True)