06f1fd69a6
4.9 KiB
Exportarea pentru producție
Exportă modelele Transformers în diferite formate pentru rulări și dispozitive optimizate. Dă deploy aceluiași model la furnizori de cloud sau rulează-l pe dispozitive mobile și edge. Nu trebuie să rescrii modelul de la zero pentru fiecare mediu de deployment. Dă deploy liber în orice ecosistem de inferență.
ExecuTorch
ExecuTorch rulează modele PyTorch pe dispozitive mobile și edge. Exportă un model într-un graf de operatori standardizați, compilează graful într-un program ExecuTorch și îl execută pe dispozitivul țintă. Runtime-ul este ușor și calculează planul de execuție în avans.
Instalează Optimum ExecuTorch din codul sursă.
git clone https://github.com/huggingface/optimum-executorch.git
cd optimum-executorch
pip install '.[dev]'
Exportă un model Transformers la ExecuTorch cu unealta CLI.
optimum-cli export executorch \
--model "Qwen/Qwen3-8B" \
--task "text-generation" \
--recipe "xnnpack" \
--use_custom_sdpa \
--use_custom_kv_cache \
--qlinear 8da4w \
--qembedding 8w \
--output_dir="hf_smollm2"
Rulează următoarea comandă pentru a vizualiza toate opțiunile de export.
optimum-cli export executorch --help
ONNX
ONNX este un limbaj comun pentru descrierea modelelor din diferite framework-uri. Reprezintă modelele ca un graf de operatori standardizați cu tipuri, forme și metadate bine definite. Modelele sunt serializate în fișiere protobuf compacte pe care le poți deploya în runtimes și motoare optimizate.
Optimum ONNX exportă modele la ONNX cu obiecte de configurație. Suportă multe arhitecturi și este ușor de extins. Exportă modele prin unealta CLI sau programatic.
Instalează Optimum ONNX.
uv pip install optimum-onnx
optimum-cli
Specifică un model de exportat și directorul de output cu argumentul --model.
optimum-cli export onnx --model Qwen/Qwen3-8B Qwen/Qwen3-8b-onnx/
Rulează următoarea comandă pentru a vizualiza toate argumentele disponibile sau consultă ghidul Export a model to ONNX with optimum.exporters.onnx pentru mai multe detalii.
optimum cli export onnx --help
Pentru a exporta un model local, salvează fișierele de weights și tokenizer în același director. Pasează calea directorului argumentului --model și folosește argumentul --task pentru a specifica task-ul. Dacă nu furnizezi --task, sistemul îl inferează automat din model sau folosește o arhitectură fără un head specific task-ului.
optimum-cli export onnx --model path/to/local/model --task text-generation Qwen/Qwen3-8b-onnx/
Deployează modelul cu orice runtime care suportă ONNX, inclusiv ONNX Runtime.
from transformers import AutoTokenizer
from optimum.onnxruntime import ORTModelForCausalLM
tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen3-8b-onnx")
model = ORTModelForCausalLM.from_pretrained("Qwen/Qwen3-8b-onnx")
inputs = tokenizer("Plants generate energy through a process known as ", return_tensors="pt")
outputs = model.generate(**inputs)
print(tokenizer.batch_decode(outputs))
optimum.onnxruntime
Exportă modelele Transformers programatic cu Optimum ONNX. Instanțiază un [~optimum.onnxruntime.ORTModel] cu un model și setează export=True. Salvează modelul ONNX cu [~optimum.onnxruntime.ORTModel.save_pretrained].
from optimum.onnxruntime import ORTModelForCausalLM
from transformers import AutoTokenizer
ort_model = ORTModelForCausalLM.from_pretrained("Qwen/Qwen3-8b", export=True)
tokenizer = AutoTokenizer.from_pretrained("onnx/")
ort_model.save_pretrained("onnx/")
tokenizer.save_pretrained("onnx/")