8-2 実行環境
1. 以下の手順はすべてDockerコンテナ内で実行します。
まず、実行環境となるDockerコンテナを作成します。
(1) `-v $(pwd):/workspace` コマンドを使用して、現在のディレクトリをマウントします。AIの大規模モデルは大量のストレージ容量を必要とするため、十分な容量のハードディスクを使用することをお勧めします。
sudo docker run -it --rm --runtime nvidia \
--network host \
--name AImodel \
-v $(pwd):/workspace \
dustynv/l4t-pytorch:r36.4.0
必要なパッケージをDockerコンテナ内にインストールします。
cd /workspace/ pip install -r requirements.txt --index-url https://pypi.jetson-ai-lab.io/jp6/cu126
以下の内容で新しい requirements.txt ファイルを作成してください。
torch==2.8.0
torchvision==0.23.0
transformers==4.48.2
accelerate==1.6.0
flash_attn==2.8.1
triton==3.1.0
# Florence-2-base
einops
timm
# Phi-4-multimodal-instruct
scipy
peft==0.13.2
backoff==2.2.1
# Janus
sentencepiece
attrdict