---
title: "LoRA とは？LLM ファインチューニングの低ランク適応を解説 | BroadRouter"
description: "LoRA は、凍結した重みの横で小さな低ランク行列を 2 つ学習して LLM をファインチューニングします。仕組み、パラメータ数の計算、推論レイテンシが増えない理由を解説します。"
url: https://broadrouter.com/ja/glossary/lora/
lang: ja
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

このページは英語の原文を AI の支援を受けて翻訳したものです。 [英語の原文を読む](https://broadrouter.com/glossary/lora/) (2026-11-14 更新).

# LoRA（Low-Rank Adaptation）

更新日 2026-11-14

LoRA（低ランク適応）とは、事前学習済みモデルの重みを凍結し、選んだ層の小さな低ランク行列のペアだけを学習する、効率的なファインチューニング手法です。更新は小さなアダプターで保存でき、重みにマージすれば推論レイテンシも増えません。

別名： LoRA、LoRA ファインチューニング、低ランク適応、LoRA アダプター、PEFT、low-rank adaptation、LoRA adapter、LoRA fine-tuning

LoRA は、モデル全体ではなく小さな補正だけを学習することで、大きなモデルのファインチューニングを普通のハードウェアで現実的なものにしました。

## 仕組み

Hu らは、ファインチューニングが重み行列にもたらす変化は低ランクになりやすいことに気づきました。そこで LoRA は元の行列 W₀ を凍結したまま、変化を 2 つの細い行列の積として学習します。

W = W₀ + BA。ここで B は d × r、A は r × k で、r は d や k よりずっと小さい値です。

B はゼロから始まるため、学習は変更前のモデルから始まります。論文では主に、attention のクエリと値の射影に LoRA を適用しました。

パラメータの削減量は簡単に計算できます。4,096 × 4,096 の行列 1 つの場合です。

|  | パラメータ数 |
| --- | --- |
| 全体を更新 | 4,096 × 4,096 = 16,777,216 |
| LoRA、r = 8 | 8 × (4,096 + 4,096) = 65,536 |

全体の約 0.4% です。GPT-3 175B では、論文は学習パラメータが 1 万分の 1、GPU メモリが 3 分の 1 になり、チェックポイントが約 350 GB から約 35 MB に縮んだと報告しています。

## なぜ重要か

-   **学習が安い。** 学習する重みが少ないほど、オプティマイザーの状態に必要なメモリも減ります。凍結したベースモデルの[量子化](https://broadrouter.com/ja/glossary/quantization/)と組み合わせれば、より大きなモデルを小さな GPU に収められます。
-   **レイテンシが増えない。** Hugging Face の PEFT ガイドによると、アダプターは `merge_and_unload()` でマージできるため、提供コストはベースモデルと同じです。
-   **1 つのベースで多くのタスク。** ベースは凍結したままなので、[オープンウェイトモデル](https://broadrouter.com/ja/glossary/open-weight-model/)を 1 つだけ持ち、顧客やタスクごとに小さなアダプターを切り替えられます。
-   **限界。** LoRA は振る舞いやスタイルの変更が得意です。それでも[ファインチューニング](https://broadrouter.com/ja/glossary/fine-tuning/)であることに変わりはなく、良いデータと評価が必要です。

## BroadNet Inference の場合

BroadNet の [API リファレンス](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-lora&utm_content=body#models)には、LoRA、アダプターのアップロード、リクエストごとのアダプター選択についての記載はありません。呼び出すのは `broadnet/qwen3.8-27b` のような固定のモデル ID です。専用エンドポイントと BroadNet のアラビア語向けファインチューニング済みモデルは要相談で提供されていますが、どう学習したかはドキュメントに書かれていません。自分でアダプターを学習するつもりなら、[セルフホストと API の比較](https://broadrouter.com/ja/blog/self-hosting-llm-vs-api-cost/)の記事で API 料金と比べてください。両方を使うなら、[LiteLLM](https://broadrouter.com/ja/guides/litellm-proxy-custom-provider/) のようなルーターでどちらにもトラフィックを送れます。

## よくある質問

### LoRA のランク r とは何ですか？

2 つの小さな行列の内側の次元です。ランクが低いほど学習するパラメータが減り、アダプターも小さくなります。LoRA の論文は、GPT-3 175B で 1 や 2 という低いランクでもうまく機能したと報告しています。

### LoRA はフルファインチューニングと同じくらい良いですか？

LoRA の論文は、RoBERTa、DeBERTa、GPT-2、GPT-3 で "on-par or better than fine-tuning"（訳：ファインチューニングと同等以上）の品質を、はるかに少ない学習パラメータで達成したと報告しています。自分のタスクでテストしてください。

### BroadNet Inference に LoRA アダプターをアップロードできますか？

BroadNet のドキュメントにはアダプターのアップロードについての記載がありません。専用エンドポイントと BroadNet 独自のファインチューニング済みモデルは要相談で提供されています。

## 関連項目

-   [ファインチューニング（fine-tuning）](https://broadrouter.com/ja/glossary/fine-tuning/) (用語)
-   [量子化（quantization）](https://broadrouter.com/ja/glossary/quantization/) (用語)
-   [オープンウェイトモデル（open-weight model）](https://broadrouter.com/ja/glossary/open-weight-model/) (用語)
-   [知識蒸留（knowledge distillation）](https://broadrouter.com/ja/glossary/distillation/) (用語)
-   [LiteLLM から BroadNet Inference にルーティングする（SDK とプロキシ）](https://broadrouter.com/ja/guides/litellm-proxy-custom-provider/) (ガイド)
-   [LLM のセルフホストと API：本当のコストと損益分岐点](https://broadrouter.com/ja/blog/self-hosting-llm-vs-api-cost/) (記事)
-   [ビジネスで使うならオープンウェイトかクローズドか：コスト、管理、リスク](https://broadrouter.com/ja/blog/open-weight-vs-closed-models/) (記事)

実際のワークロードで試してください。 新規アカウントには US$5 の初回クレジットがあり、Gemma、文字起こし に使えます。DeepSeek、GLM、Qwen3.8 はチャージが必要です。

[始める](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-lora&utm_content=page-cta) ·

**出典**

-   [Hu ほか（2021）、LoRA - Low-Rank Adaptation of Large Language Models](https://arxiv.org/abs/2106.09685)
-   [Hugging Face PEFT、LoRA の概念ガイド](https://huggingface.co/docs/peft/main/en/conceptual_guides/lora)
-   [BroadNet Inference API リファレンス、モデル ID （英語）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-lora&utm_content=sources#models)
