GPU
じーぴーゆー ／ Graphics Processing Unit
定義
GPUとは、多くの計算を同時に処理でき、AIの学習や推論によく使われる演算装置のことです。
GPU（グラフィックス・プロセッシング・ユニット）は、もともと画像を描画するために作られた演算装置で、大量の計算を同時に並べて処理することが得意です。この性質がディープラーニングの学習や推論に向いているため、AIの開発や運用に欠かせない機器になっています。高性能なGPUは高価で、電力の消費も大きいため、多くの企業はクラウドのサービスを通じて必要な分だけ借りて使っています。社内でローカルLLMを動かす場合などには自社でGPUを用意することもありますが、購入費用、設置の環境、運用の手間まで含めて比べると判断しやすくなります。