ソフトバンクは17日、米半導体設計アンペア・コンピューティングと共同でCPU(中央演算処理装置)で人工知能(AI)を効率よく動かす技術の検証を始めたと発表した。AIモデルの駆動にCPUを使い、複数のモデルを円滑に動かせるようにする。AIインフラの構築では限られた演算能力を効率よく生かす技術が重要になっている。

特定の用途に特化したAIなど小型モデルの駆動でCPUを使えるようにする。高価な画像処理半導体(GPU)への依存を抑え、CPUも生かしたAIインフラの構築ができるか確かめる。

計算資源を管理するソフトバンクのシステムを使い、AIの推論処理用に設計されたアンペア製CPUを制御する。共同検証では小規模言語モデル(SLM)をCPUのみを搭載したサーバーで円滑に動かせるかなどを調べる。

すでに小型のAIモデルについては、GPUで動かすよりも起動や切り替えにかかる時間や電力消費を抑えられることを確かめた。今後も両社でCPUを使ったAI推論基盤の構築に向けて研究を続けていく。

BUSINESS DAILY by NIKKEI

鄭重声明:本文の著作権は原作者に帰属します。記事の転載は情報の伝達のみを目的としており、投資の助言を構成するものではありません。もし侵害行為があれば、すぐにご連絡ください。修正または削除いたします。ありがとうございます。