ChatGPTの基盤技術Transformerを処理性能で5倍上回る、AIアルゴリズム「Mamba」 - fabcross for エンジニア

ChatGPTの基盤技術Transformerを処理性能で5倍上回る、AIアルゴリズム「Mamba」 - fabcross for エンジニア

新たなAIアルゴリズム「Mamba」の開発成果とされる論文が、2023年12月1日、プレプリントサーバー「arXiv...概要を表示 新たなAIアルゴリズム「Mamba」の開発成果とされる論文が、2023年12月1日、プレプリントサーバー「arXiv」に掲載された。論文は、Mambaの性能について、ChatGPTを駆動するLLM（大規模言語モデル）の「Transformer」より5倍高速だと主張している。 Transformerは、生成AIチャットボットの基盤技術であり、用途の広い深層学習モデルだ。ただし、Transformerには、入力データ（シーケンス）が長い場合に計算の効率が低下するという弱点があった。 Mambaの技術的な特徴は、構造化された状態空間モデル（SSM）を改良したことで、モデルのパラメータを、入力データに合わせて動的に調整する能力だ。これにより、データの重要な部分の処理に集中し、不要な情報は無視できる。 論文は、Mambaのスループット（推論速度）が、Transformerより5倍高速だと説明している

• AI