近年、AIの飛躍的な技術革新が様々な業界で話題となっています。機械学習やディープラーニングの計算を行うGPUが、画像や音声などの認識技術でも大きな役割を担い、ビジネスの現場で次々と導入されてきています。本コラムでは、今やエッジAIコンピューティングに欠かせないプラットフォームとなった「NVIDIA Jetson」の基本知識と、そのGPUであるJetsonを採用した台湾Axiomtekの産業用PC（IPC）についてご紹介します。

 

機械学習、ディープラーニング、エッジAIコンピューティング～AI関連の基礎知識

本題に入る前に、まずGPUとはどんな働きをするか、簡単にご説明しましょう。GPUは、Graphics Processing Unitという名のとおり、グラフィック処理を高速化するように設計されたプロセッサですが、近年はその大量の演算を並行して処理できる特長を活かし、機械学習やディープラーニングの演算にも使用されています。機械学習では、大量のデータを学習し、入出力の関係性を示すモデル（関数）をつくります。この学習モデルに、あるデータを入力すると、予測および分類したい未知の出力結果が得られるようになります。例えば、スパムメールの検知や、売上や需要の予測などに利用されています。この学習モデルを作る方法には、事前に人間が学習データに正解ラベル（犬の画像ならば、犬という答えをセットで指定する）を付けて学ばせる「教師あり学習」と、任意のデータを入力して作る「教師なし学習」があります。また、出力した結果に報酬を与え、最も高い報酬が得られるように自ら探索させる「強化学習」もあります【★写真1】。

 

【★写真1】機械学習の種類には、教師あり学習、教師なし学習、強化学習がある。

 

最近よく耳にするディープラーニングは機械学習の一つの手法で、人の脳内にある神経回路網を数式的なモデルで表現したニューラルネットワークを用います。多層化したニューラルネットワークを通じて、画像や言語などの複雑な特徴やパターンを自動で抽出します。画像認識や自動運転など、より複雑なタスクに導入されています。

 

これまでディープラーニングを利用するには、大手サービスプロバイダが提供するクラウド上にある高性能なGPU群を使ったサービスを使うのが一般的でした。あらかじめ用意した大量のデータをネットワーク経由でアップロードし、その演算結果を戻してもらう必要がありました。しかし、この場合はデータをネットワーク経由で送るため、ネットワークもひっ迫し、ラグが生じて時間もコストも掛かかってしまいます。そのため、自動運転などリアルタイム性が求められる処理には、向いているとは言えませんでした。

 

そこで考えられたのがエッジAIコンピューティングによるアプローチです。まずローカル側のエッジ端末（ハードウェア）にAIチップを実装し、データを一次的に処理しながらオフロードし、そのエッジ側の結果をクラウド側に送って2次処理するというものです。もちろん、この場合にも、エッジ側のAIチップに学習モデルを事前に実装しておく必要はありますが、クラウド側でより収斂された学習モデルをアップデートすれば、より高精度な画像判定などに使えるようになります【★写真2】。

 

【★写真2】従来のエッジコンピューティングによる演算処理（図上）と、エッジAIコンピューティングを応用した演算処理によるアプローチ（図下）。

 

CPUとGPUの違い、およびNVIDIA GPUの変遷と主な特長とは？

次に、AIの計算に欠かせない中核のコンポーネントについてご説明します。これまでコンピュータの計算処理を行うのは中央演算処理装置、すなわちIntelやAMDなどのCPUでした。ところが現在、AIの計算処理については、NVIDIAのGPUが独占している状況です。では、従来のCPUとGPUでは一体何が違うのでしょうか？

 

端的に言うと、CPUは汎用の計算処理に適しており、少数のコア（処理ユニット）で複雑なタスクを処理することが得意です。一方、GPUは画像や音声、映像などの処理用に開発されたチップで、多数のコアを搭載しており、規則的な計算を並列処理することに特化しています。例えると、CPUは複雑な仕事ができる「便利屋さん」、GPUはどちらかというと「計算に特化した専門家」と考えるとわかりやすいかと思います。

 

ただし、少しややこしいのが、従来のCPU自体にもGPUが内蔵されていることです。IntelのCPUに内蔵されたGPUと、NVIDIAのGPU単体の違いを下記に示します【★写真3】。

 

【★写真3】IntelのCPUに内蔵されているGPUと、NVIDIAのJetson GPU単体の相違点。前者は基本的なグラフィック処理用に、後者はAIと機械学習用に最適化されている。

 

両者の大きな違いは、NVIDIAのGPUはAIに特化し、ディープラーニングに最適化された高速演算用の「Tesor Cores」や「CUDA」（Compute Unified Device Architecture）と呼ばれるアーキテクチャを含む最新技術を採用していることや、開発者向けのSDKなどのツールなどが充実していることです。

 

今、AI業界ではNVIDIAがひとり勝ちの状況ですが、中でも特に有名なのが高性能なエッジコンピューティングプラットフォームで、ハードウェアとソフトウェアの両方を含むJetsonでしょう。 AIに使われるようになったNVIDIA GPUの歴史を振り返ると、2017年のVoltaからJetsonが市場に投入されたことがわかります【★写真4】。

 

【★写真4】NVIDIAの主なGPUの変遷。2017年頃からAI用にJetsonシリーズが登場し、ディープラーニングに特化したTensorコアも導入された。

 

Jetsonシリーズは、複雑なデータ処理と分析を高速に行える点や、高い計算性能を持ちながらも消費電力が低く抑えられている点、小型ながら多様なセンサやデバイスと接続できる点が大きな特長になっています。現在、コスパの良い入門者向けの「Jetson Nano」や、より強力な処理が可能な中級者向けの「Jetson NX」、最高性能を発揮する高度なAIアプリケーション向けの「Jetson AGX」などが用意されています。

 

これらはユーザー側の特定のニーズと予算に合わせて選択できるように設計されており、AIのパフォーマンスを示す指標であるTOPS（1秒間に実行できる演算回数を1兆回単位で表したもの）によって、数多くの製品ラインナップがあります。

 

台湾AxiomtekのJetson搭載IPCと代表的なユースケース

ここからは、ケーメックスONEが取り扱っているAxiomtekのJetson搭載IPCについてご紹介します。AxiomtekはJetsonに注力しており、そのラインアップにはエッジ端末に適した超小型の「AIE100シリーズ」、産業用に適した「AIE500シリーズ」、屋外でも使える「AIE800シリーズ」、ワークステーション級の「AIE900シリーズ」があります【★写真5】。

 

【★写真5】AxiomtekのJetson搭載IPC「AIEシリーズ」。超小型タイプから、一般産業用、屋外仕様、パイパフォーマンスな製品まで幅広く提供中だ。

 

個々のシリーズの詳細スペックについては割愛しますが、ラインナップを代表して新製品の「AIE510-ONX/ONA」を紹介しましょう。これはNXとNanoを搭載した小型モデルで、Wi-Fi6E通信モジュールや、2.5GbE高速LANポートを備え、CANやPoEにも対応し、次世代高速カメラインターフェースのGMSL×4も搭載しています。イグニッション電源にも対応するため、AMR（無人搬送車）などの車載に適しており、バスおよびトラックの規格であるE-MarkやISO 7637-2の認証も受けています。このほか屋外用のM12コネクタを備えたハウジングもオプションで用意しています【★写真6】。

 

【★写真6】Jetson搭載の小型IPCモデル「AIE510-ONX/ONA」。高速カメラインターフェースのGMSLなども装備。

 

AxiomtekのJetson搭載IPCは、さまざまな用途に幅広く利用されています。 例えば、AMRだけでなく、スマート農業用の無人ロボットに採用されたり、無人コンビニのカメラ付きカートに搭載されたり、人の顔や自動車のナンバーを認識する用途でスマートシティにも使われたりしています。特にAxiomtekは自社でAMRを開発しており、ロボット用のROS2を利用したシステム開発に実績があります。

 

ケーメックスONEは、Axiomtekの代理店として20年近い経験があり、専任技術スタッフによる全数点検出荷や手厚いサポートを実施しています。エッジAIコンピューティングなどの用途で気になる製品がございましたら、メーカーサンプルもご用意していますので、ぜひ弊社担当までお問い合わせ下さい。

 

資料ダウンロード

AxiomtekのNVIDIA Jetson搭載IPC AIEシリーズが掲載されいているセレクションガイドをご用意しておりますので、こちらよりダウンロードしてご覧ください。※ダウンロードには会員登録（無料）が必要です。