AI活用の3重苦を解消し、飛躍的に進むための秘訣とは？

インフラ構築、費用対効果、専門知識不足。 　A　I活用の ３重苦を解消し、 飛躍的に 進むための 秘策とは？

AIモデルの構築には、GPUアクセラレータが不可欠な時代です 　製造業や小売業、サービス業、交通管理、公共施設、ヘルスケアなど、あらゆる分野で人工知能（AI）の活用が進んでいます。こうした事例 に用いられるAIモデルは年々巨大化しており、必要なコンピューティング・リソースも増えています。このため、GPU（グラフィックス・プロ セシング・ユニット）を用いて計算速度を飛躍的に高め機械学習のボトルネックを解消するGPUアクセラレータが急速に普及しています。 1000 100 AIを実務に投入し、生産性を向上させる事例が続々 10 自動車販売サイト「Carsales」には、ユーザーから 1 毎日2万枚以上の画像がアップされます。GPUの高 GPT-3(175B) 速演算を生かしたAIツールで自動車の種類やアング 0.1 Megatron-LM ルを自動認識し、人手による作業を55時間／日削減 0.01 (8.3B) Turing-NLG(17.2B) GPT-2 T5(11B) しています。 0.001 (1.5B) BERT-Large(340M) 0.0001 ELMo(94M) また、世界で1億5000万枚のクレジットカードを発 行するアメリカン・エキスプレスは、年間1兆ドル 2018 2019 2020 2021 2022 2023 を超える取引をAIで監視。サイバー犯罪や不正損失 ※NVIDIA社調査 を激減させています。 自然言語処理のAIモデル。年々巨大化し、2020年時点で175Bを突破 2 Model Size(Trillions of Parameters)

世界最速、多彩な用途に動的に対応する「NVIDIA DGX システム」 　NVIDIAの最新型GPU「NVIDIA A100 Tensor コア GPU」は、前世代GPUとの比較で最大20倍のパフォーマンスを発揮。NVIDIA A100 GPUは 毎秒2テラバイト（TB/秒）を超える世界最速のメモリ帯域幅を実現しています。このNVIDIA A100を複数搭載し、AIの様々なワークフローに動 的に対応できるように開発されたアプライアンスが「NVIDIA DGX システム」です。ハードウエアとソフトウエアが最適な形で統合されてお り、即座にサービスイン可能。学習時間を大幅に短縮し、より巨大なAIモデルを高速に処理できる画期的な性能を備えています。 NVIDIA A100 GPU NVIDIA A100 GPU 最新アクセラレーションのパフォーマンス ※NVIDIA社調査 CV ASR TTS RecSys NLP 6.5× 6.0× 5.8× 5.5× ■ NVIDIA A100 5.0× 5.1× 5.0× 4.5× 4.2× 4.1× 4.0× 3.5× 3.0× 2.9× 3.2× 2.5× 2.0× 2.0× 1.9× 1.5× 1.0× NVIDIA 0.5× V100 0.0× ResNet50 Mask R-CNN Jasper WaveGlow Tacotron 2 DLRM Transformer GNMT BERT NVIDIA DGX A100 NVIDIA DGX Station A100 ImageNetデータを使ってResNet50を学習 Wikiデータを使ってBERT-LARGEを学習 ・ 旧世代NVIDIA DGX-1(NVIDIA V100 GPU)だと学習におよそ6,7時間かかる ・ 旧世代NVIDIA DGX-1(NVIDIA V100 GPU)だと学習に一か月程度 ・ NVIDIA DGX A100ではおよそ3時間で終了 ・ NVIDIA DGX A100ではおよそ116時間(ほぼ5日)で終了 3 性能比 (vs NVIDIA V100)

思うように環境を構築できない。AI研究者が抱える3大課題とは？ 　大きなAIモデルの開発を始めようとする際、AI研究者やエンジニアを悩ませる課題があります。 適切なインフラ構築に AI開発環境にはアクセラレータだけでなく、AIモデルの作成に必要なデータを貯めておくためのストレージや、機器を接続するため 対する不安 のネットワークスイッチなどが必要。これらのインフラ全体を適切に設計、構築するのは困難。 費用対効果が見えない 高額なAIアクセラレータへの投資を検討するため、事前に自社のAIモデル開発がどのくらい高速化されるか確かめたい。 担当者に専門的な AI開発のインフラ整備には、ハードウエア（クラスタの管理や電力、冷却等）とソフトウエア（コンテナ管理やライブラリのバー 知識がない ジョン管理など）の両方にまたがる幅広い知識が必要。しかし、このような知識と経験を豊富に持つAI研究者はあまりいない。 4 製品で揃えたAIインフラパッケージ

当で高度なサポートが可能 製品で揃えたAIインフラパッケージ AI開発環製品境はをTEすD販ば売やプくロダ構クト築の！た「め、T各A製IP（品のT技E術D担 AIインフラパッケージ）」 　AIモデルの開発当やサでー高ビス度のな運サ用にポ必ー要トなが「可AIア能クセラレータ」「ストレージ」「ネットワーク」を1つにまとめたのが、東京エレクトロン デバイス（TED）の「TED AIインフラパッケージ（TAIP）」です。 　精度の高いAIモデルを作成するには、膨大な機械学習を高速かつ効率的に繰り返す必要があります。高速なアクセラレータが必要になるだけで なく、AIモデルの学習環境と推論（運用）環境を接続するネットワークやデータ共有の構成など、AI活用に特化した一連のシステムが必要です。 　必要なツールを1つにまとめたTAIPなら、ユーザーは「学習データセット」と「AIモデル」を準備するだけで即座にAI開発を始められます。 また、すべてTEDの取扱製品で構成されているため、導入からサポートまでワンストップで支援します。 最新のComputeアクセラレータを提供 アクセラレータ製品 ネットワーク製品 ストレージ製品 AIパイプラインを即座に利用可能 ベンダーロックの無い商品群 Pure Storage 各提供製品のスペシャリストが対応 FlashBlade お客様のニーズにあったカスタマイズ構成も可能 サポート＆サービス NVIDIA Arista ＋ DGX A100 7060CX2-32 ストレージ製品、ネットワーク製品もパッケージされているた DELL Technologies PowerScale Isilon め、お客様が準備した「学習データセット」と「AIモデル」が あれば、即座にAIインフラを利用可能 16 16 5

世界最速レベルの環境をすぐに体験できる「TAILES」 　「TAILES（TED AI Lab エンジニアリングサービ TED AI Lab システム構成 ス）」は、世界最速レベルのAIアクセラレータの利用 とエンジニアサポートを合わせたサービスです。TED NVIDIA CS-2 のエンジニアリングセンター（横浜市都筑区）にある DGX A100 「TED AI Lab」で、すぐにPoC（概念実証）やディー プラーニングを実行できます。 管理サーバー 　「大型モデルを試してみたいが、費用対効果がわか らない」「実データで試したいがクラウド利用は禁止 100GbE Switch 管理Switch されている」「ハードウエア・チューニングの知見が ない」「導入を検討している機器の効果を試したい」 といった悩みを即座に解決できます。 Worker 　大容量ストレージと高速ネットワークを従量課金なし FlashBlade で利用でき、ハードウエアの利用方法からトレーニング を実施。TEDのエンジニアチームがサポートします。 TED AI Labのシステム構成。世界最速レベルの環境でPoCが可能 6

まとめ AI活用の課題を解決するのは「プロへの相談」です 1 多くのAI研究者が抱えている3大課題は、「適切なインフラ構築に対する不安」「費用対効果が見えない」「担当者に専門的なハードウエアの知識がない」です。 2 1つ目の課題を解決するのが「TAIP」です。「AIアクセラレータ」「ストレージ」「ネットワーク」をパッケージ化し、AIの開発環境をすばやく容易に構築。TEDがワン ストップでサポートします。 3 2つ目と3つ目の課題を解決するのが「TAILES」です。世界最速レベルにある「TED AI Lab」の環境を利用し、自社のAIモデルを検証できます。また、導入を検討してい る機器を事前に試用して、その効果を確認できます。ハードウエアからソフトウエアまでTEDのエンジニアがサポート。AI研究者はご自身の研究や開発に専念できます。 7

CONTACT 東京エレクトロン デバイス株式会社 https://cn.teldevice.co.jp/ 〒163-1034 東京都新宿区西新宿 3-7-1 新宿パークタワー S34 階 Tel.03-5908-1990　Fax.03-5908-1991