技術サポート

検証環境サービス「TED AI Lab」

「TED AI Lab」の検証環境サービスは、データセンターや研究所・学術機関などAI開発環境を自前で構築したいお客様に対して、最適なAIソリューションを模索いただくための検証環境サービスとして誕生しました。機器のサイジングのために性能を確かめておきたい、AI開発環境を構築したいが大規模なのでオンプレとクラウドでの性能・価格比較をしたい、あるいはライセンス費用が気になるのでオンプレ環境も試してみたい、クラウドでは提供されていないAI処理に特化したAIアクセラレータを使って性能を試してみたい、といった様々なニーズに対応し、開発環境に必要なハードウェア一式を丸々提供します。

最新AIアクセラレータを使えるAI開発環境

第三次AIブームのきっかけとなったディープラーニング(深層学習)の発達により、企業でのNLP(自然言語処理)やCV(画像識別)を用いた自動運転等、AI活用のニーズは日増しに高まっています。一方、AIモデルの精度や複雑性が上がるにつれてモデル規模も大型化してきており、開発環境も大規模化の一途を辿っています。

TED AI Lab_1_AI活用のニーズは日増しに増加
参照:https://www.microsoft/blog/turing-nlg-a-17-billion-parameter-language-model-by-microsoft/

ピンチアウトで拡大

TEDAILab_02_4c

TED AI Labは、このような学習の長時間化や開発環境の大規模化に備えてAI開発環境を自前で構築したいお客様に対して、最適なAIソリューションを模索いただくための検証環境サービスとして誕生しました。機器のサイジングのために性能を確かめておきたい、AI開発環境を構築したいが大規模なのでオンプレとクラウドでの性能・価格比較をしたい、あるいはライセンス費用が気になるのでオンプレ環境も試してみたい、クラウドでは提供されていないAI処理に特化したAIアクセラレータを使って性能を試してみたい、といった様々なニーズに対応し、開発環境に必要なハードウェア一式を丸々提供します。

機器スペック

TED AI Labでは、お客様のご要望に応じて最新のNVIDIA DGX-A100、またはCerebras CS-1のいずれかを周辺機器と共にお貸し出しし、弊社エンジニアがサポートいたします。

AIアクセラレータ

TED AI Lab_2_AIアクセラレータ

ピンチアウトで拡大

Cerebras CS-1について

Cerebras Systems社が開発したWafer Scale Engine(WSE)と呼ばれる46,225㎟の巨大なシリコンチップを搭載したDeep Learning専用アクセラレータシステムです。40万個のAI処理コアと合計18GBのローカルSRAMを実装したWSE上で、シリコンスピードでコア間通信を行うことで超高速なAI学習環境を提供します。

https://cn.teldevice.co.jp/product/cerebras_cs-2/   (CS-1、CS-2の詳細はこちら)  

NVIDIA DGX-A100について

DGX-A100は、最新のA100 GPUを8枚搭載した高性能DGXアプライアンスであり、お客様の開発環境をDGX-A100へ更新してモデルを学習させた場合にどのくらいの性能改善が見込めるかを確認したり、マルチインスタンスGPU(MIG)機能を使ったGPUインスタンスで並列に推論サーバを動かして効果を確かめたい、といった目的のためのAI学習環境を提供します。

https://cn.teldevice.co.jp/product/nvidia_dgx_a100/

サーバー仕様(計9台)

CPU             :Intel Xeon Gold 6248 2.5G, 20C/40T  x 2

Memory      :192GB (16GB x 12) RDIMM, 2933MT/s

Storage        :6.4TB (1.6TB x 4) NVMe SSD

NIC              :Mellanox ConnectX-5 EX Port 100G QSFP28  x 2

OS                :CentOS7.7

スイッチ仕様(計2台)

・100GbE(QSFP28), 32Port  x 2

Arista DCS-7060CX2-32S x 2

Arista DCS-7060CX2-32S  x 2

Arista DCS-7060CX2-32Sについて

Arista Switchは、データセンター用途に最適化された業界最高レベルの低遅延性能と最先端の汎用シリコンを用いて圧倒的なコストパフォーマンスを誇る100GbEのイーサネットスイッチです。

https://cn.teldevice.co.jp/product/arista_7000/

ストレージ仕様(1台)

・FlashBlade 物理容量123TB

FlashBlade

Pure Storage のFlashBlade 123TB (17TB x 7 blade)

Pure Storage FlashBladeについて

様々なワークロードのアプリケーションが混在する環境で柔軟に対応可能な高速オールフラッシュNASで、他のサービスで収集したビッグデータを一括管理し、そのままAI学習環境で使用可能なストレージデータハブとすることが可能です。

https://cn.teldevice.co.jp/product/flashblade/

TED AI Lab_5_構成図

ピンチアウトで拡大

利用方法

TED AI Labはクラウド環境とは異なり、CPUやメモリ、GPU1枚といったリソース単位で貸し出すのではなく、システム環境全体を貸し出すことであたかも自社のオンプレ環境のような形でご利用いただくことを目的としています。そのため、お客様の学習データとコードを持ち込んで頂いてすぐにAI学習を開始することが可能です。また、リモートアクセスだけでなく、セキュリティ上の理由でクラウド環境(インターネット)を利用したくない場合でも、オンサイトで接続頂く形でのご利用も可能です。

所在地

〒224-0045 神奈川県横浜市都筑区東方町17番地     
東京エレクトロンデバイス 都筑エンジニアリングセンター1F
https://cn.teldevice.co.jp/company/access/map_tsuzuki/

連絡先


ご質問等がございましたら、以下TED AI Labのお問い合わせフォームよりご連絡ください。

お問い合わせはこちら

 

 

関連する製品