プライベート環境での生成AI活用を支援するサービスを2025年度中に拡充

背景

近年、生成AI技術の実用化が進み、実業務における利用ニーズは急速に拡大しており、検証利用から業務プロセスへの本格導入へと移行が進んでいます。画像・音声・自然言語など複雑かつ機密性の高いデータにリアルタイムで応答し、高精度な結果を導くためには、高性能かつ信頼性の高い推論基盤が不可欠です。
NTTデータは、生成AI活用コンセプト「Smart AI Agent™」^注4を軸に、業務プロセス全体の高度な自動化を推進しています。オフィスワーカー向けには、「LITRON Sales」^注5や「LITRON Marketing」^注6をはじめ営業・マーケティングなどの専門領域に特化したAIエージェントを提供しています。自律的なタスク処理環境を整備し、労働力人口の減少といった社会課題解決に取り組んでいます。
また、インフラ層では最新GPUを活用した「GPU IaaS」^注7、アプリケーション層では生成AIを活用した文章検索・回答生成システム「LITRON GA」など、各レイヤーでのソリューションを提供しており、インフラからアプリケーションまでをフルスタックで支援してきました。

概要（特長）

NTTデータは、2025年度中に、当社データセンターのプライベートクラウド環境で、生成AI関連サービスを拡充予定です。本サービスは、生成AIの推論を社内ネットワークや限定的な環境内で完結させる設計です。これによりお客さまは、生成AIによるチャット応答、文書要約、コード生成を、データ主権を維持しつつ高いセキュリティ水準でより高速に活用可能となります。お客さまの機微なデータは、国際基準に準拠したセキュリティ体制のもとで保護し、信頼性の高い推論処理により、業務への生成AI導入を加速させます。

新たに拡充予定のサービスは下記です。（図1）

LLM as a Service

当社データセンターのプライベートクラウド環境上で、「tsuzumi」をはじめとしたLLMをAPI経由で安全かつ低遅延で提供します。外部クラウドを介さず閉域・限定ネットワーク内で完結するため、データ主権を維持しながら、業務システムや社内アプリケーションからLLM APIを呼び出し、自社システムに生成AIを組み込むことが可能となります。これにより、お客さまは自社データを外部へ持ち出すことなく、LLMを業務に組みこむことが可能となり、LLMを活用した業務支援やドキュメント検索、チャットボット、要約・翻訳など多様なユースケースに対応できます。
本サービスはオープンソースLLMおよび今後アップデートされる「tsuzumi 2」にも順次対応を予定しております。

図：提供予定サービス

今後について

NTTデータは、プライベートクラウド環境で利用可能な生成AI関連サービスを継続的に拡充していきます。
閉域環境で利用可能なマルチモーダル対応LLM「Lazarus AI」^注8や当社データセンターおよびGPU基盤の活用による安全かつ高精度な生成AI活用を実現します。
データセンターをはじめとするインフラからアプリケーション、コンサルティング、BPOまでフルスタックで提供することで、お客さまの生成AI導入に関する課題解決を支援し、業務の抜本的改革と新たな価値創出に貢献していきます。

NTTデータグループが描く生成AI活用の未来

NTTデータグループは、積極的なAI活用の推進とガバナンスの両輪でお客さまのビジネス、当社のビジネスの変革を推進します。お客さまのビジネスでは、AIエージェントが指示に応じ自律的に対象業務のタスクを抽出・整理・実行する「Smart AI Agent」の実現をめざします。当社のビジネスでは、ソフトウェア開発の大幅な生産性向上や実践的生成AI人財の育成を加速します。これにより、人手不足等の社会課題解決に貢献するとともに、人が付加価値の高い業務領域に注力できる世界を実現していきます。