ハイブリッド・プラットフォームが信頼できるジェネレーティブAIの実現に貢献する – クラウデラ、AMD、DELLのスポンサーコンテンツ

ジェネレーティブ人工知能（AI）はまだ発展途上にあるが、企業が顧客にサービスを提供する上で、すでに魅力的な可能性を秘めている。

企業は生成型AIを使用することで、大量の自社データを迅速かつ経済的に選別し、膨大な学習データに基づくプロンプトに応じて、関連性の高い高品質のテキスト、音声、画像、その他のコンテンツを作成することができる。また、ホスティングされたオープンソースの大規模言語モデル（LLM）は、組織が出力に企業データのコンテキストを追加し、誤った情報（「幻覚」）を減らしながら、より信頼性の高い応答を生成するのに役立つ。

しかしジレンマは、生成AIモデルからより正確な出力を得るためには、企業はサードパーティのAIツールに企業固有の知識や専有データへのアクセスを与える必要があるということだ。そして、適切な予防措置を講じない企業は、機密データを世間にさらす可能性がある。

そのため、サードパーティのSaaS（Software-as-a-Service）型AIソリューションを自社独自のデータとともに利用する戦略をとる企業にとっては、最適なハイブリッド・データ管理が不可欠となる。

ハイブリッド・クラウドのパワーを活用する

パブリック・クラウドは、LLMの実験に理想的なスケーラブルな環境を提供する。しかし、本格的なLLMをクラウドで展開するには、法外なコストがかかります。また、LLMが優れているのはそのデータだけですが、機密データや規制対象データをクラウドベースのLLMに送信することは、プライバシーやコンプライアンスに関する重大なリスクを伴います。

プライベート・クラウドは、企業独自のデータを持つLLMをホスティングするのに最適な環境を提供し、長期的なLLMデプロイメントにはパブリック・クラウドよりもコスト効率の高いソリューションを提供します。また、プライベート・クラウドにLLMを収容することで、データ・セキュリティが強化され、機密情報が外部からの脅威やコンプライアンス上の問題から保護されます。

ハイブリッド・ワークフローを採用する組織は、プライバシーとセキュリティを犠牲にすることなく、ジェネレーティブAIを最大限に活用し、両方の長所を得ることができる。初期の実験にはパブリック・クラウドの柔軟性を活用し、最も機密性の高いデータはオンプレミスのプラットフォームで安全に保護することができる。

ある企業の経験は、ハイブリッド・クラウド・ベースのデータ管理によって、企業や顧客の機密情報を保護しながら、パブリックな顧客データをリアルタイムで取り込むことができることを示している。

よりパーソナライズされたエクスペリエンス

シンガポールを拠点とする東南アジア最大級の金融機関は、AIと機械学習（ML）を活用してデジタル顧客体験を強化し、意思決定を改善したいと考えていた。そのためにハイブリッド・クラウド・プラットフォームを利用した。

OCBCは、すべてのLLMユースケースのための単一のエントリーポイントを構築した。ハイブリッドフレームワークは、何千もの顧客からのインプットを含む複数のデータソースをシームレスに統合することができ、顧客データを安全に保つプライベートクラウドデータレイクは、自社の基準に合わせてカスタマイズされたリアルタイムの洞察を得ることができる。

この銀行は、オンプレミスのサーバーに保存されているLLMとパブリッククラウドで利用可能なLLMの両方にアクセスするためのプロンプトマイクロサービスを構築した。これは、必要な機能とカスタマイズに応じて、パブリッククラウドのLLMとオープンソースのLLMの両方を使用できる費用対効果の高いモデルである。OCBCは、2,000ユーザー向けに拡張された独自のコードアシスタントをデプロイし、ホスティングすることで、SaaSソリューションを使用するコストの80％を節約した。

パブリック・クラウドで利用可能な膨大な機能とプライベート・プラットフォームの移植性を組み合わせることで、同行はAIモデルを安全に訓練し、その出力からより正確な推論を導き出すことができた。

このプラットフォームは、銀行のMLオペレーション・パイプラインと統合され、より大規模なMLエンジニアリング・エコシステムに適合する。このクラウドベースのMLプラットフォームにより、OCBCは独自のアプリケーションを構築し、データサイエンティストが選択したツールやフレームワークを使用することができる。

この取り組みは、よりパーソナライズされた顧客体験、より高いキャンペーン転換率、より迅速な取引、データセンターのダウンタイムの削減、そして年間1億SGD（7500万米ドル）の追加収益につながっている。

ジェネレーティブAIで安全にイノベーションを起こす

企業は、業務の効率化とイノベーションの加速のために、ジェネレーティブAIの導入を急いでいる。企業固有のコンテキストを持ち、独自のデータソースから知識を引き出すAIツールが必要だ。

しかし、テクノロジーがまだ成熟しているとはいえ、プライバシー、セキュリティ、コンプライアンスを犠牲にする必要はない。ホスティングされたオープンソースのLLMを使用することで、企業は最新の機能にアクセスし、独自のデータでモデルを微調整することができます。

ハイブリッド・プラットフォームを利用することで、企業はパブリック・クラウドの利点を利用しながら、独自のAIベースの洞察を一般に公開することができなくなる。ベンダーの制約を受けない、オープンで柔軟なソリューションを組み込んだハイブリッド・ワークフローは、AIを真に民主化するものです。

以下の方法について、さらに詳しくご覧ください。 オープンソースのLLMをセキュアな環境で自分のデータと一緒に使う.

新しい！

ビジネスプラン作成コース

ハーバードManageMentor®であなたのキャリアを加速させましょう。HBRラーニングのオンラインリーダーシップトレーニングでは、ビジネスプラン開発などのコースでスキルを磨くことができます。LinkedInや履歴書で共有できるバッジを獲得できます。フォーチュン500社が信頼する40以上のコースにアクセスできます。

勝てるビジネスプランの作り方を学ぶ

もっと詳しく＆すべてのコースを見る