〜AIの品質リスクを適切に把握し、より良い活用を推進〜

株式会社Citadel AI
株式会社グルーヴノーツ

AI品質評価ツール「Citadel Lens（シタデル・レンズ）」を提供する株式会社Citadel AI（本社：東京都渋谷区、代表取締役：小林裕宜、以下 ​​Citadel AI）は、株式会社グルーヴノーツ（本社：福岡県福岡市、代表取締役社長：最首英裕、以下 グルーヴノーツ）と協働し、同社が提供する「MAGELLAN BLOCKS（マゼランブロックス）」のAIサービスとのシステム連携に対応したことを、お知らせします。

国内全体で、AIを実利用する企業は半数以上と年々増加しています。AIシステムを中長期的に運用していくには、AIモデルの構築・運用後の再学習などライフサイクルを通じて、AIを継続的に評価モニタリングし、AI特有の品質リスク管理を行うことが重要になってきます。

Citadel AIが提供する​​「Citadel Lens」は、AIモデルの学習時におけるAI品質評価ツールです。AIの信頼性や説明責任問題に関わる、精度のばらつき・バージョン間の互換性・アタックに対する耐性等を自動テストし「点数化」します。また、AI品質モニタリングツールである「Citadel Radar（シタデル・レーダー）」は、運用段階において、AIモデルへの入出力の異常をリアルタイムに自動検知・防御してAIのブラックボックス化の解消を図ります。

グルーヴノーツの「MAGELLAN BLOCKS」AIサービスは、数値・画像・文字などのさまざまなAI技術を手軽に活用できるクラウドサービスです。プログラミングを必要とせず、容易な操作でデータ加工・AIモデル作成・予測・評価のステップを実践でき、多くのユーザーが利用しています。

このたびの「MAGELLAN BLOCKS」AIサービスと「Citadel Lens」の連携により、ユーザー自身がAIの品質をわかりやすく客観的に把握できるようになります。「説明可能なAI」としてAIへの信頼性や透明性を高め、AI活用の定着を促進します。今後さらに「Citadel Radar」との連携を検討するなど、両者ともにAIの普及・促進に向けたソリューションの提供に努めてまいります。

「Citadel Lens」による品質の点数化

人手作業では検出困難なAIの弱点を、網羅的にテストして診断レポートを瞬時に自動生成します。複数のモデルバージョンの性能比較や、問題の原因分析を容易に行うことが可能です。お客様が安心して運用を維持できる環境を提供します。

注釈

• （*1）IT専門調査会社 IDC Japan株式会社「2022年 国内AIシステム／データアナリティクス市場 企業ユーザー調査」https://www.idc.com/getdoc.jsp?containerId=prJPJ49020822
• （*2）AIに与えるデータの偏り、AIを適用するビジネス領域や外部環境の変化等により不適切な出力結果を出す可能性、また、外部からのアタック等により誤認識や誤学習が発生してしまう可能性など、AIを活用する上で配慮すべきAI固有の問題。AIの信頼性や説明責任に関して、EUでは規制案が示されたほか、日本企業各社ではガイドライン策定が進むなど、世界的に関心が高い。
• （*3）英語で「Model bias（モデルバイアス）」のことを指し、精度の良い領域と悪い領域が混在している状態のこと。ある特定の顧客層等に対して、未学習状態が残っていること等によって発生する。
• （*4）英語で「Backward compatibility（バックワードコンパチビリティ）」のことを指す。AIモデルの改修や新しいデータを使った再学習等によってできる新しいバージョンのモデルが、従来のバージョンと齟齬のない予測結果を出している状態のこと。
• （*5）英語で「Adversarial robustness（アドバサリアルロバストネス）」のことを指す。AIを騙すようなデータを入力されるなど、誤認識や誤学習を狙った外部からの攻撃に対する耐性のこと。

株式会社Citadel AIについて

Citadel AIは、「24時間信頼できるAIをあなたに」を事業ビジョンに掲げ、米国Google Brainの元AIインフラ構築責任者が開発をリードするスタートアップです。2021年度の第4回「東大IPC 1st Round」に採択。2022年4月には、サントリーホールディングス株式会社と資本業務提携を締結。

https://www.citadel.co.jp

株式会社グルーヴノーツについて

グルーヴノーツは、先進のテクノロジー発想と高い技術力をもとに、量子コンピュータやAIを活用できるクラウドプラットフォーム「MAGELLAN BLOCKS」を開発・提供するテクノロジーカンパニーです。AIサービスとして国内有数の利用実績を有し、また量子コンピュータサービスでは世界で初めて商用化を実現。「豊かで人間らしい社会の実現に貢献する」ことをビジョンに掲げ、多様な価値観をもとに社会／人の未来の可能性や豊かさを広げるため、量子コンピュータやAIなどのテクノロジー活用を支援しています。

https://www.magellanic-clouds.com/blocks/

---

PDFダウンロード

【お問い合わせ先】
株式会社グルーヴノーツ　広報
pr@groovenauts.jp

※本リリースの内容は発表日時点の情報です。