【71】生成AI指標で安全確保（2026年4月22日紙面掲載分）

生成AI（人工知能）は社会や産業の中核技術として急速に広がる一方、事実と異なる出力や情報漏えいといったリスクも顕在化している。

国際標準化へ

新エネルギー・産業技術総合開発機構（NEDO）では、生成AIを社会で安心して活用できる技術とするため、2025年度から「AIの安全性確保に関する研究開発・検証等の推進事業／AIセーフティ強化に関する研究開発事業」を推進してきた。

同事業では、産業技術総合研究所（産総研）、Citadel AI（東京都渋谷区）、コーピー（東京都千代田区）の官民3者が連携し、AIセーフティ評価・管理基盤技術の確立に取り組んできた。

併せて、日常生活に関わる分野でのAI製品などを想定した実装技術の検討、AI開発者・品質保証担当者向けのガイドラインなどの策定、さらに開発現場で活用可能なAIの品質評価・管理の考え方を整理し、国際標準化への貢献を進めてきた。

実務を意識

同事業の中核的成果の一つが、AIを活用したシステムを開発する事業者の声を反映し、産総研が中心となって開発した「マルチモーダルAI品質マネジメントガイドライン」である。テキストと画像など、複数の情報元から集めた内容を同時に扱う生成AIでは、それぞれの内容が正しく対応しているかが信頼性向上において重要となる。同ガイドラインでは、文章と画像の意味の対応を読み取り、正しく対応させる力を新たな品質の指標と位置付け、その水準を4段階に整理した。

さらに、実務での活用を意識し、電子商取引（EC）における商品説明の生成やインフラ点検の支援といった具体的な場面での水準を例示した。

現場で磨く

加えて、国際標準に整合した生成AIの安全性評価プロトコルを分かりやすく整理した実装ガイドや、企業による先進的な事例集、AI関連国際標準を一覧できるマップなど、実務にすぐに役立つ情報もまとめた。これらの成果が関係者間の合意形成を後押しし、自主的な品質規定やガイドライン作成時への反映などを通じて、企業での活用を促進する。

また、成果を官民の人材育成につなげるため、NEDOでは2023年度から「AI品質マネジメント講座」を開催している。

ガイドラインは策定がゴールではなく、現場で磨かれ、進化し続けるプロセスに生かされてこそ意味がある。国際的にAIガバナンスの議論が高まる中、引き続き、ガイドラインを通じ、技術と社会を結ぶ活動を担っていきたい。

関連ページ

事業紹介：AIの安全性確保に関する研究開発・検証等の推進事業

NEDOからのお知らせ：産総研が生成AI利用に向けた「生成AI品質マネジマントガイドライン 第1版」を公表（2025年5月26日掲載）

NEDO特別講座：AI品質マネジメント講座

関連動画

NEDOが支える未来の技術　#10 活用分野が急速に拡がる「AI」