IPA（情報処理推進機構）／AISI（AIセーフティ・インスティテュート）が提供する「AIの安全性を評価するツール」および「AIセーフティ評価体系」について、内容を整理して解説します。必要であれば技術的な実装例や他国との比較もできますので、それも後で触れましょうか。
背景・目的
まず、なぜこのツール／枠組みが作られたかというと：
- AI／生成AIや大規模言語モデル（LLM）の普及が急速に進む中で、誤った出力・有害情報・プライバシー侵害・差別バイアスなどのリスクが社会的にも注目されている。 情報処理推進機構+2jipsti.jst.go.jp+2
- そうしたリスクを「事前に」「一定の基準や観点から」「体系的に」評価できる仕組みが必要との認識があり、IPAの下に「AIセーフティ・インスティテュート（AISI）」が設立された。 jipsti.jst.go.jp+2情報処理推進機構+2
目的は、AIシステムを開発・提供する事業者が、自社・自組織のAIの安全性を評価し、改善点を把握・改良できるように支援することです。社会的信頼を得ながらイノベーションを促進するための枠組みです。 情報処理推進機構+1
主な構成要素・内容
IPA/AISI が提供しているものは、大きく以下の要素から成っています：
| 名称 | 内容 | 対象 | 特徴 |
|---|---|---|---|
| AIセーフティに関する評価観点ガイド | AIシステムの安全性・倫理性などを評価するための観点（チェックポイント）、評価項目例、実施タイミングなどを整理したガイド。 情報処理推進機構+2jipsti.jst.go.jp+2 | 主に LLM（大規模言語モデル）を構成要素にする AIシステム。改訂版ではマルチモーダル基盤モデル（画像＋テキスト等）も考慮。 情報処理推進機構+1 | 6つの主要要素 (人間中心、安全性、公平性、プライバシー保護、セキュリティ確保、透明性) を出発点に、それらに関連する10観点で具体項目を示している。 情報処理推進機構+1 |
| レッドチーミング手法ガイド | 攻撃者の視点からシステムの弱点を探す「レッドチーミング」の進め方、代表的な攻撃手法例、実施体制・工程などを解説。 情報処理推進機構+1 | LLMシステム等、外部からの誤用・悪用のリスクがある AIシステム。 情報処理推進機構 | 細かい攻撃シナリオ（例：プロンプトインジェクション等）を列挙し、準備から実施、改善までのフレームワークを示している。 情報処理推進機構 |
| 安全性評価ツール（AIセーフティ評価ツール） | ガイドラインで定められた評価観点に基づき、AIシステムの「質問 (プロンプト) と回答」の内容を評価してスコア化するツール。定量評価／定性評価を組み合わせて「評価結果概要」を可視化。 ITmedia | AIシステム開発者／提供者が、自社システムを対象に使える。商用利用も可能。Apache‑2.0ライセンス。 ITmedia | 自動生成の評価項目（業務ドキュメント等から事業者や業界固有の要件を抽出して評価項目に反映）や、レッドチーミング視点での評価サブ項目を自動作成する機能も備える。 ITmedia |
評価観点・10のチェック項目
「評価観点ガイド」では、AIシステムを評価する際に見るべき具体的な観点が10個定義されています。最新版（第1.10版）で特にマルチモーダルモデルの扱い等も加味されています。 情報処理推進機構+1
以下がその10観点の概要です：
- 有害情報の出力制御（Output control of harmful content） — 暴力、差別、違法行為など有害な情報をどれだけ抑制できているか。 情報処理推進機構
- 偽誤情報の出力・誘導の防止 — 嘘・誤り・ミスリーディングな情報を排除、または誤誘導をしない設計。 情報処理推進機構
- 公平性と包摂性 — バイアス・差別の有無、特定の属性（性別、人種、出身地、障がいなど）への不当な偏りがないか。 情報処理推進機構
- ハイリスク利用・目的外利用への対処 — 悪用されやすい利用ケースや、本来想定しない利用がされる可能性を想定し、それを制御可能かどうか。 情報処理推進機構
- プライバシー保護 — 個人データの扱い、データがどのように保存／利用されているか、匿名化や最小限利用など。 情報処理推進機構
- セキュリティ確保 — 外部からの攻撃、脆弱性、アクセス制御など技術的な防御の堅牢性。 情報処理推進機構
- 説明可能性 — なぜそのような出力をしたかの理由／根拠が理解可能、トレース可能であること。 情報処理推進機構
- ロバスト性（頑健性） — 入力の揺らぎ・ノイズ・悪意ある入力に対しても機能が安定しているか。 情報処理推進機構
- データ品質 — 学習データや入力データの品質、バイアス・ラベルミスなどのチェック。 情報処理推進機構+1
- 検証可能性 — 評価結果、設計・開発・運用のプロセスなどが外部からまたは監査可能／再現可能な形で記録されているか。 情報処理推進機構
ツールの動き・機能
具体的に「評価ツール」がどう動くか、どんな機能があるか：
- プロンプトと回答を入力 → その出力内容を、上記10観点などに基づいて採点（スコアをつける）する。 ITmedia
- 定量評価：実際の質問回答の内容に対してルール／指標で測るもの。例えば有害な質問への対応が適切かどうかなど。 ITmedia
- 定性評価：ユーザーや開発者にヒアリングやアンケートでどう感じるか、透明性や説明可能性などの観点での評価などもあわせる。 ITmedia
- レッドチーミング視点での評価項目の自動生成：業務ドキュメントなどから“このAIが扱う内容・業界リスク”を抽出し、それを反映した評価項目を作る機能。 ITmedia
- 出力：評価結果を「評価結果概要」という形で可視化。どの観点が強くて、どこに弱みがあるかが分かる。 ITmedia
適用／実施タイミング
- AIシステムの 開発中、提供前、運用後 の各フェーズで、合理的な範囲で繰り返し評価することが求められている。リリース後も継続的に安全性を確認・改善する。 情報処理推進機構+1
- 評価を実施する主体としては、AIを「開発・提供管理者」「事業執行責任者」などが想定されており、組織の責任者レベルで評価観点を押さえることが重要。 情報処理推進機構+1
実際の公開とライセンス
- ツールは GitHub で公開されており、ライセンスは Apache 2.0。商用利用もできる。 ITmedia
- ガイドライン類（評価観点ガイド、レッドチーミング手法ガイド等）は IPA/AISI の公式ウェブサイトから入手可能。最新版は評価対象をマルチモーダルモデルも含めて対応範囲を拡張している。 情報処理推進機構+1
強みと課題
最後に、このツール／枠組みの「強み」と「今後の課題点」を整理しておきます。
強み
- ガイドライン＋ツールという形で、「何を評価すればいいか」が明確であり、実践可能な評価ができること。
- レッドチーミングなど、リスクを攻撃者視点で探す手法を含んでおり、形式的・テストベースのアプローチだけでなく、広い視野でのチェックが可能。
- マルチモーダル対応や、業界・用途固有の要件を評価項目に反映する機能があり、汎用性がありつつ適用性も高くしようとしている。
- オープンライセンスであることから、研究機関・企業が自由に試せ・カスタマイズできる。透明性が高い。
課題／注意点
- 本ツールやガイドがフォーカスしているのは主に LLM／マルチモーダル基盤モデル。非常に専門的あるいは組み込み AI、エッジデバイス AI、リアルタイム制約が強いシステムなどでは追加で考慮すべき点がある。
- ツールによる定量評価／自動評価だけでは見落とされるリスクもある。例えば、文化的・社会的コンテキスト依存の誤用、有害と見なされる内容が文脈で異なる場合など。定性評価・人によるチェックが不可欠。
- 評価観点・手法は技術の発展に合わせて改訂していく必要があり、その維持管理コストがかかる。IPA/AISI 自体も最新版への改訂を実施しているところ。 情報処理推進機構+1
- 実質的評価をするためには、プロンプト／質問・回答データなどのテストデータの準備や、評価をするための体制・担当者・教育が必要になる。小規模事業者だとこの辺がハードルになりうる。
本記事は、Chat-GPT によって生成されました。
本画像は、SD3 によって生成されました。