責任ある AI 施策
責任ある AI、信頼できるソリューション
麻豆传媒 は設計段階から責任ある方法で AI 機能を開発することにより、お客様が適切なツールや機能を通じて AI を導入、設定、活用し、目標を確実に達成できるようサポートしています。
麻豆传媒 の責任ある AI
責任ある AI (RAI) ガバナンスの業界リーダーである 麻豆传媒 は、当社の AI が社会に貢献することを望んでいます。当社が AI リスクを徹底的に評価?管理する理由はここにあります。人権と安全を尊重する AI を構築するため、麻豆传媒 のチームはあらゆるチームと連携し、設計当初から責任ある AI を組み込むことにより、社会に真に貢献する AI を実現しています。
当社は今後を見据え、サイバーセキュリティ リーダーである Coalfire 社と提携し、当社の を NIST AI リスク管理フレームワークと照らし合わせて評価しています。さらに Schellman 社と提携し、当社のプログラムが ISO 42001 要件を満たしていることを証明しています。これらの独立機関による評価は、当社が最高水準の AI を責任ある方法で開発し、AI がセキュリティやプライバシーにもたらす脆弱性を管理していることを裏付けます。
强力なリスク评価
人財の権利や安全に及ぼすリスクは AI によって異なります。当社の開発は常にリスクを慎重に評価することから始まります。そうすることで潜在的な懸念事項を特定し、すべての AI の責任性と倫理性を確保しています。これはお客様向けの AI を開発する場合も、チーム向けの AI を開発する場合も同様です。
開発プロセスには複数回のチェックポイントを設けています。AI ユース ケースについては少なくとも 2 回 (構築中に 1 回、使用前に 1 回) のチェックを実施します。これにより、潜在的な問題を早期に特定しています。その後、AI を開発するか導入するかに応じて、明らかになった懸念事項に対処する明確なプランを策定します。
?
リスクを评価する方法
階層はさまざまな要因によって決まります。これには各従業員の予測や分類を行う製品機能、従業員の経済的機会に与える可能性のある一次的または二次的な影響、利用する AI の特性や状況に関連するその他の考慮事項が含まれます。この評価では「禁止リスク」についても検討し、承認済みのガバナンス構造に当てはまらないユース ケースを特定します。このようなユース ケースは、人財に害を及ぼしたり、基本的人権を侵害したりする可能性があります。
リスクを軽減するため、各リスク層は特定のプロトコル セットや標準プロトコル セットにマッピングされます。リスクの高い AI 機能には、より厳格な要件や多くのプロトコルが設定されます。そのため、製品の使用時に生じる潜在的なリスクに応じて適切な監視レベルが適用されます。
AI を構築するか使用するかを問わず、評価は適切に調整されます。このようなリスク管理により、先を見据えて行動し、潜在的な問題を早期に特定し、責任ある安全な方法で AI を開発?使用することができます。当社の社内ポリシーには、禁止されている AI ユース ケース、ロール、責任について詳細に定義されているほか、RAI リスク評価を実施する具体的なタイミングや要件がまとめられています。
責任ある AI に対する当社の取り組み
責任ある AI 使用は継続的な取り組みです。麻豆传媒 は進化する規制の動向、社会の期待、ベストプラクティス フレームワークを継続的にモニタリングしています。当社のチームは施策やプログラムを積極的かつ継続的に強化することで、AI の開発?導入に対する当社のアプローチの公正性、信頼性、倫理性を維持し、最高水準の AI を責任を持って開発しています。
当社は NIST AI リスク管理フレームワーク (AI RMF) などの AI ガバナンス フレームワークを遵守しています。また、当社の RAI プログラムや施策と照らし合わせて既存の規制と策定中の規制を継続的に評価しています。これには EU AI 法、コロラド州の AI 法、各州、地域、国または各国間が定める新たな規制やガイド フレームワークが含まれます。
麻豆传媒 は透明性を重視し、意思決定に役立つ明確な情報を提供しています。以下では、当社が責任ある AI を実現するために適用している主要なプロトコルを紹介します。先ほどご説明したように、当社はリスクベースのガバナンスに基づいて AI ライフサイクルを管理しています。つまりプロトコルをユース ケースのリスク レベルに基づいて決定し、AI 開発および導入チームと共有しています。
AI の責任
リスクの特定
开発时のプロトコル
先を見据えて製品や機能全体のリスク レベルを特定し、評価します。
?
これには AI 機能が意図するユース ケースやその特性に伴う倫理的、社会的、技術的なリスクが含まれます。このようなリスクを特定することで、生産時に下流プロセスで発生する可能性のある弊害を事前に軽減できます。
?
潜在的な弊害を理解するだけでなく、弊害を解消することで得られるメリットや、各机能を安全に提供する道筋を明らかにすることもできます。
导入时のプロトコル?
开発时と同様です。
ロールと责任
开発时のプロトコル
AI 機能の開発に関与するさまざまなチーム (製品およびテクノロジー、ML エンジニアリング、法务およびコンプライアンス、プライバシーなど) のロールと责任を明確に定義します。そうすることで、AI 開発ライフサイクル全体にわたって説明責任、コラボレーション、多様な意見を確保できます。
?
さらに専门知识の共有が有机的に拡大するため、新しいチームは质问への回答やサポートを入手し、ガバナンス构造に対する理解を促进させることができます。
?
最終的には、新しいエッジ ケースの特定やビジネスの移行、変化、成長を通じて、RAI ガバナンス フレームワークが体系的に強化されます。
?
导入时のプロトコル
开発时と同様です。
実用性の証拠
开発时のプロトコル
AI 機能の実用性を実証する情報を収集して文書化します。そうすることで AI が意図する機能を達成してユーザーに価値を提供する方法を明らかにします。
?
つまり AI 機能がユーザーに有意義な付加価値を提供することを示します。
?
导入时のプロトコル
开発时と同様です。
透明性と説明可能性
説明可能性
开発时のプロトコル
AI 機能がどのように機能するか、出力がどのように導き出されるかを明確に説明します。たとえば、顧客向けにドキュメント (AI ファクト シート、ユーザー インターフェイスの説明など) を提供することも、出力生成に使用されるデータの透明性や理解を別の方法で促進することもできます。
?
导入时のプロトコル
开発时と同様です。
解釈可能性
开発时のプロトコル
AI 機能の出力をできるだけ明確でわかりやすいものにし、顧客やユーザーの理解をサポートします。
?
AI ファクト シート内に明確な説明やサポート資料を含めるようにします。そうすることで、顧客やエンドユーザーはユース ケースの目的に照らし合わせて AI 出力の意味や含みを理解できます。
?
导入时のプロトコル
开発时と同様です。
通知
开発时のプロトコル
明確で利用しやすい通知を表示する AI 機能を設計し、エンドユーザーが AI システムを使用していることを認識できるようにします。?
?
ガイダンスやデフォルトの言語を提供し、AI 機能で処理するデータのタイプを顧客が説明できるようにします。?
?
通知はテキストやグラフィックスで表示し、機能に AI が使用されていること、出力は AI によって生成されることを明らかにします。??
?
导入时のプロトコル
开発时と同様です。
人间中心の设计と制御
常に人间が関与:
开発时のプロトコル
人間による監視と制御をサポートする AI 機能を設計します。当社ではお客様にドキュメントを提供し、AI 機能の出力が人間の意思決定を支援するものであり、置き換えるものではないことを説明しています。?
?
AI の出力結果を採用するか調整するかを問わず、この機能には人間が重要な意思決定を最終的に行える実用的なユーザー エクスペリエンスを組み込む必要があります。出力結果に至るまでの経緯を説明する基準を設定する必要もあります。
?
导入时のプロトコル
开発时と同様です。
代替手顺
开発时のプロトコル
必要に応じて、AI 機能の標準処理に代わるデータ処理手順 (人間によるレビューなど) を実行できるように AI 機能を設計します。このような代替手顺の実行方法を確認できる明確な説明書やドキュメントを顧客に提供します。
?
导入时のプロトコル
AI ソリューションを使用してデータ処理やパーソナライズされた出力生成を行うデータ主体が、ユーザー インターフェイスやコミュニケーションなどを通じて代替手段 (機械のみでレビューするのではなく人間がレビューするなど) をリクエストできるようにします。
インクルージョン
开発时のプロトコル
インクルージョンを考慮して AI 機能を設計し、多様なエンドユーザーがアクセスして利用できるようにします。言語、文化、障害の有無といった要因に加え、アクセスやエンゲージメントに影響する潜在的な障壁を考慮します。能力や好みによってユーザー エクスペリエンスの質が損なわれないようにします。??
?
导入时のプロトコル
ユーザーが AI ソリューションのインターフェイスを通じて十分な選択肢を得られるようにします。そうすることで多様なエンドユーザーのアクセスや利用を促進し、公平さを高めることができます。
组み込みのエクスポート
开発时のプロトコル
顧客が AI 機能から関連データをエクスポートして利用できるようにします。これにより、顧客は自身の専門家と連携してモニタリングやテストを独自に実施できるため、透明性や制御性が向上します。??
?
导入时のプロトコル
製品の設定手順を確認できる十分な情報をチームに提供します。そうすることで、チームはオプションを選択して出力データのアクセスやエクスポートを実行し、AI ソリューションのパフォーマンスをテストできます。
制御性
开発时のプロトコル
制御性を考慮して AI 機能を設計し、顧客が特定のニーズや好みに合わせて機能をカスタマイズできるようにします。明確なドキュメントやツールを提供し、設定に関する顧客の意思決定をサポートします。これは先に紹介したプロトコルの精神、つまり人間がすべての意思決定を行うことを前提としています。麻豆传媒 のお客様は AI プラットフォームで使用する機能を選択することもできます。
?
导入时のプロトコル
地域が求めているユース ケースに基づいて AI ソリューションを設定します。
テストとモニタリング
公平性のテスト
开発时のプロトコル
AI 機能の公平性をテストします。開発時のテストは、データの可用性に応じてすべてのデータを使用することも、出力の集計サンプルを使用することもできます。結果を分析して潜在的なバイアスの有無を確認し、調査結果やバイアスを軽減する戦略を文書化します。当社の AI 機能ファクト シートには、開発者側の公平性テストの概要が関連箇所に追記されます。
?
导入时のプロトコル
導入時のテストでは、AI が実際に生成した出力を使用することを検討します (可能な場合)。
有効性
开発时のプロトコル
AI 機能を厳密にテストし、目的に即した出力が生成されること、ユース ケースの目的や質が基準を満たしていることを確認します。テスト方法や結果を文書化し、AI が正確な出力を生成する能力を備えていることを実証します。??
?
导入时のプロトコル
开発时と同様です。
坚牢性
开発时のプロトコル
異なる入力データ、ユーザー設定、ユーザー構成を使用して多様な条件を設定し、AI 機能のパフォーマンスが維持されるかどうかをテストします。テストの手順と結果を文書化し、さまざまな条件下で AI のパフォーマンスが維持されることを実証します。
?
导入时のプロトコル
开発时と同様です。
テストのスケジューリング
开発时のプロトコル
AI 機能のパフォーマンス (精度、坚牢性、実用性、公平性など) のテストやモニタリングを定期的に実施するスケジュールを設定し、管理します。テストの頻度や手順を定義、実行、文書化します。
?
导入时のプロトコル
开発时と同様です。
メンテナンス基準
开発时のプロトコル
明確な基準と手順を確立し、AI 機能とその基盤となる ML モデルのメンテナンスや更新が継続的に実施されるようにします。更新が必要になるタイミングの判断基準や、更新を実行し、通知する方法を定義します。
?
导入时のプロトコル
AI ソリューションとその設定の更新や再評価をいつ行うか、また更新や再評価を実施すべきかどうかの判断基準を文書化します。
プライバシーとセキュリティ
データの质
开発时のプロトコル
AI 機能の開発に使用するデータの质が高いこと、目的のユース ケースにデータが適していること、対象ユーザーの人員構成を配慮したデータが使用されていることを確認します。AI 機能ファクト シートなどの透明性の高いドキュメントを使用して実証します。
?
导入时のプロトコル
开発时と同様です。
トレーサビリティ
开発时のプロトコル
システム モニタリング機能やトレーサビリティ機能に対応する AI 機能を設計します。
?
导入时のプロトコル
システム モニタリングやトレーサビリティに対応するメカニズムを搭載します。
场所の除外
开発时のプロトコル
AI 機能を使用できる地域を顧客が指定できるようにします。これにより、顧客は地域の法律や規制を遵守し、AI 機能の可用性を地域ごとに管理できます。
?
导入时のプロトコル
开発时と同様です。
更新と撤回
开発时のプロトコル
包括的なチェンジ マネジメント プランを策定し、AI 機能とその基盤となる ML モデルの更新を管理できるようにします。更新の内容や更新が機能の使用方法にもたらす潜在的な影響を顧客に通知するため、このプランにはコミュニケーション プロトコルを含める必要があります。
?
导入时のプロトコル
指定されたチェンジ マネジメント プランを策定して文書化し、AI ソリューションとその設定の更新に対応します。
有効性の管理
开発时のプロトコル
潜在的な脆弱性や、有効性に悪影響をもたらすリスクを軽減する保護手段を備えた AI 機能を設計します。これには、敵対的攻撃、データ ポイズニングなど、AI システムを悪用または弱体化する試みを阻止する保護対策が含まれます。
?
导入时のプロトコル
エンドユーザーのヒューマン エラーに関連する脆弱性や、AI ソリューションまたは知的財産のセキュリティを「悪用」または弱体化する不正行為を確実に特定、軽減、管理できる環境を整備します。