IDC PeerScape：Safe AIを管理するためのプラクティス

当IDC PeerScapeでは、Safe AIとは何か、なぜそれが重要なのか、そして常に進化し続けるAIの状況の中でSafe AIの実践を維持する方法について、従業員、ベンダー、パートナーをどのように教育している組織があるのかを探ります。「AI は、不正確、誤解を招く、または不完全なデータが原因で、頻繁にエラー (または「幻覚」) を起こすことがよく知られています。AIは良いデータと悪いデータを区別する能力がほとんどないため、企業や市民は、そのような欠陥が人々や組織に真の害を及ぼさないと判断することが難しい場合があります。そこで登場するのがSafe AIであり、従業員や組織がAIへの投資に信頼と自信を持てるようになります。」と、IDCのITエグゼクティブプログラムの研究員であるDavid Weldon氏は述べています。

IDC PeerScape図

エグゼクティブサマリー

ピアインサイト

• 実践1：スタッフがAIの機能と限界を理解し、AIベンダーがデータのプライバシー、セキュリティ、倫理的使用の基準を満たしていることを確認するためのトレーニングを提供する
  • 課題
  • 例
    • Fox Rothschild
    • Carnegie Mellon University
    • Z/Yen Group
  • ガイダンス
• 実践2：倫理的配慮とビジネス上の利益を結び付ける、積極的かつ体系的なAI導入アプローチを採用する
  • 課題
  • 例
    • Fox Rothschild
    • Carnegie Mellon University
    • Z/Yen Group
  • ガイダンス
• 実践3：説明可能性とドキュメント化を強化し、理解と信頼の構築を支援するAIツールと実践に投資する
  • 課題
  • 例
    • Fox Rothschild
    • Carnegie Mellon University
    • Z/Yen Group
  • ガイダンス
• 実践4：コンプライアンス、バイアス、セキュリティの脆弱性についてAIシステムを定期的にテストし評価する
  • 課題
  • 例
    • Fox Rothschild
    • Carnegie Mellon University
    • Z/Yen Group
  • ガイダンス