人工知能局（OAI）は2020年6月8日付で、政府が人工知能技術の購入に当たり、特有の課題に対処する場合のベスト・プラクティスの概要を公表した。以下はこの中に掲げられた上位の考慮事項である。

1）調達をAI 導入戦略に含めること

AI 技術選択にあたり、確実に技術・データ戦略を最新の状態に更新すること。調達を戦略的に使用して、政府全体でのAIの導入を支援し、コラボレーションを通じたAI技術導入による規模の経済効果を活用し、政府全体で関心のあるチームと知識を共有する。

中央政府省庁・機関で関連するAIイニシアチブをリードする他のチームと作業の整合性を考慮する。

自己組織内および官公庁全体でネットワークを構築して、見識を共有し、成功例から学習する。

2）意思決定は多様な複数分野にまたがるチームで行うこと

AIプロジェクトは、AI技術が含む相互依存分野を理解できる、多様性あるチームで開発、評価、実施することが効果的である。

• 領域専門性（ヘルスケア、輸送等）
• 商業的専門性
• システム＆データ・エンジニアリング
• モデル開発（深層学習等）
• データ倫理
• 視覚化・情報デザイン

適切なスキルセットを備えたチームを編成し、AIシステムのバイアス軽減に必要な多様性を扱う為、実績のあるサプライヤーを確保すること。

3) 調達プロセスを開始する前にデータ査定を実施すること

データは現在、AIを利用した大半のソリューションの基礎となっている。多くの場合、関連データの可用性はAIシステムの前提条件であるため、データが利用できない場合は、AI調達についての話し合いに時間を費やすべきではない。

• 調達プロセスの最初からデータ・ガバナンスのメカニズムが整っていることを確認すること。
• プロジェクトに関連するデータが利用可能かどうかを査定すること。
• 市場に出る前にデータ内の欠陥や潜在的なバイアスに対処すること。データの問題を自ら修正できない場合には、その問題に対処するための計画を持つこと。
• 調達イニシアチブや後続プロジェクト向けに、データをベンダーと共有するか、そしてどのように共有するかを決めておくこと。

4) AI導入のメリットとリスクを査定すること

公共利益の目標を定義することが、AIシステムが達成しようとしているプロジェクトと調達プロセス全体の拠所を提供する。AI技術には、調達フェーズの早い段階で特定・管理される必要のある特別なリスクもある。

• 提案を査定する際に公共利益が意思決定プロセスの主な推進力であることを調達文書で説明すること。社会的価値の指針に従って、AIシステムの人的・社会経済的影響と利点を検討する。調達に関連する公益目標は、非差別、均等待遇、比例原則に準拠している必要がある。
• AIが課題に対して適切であると考える理由を調達文書に明確に記載し、代替ソリューションも受入可能であること。
• 調達プロセスの開始時に初期AIインパクト調査を実施し、中間調査結果が調達に付いてに確実に情報提示すること。

5) 最初から効果的に市場に関与すること

政府支出は、公正で競争力のある市場の創出に活用することができ、それがAIシステムの向上につながる。AIベンダーと早期に関与することで、より適切な対応が可能になり、調達が成功し、プロジェクトが適切に実行される可能性が高まる。アプローチの比例原則に留意し、新興企業、中小企業（SME）、ボランティア・コミュニティ・社会的企業（VCSE）サプライヤー、低代表グループ所有のサプライヤーなどについて、競合を妨げるような不必要な負担をかけないこと。

• 計画フェーズの早い段階でAIサプライヤーと連携すること。
• さまざまな方法で、広範囲にAIサプライヤーに連絡をとること。
• AIエコシステムでの競合を支えるオープンな環境を奨励すること。

6) 市場に対する適正なルートを確立し、特定の解決方法ではなく未決課題に焦点を当てること

調達対象のAIシステムは、解決すべき課題に取組み、市場からの責任ある革新的な反応を促進する必要がある。慎重に記述された要件が、サプライヤーがニーズを理解して最良のソリューションを提案するのに役立つ。サプライヤーに状況や課題を説明し、ニーズに合ったソリューションの提案を受ける。

• 商用ベストプラクティスについては、アウトソーシング・ハンドブックのガイダンスを参照すること。
• イノベーション・パートナーシップなど、AIシステムを取得するための市場への様々なルートを探索すること。
• ソリューションの詳細な仕様ではなく、課題を明確にしたステートメントを示すこと。
• 製品開発については反復的なアプローチを優先し、入札募集にこれを反映すること。

7） ガバナンスと情報保証の計画を策定すること

AIシステムをライフサイクル全体にわたって精査できるように、適切な監視メカニズムを確立する必要がある。AIの使用事例とプロジェクトのリスク・プロファイルに応じて、様々な検討方法を適用し、アプローチが確実に精査に耐えられるようにする必要がある。既存の法規制を遵守する必要性を重視し、調達文書を通じて規格の標準化を支援する。

要件を作成する際には、既存の行動規範、指針、規制を必ず参照し、適切な場合はこれらを契約の条件として引き継ぐようにすること。

• 技術的実施基準・政府デザイン原則、データ倫理フレームワーク、およびその他の関連基準を遵守する。
• AIの意思決定における透明性を最大化して、AIシステムが適切に機能していることを利用者が確信できるようにすること。

8) ブラックボックス・アルゴリズムやベンダー・ロックインを回避すること

アルゴリズムの説明可能性と解釈可能性を奨励し、これを設計基準の1つにする。AIシステムからの高度に「説明可能な」出力によって、チームや他のサプライヤーによる解釈が可能になる。これにより、将来他のサプライヤーを採用しても現在のAIシステムを継続利用したり、その上に追加構築したりし、ベンダー・ロックインの危険性を抑えることが出来る。

9) 審査においてはAI展開の技術的・倫理的制限に対処する必要性に重点をおくこと

多分野チーム内の経験を活用して審査プロセスを支援し、確実に入札審査を実施する幅広い専門性を備えること。

• サプライヤーは、データ内のバイアスの問題を重視又は対処したか？
  サプライヤーは、その戦略が適切かつ適正である理由を明確に説明しているか？
  サプライヤーは、調達側が見逃したかもしれない問題に対処するための計画を持っているか、そしてアジャイルなプロジェクト実行の重要性を強調しているか？
• 既存のサービスまたは技術との必要な統合について検討されているか？
• サプライヤーのガバナンス方式は調達要件を満たしているか？
• 適切な技術基準が遵守されているか？

10) AIシステムのライフサイクル管理を考慮すること

公共部門におけるAIを活用したソリューションの場合、実装計画、持続可能で継続的な評価方法、データモデルにフィードバックするメカニズムが、倫理的な運用を確保する上で不可欠である。さらに、AIシステムの機能性と効果は調達プロセスでは明らかにならない場合があり、実用中にのみ明らかになることが多く、購入者とサプライヤーの間の継続的な連絡と情報共有を必要とする。

• AIの調達時には、1回限りの判断ではなく、寿命試験が必要であることを考慮すること。
• 知識移転とトレーニングを確実に要件の一部とすること。
• 要件の一部としてAIシステムを理解する必要がある非専門家に対する訓練および説明を行うこと。
• 適切な継続的保守と受け入れ手配の整備を確実なものとすること。

[DW編集局]