8月16日付けの国防高等研究計画局（DARPA）による標記記事の概要は以下のとおりである。

DARPAは、自律学習システムの機能および安全性の確保を形式化し、進化させる方法を研究開発するプログラム「Assured Autonomy」を開始する。具体的には、コンピューティングシステムの学習方法を進化させて、環境の変化をより良く制御し、自動運転車や無人飛行機（UAVs）のような自律システムの予測可能性を強化する方法の向上を目的とした研究開発プログラムである。

DARPAのプログラムマネージャーであるSandeep Neemaは次のように述べている。「様々な無人車両の普及によって証明されているように、過去10年間に自律システムの構築において大きな進歩があった。 これらの進歩は、センシング、アクチュエーション、コンピューティング、制御理論、設計手法、モデリングおよびシミュレーションを含むいくつかの分野でのイノベーションによってもたらされたものである。しかし、これらの進歩にもかかわらず、安全性が重要視される国防総省では、これらシステムの導入や広範な採用は依然として困難であり、議論の余地がある。」

「2016年に公表された自律性に関する国防科学審議会の報告書は、自律システムに対する高レベルの信頼性の必要性を強調している。システムが安全に動作し、期待通りに動作することを保証することは、特に軍事面において不可欠である。システムは、一度配備されたら、オペレータが確実に動作しているかどうかを判断でき、もし動作していないのであれば適切な対処がとれるように設計されていなければならない。このため、 本研究開発プログラムは、設計段階で信頼性を確立し、運用信頼性の不可避的な変動を適切に測定し適切に対処できるように十分な能力を組み込むことを目的とする。」

「現在の安全性確保へのアプローチは、導入されたシステムは、一度配備されると、学習や進化をしないという前提に基づいている。また、近年注目を集めている自律システムの安全性確保へのアプローチの1つは、「同等のレベルの安全性」という考え方に基づくものである。すなわち、自立システムはそれが取って代わろうとする人間参加型のシステムと少なくとも同等の安全性を持たねばならない。研究と分析によると、本アプローチだけだと、数十年に及ぶ数百万回もの物理的な試行が必要となり、安全性を確保することは殆ど不可能である。」

安全性の確保のための規範的プロセス指向の標準とは対照的に、Neemaが提唱するような目標指向のアプローチは、ほぼ間違いなく操作のバリエーションに直面し、学び、進化させるシステムにより適している。したがって、本プログラムでは、システムが記載された機能と安全の目標を明示的に満たすことを示す基礎となる証拠を提供するツールの開発を目標とする。

[DW編集局+JSTワシントン事務所]