[本文]
-
- 国・地域名:
- 英国
- 元記事の言語:
- 英語
- 公開機関:
- 科学・イノベーション・技術省(DSIT)
- 元記事公開日:
- 2023/10/18
- 抄訳記事公開日:
- 2023/11/21
-
主導的技術組織をリスク調査に参画させる「フロンティアAIタスクフォース」の発足
Frontier AI Taskforce brings in leading technical organisations to research risks
- 本文:
-
(2023年10月18日付、科学・イノベーション・技術省(DSIT)の標記発表の概要は以下のとおり)
英国政府の「フロンティアAIタスクフォース(Frontier AI Taskforce)」は、AIの最前線におけるリスクを評価できるAI安全性研究チームを構築する。AIの安全性に関する優れた研究を行うことは、ゼロから始めたり、単独で取り組んだりすることを意味するものではない。2023年9月7日の最初の進捗報告書に示されているように、タスクフォースはARC Evals社、RAND社、Trail of Bits社などの主要な技術組織と協力関係にある。
その後、タスクフォースはさらに3つの主要技術組織と提携している。Advai社、Gryphon Scientific社、Faculty AI社との新たな契約では、AIシステムが専門分野における人間の能力の向上、現在の安全対策に関するリスクという重要課題に取り組むことになる。研究結果は、11月に開催される「AI安全サミット」でのプレゼンテーションや、政府・市民社会団体・主要AI企業・研究専門家の代表のラウンドテーブル・ディスカッションに反映される予定である。
Advai社は、簡素、安全、確実なAI(Simple, Safe, Secure AI)の導入実現に注力している英国企業である。同社の技術と研究は、AIの脆弱性と制限を特定して、これらのシステムを改善・防御することに重点を置いている。タスクフォースは、同社と協力してフロンティアAIシステムの脆弱性を調査している。
Faculty AI社は、ソフトウェア、コンサルティング、サービスを提供する応用AI企業である。同社は10年近く英国政府と協力しており、NHSと提携して新型コロナウイルス感染症早期警戒システムを構築したり、内務省と提携してISISのオンライン・プロパガンダを探知したりするなど、その他の公共部門との取り組みもある。タスクフォースは、同社と協力して、大規模言語モデル(LLM)が悪意ある素人の能力をどの程度高め得るのか、また将来のシステムがこのリスクをどのように高める可能性があるかを見極める取り組みを行っている。
Gryphon Scientific社は、公衆衛生、生物防衛、国土安全保障に関する技術的専門知識を備えた物理・生命科学の研究およびコンサルティング会社である。同社は、米国を含む各国の政府や、中東および北アフリカ諸国と協力して科学技術開発の最前線で活動してきた経験を持つ。同社は、タスクフォースと協力して、ライフサイエンスの急速な進歩を促進するツールとしてLLMの可能性を明らかにしている。
[DW編集局]