（2024年1月17日付、科学・イノベーション・技術省（DSIT）の標記発表の概要は以下のとおり）

AI安全研究所（Artificial Intelligence Safety Institute：AISI）は、最先端のAIモデル・AIシステムを慎重に調査、評価、テストすることで、AIの安全性に関する世界の知識を向上させる。AISIは、AIが急速かつ予測不可能な進歩をみせる中、社会の安全を保つ方法に関する基礎的な研究を行い、その成果を世界に公開し、高度なAIの機会とリスクに対する世界的・効果的対応を可能にする。

AISIは、公共の利益のための高度なAIの安全性に焦点を当てた、初の国家組織である。その使命は、AIの急速な予期せぬ進歩による英国そして人類への驚異を最小限に抑えることである。そのため、高度なAIのリスクを理解し、そのガバナンスを可能にするために必要な社会技術的基盤構造を開発する。

この使命は、政府がAIシステムの公的な説明責任のある評価を行い、研究支援を行うという重要な役割を担っているという確信に由来するものである。高度なAIによるリスクに関する一連のエビデンスを構築することで、AISIは技術的に根拠のある国際ガバナンスの基礎を築くことになる。

募集職種の概要は以下のとおり：

・制御不能ワーク・ストリームのリーダー
自律的な複製と適応、制御されない自己改良に現在の焦点を当て、制御の喪失による極端な危害の前兆となる能力を評価することに焦点を当てたチームを構築し、リードする。

・コントロール喪失対応ワーク・ストリームのリーダー
コントロールの喪失による重大な危険の前兆となる機能を評価するチームを構築し、主導する。

・ソフトウェア・エンジニア
専門的なインターフェイスとアクセス性の高いレッドチーム・フロントエンドを構築し、内部・外部モデルのための高速で安全な推論チャネル、および独自のモデルをホストして微調整するためのML（機械学習）運用機能を提供する。

・エンジニアリング責任者
ソフトウェア・エンジニアとリサーチ・エンジニアで構成されるプラットフォーム・チームを率いる。

・フロントエンド開発者
推論チャネルを提供し、独自のモデルのホスティングを容易にし、evals開発のための専門的インターフェイスを構築するため、Web開発、UXエンジニアリング、データ視覚化を統合する。

・UXエンジニア
最先端の評価プラットフォームの一部となるユーザー・インターフェイスを実装する。

・サイバー不正使用ワーク・ストリームのリーダー
さまざまな技術（脅威モデリングやサイバーレンジなど）を適用して、フロンティア・システムのサイバー機能をテストするチームを構築し、主導する。

・セーフガード分析ワーク・ストリームのリーダー
フロンティアAIシステムの安全性とセキュリティのコンポーネントがさまざまな脅威にどのように効果的に対抗できるかを研究する、MLとセキュリティを結びつけるチームを構築し、主導する。

・リサーチ・サイエンティスト（評価）
フロンティア・モデルの能力とセーフガードを評価し、緩和策とシステム理解を目的としたより推測的な作業と評価スイートに統合するプロジェクトを主導する。

・リサーチ・エンジニア（評価）
AIシステムをテストし、把握と緩和の最前線を促進するためのツールと方法を開発する。

・リサーチ・サイエンティスト（人体実験）
AIシステムが個人と集団に与えるプラスとマイナスの影響を測定する研究を設計、実施、分析する。

・行動科学とAI研究のリサーチ・サイエンティスト
高度なAIシステムが人間に与える影響について、人間のAIシステムの利用、AIシステムによる人間の能力向上、AIシステム利用よる人間への心理的影響などの研究を行う。

・計算社会科学リサーチ・サイエンティスト
高度なAIシステムが社会に与える影響を探る研究を主導する。

・AI安全基盤シニア・リサーチ・サイエンティスト
高度なAIシステムの基本的な安全性を向上させることを目的とした研究の方向性を計画し、実行するチームを構築し、主導する。

[DW編集局]