（2024年11月27日付、マックスプランク協会（MPG）の標記発表の概要は以下のとおり）

「人工知能（AI）コンパスの概要」：MPGの研究者は、新しいアプリケーションのための機械学習アルゴリズムを開発している。アルゴリズムによる意思決定に人々がどのように関与できるかを調査し、ツールとしてのAIのチャンスとリスクに社会がどのように対処するかを決定するための基盤を創り出す。

「AIと気候研究」：AIはパターン全体とその関係性を短時間で認識する。その一例がペタバイト級の気候観測データと地球観測データである。AIは、極端な気象現象とその影響をより適切に予測することに役立つ。

「AIとChatGPT」：ChatGPTは、数千行のテキストをほんの一瞬で要約し、人間よりもはるかに高速である。しかし専門分野以外のタスクでは、ChatGPTのようなAIは役に立たない。知能の概念は注意して扱う必要がある。

「AIとは？」：人間の脳は、新しい情報を既知の情報と結び付け、環境内のイベントを分類し、先を見越して考えることが出来る。AIは全く異なり、データを使用して予測を行ない、特定の答えを出す。研究で開発されている機械学習アルゴリズムは、特定の問題を解決するだけである。

「AIの学習方法」：プログラムは、教師なし、教師あり、強化など様々な方法で学習する。教師なし学習では、データの類似点と相違点を探索し、複雑なデータセットのパターンを見つけ出す。教師あり学習では、アルゴリズムに明確な目標が与えられタスクを実行する。ルールが定義できる領域では、いわゆる強化学習が役立つ。

「AIは驚き、幻覚を見る」：ChatGPTは、インターネットで見つかったのと同じ間違えを繰り返す。ChatGPTの背後にあるアルゴリズムは、質問が増えて隅に追いやられると、幻覚を起こす傾向さえある。ChatGPTのようなAIは法の支配や人間の尊厳のルールを知らない。

「差別的なAI」：MPGのチームは、一部のアルゴリズムで何故差別するのか、そしてどうすれば、それを防ぐことが出来るかを研究している。研究者達は、幼児が自然に身に着ける因果関係の理解をAIに教えている。

「AIに対する人間の価値観とルール」：人工知能には社会的価値観や正義感がない。MPGの研究者は、AIを使用して、誤検知を効果的に検出する方法、さらにAIが人間の価値にもっと忠実であることを確実にするために、AIを法的手段でどのように使用できるかという問題について、また、AIの方法と人間の判断を反映する信号の評価の組み合わせについて研究している。

[DW編集局]