Future of Life Institute (FLI) が作成した AI安全性指標 2024 は、主要AI企業の安全性に関する取り組みを以下の6つの重要領域に基づき評価したものです。

Panel of graders

Yoshua Bengio
Atoosa Kasirzadeh
David Krueger
Tegan Maharaj
Jessica Newman
Sneha Revanur
Stuart Russell

主な観察結果

各企業は米国のGPAスケール（A+～F）で評価されました。以下に主な企業の成績を示します：

企業名	総合評価	特徴
Anthropic	C (2.13)	安全性に関する責任あるスケーリング方針を導入。外部監視の取り組みも評価されたが、存在論的リスクへの戦略は不十分。
Google DeepMind	D+ (1.55)	Frontier Safety Frameworkを開発したが、実装が不十分で透明性にも欠ける。
OpenAI	D+ (1.32)	初期のガバナンス施策は評価されたが、包括的なリスク管理が不足している。
Meta	F (0.65)	ガバナンスや安全性に著しい欠陥があり、高度なモデルのオープンソース化も問題視された。

本レポートは、現在および将来的なリスクに対処するため、AI業界全体でのガバナンスや協力の重要性を強調しています。