欧州連合（EU）は水曜日、欧州議会が「AI法」として知られる法案を可決したことで、人工知能（AI）をめぐる統治ルールを世界初とする大きな一歩を踏み出した。

2021年4月21日にEUが初めて提案したAI法は、世界初かつ最も包括的な規制枠組みとして宣伝されてきた。提案以来、欧州委員会、欧州連合理事会、欧州議会は最初の草案の修正と改良に取り組んでおり、最終版は今年後半まで発表されない見込みだ。

最初の草案はチャットボットを含む生成AIの急増以前に作成されたものですが、この新しい法案ではOpenAIのChatGPTのような生成AIシステムとそれがもたらす影響が確実に考慮されています。

展開前のテスト

この法律はすべてのEU加盟国に適用され、EU加盟国に対し、AIシステムを導入する前にテストするための規制上の「サンドボックス」を少なくとも1つ設置することを義務付けている。

「この条文で達成したかったのはバランスです」と欧州議会議員のドラゴシュ・トゥドラチェ氏は記者団に語った。同法は国民を保護すると同時に「創造性を妨げることなくイノベーションを促進し、欧州におけるAIの展開と開発を促進する」と同氏は付け加えた。

人体に危害を及ぼす可能性が最も高い

水曜日に可決された法案の中心となるのは、生成AIが新たな透明性要件の対象となるというもので、これにはシステムのトレーニングに使用された著作権で保護された素材の概要を公開することや、AIが違法なコンテンツを生成しないようにするための安全策を実施することなどが含まれる。

この法案のAI規制に対する「リスクベース」のアプローチは、水やエネルギーなどの重要なインフラの運用、司法制度、公共サービスや政府給付へのアクセスの決定におけるAIシステムの活用など、人間に危害を及ぼす可能性が最も高いユースケースに焦点を当てています。

この技術の開発者は、現在の医薬品承認プロセスと同様に、その技術を主流に導入する前にリスク評価を実施する必要があります。

顔認識の禁止

顔認識技術の使用をめぐる議論も白熱している。欧州議会はライブ顔認識の使用を禁止する決議を採択したが、国家安全保障やその他の法執行目的の場合に例外的に使用すべきかどうかについては依然として議論の余地がある。

それに加えて、AI法の別の条項では、企業がデータベースの構築に役立てるためにソーシャルメディアから生体認証データを収集することを禁止している。これは、顔認識企業Clearview AIがフランス国民の生体認証データを違法に収集・処理したとしてフランスのデータ保護当局（CNIL）から2,000万ドルの罰金を科され、さらに滞納していた520万ドルの罰金を科された後に大きな問題となった。

生成 AI は世界経済に 4.4 兆ドルを追加するか?

マッキンゼー・アンド・カンパニーが水曜日に発表したレポートによると、生成AIは世界経済に4.4兆ドルの利益をもたらすと推定されている。

この数字はマッキンゼーが予測した生成AIの価値範囲の上限にあたりますが、「生成AIの経済的可能性」と題されたレポートでは、範囲の下限である2.6兆米ドルも示されています。

水曜日にパリで開催されたVivaカンファレンスで、Metaの主任AI科学者であるヤン・ルカン氏は、特に大規模言語モデルでトレーニングされた生成AIの現在の限界について講演した。

LeCun 氏によると、言語のみを訓練した生成 AI はあまり賢くないそうです。

「これらのシステムは非常に限定的で、現実世界の根底にある現実をまったく理解していません。なぜなら、それらは純粋にテキスト、膨大な量のテキストで訓練されているからです」とルカン氏は言う。「人間の知識のほとんどは言語とは何の関係もありません…だから、人間の経験のその部分はAIによって捉えられません。」

「私たちは今日、歴史を作った」と、EU AI法案に取り組む欧州議会議員のブランド・ベニフェイ氏は記者団に語った。

「大手テクノロジー企業が自社の創造物に対して警鐘を鳴らしている一方で、欧州はAIがもたらし始めているリスクに対して、先手を打って具体的な対応策を提案している」とベニフェイ氏は付け加えた。

今週、ウォルマートCEOのダグ・マクミリオン氏やコカコーラCEOのジェームズ・クインシー氏を含むイェール大学CEOサミットに出席したビジネスリーダーの40％以上が、AIは5年から10年後に人類を滅ぼす可能性があるとの考えを共有した。

AI法は、欧州のGDPRプライバシーフレームワークで見られた罰則をさらに一歩進めたもので、禁止されているAI慣行に従事した企業には、最大4,300万米ドルまたは企業の全世界の年間売上高の7％に相当する金額のいずれか高い方の罰金が科せられる可能性があります。

GDPR では現在、罰金は最大 1,080 万ドル、または企業の全世界の売上高の 2% のいずれか高い方までと定められています。

その他のニュースでは、超次元コンピューティングと、私たちが AI をまったく間違った見方をしている可能性がある理由についてお読みください。

Hypemoonでギャラリー全体を見るにはここをクリックしてください