Internet

Metaの新しいAIディープフェイクプレイブック：ラベルを増やし、削除を減らす

マース北欧 Wednesday, May 29 2024

Metaは、そのOversight Boardからの批判を受けて、AI生成コンテンツと操作されたメディアに関するルールを変更することを発表しました。来月から、会社は「AIで作成されました」というバッジが付いた深層フェイクを含む幅広い範囲のコンテンツにラベルを付けると述べました。他の方法で操作されたコンテンツが公衆を重要な問題で欺くリスクが高いと判断された場合、追加のコンテキスト情報が表示されるかもしれません。

この動きは、世界中で多くの選挙が行われる年において、誤解を招く可能性のあるコンテンツに対してラベルが付けられる可能性があります。ただし、深層フェイクの場合、Metaは、その内容について「業界標準のAI画像指標」がある場合、または投稿者がAI生成コンテンツであることを開示した場合にのみラベルを付けることになります。

これらの枠組みから外れるAI生成コンテンツは、おそらくラベルなしで逃れることになるでしょう。

方針の変更は、おそらくMetaのプラットフォーム上にあるより多くのAI生成コンテンツや操作されたメディアが残ることにつながる可能性があります。なぜなら、それは「透明性と追加のコンテキストを提供するアプローチ」を重視する方針にシフトしており、「偽造されたメディアを削除するのではなく、関連するリスクを考慮する方が良い方法だと」述べているからです。

したがって、FacebookやInstagramのようなMetaプラットフォーム上でのAI生成またはその他の操作されたメディアに関しては、プレイブックは次のように見えるでしょう：ラベルは多く、削除は少ない。

Metaは、7月に現在の操作されたビデオポリシー単独でコンテンツを削除するのを停止し、金曜日に公開されたブログ投稿で、「このスケジュールは、我々が操作されたメディアの一部の削除を停止する前に、自己開示プロセスを理解するための時間を人々に与える」と述べました。

このアプローチの変更は、Metaのコンテンツモデレーションやシステムリスクに関する上昇する法的要求への対応を意図している可能性があります、例えば、欧州連合のデジタルサービス法。昨年8月以来、EU法は主要な2つのソーシャルネットワークに一連の規則を適用し、Metaに違法なコンテンツを取り除くこと、システム上のリスクを軽減し、言論の自由を保護するという微妙なバランスを求めています。EUは、6月に欧州議会選挙に向けてプラットフォームに追加のプレッシャーをかけており、技術巨人に技術的に実現可能な場合には深層フェイクに透かしを入れるよう要請しています。

11月に迫ったアメリカ大統領選挙も、おそらくMetaの心にあるでしょう。

Oversight Boardの批判

Metaが資金提供しているが、運営に関しては一定の距離を保たせることを許可しているテックジャイアントの諮問委員会は、そのコンテンツモデレーションの決定のごくわずかな割合を審査するが、政策推奨も行うことができます。Metaは、委員会の提案を受け入れる義務はありませんが、今回はそのアプローチを改ざんすることに同意しました。

金曜日に公開されたブログ投稿で、MetaのコンテンツポリシーVPであるMonika Bickertは、会社が委員会のフィードバックに基づいてAI生成コンテンツと操作されたメディアに関する方針を変更することに同意したと述べています。「我々はOversight Boardの議論に同意します。我々の現在のアプローチはあまり狭すぎるというものであり、AIによって作成または変更されたビデオのみを対象としていました」と彼女は書いています。

先月、Oversight Boardは、バイデン大統領の操作されたビデオを取り上げ、それが彼の孫に平和的なキスを与えたことを示唆するように編集されたビデオの場合を例に挙げた後、AI生成コンテンツへのMetaのアプローチを見直すようMetaに促しました。

Metaは、批判的なフィードバックを受け入れたようです。

「過去4年間、特に昨年、人々は音声や写真など、他の種類のリアルなAI生成コンテンツを開発しており、この技術は急速に進化しています」とBickertは書いています。「委員会が指摘したように、人がやらなかったことを示す操作を含む操作も同様に重要です。

先月、Metaは、ビデオや音声を含むAIコンテンツを識別するための共通の技術基準を開発するために業界内で協力していることを発表しました。それに依存して、現在、合成メディアのラベリングを拡大する方針をとっています。

Bickertは、「AIで作成されたビデオ、音声、画像についての私たちの‘AIで作成されました’のラベルは、AI画像の業界共有信号または自己開示がAI生成コンテンツであることを示す人々に起因しています」と述べ、「Meta AI機能を使用して作成された写実的な画像に対しては、既に‘AIで作成されました’というラベルが適用されている」と述べています。

Metaは、「Oversight Boardがラベリングを推奨した操作されたコンテンツに加えて、より広範囲なコンテンツをカバーすることになる」とBickertは述べています。

「デジタルに作成または変更された画像、ビデオ、音声が公衆を重要な問題で物質的にだますリスクが特に高いと判断した場合、人々により多くの情報とコンテキストを提供するためにより目立つラベルが追加される可能性があります」と彼女は書いています。「この全体的なアプローチによって、人々はコンテンツについてより多くの情報を得て、他の場所で同じコンテンツを見たときにコンテキストを持つことができます」。

Metaは、他の政策（選挙干渉、いじめや嫌がらせ、暴力と扇動など）に違反しない限り、操作されたコンテンツ（AIベースまたはその他の操作）を削除しないと述べています。上記のように、特定の高い公衆の関心のシナリオにおいて、「情報のラベルとコンテキスト」を追加することがあります。

Metaのブログ投稿は、ほぼ100人の独立したファクトチェック機関のネットワークを強調しており、操作されたコンテンツに関連するリスクを特定するのを助けるためにそれらと協力していると述べています。

これらの外部機関は、人工的なコンテンツが増加するにつれて、合成コンテンツの証拠評価を続ける予定です。Metaは、「誤りまたは変更された」と評価された場合、そのコンテンツの到達範囲を減らすアルゴリズムの変更を適用すると述べています。要するに、Metaは、この方針の変更の結果として、より多くのこのようなものがMetaのプラットフォーム上に残る見込みです。