DeepMind、偽情報の恐怖の中で AI コンテンツのラベルをテスト

Google傘下のロンドンに本拠を置くAI企業DeepMindは、人工的に生成されたコンテンツを検出してラベルを付けることができる電子透かしツールを試験的に導入している。

SynthID と呼ばれるこのツールは、画像内の個々のピクセルにラベルを埋め込みます。 人間にはマークを見ることはできませんが、コンピューターはマークを検出し、AI によって生成されたものであると判断できます。

SynthID は現在、Google 独自の画像生成モデルとして社内で試用されており、テクノロジーの台頭における主要な懸念事項である AI コンテンツからの偽情報と戦うための DeepMind による試みです。

ただし、DeepMind は、自社の透かしシステムが「極端な画像操作に対して確実に対処できる」わけではないと警告しました。

リアルな画像を作成する機能を備えた生成 AI ツールが一般に公開されてからまだ日が浅いものの、無害なジョークから政治的プロパガンダに至るまで、デマがすでに存在しています。

今年初め、デザイナーのダウンジャケットを着た教皇フランシスコの画像が、AIによって作成されたものだと人々が気づく前に急速に広まった。 同じ頃、ドナルド・トランプの架空の逮捕を描いた写真がソーシャルメディアで拡散し、フェイクだと報道される前に多くの人を騙した。

英国と米国の両国が大規模な選挙を迎えるにつれ、AIを活用した偽情報はますます重大な懸念となっている。

今月、イギリスの政治に影響を与えるフェイク画像をめぐる議論は、労働党議員が、不支持な女性の隣でビールを注ぐリシ・スナック首相の写真をシェアしたことでさらに盛り上がった。 その後、この作品はスナクを悪い方向に描写するために改変されていたことが判明した。

AIを使って行われたわけではないが、この編集された画像は激しい反応を引き起こし、技術長官のミシェル・ドネラン氏がツイッターで反対の意を表明した。

「ディープフェイクやデジタル的に歪んだ画像の時代では、信頼できる信頼できる情報源を入手できることがさらに重要です。 選出された国会議員は偽の画像で国民を誤解すべきではない」とドネラン氏は語った。 「これは労働党のかなり絶望的な内容だ。」

AI によって生成された偽画像の検出については、今後開催される AI 安全性サミットで議論される可能性が高く、このサミットには国際的なリーダーや専門家が集まり、テクノロジーを規制するための世界的なアプローチが検討されます。

続きを読む：AI規制は「政策立案者にとって大きな課題」、自由民主党議員が発言