タグ: ディープフェイク（用語）
ディープフェイクに関連する記事一覧
ウクライナのゼレンスキー大統領が降伏するフェイク動画をMetaが削除
ウクライナ大統領Volodymyr Zelensky（ウォロディミル・ゼレンスキー）氏が軍に降伏を命じているフェイクビデオを、Metaは米国時間3月16日に削除した。動画は、ロシアによる隣国ウクライナへの残忍な侵攻と並行して行われている情報戦争において警戒を要する最新の出来事だが、以前からウクライナ政府とソーシャルメディア企業が予期瞬間でもある。 MetaのセキュリティポリシーのトップであるNathaniel Gleicher（ナサニエル・グレイチャー）氏の説明によると、そのコンテンツは「操作されたメディア」に対する規則を破っているた…続きを読む
アニメーションと音声で写真に生命を吹き込む、MyHeritageとD-IDが提携し故人が話す動画が作成可能に
2021年、家系調査サービスのMyHeritageが、故人の顔写真を動画化できる斬新な「ディープフェイク」機能を導入して話題になった。TikTokのユーザーたちはいち早くその技術に反応して、動画を投稿し、自分が会ったこともない親戚やまだその死を悲しんでいる故人を蘇らせて、「ディープノスタルジア」と呼んだ。今日まで、1億枚以上の写真がこの機能で動画になった。そしてその機能が進化した。米国時間3月3日、MyHeritageはパートナーのD-IDとともに「ディープノスタルジア」を拡張した「ライブストーリー」機能をローンチした。写真の人物を生…続きを読む
凸版印刷、アバターの真正性を証明する管理基盤AVATECTを開発―メタバースでのアバター不正利用やなりすまし抑止
凸版印刷は2月18日、メタバースへの社会的な関心の高まりを受け、自分の分身として生成されたアバターに対し、唯一性を証明するアバター生成管理基盤「AVATECT」（アバテクト）を開発したと発表した。2月より試験提供を開始する。 凸版印刷は、写真1枚で3Dアバターを自動生成できる同社サービス「MetaCloneアバター」や、構築したメタバースの中で様々なビジネスを行う事業者などに向けて、AVATECTの試験提供を実施。複数のメタバース事業者間における同一アバターの行動分析や、それに伴うプライバシー保護の有用性の検証を経て、2022年9月ま…続きを読む
アンソニー・ボーディン氏の最新ドキュメンタリー「Roadrunner」にはディープフェイク音声が使われている
米国時間7月16日、Anthony Bourdain（アンソニー・ボーディン）氏を描いたドキュメンタリー映画「Roadrunner」が米国の劇場で公開される。多くのドキュメンタリーと同様に、本作はインタビューや未公開シーンを含む数多くの記録映像から作られており、主人公の物語を自身の言葉で語らせようとしている。作品ではボーディン氏が2018年に自殺する前にカメラの前で話したことのなかった言葉も、彼の声で聞くことができる。 The New Yorker（ニューヨーカー）のインタビューに答えて、同作品の監督であるMorgan Neville…続きを読む
顔交換アプリ「Reface」でユーザーがアップロードした画像の顔入れ替え＆アニメーション化が可能に
人気の顔交換動画アプリ「Reface（リフェイス）」は、ユーザーが自分で作成したコンテンツをアップロードし、AIがそれに命を吹き込むことで、単なる自撮りに留まらないリアリティシフトの可能性を拡大しようとしている。 iOSおよびAndroidアプリのユーザーは、ユーザー自身が作成した動画をアップロードすることはまだできないものの「スワップ・アニメーション」と呼ばれる最新の機能では、人型のもの（彫像や肖像画、あるいは実際に他の人の写真など）の画像をアップロードし、アプリ内に用意された歌や詩の中から選んで、AIによって生まれ変わったそれらの…続きを読む
ディープフェイクのビジネス活用、技術の悪用防止をめぐる戦い
アフロ 編集部注：この原稿は、MIN SUN（ミン・スン）氏による寄稿である。同氏は、AppierのチーフAIサイエンティストを務めている。Appierは、AI（人工知能）テクノロジー企業として、企業や組織の事業課題を解決するためのAIプラットフォームを提供している。 顔認識技術を用いて動画内の人物の顔に、画像データの人物の顔を当て込むディープフェイクという技術がある。近年、注目度が高まっている技術のひとつだが、ディープフェイクと聞いてどのようなイメージが湧いてくるだろうか？ おそらく多くの人がネガティブなイメージを思い浮かべるだろう…続きを読む
欧州がリスクベースのAI規制を提案、AIに対する信頼と理解の醸成を目指す
欧州連合（EU）の欧州委員会が、域内市場のリスクの高い人工知能（AI）の利用に関するリスクベースの規制案を公表した。 この案には、中国式の社会信用評価システム、身体的・精神的被害を引き起こす可能性のあるAI対応の行動操作手法など、人々の安全やEU市民の基本的権利にとって危険性の高さが懸念される一部のユースケースを禁止することも含まれている。法執行機関による公共の場での生体認証監視の利用にも制限があるが、非常に広範な免除を設けている。 今回の提案では、AI使用の大部分は（禁止どころか）いかなる規制も受けていない。しかし、いわゆる「高リス…続きを読む
ディープフェイク技術が衛星地図を模造
AIが作り出した合成画像いわゆる「ディープフェイク」に関して、主に本人の同意なく作られた人間の画像が激しく非難されているが、この技術は他の分野でも危険であり、そしてときにはおもしろい。たとえば研究者たちは、衛星画像を操作して、本物そっくりだが完全に偽のオーバーヘッドマップを作れることを示した。 ワシントン大学の助教授Bo Zhao（ボー・ジャオ）氏が指導し論文も書いたその研究は、警告のためではなく、このやや悪名高い技術を地図の作成に応用した場合にありうるリスクとチャンスを示すために行われた。彼らのやり方は、一般的にディープフェイクとし…続きを読む
アインシュタインのチャットボットに「声」を与えるAflorithmicのAI音声クローン技術
合成メディアの奇妙な世界から生まれたディープフェイクの一端に、耳を傾けてみてほしい。これはAlbert Einstein（アルバート・アインシュタイン）のデジタル版。有名な科学者の実際の声を録音した音声記録を元に、AIのボイスクローン技術を使って合成された声である。 この「不気味の谷」にいるアインシュタインの音声ディープフェイクを開発したのは、Aflorithmic（アフロリズミック）というスタートアップ企業だ（同社のシードラウンドについては2月に紹介した）。 関連記事：AI駆動でテキストを美しい合成音声として出力するAflorith…続きを読む
ディープフェイク動画のiOSアプリ「Avatarify」が電子透かし提供へ
ディープフェイク動画の作成は昔は大仕事だった。今や必要なのはスマートフォンだけだ。クラウドにアップせず、スマホ内で直接ディープフェイク動画を作るアプリを提供するスタートアップであるAvatarifyは、David Beckham（デビッド・ベッカム）の妻、Victoria Beckham（ヴィクトリア・ベッカム）などのセレブに利用され、アプリチャートで急上昇中だ。 しかしディープフェイク動画に共通する問題点は動画がフェイクであることを簡単に判断できるような電子透かしが添付されないことだ。Avatarifyは悪用その他の好ましくない事態…続きを読む
顔交換も簡単にできる中国のマシン動画生成スタートアップSurrealが創業3カ月で資金調達
もし動画を作るためのカメラが不要になり、数行のコーディングで動画を生成できるようになったとしたらどうだろう？ 機械学習の進歩が、そのアイデアを現実のものにしつつある。私たちも、ディープフェイク技術が家族写真で顔を入れ替えたり、自撮りを有名なビデオクリップに変えたりする例を見てきた。現在、AI研究のバックグラウンドを持つ起業家たちが、アルゴリズムを使って超リアルな写真や音声、動画を生成するためのツールを考案している最中だ。 関連記事 ・MyHeritageが古い家族写真をディープフェイク技術でアニメーション化 ・口コミで大流行の顔交換ビ…続きを読む
MyHeritageが古い家族写真をディープフェイク技術でアニメーション化
家系図サービスのMyHeritage（マイヘリテージ）は、本物らしい表情の操作や利用者の個人データ収集に、AI駆動の合成メディアを使い始めている。同社は、Deep Nostalgia（ディープ・ノスタルジア）という新機能をローンチした。人の写真をアップロードすると、アルゴリズムによってその顔をアニメーション化してくれるというものだ。 亡くなって久しい親戚や過去の偉人が合成近似化処理によって生き返り、どうしてこんな役立たずのデジタルフォトフレームの中に閉じ込められているのだと、目を動かし顔を傾ける様子には、ドラマ「The Black M…続きを読む
口コミで大流行の顔交換ビデオアプリRefaceにa16zなどの有名投資会社が約6億円を出資
Reface（リフェイス）は、ボタンをタップするだけで、自分のセルフィーを不気味なほどリアルな有名人のビデオクリップに変えて有名人気分を味わえるエキサイティングな顔入れ替えビデオアプリだ。そのRefaceがシリコンバレーのベンチャー投資会社Andreessen Horowitz（アンドリーセン・ホロウィッツ、a16z）の目に留まり、a16zは米国時間12月9日、このテック系エンタテイメントスタートアップのために550万ドル（約5億7200万円）を調達するシードラウンドをリードすると発表した。 リフェイスによると、今年1月の創設以来、R…続きを読む
Sentinelがディープフェイク検出の戦いに約1.4億円を投じる
合成メディア（すなわちディープフェイク）を特定するための検出プラットフォームを開発している、エストニア拠点のSentinel（センチネル）は、Skype（スカイプ）のJaan Tallinn（ヤーン・タリン）氏、TransferWise（トランスファーワイズ）のTaavet Hinrikus（ターヴェット・ヒンリクス）氏、Pipedrive（パイプドライブ）のRagnar Sass（ラグナー・サス）氏とMartin Henk（マーティン・ヘンク）氏をはじめとするベテランのエンジェル投資家たちや、エストニアに拠点を置くアーリーステージ向…続きを読む
マイクロソフトが米大統領選挙を前にディープフェイク検出ツールVideo Authenticatorを発表
Microsoft（マイクロソフト）は、動画や静止画を分析して操作スコアを生成するツールの提供を発表した。これは、合成されたメディア、いわゆるディープフェイクを発見することを目的とした技術の1つになる。具体的には、メディアが人為的に操作されたことを示す「確率、または信頼度スコア」をVideo Authenticatorと呼ばれるツールが提供する。 Video Authenticatorのブログ記事には「ビデオの場合、ビデオが再生されるたびに、フレームごとにリアルタイムでこのパーセンテージを提供することができます」とある。「これは、人間…続きを読む
Facebookの判別コンペはディープフェイク抑止に有望な第一歩
深層学習を利用して生成されたフェイク動画であるディープフェイクはますます勢いを増しており、巨大プラットフォームをもつサービスは、ディープフェイクをいち早く見抜く必要に迫られている。 これがFacebookがディープフェイクを見抜くコンテスト、Deepfake Detection Challengeを昨年スタートさせた理由だ。数カ月のコンペを経て優勝者が決定された。その結果はといえば、完全というには遠い。しかし当てずっぽうよりはましだ。ともかく我々はどこからか始めねばならない。 登場したのはここ1、2年だが、ディープフェイクはAIカンフ…続きを読む
ディープフェイクテキストが国家の危機を増幅する
編集部注：本稿はJinyan Zang氏、Latanya Sweeney氏、Max Weiss氏による寄稿記事である。Zang氏はハーバード大学のData Privacy Labの研究者、Sweeney氏はハーバード大学で「政府とテクノロジー」を専門にする教授、Weiss氏は今回のディープフェイクテキスト実験を実施したハーバード大学の学生だ。 —– 米国の連邦政府機関は国内における新型コロナウイルスのパンデミック拡大を阻止しようとさまざまな措置を講じており、その厳しさは増すばかりだ。連邦政府により策定される規則の影響を受ける米国民と企…続きを読む
ビデオを引用する人たちはなぜいつも間違っているのか？
みなさんにも経験があるに違いない。何かの論争であれ単なる好意的な意見交換でも、何らかの議論がネット上で持ち上がると、人は自分の知っていること、あるいは知っていると思っていることをしゃべりまくる。中にはリンクや情報源を示す立派な心がけの人もいる。そういう人は、概して正しい可能性が高い。 ただし、リンク先のビデオが数分以上の長いものである場合を除く。そういうときは、ほぼ間違いなく、完全な誤りであり、多くの場合、何も引用しない人よりもはるかにひどく間違っている。 このことに本質的理由はない。ビデオはなんらかの考えを裏付けるうえで優れたメディ…続きを読む
Snapchatは自分の顔でディープフェイクできるCameoをテスト中
Snapchatはビデオクリップの人物の顔を自分のセルフィーに入れ替えられる機能を準備中だ。このCameo機能は簡単にいえば、現在話題になっているディープフェイクの簡易版で、テンプレートのショートビデオから簡単に自分の顔のGIFを作って共有できる。いわばBitmojiのビデオ版というところで、エモーティコンとして自分の感情や状況をユーモラスに表現できる。Cameoが一部フランスのユーザーに公開されていることをSnapのウォッチャーである@Mtatsisが発見した。 Snapchat Cameoであなたもビデオ・スターになれる Tech…続きを読む
Facebookが10億円超を投じてディープフェイクの識別に賞金
一般に「ディープフェイク」と呼ばれるディープラーニングを利用してデジタル画像、動画を捏造するテクノロジーは我々の社会に対しすでに深刻な脅威となっている。こうした捏造を退治するためには我々自身が捏造を見破る能力を保たねばならない。火をもって火と戦うというわけだ。 Facebook（フェイスブック）、Microsoft（マイクロソフト）などのトップテクノロジー企業は共同で、デープフェイクを識別する機械学習システムを開発中だ。こうした努力の一環としてFacebookが興味深いプロジェクトを立ち上げた。 ディープフェイクは比較的新しいテクノロ…続きを読む
近日開催のイベント
