並び順

ブックマーク数

期間指定

  • から
  • まで

1 - 40 件 / 256件

新着順 人気順

ディープフェイクの検索結果1 - 40 件 / 256件

タグ検索の該当結果が少ないため、タイトル検索結果を表示しています。

ディープフェイクに関するエントリは256件あります。 AI人工知能機械学習 などが関連タグです。 人気エントリには 『日本人アイドルも被害に。96%がポルノ動画の「ディープフェイク」政治的な悪用も』などがあります。
  • 日本人アイドルも被害に。96%がポルノ動画の「ディープフェイク」政治的な悪用も

    Search, watch, and cook every single Tasty recipe and video ever - all in one place! News, Politics, Culture, Life, Entertainment, and more. Stories that matter to you.

      日本人アイドルも被害に。96%がポルノ動画の「ディープフェイク」政治的な悪用も
    • アングル:ディープフェイク最前線、「実在しない記者」暗躍か

      アイテム 1 の 2 7月15日、オリバー・テーラーは英バーミンガム大学の学生で、目は茶色、無精ひげをうっすらと生やし、少しぎこちない笑いを浮かべる二十歳そこそこの若者だ。 写真はテーラーのものとされる顔写真。イスラエルのディープフェイク検出会社がロイターに提供した右の解析写真では、目元や口に手を加えた痕跡が見られる(2020年 ロイター/Cyabra) [1/2]7月15日、オリバー・テーラーは英バーミンガム大学の学生で、目は茶色、無精ひげをうっすらと生やし、少しぎこちない笑いを浮かべる二十歳そこそこの若者だ。 写真はテーラーのものとされる顔写真。イスラエルのディープフェイク検出会社がロイターに提供した右の解析写真では、目元や口に手を加えた痕跡が見られる(2020年 ロイター/Cyabra)

        アングル:ディープフェイク最前線、「実在しない記者」暗躍か
      • AI裏垢女子に気を付けろ(ディープフェイクで裏垢動画を作ってみた)|山野祐介

        私事ですが、骨折して2か月ほど半寝たきり&半引きこもり生活をしていました(動かな過ぎて痔になった)。なので連載以外は全く何もせず過ごしていたんですが、若干余裕が出てきたのでリハビリがてらnoteで好きなことを書きます で……久々にXを見て「おすすめ」タブに表示されていた裏垢女子を一度見たら、それからずっと出てくるようになってしまった。 裏垢女子というのは、一般的には性的な内容のポストや画像の投稿をあけすけに行い、会って性行為に及ぶのもやぶさかではない……みたいな女性ユーザーのことを指すが、体感では純粋に性的な出会いを求めている人は0.2%くらいではないかと思う。 残りの99.8%は ・「ここで連絡先交換してます♥」とか言われて詐欺の出会い系(会えることや資金譲渡をエサに入金を何度もせびられる)に誘導される ・DMで交通費やホテル代などの名目で「PayPayやAmazonギフト券をくれたら会

          AI裏垢女子に気を付けろ(ディープフェイクで裏垢動画を作ってみた)|山野祐介
        • ディープフェイクで合成された顔を見分ける鍵は「目の輝き」

          AI技術を用いて架空の画像や映像を合成するディープフェイクは、人の目には真偽を見分けることが非常に難しい段階まで発展しており、実在しない人物の顔写真を簡単に作成できることからSNSなどでも大きな問題となっています。そんなディープフェイクの顔写真を、瞳に映った光の反射から見抜く技術を、ニューヨーク州立大学バッファロー校の研究チームが開発しました。 EXPOSING GAN-GENERATED FACES USING INCONSISTENT CORNEAL SPECULAR HIGHLIGHTS (PDFファイル)https://arxiv.org/pdf/2009.11924.pdf New AI tool detects Deepfakes by analyzing light reflections in the eyes https://thenextweb.com/neural/2

            ディープフェイクで合成された顔を見分ける鍵は「目の輝き」
          • ディープフェイクを使って女性に変わる動画のせいでもう誰も何も信じられなくなる

            安野貴博 @takahiroanno ディープフェイクのパラメータ調整も色々試すうちにこなれ感が出てきた。元動画からvideo loopbackで低strengthで5回loopbackするとかなり時間的一貫性を維持したまま動画のように男 => 女変換ができる。笑顔もそんなに崩れないヨ pic.twitter.com/9fgavsFeO5 2023-05-13 11:38:35 安野貴博 @takahiroanno というわけで新作の動画をうpしました!ディープフェイクのボイチェンがいよいよ簡単に扱えるようになってきたので、ボイチェン詐欺などに引っかからないために、どうやれば相手がフェイクをしているのかを探るやり方を考えてみました youtube.com/watch?v=F9tdbI… 2023-05-13 11:40:44

              ディープフェイクを使って女性に変わる動画のせいでもう誰も何も信じられなくなる
            • 『龍が如く』のカラオケ曲「ばかみたい」が海外でなぜか大ブーム。ディープフェイクで無理やりバラードを歌わされる、インターネットの哀愁を背負いし者たち - AUTOMATON

              日本の極道の世界を描きながら、海外でも人気を集める『龍が如く』シリーズ。今、そのエキゾチシズムが意外なかたちでネットを席巻しているようだ。英題『Yakuza』の名で親しまれる同フランチャイズは、2018年に海外版『Yakuza 6: The Song of Life(邦題:龍が如く6 命の詩。)』を発売した。イギリスの週間チャートでは3位で登場するなど各国で好評を博し、同作の売り上げは国内版と同水準の成功を収めたという(関連記事)。今年11月には『龍が如く7 光と闇の行方』の海外版も発売を控えており、世界的なファンの期待を集めている。ところがシリーズが堅実な人気を築く一方、現在『龍が如く』のある“一要素”が異様な熱狂を集めているという。その要素とは、シリーズ挿入歌のひとつ「ばかみたい」。今、なぜかこの楽曲をさまざまな有名人に歌わせる動画がセンセーションを起こしているのだ。 任侠の世界を舞台

                『龍が如く』のカラオケ曲「ばかみたい」が海外でなぜか大ブーム。ディープフェイクで無理やりバラードを歌わされる、インターネットの哀愁を背負いし者たち - AUTOMATON
              • 東大、“世界最高性能”のディープフェイク検出AIを開発 フェイクニュースやポルノなどの悪用根絶に期待

                東京大学大学院情報理工学系研究科の研究チームは4月26日、動画内の人物の顔が本物かどうかを判定する、ディープフェイク検出AIを開発した。このAIは、既存研究の性能を大きく上回り、世界最高性能の評価を示したという。より高い精度でディープフェイクの検出が可能になるため、悪用の根絶に期待できるとしている。 ディープフェイクを検出するAI技術の多くは、訓練時に学習した作り方に倣ったフェイク画像などしか検出できず、それ以外のものを検証する際には性能が大きく低下する問題を抱えている。 こうした未知のディープフェイクに対し、Microsoftは2020年に、疑似フェイク画像を作り、それを使った検出AIの学習方法を提案している。しかし、この手法では、非常に検出が容易な疑似フェイク画像を生成する場合があり、それらの画像を学習した検出AIは、高圧縮率による潰れた画像や、高/低露光下のフェイク画像に対して、検出

                  東大、“世界最高性能”のディープフェイク検出AIを開発 フェイクニュースやポルノなどの悪用根絶に期待
                • つまらない安全講習ビデオをディープフェイクで「自分ごと化」する - 河本の実験室

                  安全講習のビデオってつまらないですよね。 免許の更新、社内のeラーニング、飛行機の離陸時など、様々な場面で僕らは講習ビデオを見させられます。 いくら役者さんが迫真の演技で危険な場面を演じても、僕みたいに共感力が薄い人間にはどうしても「他人事」に見えてしまって適当に見流してしまいます。本当は大事なのに。 そこで、安全講習ビデオを無理やり「自分ごと化」する方法を考えて試してみました。 事故ってるのが自分と家族だったら流石に見るんじゃない? 役者が演じる事故映像は「もしこれが自分や家族だったら」という変換を一旦行わないと吸収できません。しかし、自分や家族が危険な目にあっている場面を見れば直接脳の「ヤバい」エリアに働きかけられるのではないかと想像します。 そこでディープフェイクを使って、事故る対象者を自分や大事な人に変えてしまえば、急に「自分ごと」として捉えられるんじゃないかと考えました。: ディ

                    つまらない安全講習ビデオをディープフェイクで「自分ごと化」する - 河本の実験室
                  • ディープフェイク怖い…っていう事件かと思ったら、それ以上に人間の悪意が暴かれる怒涛の展開でさらにゾッとした「全員まともじゃない」

                    七竈アンノ@『おねチャ。』連載中 @nanakamado_anno 『いやぁディープフェイクこっわ』って思いながら後半で『こっわ。こっわ…』ってなった。読んでみまじで。(h フォロワー10万人超えチアリーダーの喫煙ビデオが流出したが…「映ってるのは私じゃない」逮捕されたのは同チームの“ライバルのママ”だった(文春オンライン) news.yahoo.co.jp/articles/a3c0c… 2023-09-10 14:42:33 リンク 文春オンライン フォロワー10万人超えチアリーダーの喫煙ビデオが流出したが…「映ってるのは私じゃない」逮捕されたのは同チームの“ライバルのママ”だった〈ディープフェイク・ママ〉 | 文春オンライン 魔法のように便利なAIは、恐怖も与えてくる。Chat GPTなどが話題だが、わかりやすいのは、ディープフェイクだろう。ディープフェイクとは、ある人物の動画や音声

                      ディープフェイク怖い…っていう事件かと思ったら、それ以上に人間の悪意が暴かれる怒涛の展開でさらにゾッとした「全員まともじゃない」
                    • CEOになりすましたディープフェイクの音声で約2600万円の詐欺被害か

                      Liam Tung (ZDNET.com) 翻訳校正: 矢倉美登里 吉武稔夫 (ガリレオ) 2019-09-05 14:02 犯罪者が、人工知能(AI)で生成した音声を利用し、企業の最高経営責任者(CEO)の声をまねて部下をだまし、資金を自分の口座に送金させている。 いわゆるディープフェイクボイス攻撃は、詐欺の次なるフロンティアとなるかもしれない。 The Wall Street Journal(WSJ)の報道によると、社名は伏せられているものの、英国を拠点とするエネルギー企業のCEOが、上司であるドイツの親会社のCEOと電話で話していると思っていたところ、ハンガリーのサプライヤーに22万ユーロ(約2600万円)を至急送金するよう頼まれたという。 ところが実際は、その指示はAIによる音声技術を利用してドイツにいるCEOになりすました詐欺師からのものだった。世論操作や社会の対立を招く恐れがあ

                        CEOになりすましたディープフェイクの音声で約2600万円の詐欺被害か
                      • cedro on Twitter: "有名な動画の顔を入れ替えるディープフェイク技術FaceSwapは2つのビデオを使った長時間の学習プロセスが必要です。 SberSwapはこの学習プロセス無しで、ビデオと1枚の画像だけで顔を入れ替える技術です。 これは色々な顔をAn… https://t.co/Nw2po3Jo3V"

                        有名な動画の顔を入れ替えるディープフェイク技術FaceSwapは2つのビデオを使った長時間の学習プロセスが必要です。 SberSwapはこの学習プロセス無しで、ビデオと1枚の画像だけで顔を入れ替える技術です。 これは色々な顔をAn… https://t.co/Nw2po3Jo3V

                          cedro on Twitter: "有名な動画の顔を入れ替えるディープフェイク技術FaceSwapは2つのビデオを使った長時間の学習プロセスが必要です。 SberSwapはこの学習プロセス無しで、ビデオと1枚の画像だけで顔を入れ替える技術です。 これは色々な顔をAn… https://t.co/Nw2po3Jo3V"
                        • 「シャイニング」のジャック・ニコルソンをジム・キャリーに置き換えたディープフェイク映像がまるで「完全リメイク」

                          スタンリー・キューブリック監督の映画「シャイニング」の見所の1つは、俳優ジャック・ニコルソンによる怪演。もし他の俳優が演じていたら、かなり雰囲気の異なる作品になっていそうなのですが、このジャック・ニコルソンの部分をディープフェイク技術を用いて俳優のジム・キャリーに置き換えた映像が登場しました。ジム・キャリーはジャック・ニコルソンとはかなり雰囲気の異なる俳優ですが、表情豊かな俳優だからか置き換えたときの違和感が少なく、まるで「『シャイニング』をジム・キャリー主演で完全にリメイクした作品」のような映像となっています。 「Episode 1 - Concentration」として公開されているのは、主人公ジャック・トランスの小説執筆を妻のウェンディが邪魔してしまい、ジャックが激しく怒るシーンです。 The Shining starring Jim Carrey : Episode 1 - Con

                            「シャイニング」のジャック・ニコルソンをジム・キャリーに置き換えたディープフェイク映像がまるで「完全リメイク」
                          • 韓国のナマモノBL批判は、ディープフェイク批判への反撃

                            まず韓国人男性が、韓国女性芸能人のフェイクポルノを作成・消費しており、 そうした行為に罰が与えられていない現状に対して、韓国人女性が抗議運動をしていた。 韓国人男性はオカズを奪われることへの怒りを感じたが、 アメリカでも日本でもフェイクポルノ作成・公開者は当然のように逮捕されている。 逮捕されたのは会社員、二又(ふたまた)正行(46)=東京都港区白金=と同、山口岳(33)=世田谷区砧、ホテル従業員、窪(くぼ)謙太朗(23)=横浜市港北区鳥山町=の3容疑者。 3人はそれぞれ、まとめサイトを運営。二又容疑者は「芸能人本人ではないと記載しているので名誉毀損ではない」と否認し、他の2容疑者は「サイトのアクセス数を増やしてお金を稼ぎたかった」「自分が動画を作ったわけではないから大丈夫だろうと思った」と容疑を認めている。 二又容疑者は令和元年12月から今年9月にかけて50万円超、窪容疑者も同時期に10

                              韓国のナマモノBL批判は、ディープフェイク批判への反撃
                            • 恐ろしくリアルな「アポロ11号失敗」のディープフェイク動画、MITが公開

                              1969年7月20日の「アポロ11号」月面着陸は、宇宙開発史における画期的な瞬間だった。だがもし、この月へのミッションで宇宙飛行士たちが事故死していたとしたら、そして、この悲報をRichard Nixon大統領(当時)がテレビのニュースで米国の視聴者に伝えなければならかったとしたら? このほど公開された、不安になるほどリアルなディープフェイク動画の中で、Nixon大統領は米航空宇宙局(NASA)のミッションが失敗して宇宙飛行士たちが死亡したと告げる。ディープフェイクは人工知能(AI)を応用した捏造動画を意味し、映像を加工することで、実際にはやっていないことをやったように、言っていないことを言ったように見せることができる。ディープフェイク用ソフトウェアの登場によって高度に改変された動画が出回るようになり、偽物だと見抜くのがますます困難になってきた。 Nixon大統領はディープフェイク動画の中

                                恐ろしくリアルな「アポロ11号失敗」のディープフェイク動画、MITが公開
                              • 裁判に提出された証拠映像に対して「これはディープフェイクだ」と反論する人々が登場することを専門家が懸念

                                近年はAIの発達により、簡単に実在の人物が登場するディープフェイクの動画や音声を作成できるようになりました。そんな中、電気自動車メーカー・テスラの弁護団がテスラ車の死亡事故に関する裁判で、「原告が提出した音声はディープフェイクの可能性がある」と主張する事態が発生。裁判の証拠品に対して「これはディープフェイクだ」と反論されることについて、専門家が懸念を表明しています。 People are arguing in court that real images are deepfakes : NPR https://www.npr.org/2023/05/08/1174132413/people-are-trying-to-claim-real-videos-are-deepfakes-the-courts-are-not-amused 2018年3月、Appleのエンジニアだったウォルター・フ

                                  裁判に提出された証拠映像に対して「これはディープフェイクだ」と反論する人々が登場することを専門家が懸念
                                • 「ディープフェイク」技術でアダルト動画作成か 初検挙 | IT・ネット | NHKニュース

                                  AIを使って本物と見分けがつかないほど巧妙な偽の動画を作成する「ディープフェイク」と呼ばれる技術で、女性芸能人の偽のアダルト動画を作成し、インターネットで配信したとして、男2人が名誉毀損などの疑いで警視庁に逮捕されました。 警視庁によりますと、2人は去年12月からことし7月にかけて、アダルト動画の出演者の顔を合わせて4人の女性芸能人の顔と入れ替えた偽の動画を作成し、インターネットで配信したとして名誉毀損と著作権法違反の疑いが持たれています。 2人はパソコンとインターネット上のフリーソフトを使い、「ディープフェイク」と呼ばれる技術で芸能人1人につき、およそ3万枚の画像をAIに学習させたうえで、アダルト動画と合成していたということです。 調べに対しいずれも容疑を認め「金もうけをしたかった」、「技術を評価してもらいたかった」などと、供述しているということです。 このうち林田容疑者は会員制の有料サ

                                    「ディープフェイク」技術でアダルト動画作成か 初検挙 | IT・ネット | NHKニュース
                                  • 同意なしの性的なディープフェイク画像作成を禁止する法案がイギリスで提出される、作成者に画像共有の意図があるかどうかは関係なし

                                    イギリス政府が「性的に露骨なディープフェイクを作成した卑劣な人々は、2024年4月16日に政府によって発表された新しい法律に基づいて訴追されることになる」と発表しました。当該法律は修正案を通じて導入される予定で、作成者に共有の意図がなかったとしても、刑事罰の対象になります。 Government cracks down on ‘deepfakes’ creation - GOV.UK https://www.gov.uk/government/news/government-cracks-down-on-deepfakes-creation Creating sexually explicit deepfake images to be made offence in UK | Deepfake | The Guardian https://www.theguardian.com/tech

                                      同意なしの性的なディープフェイク画像作成を禁止する法案がイギリスで提出される、作成者に画像共有の意図があるかどうかは関係なし
                                    • 芸能人が不祥事を起こしたらディープフェイクで別の俳優に顔だけを差し替え | じつは中国ではすでに普通に行われていた…

                                      身分偽造での大学受験が問題になったタレント仝卓。顔が入れ替えられる前のドラマ宣伝用写真。 ウェイボーより 現在中国で放映中のドラマで、仝卓という若手タレントが演じていた役がすべてディープフェイクで別の役者に差し替えられていることが話題になっている。 ドラマの名は『了不起的儿科医生(Healer Of Children)』。小児科の医者たちが子供たちの命を守るために、最前線で力を尽くす様子が描かれた医療ドラマだ。 人気俳優が出演し、医療現場のリアルな描写でも話題になっている。また、ドラマの撮影では東京ロケも敢行されていたという。ところが、そのドラマのキャストに名を連ねていた、仝卓という若手タレントに不祥事が発生した。 政府幹部の親のコネを使い、虚偽の身分で大学受験 中国メディア「南方都市報」によると、今年5月、仝卓はファンに向けておこなった自身のライブストリーミングのなかで、大学受験の際に身

                                        芸能人が不祥事を起こしたらディープフェイクで別の俳優に顔だけを差し替え | じつは中国ではすでに普通に行われていた…
                                      • 表現の自由戦士は変態糞岸田のディープフェイクも擁護すべきだろ

                                        自民党公認売春不倫野郎の養分だからできんのか?

                                          表現の自由戦士は変態糞岸田のディープフェイクも擁護すべきだろ
                                        • 娘のライバル蹴落とすため……「ディープフェイク」でわいせつ動画作成の母親逮捕 - BBCニュース

                                          米ペンシルヴェニア州在住の母親がディープフェイク技術を使い、娘が所属するチアリーディングのチームメイトのわいせつな画像や動画を作成したとして、複数の嫌がらせの罪で逮捕・訴追された。娘のライバルをチームから追い出すためだったという。 逮捕・訴追されたのは、ペンシルヴェニア州に住むラファエラ・スポーン被告。報道によると、被告はチアリーディング・チーム「Victory Vipers」のメンバーが「裸で飲酒や喫煙」しているディープフェイク動画などを作成し、コーチに送った。

                                            娘のライバル蹴落とすため……「ディープフェイク」でわいせつ動画作成の母親逮捕 - BBCニュース
                                          • ディープフェイクで人造したFacebookのザッカーバーグCEOが「データの支配」について語るムービーが話題に

                                            「AIが顔合成技術を使って『有名女優のフェイクポルノ』を作る」という事態が2017年末に起こり、「このディープフェイク技術が悪用されるようになればインターネット上で真実とうそとを見分けるのが不可能になるのでは?」と指摘されています。そんな中、Facebookのマーク・ザッカーバーグCEOが「人々のデータを1人の男がコントロールすることを想像してください」とニュースで訴える様子がディープフェイクで作成され、話題となっています。 Deepfake video on Mark Zuckerberg surfaces on Instagram - Business Insider https://www.businessinsider.com/deepfake-video-mark-zuckerberg-instagram-2019-6 This Deepfake of Mark Zuckerbe

                                              ディープフェイクで人造したFacebookのザッカーバーグCEOが「データの支配」について語るムービーが話題に
                                            • アングル:「ディープフェイクから守って」、声優や俳優が権利訴え

                                              5月18日、 声優のベブ・スタンディングさんはある日、友人からのメッセージに驚愕した。「Tik Tok(ティックトック)のテキスト読み上げ機能の声はあなたの声だよね」と聞かれたのだ。写真はディープフェイクと呼ばれる顔の表情の加工途中の映像。2019年2月撮影のロイターTV動画より(2022年 ロイター) [トビリシ 18日 トムソン・ロイター財団] - 声優のベブ・スタンディングさんはある日、友人からのメッセージに驚愕した。「Tik Tok(ティックトック)のテキスト読み上げ機能の声はあなたの声だよね」と聞かれたのだ。その驚きはやがて怒りに変わった。

                                                アングル:「ディープフェイクから守って」、声優や俳優が権利訴え
                                              • DeepFake(ディープフェイク) -動画編- | 技術者ブログ | 三井物産セキュアディレクション株式会社

                                                最近、DeepFake(ディープフェイク)という言葉がしばしばメディアでも取り上げられていますが、その仕組みや対策をご存じでない方も多いのではないでしょうか。そこで本ブログでは、DeepFakeの仕組みと対策を「動画編」と「音声編」の2回に分けて解説することにします。 今回は「動画編」と題し、DeepFakeを使用したフェイク動画の仕組みと、これを見破る方法について解説いたします。 1. DeepFake? DeepFakeとは、動画に写っている人物(オリジナル)の顔に他人の顔(ターゲット)をマッピングする技術の総称であり、オリジナルとターゲットの顔の特徴をDeep Learningで学習することで実現します。この技術を使用することで、ターゲットが一切写っていない動画の中に、あたかもターゲットが存在するかのようなフェイク動画を作成することが可能となります。 以下は、今回の検証で作成したフェ

                                                  DeepFake(ディープフェイク) -動画編- | 技術者ブログ | 三井物産セキュアディレクション株式会社
                                                • キアヌ・リーブスは「編集で涙を追加」などのディープフェイク技術を契約で禁止している

                                                  by Governo do Estado de São Paulo 映像編集技術やAIの発展によって、「撮影後に俳優の表情を変化させる」といった編集が可能になっています。しかし、人気俳優のキアヌ・リーブス氏は大胆な編集に異を唱え、自身の出演契約に「許可なく演技を編集してはならない」という項目が存在することを明かしています。 Keanu Reeves Slams Deepfakes, Film Contract Prevents Digital Edits - Variety https://variety.com/2023/film/news/keanu-reeves-slams-deepfakes-film-contract-prevents-digital-edits-1235523698/ AIを活用した映像編集技術「ディープフェイク」は、俳優の顔を別人に置き換えたり、表情を自由に変

                                                    キアヌ・リーブスは「編集で涙を追加」などのディープフェイク技術を契約で禁止している
                                                  • ディープフェイク上司の指示に従い38億円を詐欺師に送金してしまう事態が発生、ディープフェイクを見分ける方法はあるのか?

                                                    AI技術の発展に伴って、実在の人物にそっくりな顔や声を含む映像を作り出すディープフェイク技術の悪用事例も増えつつあります。香港では、会社のCFOを名乗る人物のディープフェイク映像にだまされた従業員が2億香港ドル(約38億円)を送金してしまう事例が発生しました。 Finance worker pays out $25 million after video call with deepfake ‘chief financial officer’ | CNN https://edition.cnn.com/2024/02/04/asia/deepfake-cfo-scam-hong-kong-intl-hnk/index.html ‘Everyone looked real’: multinational firm’s Hong Kong office loses HK$200 million

                                                      ディープフェイク上司の指示に従い38億円を詐欺師に送金してしまう事態が発生、ディープフェイクを見分ける方法はあるのか?
                                                    • ディープフェイク規制を急いではならない | p2ptk[.]org

                                                      Electronic Frontier Foundation 下院情報特別委員会は今月、「ディープフェイク」問題に関する公聴会を開催した。ディープフェイクとは、機械学習アルゴリズムを用いて作成された本物に見える偽の画像や映像を説明する造語である。こうした捏造・操作された画像やビデオは、現実の危険を引き起こしたり、被害を及ぼすこともありうる。公聴会に証人として出席したメリーランド大学ロースクールのダニエル・シトロン教授は、(訳註:インドのモディ政権に批判的な)ジャーナリストのラナ・アユーブの身に降り掛かった恐怖の出来事を語った。ネットのあるユーザがアユーブの画像を元に作成した偽のポルノ映像を拡散したことで、(訳註:彼女への攻撃が過激化し、電話番号や住所がさらされ、レイプの脅迫を受けた)アユーブは安全のために身を隠さざるを得なくなった。社会として、我々はディープフェイクが有害な方法で利用されて

                                                        ディープフェイク規制を急いではならない | p2ptk[.]org
                                                      • オシント新時代~荒れる情報の海:口座開設の顔認証を突破 ディープフェイクの脅威 | 毎日新聞

                                                        情報の海に入り込んだ悪意の象徴として、世界中で懸念が高まる「ディープフェイク」。人工知能(AI)の深層学習(ディープラーニング)と偽物(フェイク)を組み合わせた造語だ。いまや専門的な知識がなくても、スマートフォン一つで「偽物」が作れる時代になった。 2021年6月、人工知能学会で日立製作所のグループが発表した。「ディープフェイク技術で本人になりすませば、顔認証システムが突破される恐れがある」 オンラインで本人確認する手段として、口座開設時などに利用される顔認証システム。突破は本当に可能なのか――。記者は日立製作所横浜研究所で、社会システム研究部員の同席のもと検証した。 パソコンの画面に映る記者の顔が、同僚女性の顔に置き換わった。パソコンには、…

                                                          オシント新時代~荒れる情報の海:口座開設の顔認証を突破 ディープフェイクの脅威 | 毎日新聞
                                                        • ツイッター社 「ディープフェイク」対策で新方針発表 | NHKニュース

                                                          「フェイクニュース」による意図的な情報操作への対策が課題となるなか、ソーシャルメディア大手のツイッター社は、「ディープフェイク」と呼ばれる本物と見分けの付かない精巧な偽の映像などについて投稿内容を削除することも含む新たな方針を発表しました。 それによりますと、投稿された動画や画像などについて、ユーザーを欺くことを意図し、動画の改ざんなどが行われているかどうかや、公共の安全への影響などの観点から独自の基準を設けるということです。 そして、違反していると判断した場合、ツイートに「操作されたメディア」と表示してユーザーに警告するほか、投稿を削除する可能性もあるとしています。 アメリカで、大統領選挙が本格化するなか、ソーシャルメディアの運営企業にとってフェイクニュース対策は喫緊の課題となっています。 フェイスブックが先月、「ディープフェイク」の削除を進める方針を発表したほか、グーグル傘下のユーチュ

                                                            ツイッター社 「ディープフェイク」対策で新方針発表 | NHKニュース
                                                          • 「親友にディープフェイクのポルノ画像を作られた」 英女性が真実を突き止めるまで - BBCニュース

                                                            ジョディーさん(仮名)はある日、自分の画像がディープフェイクで作られたポルノに使われているのを発見した。そればかりか、衝撃の事実を後から知ることになる。このひどい行動に出たのが、実は親友の一人だったのだと、ジョディーさんはBBCラジオ番組「ファイル・オン・4」に話した(文中敬称略)。

                                                              「親友にディープフェイクのポルノ画像を作られた」 英女性が真実を突き止めるまで - BBCニュース
                                                            • ディープフェイクで「顔交換」、顔認証を突破する攻撃が約7倍に

                                                                ディープフェイクで「顔交換」、顔認証を突破する攻撃が約7倍に
                                                              • 文字を“ディープフェイク”するAI、Facebookが開発 フォントや手書き感をコピーして別単語に変換

                                                                FacebookのAI研究チームは6月11日(現地時間)、写真に写るテキストから、そのフォントや手書きの癖をコピーできるAI「TextStyleBrush」を発表した。このAIでは、写真に写った手書きのメモやカリグラフィー、タイポグラフィーなどのテキストからフォントを解析し、元の単語があった部分を別の単語に置き換えられるという。 テキスト内の一つの単語からフォントを解析できるのが強み。一般的なAI学習のように多くのサンプルデータを必要としないのは、データ自身から画像に対応するラベルを自動生成する「自己教師あり(self-supervised)学習」という手法を使ったためとしている。 TextStyleBrushは画像中のテキストを自然に別のテキストに置き換えられるため、“文字のディープフェイク”ともいえる。動画中の人物の顔を別の人物に置き換えるディープフェイク技術は、本当は言っていないこと

                                                                  文字を“ディープフェイク”するAI、Facebookが開発 フォントや手書き感をコピーして別単語に変換
                                                                • フォロワー10万人超えチアリーダーの喫煙ビデオが流出したが…「映ってるのは私じゃない」逮捕されたのは同チームの“ライバルのママ”だった〈ディープフェイク・ママ〉 | 文春オンライン

                                                                  魔法のように便利なAIは、恐怖も与えてくる。Chat GPTなどが話題だが、わかりやすいのは、ディープフェイクだろう。 ディープフェイクとは、ある人物の動画や音声を合成するAI技術、それによって作られた偽の情報を指す。近年とくに話題になったのが、俳優トム・クルーズを模したTikTok投稿。映像中、さわやかに登場しながら転んだり、ペロペロキャンディに感動したりするトムは、すべて顔を合成してつくられた偽物だった。 強豪チアリーダーチームで起きた衝撃の事件 アメリカでは、信じられないディープフェイク事件が衝撃を呼んだ。舞台となったのは、田舎町の強豪チアリーダーチーム。チーム内競争も激しいエリート女子集団だ。コロナ禍の夏、10万人のSNSフォロワーを誇る16歳のブロンド選手、マディの喫煙映像がコーチのもとへ届けられた。差出人不明の密告により追放処分の危機に瀕した彼女は、驚きと恐怖で号泣したという。

                                                                    フォロワー10万人超えチアリーダーの喫煙ビデオが流出したが…「映ってるのは私じゃない」逮捕されたのは同チームの“ライバルのママ”だった〈ディープフェイク・ママ〉 | 文春オンライン
                                                                  • ディープフェイク画像を見たとき脳は普段と異なる反応をしていたと判明 - ナゾロジー

                                                                    途中判断が最終判断よりも優れていました。 オーストラリアのシドニー大学(The University of Sydney)で行われた研究により、私たちはディープフェイク技術で作られた人工の顔写真をみたときと本物の顔写真をみたときでは、脳で異なる神経活動が観察されることが発見されました。 人間はどの顔が本物でどの顔が偽物かを「口頭」で答えるテストでは悲惨な成績を収めたものの、脳波を測定すると、本物を見た瞬間と偽物を見た瞬間では、別の信号が発生していたのです。 そのため研究者たちは、ディープフェイクによって作られた偽の顔画像には、人間には認識できないレベルでの弱点が存在する可能性が高いと述べています。 しかし、脳が偽物を見抜いているにもかかわらず、なぜ私たちの「口頭」での答えは間違ってしまうのでしょうか? 研究内容の詳細は2022年の10月付けで『Vision Research』にて掲載されて

                                                                      ディープフェイク画像を見たとき脳は普段と異なる反応をしていたと判明 - ナゾロジー
                                                                    • 【Stable Diffusion】web UI拡張機能で簡単ディープフェイク

                                                                      「指定した顔で画像生成を行いたい」 「ディープフェイク(Deepfake)を試してみたい」 このような場合には、roop for StableDiffusionがオススメです。 この記事では、web UIで簡単にディープフェイクを試せる方法を解説しています。 本記事の内容 roop for StableDiffusionとは?roop for StableDiffusionのインストールroop for StableDiffusionの動作確認 それでは、上記に沿って解説していきます。

                                                                        【Stable Diffusion】web UI拡張機能で簡単ディープフェイク
                                                                      • アイドルも被害「ディープフェイク」まとめサイト管理人を逮捕。芸能団体は「違法なまとめ行為」を批判

                                                                        Search, watch, and cook every single Tasty recipe and video ever - all in one place! News, Politics, Culture, Life, Entertainment, and more. Stories that matter to you. アイドルも被害「ディープフェイク」まとめサイト管理人を逮捕。芸能団体は「違法なまとめ行為」を批判ディープフェイクをめぐっては10月2日、自らの有料サイトや海外サイトに同様の動画をアップロードしていたとして、今回の5人と同容疑で大学生とシステムエンジニアの男2人が逮捕されている。捜査当局がネット上に広がる動画の全面的な摘発に乗り出した格好だ。

                                                                          アイドルも被害「ディープフェイク」まとめサイト管理人を逮捕。芸能団体は「違法なまとめ行為」を批判
                                                                        • 顔写真1枚で簡単にディープフェイク映像を作成できる無料アプリ登場、中国で大人気に

                                                                          自分の顔写真を1枚アップロードするだけで、映画やテレビ番組の1シーンに自分の顔を当てはめるディープフェイクムービーをiPhone上で簡単に作れるアプリ「ZAO」が中国で公開され、中国向けiOS App Storeで無料アプリ人気ランキング1位を獲得したと報じられています。 Another convincing deepfake app goes viral prompting immediate privacy backlash - The Verge https://www.theverge.com/2019/9/2/20844338/zao-deepfake-app-movie-tv-show-face-replace-privacy-policy-concerns Chinese deepfake app Zao sparks privacy row after going vira

                                                                            顔写真1枚で簡単にディープフェイク映像を作成できる無料アプリ登場、中国で大人気に
                                                                          • プーチン大統領のディープフェイクが本物のプーチン大統領と公開質疑で対面し本人に「影武者はいるの?」と質問

                                                                            2023年12月14日にロシアのウラジーミル・プーチン大統領が年末恒例の質疑応答イベントを開催しました。このイベントの中で国民からの質問として「プーチン大統領の外見や声を再現したディープフェイクがプーチン大統領に質問する映像」が映し出され、プーチン大統領が自身のディープフェイクに対して応答する一幕がありました。 Putin quizzed by apparent AI version of himself during live phone-in https://www.cnbc.com/2023/12/14/putin-confronted-by-apparent-ai-version-of-himself-during-live-phone-in.html Stunned Putin double-takes as he is confronted with AI deepfake o

                                                                              プーチン大統領のディープフェイクが本物のプーチン大統領と公開質疑で対面し本人に「影武者はいるの?」と質問
                                                                            • AI企業が本気で作った初の「認証済みディープフェイク」が公開される、ネット上の映像はもはや信用できない世界が到来

                                                                              デジタルコンテンツの検証サービスを提供するTruepicと、人工知能を用いたリアルな合成映像を手がけるRevel.aiが共同で、世界初の「認証済みディープフェイク映像」を制作して公開しました。出演者の女性本人の了解を得て作られたディープフェイク映像は非常にリアルで、合成コンテンツを特定する仕組みの必要性がよくわかる内容となっています。 Revel - Truepic https://truepic.com/revel/ A convincing AI-made video that tells on itself https://www.axios.com/2023/04/04/a-convincing-deepfake-that-tells-on-itself TruepicとRevel.aiが制作したディープフェイク映像は、以下から見ることができます。 Mirror of Reflec

                                                                                AI企業が本気で作った初の「認証済みディープフェイク」が公開される、ネット上の映像はもはや信用できない世界が到来
                                                                              • 相次ぐ「AI偽動画」あなたはディープフェイクを見抜けますか? | NHK

                                                                                ニュースでアナウンサーに投資を呼びかけられたら…。 岸田総理大臣がいきなりテレビで卑わいな話をし始めたら…。 そんな本人が話していない内容を、実際に話しているように見せる偽物の動画がSNSで広まりました。 こうした偽動画、いまでは生成AIによって簡単に作れるようになっています。 果たして見抜くことはできるのか。そして、だまされないための4つのポイントとは。 (デジタルでだまされない取材班 / ネットワーク報道部 籏智広太) まるで本人が話しているかのような… X(旧ツイッター)で最近、民放のニュース番組を装いアナウンサーが投資を呼びかける偽動画や、岸田総理大臣が卑わいな内容を話している偽動画が相次いで投稿され広がりました。 こうした動画は、本物と見分けがつかないほど巧妙な偽の動画を作成する「ディープフェイク」と呼ばれる技術で作られたもの。 数年前から出てきていましたが、生成AIを使うと特別

                                                                                  相次ぐ「AI偽動画」あなたはディープフェイクを見抜けますか? | NHK
                                                                                • 死去した独裁者「復活」、ディープフェイク時代の選挙に漂う怪しさ インドネシア

                                                                                  (CNN) かつて陸軍大将として恐れられ、強権を振るってインドネシアを30年以上にわたり支配した人物が、来る選挙を前に有権者たちにメッセージを送った。死後の世界から。 「私はインドネシアの第2代大統領、スハルトだ」。かつての陸軍大将が登場した3分間の動画は、ソーシャルメディアのXで470万回以上閲覧され、ティックトックやフェイスブック、ユーチューブでも拡散している。 いかめしい表情のこの人物が、インドネシアの元大統領でないことは明らかだ。本物のスハルト氏は2008年、86歳で死去している。 動画は人工知能(AI)で生成した「ディープフェイク」で、ツールを駆使してスハルト氏そっくりの顔と声を作り出したものだ。インドネシア最大にして最古の政党の一つ、ゴルカルの幹部を務めるアーウィン・アクサ氏は、動画制作の目的について、来る選挙で有権者がいかに重要な存在であるかを思い起こさせることが狙いだったと

                                                                                    死去した独裁者「復活」、ディープフェイク時代の選挙に漂う怪しさ インドネシア

                                                                                  新着記事