画像生成AI“児童ポルノ”学習問題、日本では表現規制の議論にも (1/4)
2023年12月、スタンフォード大学の研究グループは、画像生成AI「Stable Diffusion」が学習のために使ったオープンデータセット「LAION-5B」の中に、1008件の「CSAM（児童性的虐待画像）」（日本では児童ポルノと訳されることが多い）が含まれていると発表し、大きなニュースとなりました。日本ではその違法性を問うことができるのでしょうか？ 問題のある画像を含んだデータの排除した学習済みデータへの移行が進む一方で、日本では生成AIの問題をきっかけに表現規制にまで広げようという動きも出ているようです。 「Stable Diffusion v1.5」学習データに“児童ポルノ”？ LAION-5Bはドイツの非営利団体LAIONが公開している、インターネット上から機械的に収集された画像に対し、その画像が何を意味しているのかを分析したテキストのペア（「Clip」と呼ばれる）によって構
｢生成AIでゲームキャラと対話｣が困難な意外事情
ーー逆に、小規模のゲーム会社であれば恩恵はあると？ そうだ。ゲーム産業全体を見ると、いわゆるインディーゲーム（個人や小規模な組織で開発されたゲーム）は生成AIの導入により大きく影響を受けるだろう。 インディーゲームの場合は、グラフィックを担当する専属のアーティストを抱えておらず外注することも多い。ゼロから画像を生成することができる生成AI技術は魅力的に映る。 ーー会話の自動生成はどうでしょう。 会話の自動生成においても（画像生成と）まったく同じことがいえる。 ロールプレイングゲームでユーザーと村人がChatGPTと対話するようにコミュニケーションが取れたら面白いと思うかもしれない。実際、インディーズでは、そのようなゲームも出てき始めている。 ただ、たとえば村人がいきなり政治に関する発言をしたらどうだろう。差別につながるような問題発言をし出したら？ AIの学習データには大量にこうした類のもの
文化庁の「AIと著作権」の解釈が話題に AIに詳しい弁護士「かなり踏み込んだ内容」
内閣府が公開している資料「AIと著作権の関係等について」がTwitterで話題になっている。文化庁が制作した資料で、5月15日に開催した内閣府のAI戦略チームの会議で使用されたもので、AIと著作権に関する現行法での見解などをまとめている。6月3日頃からTwitter上で話題になっており、AIに詳しい弁護士も「かなり踏み込んだ内容」と見解を述べている。 同資料では、著作権の役割は「『思想又は感情を創作的に表現した』著作物を保護するもの」と指摘。データ（事実）やアイデア（作風や画風）は著作物に含まれないという。 この上で、AIと著作権の関係は「生成・利用段階」と「AI開発・学習段階」を分けて考えるべきと説明している。AIが生成した画像などを公開したり、そのイラスト集を販売したりする場合は、通常の著作権侵害と同様の法が適当される。AI画像と既存の著作物との類似性や依拠性（既存の著作物を基に創作し
『news zero』に海外アーティストが怒りの抗議 批判受けた落合陽一氏は釈明 | リアルライブ
アメリカ在住のアーティストであるカーラ・オルティス氏が、自身の取材を受け、16日に放送された『news zero』(日本テレビ系)に対し、ツイッターで抗議している。 問題となっているのは、『news zero』で取り上げた画像生成AIについての特集。オルティス氏はAIが許諾を得ずに自身の作品を学習したとして、画像生成サービスの会社を集団提訴しているアーティストの1人。番組の取材に対し、AIに「搾取され悪用された」と訴えていた。 しかし、番組ではスタッフが、オルティス氏の作品とAIが出力した作品の2つをパネルに並べ、街頭インタビューで一般人に「どちらが好みかどうか」と聞く一幕が。多くの人が「AIの方が好き」という結果になったことを放送していた。 >>スシローSNS、理不尽に炎上? 投稿したAI画像にイラストレーターらから批判、同情の声<< この放送を受け、オルティス氏は23日にツイッ
ついにPhotoshopへ驚異的AI機能「ジェネレーティブ塗りつぶし」追加へ、「画像の続きを生成する機能」「被写体を生成して画像内に追加」などができベータ版で利用OK
Adobeが画像編集アプリ「Photoshop」にジェネレーティブAI「Firefly」を統合し、AI機能「ジェネレーティブ塗りつぶし」を追加することを発表しました。「ジェネレーティブ塗りつぶし」では「画像の続きを生成」「画像の一部をAIで生成した画像に置き換え」といった操作を実現可能です。 アドビ | Adobe https://www.adobe.com/jp/ Photoshopに搭載されるAI機能「ジェネレーティブ塗りつぶし」はこんな感じ - YouTube 「ジェネレーティブ塗りつぶし」の実例こんな感じ。まず、画像の一部を選択状態にします。 続いて「Generative Fill(ジェネレーティブ塗りつぶし)」をクリック。 すると、道路上のタイヤ痕が消えました。 続いて道路の中央部分を選択。 「yellow road lines(黄色い車線)」と入力して「Generate」をクリ
芸能業界団体が国に要望書 “AIコンテンツの元データ開示を” | NHK
AIを使って作られたコンテンツが次々に生み出されていく中、俳優や音楽家などで作る業界団体が、芸能従事者の活動や権利の保護を求め、「AIがどのようなデータを元にして生成したのか開示すべき」などとする要望書を国に提出しました。 要望書を提出したのは、俳優や音楽家などの芸能従事者で作る日本芸能従事者協会で、8日に会見を開いて明らかにしました。 会見では、AIが創作活動に対して及ぼす影響について、映画や音楽、美術など、文化芸術の各分野からの意見が紹介され、声優からは「数時間ですべての音域、声色をスキャンされて、おおよその表現や演技もできるように合成される」とか、美術家からは「自分の作品が知らない間にAIに取り込まれ、再利用されていくことに憤りを感じる。アーティストの著作権が侵害される無法地帯を作ってしまうと危惧している」といった、懸念の声が上がっていることが説明されました。 また、オンラインで会見
画像生成AIにイラストの学習を禁止することはできる？ どこから著作権侵害になるの？【弁護士解説】 - Workship MAGAZINE(ワークシップマガジン)
画像生成AIに自分のイラストの学習を禁止させることはできる？ ぽな： あの、あくまで個人的な感想なのですが、AIに対するクリエイターの反応って界隈によってだいぶ違うなと思っていて。ライターやデザイナーはそうでもない印象なのですが、なぜかイラストレーターさんの界隈は非常にAIへの反発が強い。実際、ネットニュースで炎上ネタとして上がっていたり、SNSでバズっているのも、ほぼイラスト関係ですよね。 出井： たしかに、昨今ニュースやSNSを見る限り、画像生成AI関係の話題は非常にホットになっていますね。一番大きなターニングポイントは『Stable Diffusion（ステーブル・ディフュージョン）』の登場ではないでしょうか。 これまでも画像生成AIはありましたが、Stable Diffusionはなんとソースもオープン化してしまったんですね。その結果、誰もがこのソースを使って画像生成AIを作れるよ
画像生成AI “クリエーターの権利脅かされる” 法整備など提言 | NHK
文章で指示するだけで自動的に画像を生み出す「画像生成AI」の不適切な使用によってクリエーターの創作活動や権利が脅かされているなどとして、イラストレーターや漫画家などで作る団体が記者会見を開き、画像生成AIの適切な使用や法整備などを求める提言を発表しました。 記者会見を開いたのは、イラストレーターや漫画家などおよそ30人で作る「クリエイターとAIの未来を考える会」で、団体の理事を務め、イラストレーターとして活動する木目百二さんら3人が出席しました。 会見では、現在利用されている画像生成AIの多くは、著作権の所有者に無断でインターネット上から収集、複製した画像を機械学習に使用していることや、第三者が画像生成AIの機能を使って別の人が著作権を持つ画像を無断で改変し、全く別の作品として公開する行為が後を絶たず、クリエーターの権利が脅かされていると訴えました。 そして、AIの開発と著作権をめぐる法整
画像生成AI「Stable Diffusion」が使う無料のデータセット「LAION」の構築を率いているのは1人の高校教師だった
画像生成AI「Stable Diffusion」が使用していることでも知られている、ジェネレーティブAIの学習用データセットを構築する非営利団体が「LAION」です。このLAIONのリーダーを務めるのが、ドイツのハンブルグ市で高校教師として働くクリストフ・シューマン氏です。 A High School Teacher’s Free Image Database Powers AI Unicorns - Bloomberg https://www.bloomberg.com/news/features/2023-04-24/a-high-school-teacher-s-free-image-database-powers-ai-unicorns クリストフ・シューマン氏はウィーン大学でコンピューター科学と物理学を学びながら、ワークショップで6年間にわたって演技を学び、卒業後はハンブルク市で
【AI】生成AIを利用する場合に気を付けなければならない著作権の知識｜福岡真之介
はじめに最近は、テクノロジー法を主に取り扱っています。その中でもAI、Web3、メタバースは、現時点では別系統の話題の感が強く、一緒くたにNOTEに書くのはためらわれ、それゆえにNOTEに何を書くか迷っていたのですが、タイトルに【AI】【Web3】【メタバース】と入れることで全部NOTEに書くことにしました。これで問題解決しました！ ということで、今回はChatGPTの登場で、最近盛り上がっているAIがテーマです。 生成AIの法的リスク生成AIの利用にはどのような法的リスクがあるのでしょうか。 リスクとしては、①著作権侵害、②誤情報の利用、③秘密情報の漏えい、④個人情報の不適切な利用、⑤悪用などがあげられます。 たとえば、学習データやプロンプトに他人の著作物を利用する場合や、生成した物が他人の著作物に似ている場合には、著作権侵害の問題が生じます。 生成AIが誤った情報を生成し、人間がそれを
アーティストの作品でAI訓練 「無断で複製された」米国で集団提訴（朝日新聞デジタル） - Yahoo!ニュース
アーティストのカーラ・オルティスさん。女神のような女性の絵（右）をまねた多くの画像がネット上で見つかったという=2023年3月20日、サンフランシスコ、五十嵐大介撮影 対話型AI（人工知能）「ChatGPT（チャットGPT）」など生成AIの開発と利用が急速に進むなか、AIの訓練に使われるデータの著作権をめぐり、アーティストらが提訴に乗り出した。判決次第では、企業のAI開発や、音楽など他の創作活動に関わるデータの扱いにも影響する可能性がある。 【写真】生成AIでアーティストが失業するのは「まだ始まり」。シカゴ大教授がみる生成ＡＩの課題とは? 文章や画像を作り出す生成AIの普及で著作権が問題になるのは、最新AIを訓練するにあたり、すでにネット上にある画像や文章など膨大なデータを集める必要があるためだ。 米サンフランシスコに住むアーティスト、カーラ・オルティスさんは1月、仲間のアーティスト2人と
画像生成AIの学習について絵描きにアンケートを取った結果と今後の考察｜よー清水
どうも、よー清水です。 2023年の3月31日にTwitterのアンケート機能を使って、主にイラストレーターや同人作家など絵を描いて金銭を得ている人向けにアンケートを実施してみました。 本記事は、アンケートの結果のまとめとそれを受けての僕の考察となります。 別の記事でも書きましたが、最初に僕の意見を書いておきます。 僕は画像生成AIについては「権利者に許諾なしで作品を使う」という1点が気に入りません。AIや技術の進歩は歓迎しますが、著作権など既存の権利を蔑ろにする進歩はおかしいと思っています。 AIの学習に使用するのはよいですが、それは事前に学習に使用することに同意した人だけに限るべきです。 現状でも本やWeb掲載など、公的な使用の場合は事前に編集者やライターさんから連絡をいただき、使用用途を確認の上で許諾を出します。 場合によっては掲載料を提示します。これがAI学習とAIの商用利用という
プロイラストレーターが最近のAI「どうすんだこれ感」について思ったこと
こんにちは！ イラストレーターのrefeiaです。今日はイラストAIについて話していこうと思います。 はじめに 実は先日、PC USERの編集さんから「そろそろAIの記事でも」と打診いただいたんですが、「そんなの……“どうすんだこれ感”を高らかに歌い上げることぐらいしかできないんですが……」みたいな気持ちになりました。 とはいえ避けていてもしょうがないトピックでもあり、ついでに調べたり考えたりする機会になればお得かなという気持ちもあり、この記事を書くことにしました。 ちなみに、自分の今の立場は Stable DiffusionやNovelAIをいじったことがある それらのAIを制作のワークフローに組み込んだことはない ぐらいです。よろしくお願いします！（ネタバレですが、結論はありません） 急にジェネラティブAIが来た……？ ここ半年ぐらい、見たことのないようなAIブームが来ています。SNS
赤松健参議院議員、生成型AI「Adobe Firefly」について「AdobeStockや著作権切れの画像で学習してあるため、著作権の問題をクリアしている。」←「本当に？」の声
リンク Adobe Stock ストック写真、ロイヤリティフリーの画像、グラフィック、ベクターおよびビデオ | Adobe Stock 無料で試せるAdobe Stockなら、数億点を超えるロイヤリティフリーのストックフォトから最適なものを⾒つけることができます。写真からイラスト、映像や⾳声まで幅広くお任せください。商⽤利⽤可、Web、DTP、SNSなどにもお使いください。 73 users 7276 赤松 健 ⋈（参議院議員・全国比例） @KenAkamatsu 漫画家／参議院議員。代表作に『ラブひな』『魔法先生ネギま!』『UQ HOLDER!』など。海城高校・中央大学卒。日本漫画家協会常務理事。マンガ図書館ZやGANMOを運営。表現の自由を守る会最高顧問。 ★赤松健の国会にっき min.togetter.com/VzKLnrb kenakamatsu.jp 赤松 健 ⋈（参議院議員・全
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
実在女性に似てた？ 一瞬で消えたAIグラドル「さつきあい」の法的問題 - 弁護士ドットコムニュース
生成AI画像は類似性が認められれば「著作権侵害」。文化庁
コンテンツ生成AIに対する対応方針について - クロスフォリオ事務局 公式ポートフォリオ
ChatGPTなど生成AIのガイドラインとサービス規約を超要約、何がOKで何がNGか確認する【イニシャルB】
柿沼 太一 on Twitter: "「なぜそこまでＡＩ開発を優遇するのか」…著作物利用、先進国で最も規制が緩い日本 : 読売新聞オンライン https://t.co/w7W5TrYPy0 うーむ。 AIと著作権の議論って、開発（学習）と出力物の利用がごっちゃになりがちなので、以下のような感じで分けて議論した方がいいと思うんですよね。 ▼… https://t.co/CugRLbHtw0" / Twitter
アドビ「Firefly」とGoogle「Bard」に見る「ツールとしてのAI」の責任【西田宗千佳のイマトミライ】
