OpenAIの現・元従業員ら、AIシステム構築の無謀さと秘密主義を告発
米OpenAIの現従業員、元従業員のグループは6月4日（現地時間）、Google DeepMindの2人の従業員とともに、OpenAIを含むAI企業に対し、AIに関する安全性対策の改善と、危険性を報告した従業員の保護を求める書簡を公開した。 署名した13人中4人はOpenAIの現従業員として匿名で記載されている。 研究者が報復を恐れることなくAIの危険性について「警告する権利」を持てるよう、AI関連企業に強力な内部告発者保護を確立するよう求めている。 「私たちは最先端のAI企業の現従業員および元従業員であり、AIが人類に前例のない利益をもたらす可能性を信じている」が、「AI企業には効果的な監督を回避する強い経済的インセンティブがあり、企業統治の特注構造ではこれを変えるのに十分ではないと考えている」という。 グループは、「AI企業はAIの危険に関する膨大な非公開情報を保有しているが、こうした
「Google Maps」を名乗る方から電話がかかってきて「営業時間を教えて欲しい」と聞かれ…会話の仕方が完全に人間だった「不気味の谷現象を体感する時代」
Masakazu Asama @m_asama いま Google Maps を名乗る方から電話がかかってきて「営業時間を教えて欲しい」ということだったんだけど、完全に人間じゃなかったんだけど完全に人間だった。。。ちょっとした恐怖のようなものを感じてしまった。。。 2024-06-03 12:17:58 Masakazu Asama @m_asama 平日の営業時間しか答えなかったら「土日はやってるのか？」と聞かれて、土日はやっていないと答えたら「『月曜日から金曜日のx:xx~x:xxで土日はやってない』で間違いないか」と聞かれ間違いないと答えたら「ありがとうございました」といって切られた。。。 2024-06-03 12:18:13
有名人そっくり、増え続けるAI音声 “声の権利”どう守る (1/3)
5月20日、AI界隈でスカーレット・ヨハンソンさんの事案が大注目されました。OpenAIが発表した「ChatGPT」新モデル（GPT-4o）に搭載された「Sky」という音声が“不気味にそっくり”ではないかと本人からツッコミが入ったのです。一方で、日本では、声優の梶裕貴さんが「人間とAIとの共存」のために、自らの生成AIを作るクラウドファンディングを始めました。 スカーレット・ヨハンソンさん「そっくりAI音声」に怒り ヨハンソンさんが出演した2014年に公開された『her/世界でひとつの彼女』は、離婚で孤独を抱えている男性が人工知能型OSに出会い、段々と恋愛感情を抱いていくという映画。アカデミー脚本賞も受賞しています。大規模言語モデル（LLM）の世界では、この映画で起きたような人間とAIとの関係性が発生し始めており、映画はAI理解のための基礎教養的な存在にもなってきています。ヨハンソンさんは
AI戦略会議、法規制の検討着手 人権侵害や犯罪のリスクに対応へ：朝日新聞デジタル
政府は22日、「AI戦略会議」（座長・松尾豊東大教授）を開き、AI（人工知能）の安全性確保に向けた法規制の検討を始めた。人間に代わって作業を担うAIは、活用への期待がある一方、人権侵害や犯罪などにつながる恐れも指摘されている。世界各国では法整備に着手しており、日本も足並みをそろえる必要性に迫られている。 日本政府は4月に、法的拘束力のない、事業者向けのガイドラインを公表したばかり。これまでAIの開発促進を重視し、運用については開発や利用する企業の自主的な取り組みに委ねてきた。だが、生成AIなどによるリスクへの対応が不十分といった指摘もあり、法規制にむけた議論に踏み切った。 会議では、AIを利用したリスクを列挙。AI兵器の開発やプライバシーなどの人権侵害、犯罪増加も挙げた。そのうえで「リスクの高いAIに対して法的規制のあり方を検討する必要がある」と指摘した。 規制の対象は、規模の小さい…
Googleは対話型AI「Bard」のミスで時価総額1000億ドルが吹き飛ぶ、現実味を帯びる生成AI倒産 【生成AI事件簿】顧客からの問い合わせに誤回答、社内規則や契約書類で重大ミス、大切な場面で失敗して評判失墜など | JBpress (ジェイビープレス)
生成AIを活用する企業は増える一方だが、それとともに、AIの間違いによって損害を被る企業も増えている。 エア・カナダはチャットボットの誤回答で賠償金を支払うはめに。別の企業は生成AIが作成した解雇合意書に重要な項目が欠落していたため、高額な和解金を支払わなければならなくなった。 企業に求められるのは、生成AIは間違いを犯すという前提に基づいた準備や行動。AIが間違えているかどうか分からない領域では活用すべきではない。 （小林 啓倫：経営コンサルタント） チャットボットで損害を被ったエア・カナダ 企業内でのAI活用が加速している。社員や顧客と自然な言葉でやり取りできる生成AIが登場したことで、AIを応用できる業務が増え、具体的な成果も見えやすくなったためだ。 たとえば、カナダで1855年に設立され、現在では同国で最大の規模を誇るTD銀行（Toronto-Dominion Bank）は、コンタ
AI発明の新技術、特許と認めず 東京地裁「人間に限定」 ｜ 共同通信
Published 2024/05/16 20:34 (JST) Updated 2024/05/16 23:24 (JST) 人工知能（AI）が発明した新技術が特許として認められるかどうかが争点となった訴訟があり、東京地裁は16日、知的財産基本法などに照らし「発明者は人間に限られる」として、米国籍の出願者の請求を棄却する判決を言い渡した。中島基至裁判長は一方で、現行法の制定時にAIの発達が想定されていなかったとし、国民的議論で新たな制度設計をすることが相当だと言及した。 判決によると、出願者は数年前に、発明者を「ダバス、本発明を自律的に発明した人工知能」と記載し、特定装置に関する特許を出願。特許庁は「発明者として記載できるのは人に限られる」として修正を命じたが応じなかったため、出願を却下した。 中島裁判長は「発明は人間の創造的活動により生み出されるものと定義される」と指摘。特許庁の判断は
GoogleがAI生成コンテンツに電子透かしを入れてフェイク拡散を防ぐ「SynthID」をテキストと動画にも拡張、一体どうやって文章に透かしを入れるのか？
GoogleのAI研究部門であるGoogle DeepMindが現地時間の2024年5月14日に、AI生成コンテンツにウォーターマーク(電子透かし)を入れてフェイク画像の拡散を防止するツール「SynthID」を、従来の画像だけでなくテキストと動画にも拡張することを発表しました。 More ways Google is delivering on its responsible AI commitment https://blog.google/technology/ai/google-responsible-ai-commitment-update/ Watermarking AI-generated text and video with SynthID - Google DeepMind https://deepmind.google/discover/blog/watermarkin
AIによる「声」のよみがえりと懸念（八田真行） - エキスパート - Yahoo!ニュース
AIによる言語障壁の消失 The Atlantic誌に「外国語教育の終焉」（The End of Foreign-Language Education）という記事が載っていた。 この記事にもある通り、最近ではAIによって、外国語の文章の翻訳だけではなく、外国語を流暢に話す自分の音声やビデオすら、10ドルもあれば比較的簡単に作ることができる。いわゆるディープフェイクだが、試しに作ってみるとなんだか不気味ですらある。自分であって自分でない、確かにシミュラクルだ。 とすると外国語を学ぶモチベーションが落ちるのもやむを得ないところで、記事によれば米国の大学における英語以外の言語コースの総登録者数は、2009年から2021年にかけて29.3％減少したという。オーストラリアでは2021年の高校3年生の8.6％しか外国語を学んでおらず、韓国やニュージーランドでも、外国語学科を閉鎖する大学が相次いでいるそ
「AIと著作権に関する考え方」を文化庁が公表―懸念解消を求める声に応え | Game*Spark - 国内・海外ゲーム情報サイト
文化庁は2024年4月18日、文化審議会著作権分科会法制度小委員会が3月15日付けで取りまとめた、「AIと著作権に関する考え方について」（以下、「考え方」）の概要を公表しています。 2017年に早稲田大学法学部教授の上野達弘氏は「日本は機械学習パラダイスだ」と提言し、実際のところ近年の急速な生成AIの発展・普及にAIと著作権の関係を直接的に取り扱った判例や裁判例がいまだ乏しい状態です。「考え方」は、懸念解消を求める声に応えるべく“現行の著作権法がAIとの関係でどのように適用されるか”有識者からなる審議会で検討した内容をまとめたものとなっています。 「考え方」概要ではAIと著作権についての基本的な考え方を
文字を正しく出力できる画像生成AI「Stable Diffusion 3」がAPI経由で利用可能に
高画質画像生成AI「Stable Diffusion 3」のAPIが2024年4月17日に公開されました。Stable Diffusion 3は既存のAIでは失敗することの多い「文字の出力」を得意としています。 Stable Diffusion 3 API のご紹介 — Stability AI Japan https://ja.stability.ai/blog/stable-diffusion-3-api Stable Diffusion 3はStability AIが開発する画像生成AIで、DALL-E 3やMidjourney v6といった画像生成AIと比べてプロンプトに対する忠実性が高いことが人間による評価で確かめられています。また、Stable Diffusion 3はプロンプトの指示通りに文字を出力できることを大きな特徴としており、狙い通りの文章を好みの見た目で描画することが
「AI生成作品」の販売を目的とした活動について | お知らせ | アリスソフト 公式サイト
アリスソフトの製品をモチーフとした"二次創作作品"については、 アリスソフト公式サイト、著作権ガイドライン「二次創作について」で書いておりますとおり、 個人もしくは同人サークル等で「趣味の範疇」での場合に限り特に制限しておりません。 「生成AI技術」により短時間で大量のコンテンツを生成し、販売することを目的とした活動については、 著作権ガイドライン「著作物の利用について」にある「当社の不利益になること」に該当する行為である と考えております。 今後、販売サイトにおいて「AI生成作品」とされる作品について、発見もしくは通報を受けた場合、 販売プラットフォーマ様に権利者として問い合わせを行い、販売停止を申請させていただく可能性があります。 ご承知おきくださいますよう、よろしくお願い申し上げます。
美大生にとっての生成AIの話｜砂大28
※当記事では生成AIの是非(適法性/違法性)について言及しない。 かつてはコップに入った猫を「猫である」と判断できなかったAIが、本格的に絵という分野に進出してから数年が経った。 初めこそよくわからない抽象画のような風景やラーメンを手づかみで啜る樋口円香を笑っていた私達に、現在の混沌とした状況は想像できただろうか。 よりにもよって、そんな絵という分野の過渡期に美術大学のデザイン科に進学を決めてしまった大馬鹿者がいる。私だ。 入試対策のデッサンをしながら、自分が目指す分野は果たして10年後に存在するのか、そんな事を考えていた。今やクリエイターにとって死活問題となった画像生成AIの普及は、確実に、それも急速にクリエイターの未来に暗い影を落としている。 ……と思っていた時期が私にもあった。 実際はどうだろう。未だに単語や文章から的確にそのコンテクストを表現した美少女を生成してくれるサービスなど存
大規模言語モデルの動作をExcelで完全に再現することでプログラミングをせずにAIの構造を学習できるシートが登場
OpenAIのChatGPT、AnthropicのClaude、GoogleのGemini、MetaのLlamaなどさまざまなAIが驚異的なスピードで登場し、日々の生活や仕事で実際に使う人も増加しているはず。しかし、AIの構造を学ぼうとするとどうしてもプログラミングの知識が必要でした。「Spreadsheets are all you need.ai」はAIの構造をExcelの形式に落とし込むことでプログラミング不要で学習可能にするツールです。 Spreadsheets are all you need.ai – A low-code way to learn AI https://spreadsheets-are-all-you-need.ai/ サイトにアクセスし、「Watch the lessons」をクリックすると解説ムービーを視聴できます。 レッスンムービーは要素ごとにいくつかの
「AIと著作権に関する考え方について（素案）」に関する意見募集の実施について｜e-Govパブリック・コメント
１月26日に令和5年度著作権セミナー「AIと著作権」（令和５年６月１９日実施）についてのリンクを追加しました。
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
生成AIのセキュリティへの影響、「防御側にプラス」との認識が高まる～Splunkが年次調査レポート 
グーグル、入力文で１分超の高解像度動画を生成するＡＩ「Ｖｅｏ」発表…映画関係者らに提供
画像生成AI機能を撤回した「ibisPaint」がAIによる追加学習を妨害する機能を追加／人気イラストペイントツールがユーザーのイラストをAIから守る方針へ進む
2023年、AIの影響で『絵に求められる事』が激変してきている話。｜さいとう なおき｜pixivFANBOX
生成AIで「ブラック・ジャック」新作を AIの創造性はどこまで人間に迫れるか？｜NHK
イラストをAIの学習から守る「Glaze」が強化、アニメや漫画で特に改善／MacでもGPU利用が可能に、処理時間も最大50％短く
