AI「Bard」は位置情報を常に取得 会話を「人間がレビューする可能性」も Googleが理由説明
米GoogleのAIチャットサービス「Bard」の初期画面に、「人間のレビュアーがBardとの会話を処理する場合があります。センシティブな情報を入力しないでください」と明示されるようになった。また、ユーザーの位置情報も利用中常に取得されるようになった。 会話や位置情報は「Bardアクティビティ」としてGoogleアカウントに自動保存される。 Googleは、人間がレビューしたり位置情報を取ったりする理由や、ユーザーのプライバシー保護についての考え方を解説する、説明文を公開した。更新は7月11日付。 Bardとの会話に人間のレビューを入れる目的は、「Bardの回答の品質向上」のため。「モデルを改善するプロセスにおいて不可欠なステップ」であり、レビュー結果は「より良いデータセット提供に向けた微調整用データ」として使われるという。 レビューの流れはこうだ。Bardとの会話から無作為に抽出されたサ
『スカイリム』にて、“AIによる生成音声”を含むポルノModの存在が問題視される。声優コミュニティから批判続出 - AUTOMATON
Mod制作者のRobbie氏は7月1日に、『The Elder Scrolls V: Skyrim』（以下、スカイリム）にてユーザーが制作するポルノModに関する注意喚起を投稿。同氏は一部のポルノModには、ゲームの音声ファイルを無断で利用したAIによる生成音声が含まれている点に強い懸念を表明している。この投稿は海外の声優コミュニティからも注目を集めており、海外メディアPC Gamerなどが報じている。 『スカイリム』は、Bethesda Softworksが2011年11月にリリースしたオープンワールドARPG。発売から12年を迎える現在に至っても根強く愛されている作品だ。ユーザーによるMod制作が盛んで、Modの内容も多種多様。中にはゲーム内のキャラがAIによる合成音声で喋るものもある。 そんな同作のMod制作コミュニティでは、ゲーム内の声優のボイスがAIによる生成音声としてポルノコン
ChatGPTなど生成AIによる個人情報の開示 | 技術者ブログ | 三井物産セキュアディレクション株式会社
本ブログは「生成AI x セキュリティ」シリーズの第二弾です。 前回は「DALL-E 2などの画像生成AIに対する敵対的攻撃」と題し、OpenAIのDALL-E 2やStability AIのStable Diffusionに実装されているSafety Filterをbypassして、悪意のある画像を生成する手法と対策を解説しました。 今回は「ChatGPTなど生成AIによる個人情報の開示」と題し、ChatGPTなどの生成AIを介して個人情報が開示されるリスクについて解説します。 昨今大きな話題となっているChatGPTは、12年間にわたる大量のWebクロールデータや英語版Wikipediaなどペタバイト級の情報に加え、ChatGPTユーザーが入力した文章（プロンプト）も学習していると言われています。このため、過去に誤って公開された機微情報を含むWebページや、ユーザーが誤入力した社外秘や
生成AIの利用ガイドライン作成のための手引き｜知的財産・IT・人工知能・ベンチャービジネスの法律相談なら【STORIA法律事務所】
第1 本手引きについて 1 本手引きの利用目的 本手引きは以下の目的に利用されることを想定しています。 ① 生成AIサービスの導入を検討している企業の経営陣・セキュリティ部門・法務部門が導入に際しての法的リスク評価や、社内独自の生成AI利用ガイドラインを作成する際の参考にする。 ② フリーランスの方や、所属する会社・機関に生成AI利用ガイドラインがない方が、生成AIサービス利用の際の注意事項を把握する。 ③ 生成AIサービスを開発・提供する事業者がサービス・システム設計の参考にする。 2 本手引きが対象とする生成AIサービス ChatGPTのようなLLM（大規模言語モデル）を利用した文章生成AIサービスを主たる対象としますが、画像生成AIサービスについても必要な限度で触れます。 3 本手引きの構成 生成AIサービスは、いずれのサービスも基本的に「ユーザーが何らかのデータを入力して何らかの処
OpenAIのChatGPT、イタリアで再び利用可能に 透明性改善で
イタリアのデータ保護当局GPDPは4月28日（現地時間）、3月末に発表した米OpenAIの「ChatGPT」の使用禁止を解除したと発表した。GPDPが提起した問題にOpenAIが「対処あるいは明確化」したため。 OpenAIは5日に「AIの安全性に対するアプローチ」について説明し、ChatGPTに年齢確認機能を追加すると約束した。また、25日にはチャット履歴を保存しない機能を追加した。GPDPのプレスリリースによると、OpenAIはこの他、プライバシーポリシーの改定なども行ったという。 GPDPは「OpenAIが個人の権利を尊重して技術の進歩を調整するために行った対策を認め、同社が欧州のデータ保護法を順守するための努力を継続することを望む」としている。「われわれは欧州連合（EU）のデータ保護委員会（EDPB）が立ち上げたタスクフォースでも、OpenAIに関する調査を継続する」。 OpenA
AI学習データの開示を義務づける法案がEUで提出される
AIの学習データ開示を企業に義務づける法案がEUで提出され、成立に向けて一歩前進したことが明らかになりました。 EU proposes new copyright rules for generative AI | Reuters https://www.reuters.com/technology/eu-lawmakers-committee-reaches-deal-artificial-intelligence-act-2023-04-27/ Europe to ChatGPT: Disclose Your Sources - WSJ https://www.wsj.com/amp/articles/europe-to-chatgpt-disclose-your-sources-863ef330 新しい法案によると、文章生成AIのChatGPTや画像生成AIのStable Diffu
ChatGPTに“シークレットモード”機能追加 企業向けプランも計画中
米OpenAIは4月25日（現地時間）、AIチャットサービス「ChatGPT」に、チャット履歴を保存しない機能を追加すると発表した。ユーザー設定で「Chat Histroy & Training」をオフにすれば、AIとの会話はモデルのトレーニングに使われず、サイドバーにも表示されない。 この機能は同日からすべてのユーザーに展開される（本稿執筆時点で筆者の環境ではまだ表示されない）。 OpenAIは数週間前に履歴を保存しないオプトアウトを可能にしているが、Googleフォームから申請する必要があった。 新たな機能では、設定画面でいつでも変更できる。なお、チャット履歴を無効にしても、不正行為監視の目的で会話は30日間保持される。 OpenAIはまた、ChatGPTの新たなプラン「ChatGPT Business」も発表した。「データをより詳細に管理する必要のある専門家や、エンドユーザーの管理が
ChatGPT 各国で規制検討の動き 個人情報保護などの懸念から | NHK
対話式AI「ChatGPT」の利用が世界で急速に広がっている中、各国は個人情報の保護などへの懸念から規制案や認証制度などの検討を始めています。 アメリカのベンチャー企業「オープンAI」が開発した「ChatGPT」は、質問を入力すると、まるで人間が書いたかのような自然な文章を作成できるため、さまざまな用途で利用が急速に広がっています。 一方、個人情報の保護や情報流出の懸念などAIがもたらすリスクについても指摘されています。 こうした中、アメリカではAIの利用に関する規制案が検討されていて、アメリカ商務省は11日、規制案に向けてAIの評価や認証制度などについて一般からの意見募集を開始すると発表しました。 また、イギリスではデータ保護の当局が、「ChatGPT」を含む生成AIシステムの使用または開発に関する留意点を公表するとともに、個人情報を活用する際の法的責任についても言及しました。 一方、カ
EU、ChatGPT対策タスクフォース立ち上げ
欧州連合（EU）のデータ保護委員会（EDPB）は4月13日（現地時間）、米OpenAIが開発した対話型AI「ChatGPT」に関するプライバシー保護への懸念を検証するためのタスクフォースを立ち上げたと発表した。 ChatGPTをめぐっては、イタリアのデータ保護当局が一時的に使用を禁止するなど、欧州圏でも懸念が高まっている。 スペインも同日、OpenAIに対し、規制違反の可能性についての事前調査を開始したと発表した。 スペインのデータ保護庁（AEPD）は、「人々の権利に重大な影響を与える可能性のあるデータはGDPR（一般データ保護規則）の適用において、欧州圏レベルでの調整が必要だ」と主張し、EDPBに措置を求めた。 米連邦政府の商務省国立電気通信情報局（NTIA）は11日、AIシステムの安全性に関するパブリックコメントの募集を開始した。ジョー・バイデン米大統領は以前からAIに監視、席になるイ
テスラの車載カメラがとらえたドライバーの日常が社内でネタにされている
テスラの車載カメラがとらえたドライバーの日常が社内でネタにされている2023.04.09 18:0088,484 satomi 壁に耳あり、車内に目あり。 Tesla（テスラ）の車載カメラが捉えた非公開映像がTesla社員の間で盛んにシェアされて、笑いのネタになっていたことがReutersの調べで明らかになりました。 元社員20人余りの証言によれば、ドライバーの非公開映像の閲覧がTeslaの社内では格好の暇つぶしになっていたのだといいます。 ｢反響がありそうなお宝を見つけたら（社内のメッセージシステムに）投稿するんですね。すると休み時間になると、みんな寄ってきて "見たよ。おもしろいね" って口々に言うってな具合でした｣ ｢管理職に昇進した人たちは面白映像をいっぱいシェアして面白いヤツとして社内で一躍有名になった人たちでした｣（元Tesla社員） どのカメラ？Tesla車には内外に多数カメ
ChatGPT、何が問題か 元グーグル社員「非常に無責任で無謀」：朝日新聞デジタル
","naka5":"<!-- BFF501 PC記事下（中⑤企画）パーツ＝1541 --><!--株価検索 中⑤企画-->","naka6":"<!-- BFF486 PC記事下（中⑥デジ編）パーツ＝8826 --><!-- /news/esi/ichikiji/c6/default.htm -->","naka6Sp":"<!-- BFF3053 SP記事下（中⑥デジ編）パーツ＝8826 -->","adcreative72":"<!-- BFF920 広告枠）ADCREATIVE-72 こんな特集も -->\n<!-- Ad BGN -->\n<!-- dfptag ＰＣ誘導枠５行 ★ここから -->\n<div class=\"p_infeed_list_wrapper\" id=\"p_infeed_list1\">\n <div class=\"p_infeed_list\">
チャットGPT、イタリアでアクセス停止に データ収集など「違法」：朝日新聞デジタル
","naka5":"<!-- BFF501 PC記事下（中⑤企画）パーツ＝1541 -->","naka6":"<!-- BFF486 PC記事下（中⑥デジ編）パーツ＝8826 --><!-- /news/esi/ichikiji/c6/default.htm -->","naka6Sp":"<!-- BFF3053 SP記事下（中⑥デジ編）パーツ＝8826 -->","adcreative72":"<!-- BFF920 広告枠）ADCREATIVE-72 こんな特集も -->\n<!-- Ad BGN -->\n<!-- dfptag ＰＣ誘導枠５行 ★ここから -->\n<div class=\"p_infeed_list_wrapper\" id=\"p_infeed_list1\">\n <div class=\"p_infeed_list\">\n <div class=\"
ChatGPTで個人情報漏えい OpenAIが原因と対策を説明
米OpenAIは3月24日（現地時間）、20日にChatGPTを短時間オフラインにした理由を説明した。ユーザーに別のユーザーの氏名、メールアドレス、住所、クレジットカード番号の下4桁、カードの有効期限が表示される問題があったためオフラインにし、バグを修正したという。 個人情報が漏えいしたのは、有料版「ChatGPT Plus」の会員の約1.2％で、影響を受けた可能性のある全員に連絡したという。 この問題と同時に、一部のユーザーに別のユーザーのチャット履歴が表示されてしまう問題も発生していた。 ChatGPTのチャット履歴は、画面の左側にあるサイドバーに表示され、クリックするとチャットの続きを再開できるようになっている。このサイドバーに他人のプロンプトが表示されていた。 OpenAIによると、バグは修正され、「数時間分を除いて、チャット履歴を復元できた」という。 チャット履歴と個人データが他
ChatGPT でのデータ収集をオプトアウトする方法
ChatGPT は、インターネットの新しい話題です。 この AI ツールは、ほぼすべての質問に答えることができます。 利便性には、ChatGPT がデータを保存するという恐れが伴います。 したがって、ChatGPT を使用する場合は、ChatGPT データ収集をオプトアウトすることをお勧めします。 ChatGPT はあなたのデータを保存しますか? 誰かが ChatGPT にこの質問をしましたが、その答えはノーでした。 しかし、ChatGPT のプライバシー ポリシーには、ChatGPT が AI ボットを改善するためにデータを保存する「場合がある」と記載されています。 ChatGPT は、データが検閲される可能性があるとも述べています。 したがって、あなたの個人情報、尋ねられた質問、およびその他の機密情報を ChatGPT から非公開にしておくことが賢明です。 結局のところ、銀行のパスワー
わずか100秒のモーションデータから94％の精度でVRユーザーを特定できることが5万人以上のBeat Saberプレーヤーからの匿名化されたデータで判明
人気アプリ「Beat Saber」の5万人以上のプレイヤーの匿名化されたVRデータ記録250万件を分析し、わずか100秒間のモーションデータから94％以上の精度でユーザーを一意に特定できるという研究結果を示した論文が、未査読論文リポジトリのarxiv.orgに掲載されています。 [2302.08927] Unique Identification of 50,000+ Virtual Reality Users from Head & Hand Motion Data https://doi.org/10.48550/arXiv.2302.08927 New research suggests that privacy in the metaverse might be impossible | VentureBeat https://venturebeat.com/virtual/new
Microsoft、性別や感情を解析するAI顔認識ツールのAzureでの提供を停止
さらに、Azure Faceを使うには、利用目的などをMicrosoftに申請することが必要になる。画像や動画の顔を自動的にぼかすなど、いくつかのユースケースではオープンアクセスのままになる。 Azure Face APIへのアクセスはこのように制限するが、Microsoftが取り組んでいる障害者向けAIの開発は継続する。「制御されたシナリオに使う場合は役立つ可能性がある」ため。 また、人間の声のサンプルからその人間の声の合成音声スピーチを作成できる「カスタムニューラル音声」へのアクセスも制限する。利用可能なユースケースを定義し、定義から外れる利用は承認しない。カスタムニューラル音声は、著名人の声で不正なプロパガンダを流すなどの悪用、いわゆる音声版ディープフェイクが懸念されている。 これらの機能は、新規ユーザーへの提供を同日から停止し、既存ユーザーへの提供は2023年6月30日に終了する。
「警察によるAI使用禁止」を欧州議会が決議、顔認証技術や行動監視が対象
欧州議会が2021年10月6日に、法執行機関が顔認証技術や犯罪を予見する技術を使用することを禁止するよう求める決議を採択したと発表しました。欧州議会が人工知能(AI)を用いた捜査の禁止に乗り出した背景には、アルゴリズムの偏りにより差別が助長されることへの懸念があります。 Use of artificial intelligence by the police: MEPs oppose mass surveillance | News | European Parliament https://www.europarl.europa.eu/news/en/press-room/20210930IPR13925/use-of-artificial-intelligence-by-the-police-meps-oppose-mass-surveillance European Parliame
スマートシティが突きつける難題…輝ける未来にはプライバシーがない？（野口 悠紀雄） @gendai_biz
ビッグデータの活用によって、都市の課題を解決し、エネルギーの効率的利用をはかる「スマートシティ」の計画が、日本でも進められている。しかし、スマートシティには、プライバシーがあるのか？ また、個人情報のこうした活用は許されるのか？ グーグルによるスマートシティ計画の挫折は、さまざまな問題を突き付ける。 「輝ける」未来都市－スマートシティ 2月23日に、静岡県裾野市のトヨタ自動車東日本・東富士工場跡地に隣接する旧車両ヤードで、「Woven City」（ウーブン・シティ）の建設がスタートした。ここで、自動運転やロボット、AI技術など、さまざまな新技術を実証する。 これは、 「スマートシティ」と呼ばれる新しいコンセプトの都市だ。世界中で計画が進んでいる。日本でも、横浜市、豊田市、けいはんな学研都市、北九州市などで実証実験が行われている。 スマートシティをさらに進めた「スーパーシティー」構想を実現す
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Googleら、AIツールの訓練で数億人のユーザーからデータを盗んだとして提訴される
うみゆき@AI研究 on Twitter: "マジで歴史を動かしかねない発明してしまったかもしれん。ChatGPTに入力した文章と、ChatGPTの返答を両方暗号化する事ができました！ChatGPTの入出力はOpenAIに送られて覗かれてしまう恐れがありましたが、これならプラ… https://t.co/9ZnZnVcron"
