GoogleのGeminiとMicrosoftのCopilotが過去のアメリカの大統領選挙を含めた世界中の選挙の結果を正常に返していないことが判明
GoogleのマルチモーダルAI「Gemini」やMicrosoftのチャットAI「Copilot」では、公正な選挙の実現に向けて「選挙関連のクエリに答えない」などの制限を設けていることが報告されています。さらに、GeminiやCopilotが、2020年に実施されたアメリカ合衆国大統領選挙を含む、世界中の選挙結果を出力しないことが判明しました。 AI chatbots got questions about the 2024 election wrong 27% of the time, study finds https://www.nbcnews.com/tech/tech-news/ai-chatbots-got-questions-2024-election-wrong-27-time-study-finds-rcna155640 AI Chatbots Decline to S
OpenAIを「限界点に達した」と退社したライケ氏、競合Anthropicで安全チーム結成へ
「Anthropicに参加し、スーパーアラインメントミッションを継続できて嬉しい」──米OpenAIを退社したばかりのヤン・ライケ氏は5月28日（現地時間）、Xにこうポストした。 ライケ氏はOpenAIで、人間より賢いAIの制御を目指すSuperalignmentチームのトップをチーフサイエンティストだったイリヤ・サツケバー氏と共同で務めていた。サツケバー氏は14日に、ライケ氏は17日に退社を発表している。 ライケ氏は退社の際、OpenAIが「安全性が輝かしい製品の開発より後回しになっている」と批判した。両氏の退社後、Superalignmentチームは解散したが、OpenAIは28日、理事会メンバーが率いる新たな安全およびセキュリティ委員会の設立を発表した。 ライケ氏はポストで、「私の新しいチームは、スケーラブルな監視、弱い一般化から強い一般化への移行、自動化されたアライメントの研究に取
OpenAIのAI危険対策チームトップが「限界に達し」退社 「安全確保が後回しになっている」
米OpenAIで人間よりもはるかに賢いAI「Superintelligence」（超知能）の制御を目指して昨年結成されたSuperalignmentチームのトップ、ヤン・ライケ氏は5月17日（現地時間）、退社するとXで発表した。 「私がOpenAIに参加したのは、ここが超知能の研究を行うのに世界で最適だと思ったからだ。だが、OpenAIの幹部チームと中核的優先事項についてずっと同意できず、限界点に達した」という。 Superalignmentチームはライケ氏と、共同創業者でチーフサイエンティストのイリヤ・サツケバー氏が率いてきた。サツケバー氏は14日に退社を発表している。 ライケ氏は、「超知能の構築は本質的に危険な取り組み」であり、「OpenAIは人類全体に大きな責任を担っている」が、「安全性が輝かしい製品の開発より後回しになっている」と警鐘を鳴らす。 OpenAIは昨年2月、AGI（Ar
中国で売られるスマホには「消しゴムマジックで消せない場所」があるって本当？実際に試してみた - はやぽんログ！
インターネット上である投稿が話題だ。それは特定の中国メーカーのスマートフォンでかつ、特定の場面で「消しゴムマジック」に準ずる機能を利用しようとすると「利用できない」というものだ。 その場面とは、北京にある天安門広場だ。北京の有名な観光地であるとともに、中国の歴史的な行事などで幾度も舞台になった場所だ。過去に天安門事件が起こった場所でもあることから、反政府的なデモを防ぐ目的で多くの警備兵が配置されていることでも知られる。 前述の反政府的なデモ防ぐ目的から、インターネット上でも、検閲が厳しい場所としても知られている。中国のネットユーザが天安門広場に飾られる毛沢東氏の肖像画を消した画像でも投稿してしまえば、そのアカウントはあっという間に凍結されてしまう。 今回フォロワーのなしみるく様よりこの2枚の写真を提供いただきました。 @Hayaponlog お疲れ様です🙏 Huawei機で天安門の写真で
Difyは使用して大丈夫？テンセント系企業？安全なの？｜Kyutaro
※2024/5/11 13:29追記DifyのLuyu Zhang CEOから直接コメントをいただきましたので、この記事の最後に追記いたしました。 Difyはテンセント系企業？使用して大丈夫？最近注目を集めているLLMOpsプラットフォームのDify.aiですが、中国のテンセントがバックにいるのではないかとの憶測がネット上で広がっていました。以下はXで話題の投稿です。 Difyは中国のテンセントがバックです。 DifyのWEB版（サブスク版）は使うべきではありません。裏側からあなたの作ったシステムも、プロンプトも、APIキーも丸見えですから。Gitからシステムをおろし、ローカルで開発し、GCPなどのクラウドで運用するなら、ありと思います。 — 平岡 憲人(HIRAOKA, Norito) Stand with Ukraine (@onokoro48) May 9, 2024 この記事では、
中国がアメリカ・韓国・インドの選挙をAI生成コンテンツで妨害するだろうとMicrosoftが警告、すでに台湾の総統選挙で使用か
Microsoft脅威分析センター(MTAC)が2024年4月4日、「中国がAI生成コンテンツを悪用してアメリカ・韓国・インドの選挙を妨害しようと計画している」というレポートを発表しました。このレポートによると、中国は偽のSNSアカウントを使用して有権者に分断の種をまいており、すでに2024年1月に行われた台湾の総統選挙でAI生成コンテンツによる選挙妨害を実行したとのことです。 China tests US voter fault lines and ramps AI content to boost its geopolitical interests - Microsoft On the Issues https://blogs.microsoft.com/on-the-issues/2024/04/04/china-ai-influence-elections-mtac-cybers
イーロン・マスクが推し進めるAI「Grok」がユーザーにより投稿された「イランが攻撃開始」などのフェイクニュースをまとめて公式トレンドがめちゃくちゃに
イーロン・マスク氏は2023年にAIスタートアップの「xAI」を設立し、11月にはチャットAI「Grok」をリリースしました。しかし、悪意のあるユーザーが広めた偽のイラン攻撃ニュースがGrokによってまとめられ、X(旧Twitter)のトレンドに入ってしまったことが報告されています。 X's AI chatbot Grok made up a fake trending headline about Iran attacking Israel | Mashable https://mashable.com/article/elon-musk-x-twitter-ai-chatbot-grok-fake-news-trending-explore Investors in talks to help Elon Musk's xAI raise $3 billion, WSJ reports
OpenAIがわずか15秒の音声からクローン音声を生成できるAIモデル「Voice Engine」をリリース
OpenAIがわずか15秒の音声サンプルから合成音声を作成できるAIモデル「Voice Engine」への限定的なアクセスを提供開始しました。Voice Engineは、合成音声を作成する際に使用した音声サンプルと同じ言語だけでなく、さまざまな言語で入力したテキストを音声読み上げすることができるというテキスト音声生成ツールです。 Navigating the Challenges and Opportunities of Synthetic Voices https://openai.com/blog/navigating-the-challenges-and-opportunities-of-synthetic-voices OpenAI built a voice cloning tool, but you can’t use it… yet | TechCrunch https://
AIが生成したフェイクニュースを掲載するウェブサイトが半年で1000％以上に爆増している
ChatGPTやBardなどの高性能なAIは人間と見分けが付かないような文章を生成できますが、生成する内容が事実であるとは限らず、悪意を持った誰かがフェイクニュースを生成させることもできます。そんなAI生成フェイクニュースを掲載するウェブサイトが2023年5月以降で1000％以上に急増し、政治や戦争、自然災害に関するデマがこれまでになく拡散しやすい状況になっていると報じられました。 Tracking AI-enabled Misinformation: Over 600 ‘Unreliable AI-Generated News’ Websites (and Counting), Plus the Top False Narratives Generated by Artificial Intelligence Tools - NewsGuard https://www.newsguard
ESET社員、生成AIで自社CEOの声を作って不正送金させる実験に成功
ESETは11月22日(現地時間)、「Your voice is my password – the risks of AI-driven voice cloning」において、生成AIにより合成した音声を悪用したソーシャルエンジニアリング攻撃の実験に成功したと伝えた。この実験では、従業員が自社の最高経営責任者(CEO: Chief Executive Officer)になりすまして、財務責任者から自分宛てに送金させることに成功しており、生成AIの危険性について注意喚起している。 Your voice is my password – the risks of AI-driven voice cloning これは事前にCEOの許可を得て行っ実験であり、ここで解説する手法をまねることは犯罪となる可能性があることに注意。この実験と同様の攻撃が今後増加する可能性があると懸念されており、企業や組
OpenAIが4度目のブレイクスルーとなる数学ができるAI「Q*(キュースター)」で汎用人工知能開発の飛躍を目指す、アルトマンCEO解任騒動の一因か
OpenAIが新たなAI開発プロジェクト「Q*(キュースター)」を進めていることを認めたと報じられています。このQ*は数学的推論能力の改善を目指したもので、汎用人工知能(AGI)の研究に画期的な進歩をもたらすかもしれず、2023年11月に起こったサム・アルトマンCEO解任騒動の一因にもなった可能性が指摘されています。 OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say | Reuters https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/ OpenAI ‘was workin
GitHub、コードの脆弱性を発見後、修正コードまで自動生成してくれる「Code scanning autofix 」発表。GitHub Universe 2023
GitHub、コードの脆弱性を発見後、修正コードまで自動生成してくれる「Code scanning autofix 」発表。GitHub Universe 2023 GitHubの年次イベント「GitHub Universe 2023」が米サンフランシスコで開幕。1日目の基調講演で、GitHub Copilotが脆弱性のあるコードを自動的に修正してくれる「Code scanning autofix 」を発表し、発表と同時にプレビュー公開となりました。 Copilotには以前からコードの脆弱性を発見する「GitHub Advanced Security」と呼ばれる機能が備わっていました。 これはXSS（クロスサイトスクリプティング）などのコードのロジックなどの潜在的な脆弱性や、漏洩すると大きな事故を引き起こすシークレットがコード内に含まれていないか、などをチェックしてくれる機能です。 今回発
OpenAIにDDoS攻撃で断続的な停止（復旧済み）
OpenAIのChatGPTやAPIのサービスが11月8日正午ごろ（米国時間）から断続的に停止していた。既に復旧しているが、OpenAIはDDoS攻撃を受けていたと発表した。 米OpenAIのサービス（ChatGPT、API、Labs、Playground）が11月8日正午ごろ（現地時間）から断続的に停止し、同社は同日午後7時過ぎに「DDoS攻撃を反映した異常なトラフィックパターンによる定期的な停止に対処している」とステータスページで発表した。9日の午後1時過ぎ（日本時間の10日午前6時過ぎ）にはサービスは復旧したとしている。 OpenAIでは、6日にはDALL・Eのエラー率が上昇し、8日にはAPIをダウンさせるChatGPTの大規模な障害も発生していた。 OpenAIはDDoS攻撃の詳細を明らかにしていないが、Anonymous Sudanとして知られる攻撃者がTelegramでOpen
知らない番号に間違えて出たら、義妹そっくりの声で詐欺電話がかかってきた→留守電からAIで似せた声を作ってるらしい
Sao🇨🇦 @seikatau さっき知らん番号に間違って出たら義妹から大変なトラブルに巻き込まれているからお金至急送って欲しいって言われた。誰って言ったら義妹の名前言うし私の名前も言う….声も義妹で電話番号だけが違う。とりあえずかけ直すわって電話切って本人にかけたらやはり詐欺電話だと判明。 2023-10-24 09:15:50 Sao🇨🇦 @seikatau 留守番電話の設定を自分の声で登録してる人は気をつけて。どうやらそこから個人情報とか取られ、声までもAIで似せてかける詐欺電話が最近北米で流行ってるらしい。その場で変なこと言わずとりあえず事実確認した方がいいよ！ 2023-10-24 09:15:51
生成AI 日本での認証制度づくりに企業が新たな業界団体設立へ | NHK
生成AIの安全性のリスクが懸念されるなか、日本での認証制度を作ろうと、関連企業が参加する新たな業界団体が設立されることになりました。企業が主体となって認証の仕組みを作ることで生成AIの活用を加速させるねらいがあるものと見られます。 関係者によりますと、新たな業界団体は「AIガバナンス協会」という名称で、それぞれの企業が開発・活用する生成AIについて、年内にもまとまる政府のガイドラインに基づいて安全性や正確性などの認証を付与する制度を作ることを目指します。 また、企業が共同で研究会などを作って知見を共有するほか、AIに関する制度の在り方について政府への提言を行うとしています。 業界団体には、生成AIの開発や活用を進めるNECやNTTデータ、日立製作所の子会社のほか、大手金融機関など合わせて19社が今のところ参加する見通しです。 早ければ来年4月に業界団体を設立し、認証制度を始めることを目指す
GPT-4やLlama 2の透明性をスタンフォード大HAIが評価 トップはMetaでOpenAIは3位
米スタンフォード大学Human-Centered AI Institute（HAI）は10月18日（現地時間）、AIの基盤モデルを公開している10社の透明性を評価するスコアリングシステム「Foundation Model Transparency Index」（FMTI）を公開した。 基盤モデルとは一般に、教師なし学習で大量の生データでトレーニングされたAIニューラルネットワークを指す。例えば米OpenAIのGPT-4や、米Googleの「PaLM 2」などで、それぞれChatGPTやBardを介して一般人も利用している。 HAIの基盤モデル研究センター（CRFM）のリシ・ボンマサニ氏は、基盤モデル分野の企業の透明性が低下していると警鐘を鳴らし、FMTIは透明性評価のために設計したと語った。 システムは、基盤モデルの構築方法、機能方法、ユーザーにどのような形で使われるかなど、透明性に関する
GPTやLlamaなどの大規模言語モデルはファインチューニングで簡単に脱獄可能だという研究結果
大規模言語モデルには、有害なコンテンツを出力しないようなセーフガードが設けられています。プリンストン大学、バージニア工科大学、IBMリサーチ、スタンフォード大学の研究チームがOpenAIのGPT-3.5 TurboとMetaのLlama-2-7b-Chat大規模言語モデルを検証した結果、小規模なファインチューニングでセーフガードを外すことができたと報告しています。 [2310.03693] Fine-tuning Aligned Language Models Compromises Safety, Even When Users Do Not Intend To! https://arxiv.org/abs/2310.03693 AI safety guardrails easily thwarted, security study finds • The Register https:
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
人類滅亡の可能性も。AIのリスクについてOpenAIやGoogleの元/現従業員が共同声明
さくらインターネット、AI半導体1万個調達へ 従来計画の5倍 - 日本経済新聞
EU、AI包括規制案で大筋合意 対応怠れば巨額制裁金 - 日本経済新聞
