ノードベースの画像生成ソフトウェア「ComfyUI」向けに作られたノードの一つ「ComfyUI_LLMVISION」にマルウェアが仕込まれていることがわかりました。発覚後、ComfyUI_LLMVISIONのGitHubリポジトリが削除されています。 PSA: If you've used the ComfyUI_LLMVISION node from u/AppleBotzz, you've been hacked byu/_roblaughter_ incomfyui クリエイターのロブ・ラフター氏がRedditで共有したところによると、ComfyUI_LLMVISIONをインストールして使用した場合、ブラウザのパスワード、クレジットカード情報、閲覧履歴がWebhook経由でDiscordサーバーに送信されてしまうとのこと。 ラフター氏自身も影響を受け、ComfyUI_LLMVISIO

GPT-4などの大規模言語モデルは非常に高い性能を有していますが、各モデルがどのような思考を経て応答を出力しているのかは開発者ですら把握できていません。新たに、OpenAIが大規模言語モデルの思考を読み取る手法を開発し、GPT-4の思考を1600万個の解釈可能なパターンに分解できたことを発表しました。 Extracting Concepts from GPT-4 | OpenAI https://openai.com/index/extracting-concepts-from-gpt-4/ Scaling and evaluating sparse autoencoders https://cdn.openai.com/papers/sparse-autoencoders.pdf 一般的なソフトウェアは人間の設計に基づいて開発されているため、各機能の仕組みを理解した上で機能を修正したり安

Googleに存在するコードを読みやすく保守しやすい形に保つ取り組みを行うグループ「Code Health」が、「DRYを早まって適用しないこと」と題した記事を公開しました。 Google Testing Blog: Don't DRY Your Code Prematurely https://testing.googleblog.com/2024/05/dont-dry-your-code-prematurely.html DRYは「Don't Repeat Yourself」の略称で、コードを重複させないことを重視する考え方です。重複するコードが存在していると、特定の機能を変更しようとした時に同じ機能を持つ部分を全て探して同時に変更する必要があり、見落としやミスが発生する危険性が高まります。一方、コードの重複を防げていれば一カ所だけを変更すればOKというわけ。 一見DRYを厳しく適用

チャットAI「ChatGPT」や画像生成AI「DALL-E」などを開発するOpenAIは、2020年に社内のロボット工学チームを閉鎖しています。しかし、OpenAIが再びロボット工学チームを始動させようと研究エンジニアを募集していると報じられています。 OpenAI Is Rebooting Its Robotics Team (paywall bypass in comments) : r/singularity https://www.reddit.com/r/singularity/comments/1d4g0ma/openai_is_rebooting_its_robotics_team_paywall/ Briefing: OpenAI Restarted Its Robotics Team — The Information https://www.theinformation

画像認識が可能なオープンソースモデルの「Llama 3-V」が公開されました。Llama 3-Vは、OpenAIのマルチモーダルモデル「GPT4-V」よりも格段に小型で、事前トレーニングにかかる費用は500ドル(約78000円)程度なのにもかかわらず、ほとんどの指標で同等のパフォーマンスを示しています。 Llama 3-V: Matching GPT4-V with a 100x smaller model and 500 dollars | by Aksh Garg | May, 2024 | Medium https://aksh-garg.medium.com/llama-3v-building-an-open-source-gpt-4v-competitor-in-under-500-7dd8f1f6c9ee 今回発表されたLlama 3-Vは、 Metaが公開した言語モデルの「L

イラストなどのアート作品を投稿できる大手コミュニティサービス「DeviantArt」では、投稿されたイラストや3Dモデルなどを購入できる仕組みがあり、その販売数や作品への評価などに応じて、トップページに表示されたり公式SNSで宣伝されたりしてより多くのユーザーの目に付きやすくなります。しかし、この仕組みを悪用するボットが大量発生しており、DeviantArtはそれらに対応しようとしていないとアーティストから非難の声が上がっています。 How DeviantArt died: A.I. and greed turned a once-thriving community into a ghost town. https://slate.com/technology/2024/05/deviantart-what-happened-ai-decline-lawsuit-stability.ht

2024年2月に発表された決算情報ではNVIDIAの年間売上高は600億ドル(約9兆3500億円)で、時価総額2兆ドル(約312兆円)を超える巨大企業となっていますが、そんなNVIDIAでも創業直後は貧弱な企業であり、かつて入交昭一郎という日本人に救われた歴史があるとWall Street Journalが報じました。 The 84-Year-Old Man Who Saved Nvidia - WSJ https://www.wsj.com/business/nvidia-stock-jensen-huang-sega-irimajiri-chips-ai-906247db 入交昭一郎 - Wikipedia https://ja.wikipedia.org/wiki/%E5%85%A5%E4%BA%A4%E6%98%AD%E4%B8%80%E9%83%8E 入交氏は大学卒業後に本田技研

アメリカと中国の対立が深まる中、Microsoftが中国を拠点とする従業員数百人に対し、アメリカやその他の同盟国に転勤するオファーを申し出ていたことを、経済紙のウォール・ストリート・ジャーナルが報じました。 Exclusive | Microsoft Asks Hundreds of China-Based AI Staff to Consider Relocating Amid U.S.-China Tensions - WSJ https://www.wsj.com/tech/ai/microsoft-asks-hundreds-of-china-based-ai-staff-to-relocate-amid-u-s-china-tensions-b626ff8c Microsoft asks some China staff to relocate amid Sino-US tens

OpenAIは日本時間の2024年5月14日、新たなAIモデルである「GPT-4o」を発表しました。テキストや音声、視覚情報を高速で処理してリアルタイムな応答が可能で、一般的なチャットAIが苦手とする計算問題にも優れた性能を発揮するGPT-4oが、チェスパズルでも「GPT-4」の倍以上の好成績をたたき出したことが明らかになりました。 GitHub - kagisearch/llm-chess-puzzles: Benchmark LLM reasoning capability by solving chess puzzles. https://github.com/kagisearch/llm-chess-puzzles 2024年4月、チャットボットの能力をバトル形式で比較評価する「Chatbot Arena」というウェブサイトに、「gpt2-chatbot」というモデルが突如として追

ウクライナに侵攻したロシア軍が衛星インターネットサービス「Starlink」を使用していた問題で、アメリカ国防総省がロシア軍によるStarlink使用を阻止したことを明らかにしました。 Russia Starlink Access Is Being Blocked by SpaceX, Pentagon, Ukraine - Bloomberg https://www.bloomberg.com/news/articles/2024-05-09/russia-starlink-access-blocked-by-pentagon-spacex-ukraine 「Starlink」は、4000基以上の人工衛星を用いてネット環境が十分ではない場所でネットを利用できるようにしてくれる衛星インターネットサービスです。理論上は「世界中のどんな場所でも利用が可能」ですが、実際にはサービスが運用されてい

VPN経由で行われるはずだった通信を直接インターネットに送信させ、暗号化やIPアドレスの隠匿などVPNを経由するメリットを失わせる攻撃手法が発見されました。どういう攻撃なのかについてセキュリティ企業のLeviathan Security Groupが解説しています。 CVE-2024-3661: TunnelVision - How Attackers Can Decloak Routing-Based VPNs For a Total VPN Leak — Leviathan Security Group - Penetration Testing, Security Assessment, Risk Advisory https://www.leviathansecurity.com/blog/tunnelvision TunnelVision - CVE-2024-3661 - De

PCを使っていると、過去の操作内容やブラウザで閲覧していた情報を思い出したくなるタイミングが頻繁に発生します。そんな時に役立ちそうなPC操作記録アプリ「Windrecorder」がオープンソースで開発されています。 GitHub - yuka-friends/Windrecorder: Windrecorder is a memory search app by records everything on your screen in small size, to let you rewind what you have seen, query through OCR text or image description, and get activity statistics. https://github.com/yuka-friends/Windrecorder I made an o

AIで生成した画像を使った漫画の著作権がアメリカで物議を醸したり、漫画の設定やあらすじを提案してくれるAIサービスが登場したりと、AIは絵やイラストの生成だけでなく漫画作品の制作にも活用されるようになってきています。中国のByteDanceと南開大学の研究チームが、ストーリーのある漫画を出力できるAIモデル「StoryDiffusion」を発表しました。 StoryDiffusion: Consistent Self-Attention for Long-Range Image and Video Generation https://storydiffusion.github.io/ StoryDiffusionは、統一感のある漫画キャラクターを出力することが可能です。例えば、以下は上からコマドリ、リス、ハリネズミのキャラクターを、左から順に「ベッドで起きる」「朝食を食べる」「道路にいる

15万人近いユーザーと約1億6000枚の写真を抱えているという写真共有サイト「EyeEm」の利用規約が改定され、「EyeEmコミュニティにアップロードされた写真をAIのトレーニングに利用する」旨が追記されたことがわかりました。30日以内に削除しないと、サイトに残っている写真は規約に基づいて、あらゆる使用がOKとなるライセンスが付与されることになります。 Photo-sharing community EyeEm will license users’ photos to train AI if they don’t delete them | TechCrunch https://techcrunch.com/2024/04/26/photo-sharing-community-eyeem-will-license-users-photos-to-train-ai-if-they-dont

Adobeが画像生成AIモデル「Adobe Firefly Image 3 Foundation モデル(ベータ版)」を2024年4月23日に発表しました。既にウェブ版Adobe Fireflyで同モデルを用いた画像生成が可能になっていたので、実際に使ってどんな画像を生成できるのか確認してみました。 アドビ、Adobe Firefly Image 3 Foundation モデルを発表 https://www.adobe.com/jp/news-room/news/202404/20240423_adobe-firefly-image-3-foundation-model.html Adobe Firefly Image 3 Foundation モデル(ベータ版)は、従来のFirefly Imageと比べて高品質な画像を生成できるAIモデルです。同モデルはすでにベータ版のPhotosho

AIは実在していない人間の顔写真を生成することができ、その精度はすさまじい勢いで高まっています。AI製のスパイや実在しないエンジニアを活用したと疑われる例も報じられているほか、AIの生成した顔は本物の顔と区別がつかないだけではなく「本物の顔より信頼性が高い」とされる研究もあります。オーストラリア国立大学の上級講師であるエイミー・ダウェル氏は「AIは、本物の人間の顔よりも本物らしく見える顔を作成できる」ことを示した上で、そのようなAIの能力「ハイパーリアリズム」について解説しています。 AI Hyperrealism: Why AI Faces Are Perceived as More Real Than Human Ones - Elizabeth J. Miller, Ben A. Steward, Zak Witkower, Clare A. M. Sutherland, Eva G

2023年に、アメリカ・ニュージャージー州ウェストフィールド高等学校の男子生徒らが、AIを使用して作成した女子生徒のヌード画像を共有する事件が発生しました。この事件の続報と、他の地域でも次々と発生している類似の問題を、The New York Timesがまとめています。 Teen Girls Confront an Epidemic of Deepfake Nudes in Schools - The New York Times https://www.nytimes.com/2024/04/08/technology/deepfake-ai-nudes-westfield-high-school.html ウェストフィールド高校に通う15歳のフランチェスカさんは、当時14歳だった2023年10月に、同じ学校に通う男子生徒がAIを使用してフランチェスカさんらの性的な画像を生成し、生徒同

大規模言語モデル(LLM)をわずか4GBほどの実行ファイル1つで手軽に配布・実行できるようにしたパッケージ「llamafile v0.7」が公開されました。このバージョンではCPUとGPU両方の計算性能と計算精度が向上しており、命令セットアーキテクチャ「AVX-512」のサポートにより、AMDの「Zen4」アーキテクチャ採用CPUなどでプロンプト処理時間が10倍高速化されるとのことです。 Release llamafile v0.7 · Mozilla-Ocho/llamafile · GitHub https://github.com/Mozilla-Ocho/llamafile/releases/tag/0.7 Llamafile 0.7 Brings AVX-512 Support: 10x Faster Prompt Eval Times For AMD Zen 4 - Phoro

開かれたインターネットを目指すソフトウェアエンジニアらによって組織された非営利団体・Open Web Advocacy(OWA)が、ユーザーの目が届かない場所でセキュリティやプライバシーを大きなリスクにさらすアプリ内ブラウザについて提言しました。 In-App Browsers: The worst erosion of user choice you haven't heard of - Open Web Advocacy https://open-web-advocacy.org/blog/in-app-browsers-the-worst-erosion-of-user-choice-you-havent-heard-of/ 以下のムービーでは、OWAが危惧しているアプリ内ブラウザの問題点がアニメーションでわかりやすく解説されています。 Open Web Advocacy - In-

事実上のTikTok禁止法案とも言われている法案が、アメリカ議会下院で可決されるなど、国民のデータが外国に流出する懸念に対処する動きが強まっています。2024年3月20日に、アメリカ人の個人情報を中国やロシアなどに販売することを禁止する法案が、全会一致で下院を通過しました。 Rodgers and Pallone Celebrate House Passage of Legislation to Protect Americans’ Data from Foreign Adversaries https://republicans-energycommerce.house.gov/posts/rodgers-and-pallone-celebrate-house-passage-of-legislation-to-protect-americans-data-from-foreign-ad