プログラマ視点での生成AIとの付き合い方
プログラミングについて、最近考えてることについてのポエム。 基本的に、 GPT-4 と Claude-3-Opus を使った経験を念頭に置いて話をする。機械学習エンジニアではないので、あくまで利用者に徹した視点での話。仕事で生成AIを使ったパイプラインを作ったりはしている。 生成AIの進化速度を予測しておく 今大事なことは、今AIがどの程度の性能かという定点の話ではなく、その進化の速度を認識すること。 コード生成というタスクにおいて、生成AIモデルを人間に当てはめると、こんな感じの人物像を自分は持っている。 GPT-4: プログラミング経験2年目の大学2年生 Claude-3-Opus: プログラミング経験3年目の大学3年生 ここでいうn年目は、業務経験ではなく、プログラミングの単位がある大学での、教育課程としての経験年数。今のひたすら学習量を増やす方式だと、単に1年に1年分ぐらい賢くなっ
人工知能で世論操作、オープンＡＩが特定 中国拠点の組織が処理水放出非難に利用
対話型人工知能（ＡＩ）「チャットＧＰＴ」を開発した米オープンＡＩは３０日、ロシアや中国などを拠点とする５つの組織が世論を操作する目的でＡＩを利用していることを特定したと明らかにした。オープンＡＩが同日、自社製品を利用した脅威についての報告書を発表した。 身元を隠した組織が、文章やソーシャルメディアのアカウント作成のほか、プログラミングなどにも生成ＡＩを利用していた。イランやイスラエルの組織も含まれ、ロシアのウクライナ侵攻やパレスチナ自治区ガザでの戦闘、米国の政治などに焦点を当てていた。 このうち中国拠点の組織は東京電力福島第１原発の処理水放出を非難する内容の文章などを作成しており、日本語でも投稿していた。生成された文章は交流サイト（ＳＮＳ）上に投稿されたが、多く閲覧された形跡はないとしている。プロパガンダのための画像の生成指示をＡＩツールが拒否した事例もあった。（共同）
ChatGPT手がける企業 AIの安全対策強化のため委員会を設置 | NHK
生成AI、ChatGPTを手がけるアメリカの企業、オープンAIは、AIの安全対策を強化するため、安全性に関する重要な決定について勧告を行う委員会を設置しました。 オープンAIは28日、AIの安全対策を強化するためアルトマンCEOらでつくる委員会を設置したと発表しました。 委員会は会社のすべてのプロジェクトの安全性に関する重要な決定について取締役会に対して勧告します。 会社が究極のAIとされるAGI＝汎用人工知能に向けて次のモデルを開発するなか、90日間をかけて会社の安全対策などを評価するということです。 オープンAIをめぐっては、今月中旬に辞職した幹部が「ここ数年、安全性は華やかな製品より後回しにされてきた」などとSNSで批判していました。 また、アメリカのメディアによりますと会社が13日に発表した生成AIの最新モデルの音声機能の一部について、俳優のスカーレット・ヨハンソンさんが「自分の声
OpenAIを「限界点に達した」と退社したライケ氏、競合Anthropicで安全チーム結成へ
「Anthropicに参加し、スーパーアラインメントミッションを継続できて嬉しい」──米OpenAIを退社したばかりのヤン・ライケ氏は5月28日（現地時間）、Xにこうポストした。 ライケ氏はOpenAIで、人間より賢いAIの制御を目指すSuperalignmentチームのトップをチーフサイエンティストだったイリヤ・サツケバー氏と共同で務めていた。サツケバー氏は14日に、ライケ氏は17日に退社を発表している。 ライケ氏は退社の際、OpenAIが「安全性が輝かしい製品の開発より後回しになっている」と批判した。両氏の退社後、Superalignmentチームは解散したが、OpenAIは28日、理事会メンバーが率いる新たな安全およびセキュリティ委員会の設立を発表した。 ライケ氏はポストで、「私の新しいチームは、スケーラブルな監視、弱い一般化から強い一般化への移行、自動化されたアライメントの研究に取
【調査報道】イスラエル軍の「殺害リスト」は人工知能が生成したものだった | すべてを変えた「人工知能による自動化」
2021年、『人間とマシンのチーム：私たちの世界に革命をもたらす人間と人工知能のシナジーをいかに生み出すか』（未邦訳）と題する英語の本が刊行された。著者はY・S准将というペンネームだが、イスラエルのエリートの諜報機関、8200部隊を率いる人物であることが確認されている。 著書で彼は、戦火のなかで軍事攻撃の「標的」を何千という規模でマークするため、大量のデータをすばやく処理する特別なマシンの開発を提唱した。そのようなテクノロジーがあれば、「新たな標的の割り出しと、それを承認する意思決定の両方における人間のボトルネック」を解消できるだろうと、彼は書いている。 そのようなマシンは、実際に存在すると判明している。イスラエルとパレスチナ合同の独立系メディア「+972マガジン」とイスラエルの独立系ニュースメデイア「ローカル・コール」の調査によって、イスラエル軍が「ラベンダー」という人工知能をベースにし
そろそろ「日本語入力」にもAIパワーを注入してみないか？
5月13日（現地時間）に米OpenAIが「GPT-4o」を発表したかと思えば、翌日のGoogle I/Oでは「Gemini 1.5 Pro」のアップデートと「Gemini 1.5 Flash」のリリースを発表するなど、AI業界がにわかに活気づいている。 その他生成AIでも画像、音楽、動画といった分野で次々に画期的な機能が実装され、多くの人がその恩恵に預かろうという直前まで来ている。 ただそれを横目に、AIの活用が十分になされていないのではないかと思われる分野が、「日本語入力」だ。OS標準の入力変換エンジン以外にも、Google日本語入力やATOKといった選択肢もあるが、AIの華々しい進化の恩恵にあずかっているようには思えない。「AIが自然な言葉で受け答え」も結構だが、まずは同音異義語の正しい選択や誤変換はどうにかならないのか。 まだ組み込まれるのはこれからだと思いたいが、AIが組み込まれた
グーグル 生成AI活用した新たな検索サービスで誤情報が表示 | NHK
アメリカのIT大手グーグルが今月から提供を始めたばかりの生成AIを活用した新たな検索サービスで、誤った情報が表示されたとアメリカのメディアが伝えています。ピザにチーズをくっつけるために接着剤を使うことを勧めるなどの回答が表示され、波紋を呼んでいます。 これはグーグルが5月14日に発表し、アメリカで提供が始まった生成AIを活用した検索サービス「AIオーバービュー」です。 文章で質問を入力すると生成AIが調べて回答をまとめる機能です。 アメリカの有力紙、ニューヨーク・タイムズなどよりますと、検索サービスで「ピザにチーズがくっつかない」と尋ねたところ、「ソースに無害の接着剤を使うこと」を勧めたり、ガソリンでパスタの調理が早くなるかと質問したところ、「早くはならないが、ガソリンによって辛い味付けになる」と回答したということです。 また、実際はキリスト教徒であるアメリカのオバマ元大統領が、イスラム教
Google検索結果からAIによるまとめを排除するフィルタ「&udm=14」 - YAMDAS現更新履歴
udm14.com このサイトのドメイン名にもなっている「&udm=14」とは何かということだが、その前に the disenshittification Konami code というサイト名にも注意する必要がある。 disenshittification とは、ワタシも何度も（その1、その2）取り上げているコリイ・ドクトロウによるオンラインプラットフォームの質低下を指す造語 enshittification（メタクソ化）の対義語である。 そして、Konami code だが、もちろんコナミに由来する言葉で、いわゆる「隠しコマンド」全般を指すフレーズになってるそうな。 つまりは、「メタクソ化に抗う隠しコマンド」、それが「&udm=14」というわけだ。サイトデザインを見れば分かることだが、ここで対象となっているのは Google である。 検索エンジンとしての Google の質低下につい
メタのAI部門トップ、大規模言語モデルが「人間レベルの知恵」を持つことはないと発言 | Forbes JAPAN 公式サイト（フォーブス ジャパン）
メタのAI部門のトップを務めるヤン・ルカンは、5月22日に公開されたフィナンシャル・タイムズ（FT）によるインタビューの中で、OpenAIのChatGPTやグーグルのGemini（ジェミニ）などのAIは、将来的に「人間レベルの知能には到達できない」と語った。 彼のこの発言は、4月末の決算発表でAI投資の拡大を宣言して投資家の不安を煽り、2000億ドル（約31兆円）もの時価総額を消失させたメタの今後の計画についての洞察を与えるものだ。 ChatGPTやジェミニ、メタのLlama（ラマ）のような人気の生成AIツールの基盤となる大規模言語モデル（LLM）は、「人間のレベルのプランニングや推論に到達することはできない」とルカンはFTに語った。 このようなAIモデルは、膨大な量のデータを使って訓練されるが、正確な答えを導く能力は、「訓練されたデータの性質によって制限される」とルカンは言う。これは、こ
中国が「習近平思想」に基づいて訓練されたAIモデルを開発
中国でインターネットの規制を行っている中国サイバースペース管理局の研究所が、習近平国家主席の政治哲学に基づいた「安全で信頼できる」大規模言語モデル(LLM)を開発しました。 China’s latest answer to OpenAI is ‘Chat Xi PT’ https://www.ft.com/content/43378c6e-664b-4885-a255-31325d632ee9 Sure, why not: China built a chatbot based on Xi Jinping https://www.engadget.com/sure-why-not-china-built-a-chatbot-based-on-xi-jinping-155828456.html China rolls out large language model AI based on
AIが「心の理論」テストで人間超え、この結果は何を意味するか
人工知能(AI)モデルが、人間の感情理解力を測るテストで人間並み、時に上回る成績を収めたことが分かった。ただ、訓練データにそうしたタスクが含まれていた可能性も否定できず、大規模言語モデルが「人のように」考えているわけではない。 by Rhiannon Williams2024.05.22 275 21 人間は複雑な存在だ。私たちのコミュニケーションの方法は多層的であり、心理学者たちは対話から意味や理解を推測する能力を測るためのテストを数多く考案してきた。 人工知能（AI）モデルは、こうしたテストでますます優れた結果を出している。ネイチャー・ヒューマン・ビヘイビア（Nature Human Behavior）に5月20日に掲載された新たな研究によると、一部の大規模言語モデル（LLM）は人の心理状態を追跡する能力（いわゆる「心の理論」と呼ばれる）を測るために設計されたタスクを与えられた場合、人
Google Japanを訪問してGeminiについて色々教えてもらいました - karaage. [からあげ]
Google Japanにおじゃましてきました ご縁あって、Googleに行ってきました！Googleさんには、5年前に六本木のオフィスの勉強会に呼んでいただいて以来の訪問でした。渋谷のオフィスは初めての訪問になります。 色々お話をしました。なんとGeminiグッズをいただきました！ やったー そして、噂のGoogleランチを楽しみました！ Googleランチ ここは撮影大丈夫らしいです。 めちゃくちゃ眺めが良い場所にある食堂 景色がよいときは富士山が見えるらしいです おしゃれな壁 和室がある！茶道部があるらしいです ぜんぶ無料！ カフェも楽しめます。 Geminiについて ちょうどGoogle I/O 2024直後ということもあり、LLM、Geminiの話で盛り上がりました。 Geminiといえば、発音が「ジェミニ」なのか「ジェミナイ」なのか問題があるのですが、中の人いわく、日本では「ジ
![Google Japanを訪問してGeminiについて色々教えてもらいました - karaage. [からあげ]](https://cdn-ak-scissors.b.st-hatena.com/image/square/d8577697ef73aab7257edb755481ebcf1990e31f/height=288;version=1;width=512/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fk%2Fkaraage%2F20240516%2F20240516132049.jpg)
最近ローカルLLMがアツいらしい
最近、ローカルLLMがアツくなっているという話をtwitterでチラホラ見かける。 ローカルLLMって何じゃ？というと、オープンに公開されているモデルのウエイトをDLしてきて手元のPC上で推論させる事である。 オープンなAIモデルとは逆の存在として、モデルがDLできないクローズなAIモデルもある。 OpenAIやAnthropicのような最先端AI企業のクローズなAIモデルに比べて、オープンに公開されているオープンなAIモデルの性能は今でもかなり後れを取っている。 だから去年の間はあくまでAIの本命はChatGPTのようなクローズモデルであって、オープンなAIモデルなんて眼中にありませんみたいな風潮が無くはなかった。だが最近は風向きが少々変わってきている。 GPTのAPI高い問題 ＆ OpenAIがAIベンチャー皆殺しにしてしまう問題 まず「結局GPTのAPIを叩いてサービス運営して成功し
OpenAIのAI危険対策チームトップが「限界に達し」退社 「安全確保が後回しになっている」
米OpenAIで人間よりもはるかに賢いAI「Superintelligence」（超知能）の制御を目指して昨年結成されたSuperalignmentチームのトップ、ヤン・ライケ氏は5月17日（現地時間）、退社するとXで発表した。 「私がOpenAIに参加したのは、ここが超知能の研究を行うのに世界で最適だと思ったからだ。だが、OpenAIの幹部チームと中核的優先事項についてずっと同意できず、限界点に達した」という。 Superalignmentチームはライケ氏と、共同創業者でチーフサイエンティストのイリヤ・サツケバー氏が率いてきた。サツケバー氏は14日に退社を発表している。 ライケ氏は、「超知能の構築は本質的に危険な取り組み」であり、「OpenAIは人類全体に大きな責任を担っている」が、「安全性が輝かしい製品の開発より後回しになっている」と警鐘を鳴らす。 OpenAIは昨年2月、AGI（Ar
【米国市況】ダウ平均は終値で史上初４万ドル台、ドル155円台後半
Pedestrians walk along Wall Street near the New York Stock Exchange (NYSE) in New York, US Photographer: Alex Kent/Bloomberg 17日の米株式市場では、Ｓ＆Ｐ500種株価指数とダウ工業株30種平均が上昇して引けた。ダウ平均は最終盤に上値を伸ばし、史上初めて終値で４万ドル台に乗せた。 株式終値前営業日比変化率
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GeminiがYouTube動画を一瞬で要約してくれるようになった（しかも無料） | ライフハッカー・ジャパン
AIが災害発生監視やインフラ劣化診断 新たな防災減災対策とは | NHK | WEB特集
Microsoft、「AI Toolkit for VS Code」を発表／既存の「Windows AI Studio」をクロスプラットフォーム拡充、発展させる
｢バイトル｣のディップ、生成AIでバイト探し 採用率向上 - 日本経済新聞
「Copilot+ PC」とはなにか マイクロソフトが狙うUX変化とWindowsの再設計
