コンピューター科学者は 大規模言語モデルをなぜ 「科学」するのか？
Large language models can do jaw-dropping things. But nobody knows exactly why. コンピューター科学者は 大規模言語モデルをなぜ 「科学」するのか？ 大規模言語モデルが破竹の勢いで成功を収めているにもかかわらず、こうしたモデルがうまく機能する仕組みや理由は、いまだによくわかっていない。コンピューター科学者たちは、その謎を解明することで次世代のAI技術の開発とリスク管理に生かしたい考えだ。 by Will Douglas Heaven2024.03.29 1 18 2年前、オープンAI（OpenAI）の研究者ユーリ・ブルダとハリー・エドワーズは、言語モデルに基礎的な算数をさせるには何が必要かを調べていた。2人は、2つの数を足し合わせる例題をいくつ見せれば、モデルは与えられた2つの数を足し合わせられるようになるのかを
自分がどれくらいニューラルネットワークを理解しているかを確かめられるゲーム「Graph Game」
「Graph Game」はニューラルネットワークの構造をグラフで作成するゲームです。AI技術の発展と共に頻繁に目にするようになった「ニューラルネットワーク」をどの程度理解しているか試せるゲームとのことなので、実際にプレイしてみました。 Graph Game - By Sabrina Ramonov https://graphgame.sabrina.dev/ サイトにアクセスするとこんな感じ。「RNN」「LSTM Cell」「GRU Cell」「ResNet Block」「Deep RNN」という5つのステージが用意されています。まずは「RNN」をクリックしてみます。 「x_t」「h_t」「y_t」という3つの箱が出現しました。それぞれの箱はデータを表しており、上が出力で下が入力となっています。「x_t」の上の○をクリックし、ドラッグして「h_t」の下に接続します。 緑の線で接続が表示され
（新世ＡＩ）スパコン使いこなすＡＩ 未公開の研究提案に「驚き」：朝日新聞デジタル
【視点】AIで科学研究のあり方が大きく変わることは間違いない。人間の理解できない方法や領域についてもAIが研究を進めることはありうるだろう。だが、それで科学者が不要になるとか、そもそも科学を学ぶ必要がなくなるということはまったくないはすだ。囲碁や将 …続きを読む ","naka5":"<!-- BFF501 PC記事下（中⑤企画）パーツ＝1541 -->","naka6":"<!-- BFF486 PC記事下（中⑥デジ編）パーツ＝8826 --><!-- /news/esi/ichikiji/c6/default.htm -->","naka6Sp":"<!-- BFF3053 SP記事下（中⑥デジ編）パーツ＝8826 -->","adcreative72":"<!-- BFF920 広告枠）ADCREATIVE-72 こんな特集も -->\n<!-- Ad BGN -->\n<!-- d
イオン、AIが値引き率を決める「AIカカク」を拡充 新たに生鮮部門でも活用へ
AIカカクは、販売実績や天候・客数などの環境条件を学習したAIが“その日その時”の需要を予測。バーコードで読み取った商品情報と陳列数をもとに、適切な割引率を提示する仕組みだ。同社によると、AIカカク導入前と比較してロス率が1割以上低減しているほか、値引きや売り切り業務に関わる教育時間も低減しているという。 畜産部門と水産部門での実装により、適用品目数はこれまでの約1.5倍に増加する。同社は「生鮮部門への拡大に当たり、部門ごとの販売特性や値引きによる売れ方の変化などを細かく分析。店舗特性も考慮しさまざまなチューニングを施すことで実現に至った」とコメントしている。 加えて、イオンリテールが2023年に導入した需要予測・発注システム「AIオーダー」についても、6月から適用範囲を拡大する。新しく対象となるのは、日配品の漬物やチルド飲料、チーズ、ハム、デリカの冷総菜やサラダで、品目数としてはこれまで
金子勇さんのED法を実装してMNISTを学習させてみた - Qiita
追記：続きを書きました。 はじめに 先日以下の記事が投稿され、その斬新な考え方に個人的ながら衝撃を受けました。 内容をざっくり言うと、ニューラルネットワークの学習を現在の主流であるBP法（誤差逆伝播法）ではなく、ED法（誤差拡散法）という新しい学習手法を提案しているものです。 もし記事の内容が本当ならニューラルネットワークの学習がO(1)でできてしまう事になり、まさしく革命が起きてしまいます。 （結論からいうと速度面はそこまででもなかったです（それでも早くなる可能性あり）） （ただこの新手法のポテンシャルは革命を起こす可能性は秘めているといっても過言ではありません） ED法に関してネットを探すとインターネットアーカイブに情報が少し残っていました。 このページですがED法のサンプルプログラム（C言語）が残っており、このサンプルプログラムをベースにpythonで書き起こしたものが本記事となりま
マイクロソフト、アラブ首長国連邦のAI大手「G42」に2300億円投資 | Forbes JAPAN 公式サイト（フォーブス ジャパン）
マイクロソフトは4月16日、アラブ首長国連邦（UAE）に拠点を置く人工知能（AI）企業「G42」に15億ドル（約2320億円）を投資すると発表した。同社によるこの高額の投資は、AIの覇権を狙う米国が、アラブとの結びつきを強めていることを示している。 UAEは、AI分野で世界のリーダーになることを目指しており、政府系ファンドのムバダラが支援するG42は、その計画をリードする役割を担っている。同社の会長のタハヌーン・ビン・ザイドは、アブダビ王室の最も有力な1人で、UAEの国家安全保障の顧問を務めている。 2018年設立のG42はこれまで、OpenAIやデル、IBM、マイクロソフト、エヌビディア、オラクルなどの大手と提携を結んでいるが、ここ数カ月で同社と中国のつながりに監視の目が向けられ、同社が米国のテクノロジーを危険にさらすという懸念が高まった。 しかし、G42はここ最近、中国政府から距離を置
AIで ユーベル フェルン ヒンメル アウラ ハイターなど一級魔法使い試験編までのキャラを実写化して動かしてみた (AIコスプレ/AI動画)
葬送のフリーレンのフリーレン フェルン ヒンメル ハイター アウラ ユーベル ラヴィーネ カンネ等一級魔法使い編までのキャラクターをStable DiffusionとMidjourneyを使って画像生成し、Stable Video DiffusionとPika Labsで動画にしました ▼関連動画 【総集編】これ1本でStable Diffusionがわかる！ PCの選び方～インストール～拡張機能の使い方まで初心向け徹底解説 https://youtu.be/He5ofY2JNvE ※AI画像(AIコスプレ)の作り方を解説した動画です（1時間20分） 【総集編】AI動画生成ツール9種類を導入方法から生成例まで初心者向けにわかりやすく解説 https://youtu.be/6oH0WJLigcQ ※AI動画の作り方を解説した動画です（1時間０2分） ドラクエ3のAI実写化動画(元
ジェフリー・ヒントンが「AIは考え、理解している」という根拠 | 「AIのゴッドファーザー」による怒りの黙示録
ヒントンの教え子が進める「スーパーアラインメント」 われわれはいまいったい何をするのか──それが大きな疑問だ。 2023年10月、ヒントンは前に進む道を提案した。ある公開書簡で、ヒントンと23人の国際的なエキスパートは名だたるAIラボに、それぞれのシステムが確実に安全で倫理的であるようにするため、研究・開発予算の3分の1を充てることを呼びかけた。 彼らは諸政府にも、大規模AIシステムの登記簿を作り、危険な行動を見せるAIの事例報告を企業に義務づけ、内部告発者を法的に保護することなどを勧めた。 AIラボや立法者がこうした勧めを聞き入れるかどうか判断するのは時期尚早だ。だが、現在76歳のヒントンは、その先陣にはこれ以上長くは立たないだろうという事実を受け入れている。世界を救う汚れ仕事は、次世代の肩にかかっているのだ。 人類にとっていちばんの希望となるかもしれないのが、ヒントンの元教え子であるイ
「AIのゴッドファーザー」ジェフリー・ヒントンが語る人類滅亡の危機 | カナダ誌が自宅まで訪問して聞いた
人工知能（AI）は2023年、これまでの大言壮語にようやく追いついた。 いまや遍在するチャットボット「ChatGPT」を、米国の研究所「オープンAI」がリリースしたのは、2022年の11月だった。それは小説を数秒で要約できるし、コンピュータコードも書ける。脚本まで生成できるポテンシャルがあると、ハリウッドの脚本家らがストライキするまでになった。 それから2ヵ月もしないうちに、ChatGPTユーザーは1億人に達し、史上で最速の成長を見せたアプリとなる。「マイクロソフト」はオープンAIに100億ドル（1兆5000億円超）をつぎ込み、このパーティを続けようとした。スタートすると見せかけ続けた数十年を経て、AIはついに動き出したのだ。 ところが、シャンパンの栓を抜こうとしない男がひとりいた。トロント大学のコンピュータ科学教授で、AIのゴッドファーザーとして知られるジェフリー・ヒントンだ。 理論上で
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日「デイリーAIニュース」を配信している筆者は忙殺されていた。 春節中にはOpenAIがSoraを、GoogleがGemini1.5を発表したのは、その合間を縫ってのことだった。もはやAI最前線の戦いは研究が行われる場所の文化や風土に影響を受けるところまで来ている。 そして春節もあけた今週、さっそくAlibabaがとんでもないトーキングヘッドモデルを引っ提げて登場したかと思えば、Microsoftの中国チームがとてつもないLLMをリリース
東浩紀「訂正可能性の哲学」はAI関係者必読だ!｜shi3z
先週、今週とあちこちへ出張が続いているので、移動時間の合間、ネットが途切れる山奥にさしかかったあたりで東浩紀「訂正可能性の哲学」を読んだ。東さんの本はいつもそうなのだが、あまりの内容に驚愕した。 そして昨日はたまたま東さんにVisionProを体験させる約束をしていた日なので、会う前に一気に読み終えた。すごい。もっと早く読めばよかった。 東さんの本は基本的に「凄すぎる」ので、読むと影響を受けすぎてしまってしばらく自分の思考が戻ってこない状態になる。しかし最近の僕は、むしろ忙しすぎて誰かの思考を取り入れたいモードになっていたのだ。 その意味で、まさに今の時代に必要とされている本だと思うし、本当にすごい。10年前に上梓された「一般意志2.0」の続編でもあり、なおかつアップデートでもある。もちろん読んでなくても全然良い。 特に舌を巻いたのは、落合陽一の「デジタルネイチャー」や成田雄介の「無意識デ
高校生が学ぶ「情報II」が“本気すぎる” 研修にも使える教材のポイントを紹介
筆者も早速読んでみましたが、選択科目ということで非常に思い切った内容にまで踏み込んでいるなと感じました。今回は、この中で「セキュリティ」についてはどのようなことが取り上げられているのかを見ていきましょう。 これ本当に高校生向け？ 現役IT担当者にも役立つ「情報II」教材 同教材の第1章「情報社会の進展と情報技術」における、PCやネットワーク、情報システムの進化がどのように起きたのか、その歴史をまとめた学習1「情報社会の発達と社会や人への影響」の中でセキュリティについて触れられています。 ここでは、情報技術の発展とともにセキュリティがより重要になったとし、ITの進化に法律やルールが追い付かなくなっている実態を取り上げ、「情報化の進展に伴い今までは想定されていなかった事態についての法律も、整備する必要があることを生徒に理解させたい」といった学習の意図を伝えています。 続いて学習2「情報セキュリ
日本発の画像生成AIサービスがすごい 無料アップスケーラー「カクダイV1」 (1/4)
「カクダイV1」でアップスケールした画像（左）、「Midjouney v6」で作成したオリジナル画像（右） 画像の描き込みを増やして高画質にする、日本発の生成アップスケーラー「カクダイV1」が2月7日に発表されて話題になりました。東大出身ベンチャーのMavericksが開発したもので、画像生成AI「Stable Diffusion」生成環境「ComfyUI」向けの技術として無料公開されています。人気アップスケーラー「Maginific AI」を超える製品にまでに成長していくのか注目です。 Stable Diffusionのアップスケールは難しかった カクダイを紹介する前に、まずは画像生成AIとアップスケーラーとの関係についてお話します。 Stable Diffusion登場後の画像生成AI技術を使ったアップスケーラーは、単に画像を拡大させるだけの用途ではなくなりました。画像を拡大するとき、
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Will Scaling Solve Robotics?
Figure
ゴミ出しの問い合わせにＡＩが架空の部署案内、正答率は目標に届かず「市民向けには時期尚早」
日経平均とドル円レートの「AI予測」が衝撃！ 年末2万8000円の暴落＆1ドル230円の超円安...どうなるニッポン？（1）／第一生命経済研究所・柏村祐さん（J-CASTニュース） - Yahoo!ニュース
ＡＩ開発・運用でＥＵが世界初の規制法…画像の無差別収集を禁止、違反事業者に制裁金５６億円
https://www.reuters.com/technology/nvidia-ceo-says-ai-could-pass-human-tests-five-years-2024-03-01/
Droids in Training: Imagineers Conduct Playtest at Star Wars: Galaxy’s Edge
