大規模言語モデルの開発2024年度 人工知能学会全国大会（第38回）チュートリアル講演１ 本講演では、大規模言語モデルの開発に必要な基礎および最新動向を概観する。その後、東京工業大学情報理工学院の岡崎研究室と横田研究室、産業技術総合研究所の研究チームで開発された大規模言語モデルSwallowの開発経験を踏まえ、学習データの構築、モデルの学習や評価などを説明し、日本語に強い大規模言語モデルの現状や課題を議論したい。
Winnyの金子さんのED法について | やねうら王 公式サイト
Winnyの金子勇さんが考案された機械学習アルゴリズムED法を再現して実装した人がいていま話題になっている。 『Winny』の金子勇さんの失われたED法を求めて…いたら見つかりました https://qiita.com/kanekanekaneko/items/901ee2837401750dfdad いまから書くことは私の記憶頼りなので間違ってたらコメント欄で教えて欲しい。 1998年ごろだと思うのだが、私はWinnyの金子勇さんのホームページの熱心な読者だった。(ページも全部保存してたので私のHDDを漁れば出てくると思うが、すぐには出せない。) Winnyのβ版が発表されたのが2002年なのでそれよりはずいぶん前である。 当時、金子さんはNekoFightという3D格闘ゲームを公開されていた。そのゲームには、自動的に対戦から学習するAIが搭載されていた。 当時の金子さんのホームページの
ラピダスから振り返る日本の国家プロジェクト
日本がラストチャンスとばかりに開始した「日の丸半導体」ラピダスに多大な公費が追加されていることが話題を集めている今日この頃。 心無い専門家たちからは必ず失敗するだの金ドブだの批判殺到中だが、本当に日本（経済産業省）主導の国家プロジェクトは今まで成功しなかったのだろうか？ この記事では主に経済産業省、旧・通商産業省が中心となって始めた国家プロジェクトを振り返る。 超LSI国家プロジェクト（1976年）結論:成功簡単に:半導体製造の基礎研究に成功 大規模集積回路（LSI）の研究、特に基礎研究に力を入れた国家プロジェクト。 当時、半導体弱小国であった日本で700億円以上の金を基礎研究に投資するのは挑戦的であったが、電子ビーム露光技術などの研究レベルのアイディアを実用・量産レベルに持ってくることに成功。 よく「日本は半導体生産はダメだが、生産機械はまだシェアがある」というが、この40年前の国家プロ
JAXA | 変形型月面ロボットによる小型月着陸実証機（SLIM）の撮影およびデータ送信に成功
国立研究開発法人宇宙航空研究開発機構（理事長：山川宏）と株式会社タカラトミー（代表取締役社長 COO：小島 一洋）、ソニーグループ株式会社（代表執行役 会長 CEO：吉田 憲一郎）、同志社大学（学長 植木 朝子）の4者で共同開発※1した変形型月面ロボット（Lunar Excursion Vehicle 2（LEV-2）、愛称「SORA-Q」、以下「LEV-2」）は、小型月着陸実証機（SLIM、以下「SLIM」）※2の撮影に成功しました。これにより、LEV-2は超小型月面探査ローバ（Lunar Excursion Vehicle 1（LEV-1）、以下「LEV-1」）※3と共に、日本初※4の月面探査ロボットになり、世界初※4の完全自律ロボットによる月面探査、世界初※4の複数ロボットによる同時月面探査を達成しました。さらに、LEV-2は世界最小・最軽量※4の月面探査ロボットとなりました。 LE
SMSを送って相手の位置を特定するサイバー攻撃 スマホ持つ全ユーザーに到達可能 米研究者らが開発
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米ノースイースタン大学などに所属する研究者らが発表した論文「Freaky Leaky SMS: Extracting User Locations by Analyzing SMS Timings」は、SMS（Short Message Service）を送ることで相手のスマートフォンの位置を特定するサイドチャネル攻撃を提案した研究報告である。攻撃者は、ユーザーのスマートフォンに複数のテキストメッセージを送信する。ユーザーの自動配信の返信のタイミングによって、ユーザーの位置を三角測量で特定できる。 攻撃は、SMSの送信者がネットワークを介し
ネトゲのサ終から世界終末でヒトが「何をするか」を分析！ - ナゾロジー
世界終末が迫っても多くの人類は道徳を放棄しない世界終末が迫っても多くの人類は道徳を放棄しない / Credit:Canva . ナゾロジー編集部もし明日世界が終わるとしたら、貴方はどのように過ごすでしょうか？ 野蛮な殺し合いや略奪に興じるでしょうか？ 溜め込んだ財産をすべて使い切って豪遊するでしょうか？ 大切な誰かと静かに最期のときを過ごすのでしょうか？ 「世界が終わる時、人間はどのように振る舞うのか？」この問題は、何世紀にもわたって哲学の重要な話題になってきました。 行動に対する罰もなく、未来もない状況でも人々は最後まで道徳を維持するのか、これは幾度となく議論が交わされてきた問題です。 しかし残念なことに、実際に何が起こるかは世界終末が訪れないとわかりません。 そこで今回、ニューヨーク州立大学の研究者たちは、MMORPGという小さなゲーム世界の終焉を分析し、参考とすることを思いつきました
難関国際会議の壁
2021年も 壁 Advent Calendar が開催されることになったわけだが、今回は真面目だが少々青臭い感じの記事を書こうと思う。テーマとして選ぶのは「難関国際会議の壁」である。 難関国際会議は、その定義上明らかなように論文を通すのが難しい学会のことを指す。 このような会議に通りやすい論文をどうやって書くかというのがこの記事の主題である1。 私の論文リストはGoogle Scholarの通りで、主著はある一本2を除いては一、二回の投稿で採録されているので、機械学習系の国際会議に論文を通したい場合にはある程度再現性があると考えられる。 ただし物事はそんなに単純ではないので大体このような記事は眉に唾をつけて読んだ方がいい。 「素人発想、玄人実行」の法則 金出先生の有名な言葉だが、これを聞くと「素人発想」に注目しがちであり、私が実際に金出先生の話を聞いた際も素人発想が大事だなと感じたもので
14年間気づかれなかった暗号の脆弱性を発見、焦りと戦ったNECの若手研究者
暗号研究者。既存暗号の安全性解析や共通鍵暗号の利用モード開発などに携わる。2018年に国際標準にもなっていた認証暗号技術の一つである「OCB2」について、暗号が提案されてから14年間気づかれていなかった安全性の欠陥があることを発見した。暗号研究を始めたきっかけは、興味のあった代数学を使い実社会に応用できる分野だったから。（撮影：日経クロステック） 数多くのデバイスがインターネットにつながるIoT（インターネット・オブ・シングズ）時代に、必要不可欠な技術がある。暗号技術だ。パソコンやスマートフォン、クレジットカード決済端末、生産設備に取り付けられたセンサーをはじめ、さまざまな端末の通信で暗号技術が使われている。暗号技術のおかげで、第三者に見られたり意図しない内容に改ざんされたりせずに、データを安全にやりとりできる。 暗号技術を支える研究者の一人が、NEC セキュアシステム研究所の井上明子だ。
ルーターの性能を2倍に向上、ロチェスター工科大
ロチェスター工科大学は2020年11月19日（米国時間）、ルックアップ時間の大幅な短縮により、ルーターのパフォーマンスを2倍以上に高める新しいプログラマブルスイッチ「CuVPP」を開発したことを発表した。 パフォーマンス向上のために2つの技術を採用した。第1はアルゴリズムだ。新しい最長フレフィックス一致（Longest Prefix Matching）アルゴリズムでは、ベクトルパケット処理（VPP）を利用して、命令とデータの両方にパケットバッチ処理とキャッシュローカリティを使用した。この結果、オフチップメモリへのルックアップ回数を最小限に抑えることができたため、ルックアップ時間を大幅に短縮できた。 第2がフィルターだ。高速プリスクリーニングメカニズムとして、キャッシュ内にカッコウフィルター（Cuckoo Filter）を使用した。 研究チームによると、CuVPPは実トラフィックでルックアッ
5Gなどの技術開発に700億円規模の支援へ 中国に対抗 政府 | NHKニュース
高速・大容量の通信規格5Ｇやさらに次の世代の技術開発を後押しするため、政府は国内の電機メーカーや通信会社などに対して700億円規模の支援を行う方針を固めました。先行する中国メーカーに対抗したいねらいがあります。 関係者によりますと、政府はこの分野で日本企業の技術開発を後押しするため、昨年度の補正予算で設けたＮＥＤＯ＝新エネルギー・産業技術総合開発機構の1100億円の基金から、700億円規模の支援を行う方針を固めました。 支援先として選定されることが固まったのは、ＮＥＣ、富士通、楽天モバイルなどで、基幹ネットワークの開発や基地局の整備などに取り組むことになります。 今の5Ｇでは基地局のシェアや特許で中国のファーウェイなどが先行していて、政府としては情報漏えいなど安全保障面でのリスクに対応するためにも、日本企業が巻き返しを図れるよう支援していくことにしています。
科学技術「ムーンショット型研究開発」目標の６項目まとまる | NHKニュース
日本の競争力を高めるため、科学技術の挑戦的な課題に取り組む、「ムーンショット型研究開発制度」という大型の国のプロジェクトの具体的な目標として、30年後までにロボットと情報通信技術を組み合わせるなどして、時間や空間の制約から開放される社会を実現するなど６つの項目がまとまりました。 16日、有識者の会合が開かれ、30年後の2050年に実現を目指す研究目標をまとめました。 研究目標は、 ▽身代わりのようにロボットを操作する技術と情報通信技術などを組み合わせて、人が体や空間、それに時間の制約から解放された社会を実現すること、 ▽体内の臓器のネットワークを解明するなどして、極めて早期に病気の予測や予防ができる社会を実現すること、 ▽人間と共生するロボットを実現すること、 ▽地球温暖化と環境汚染の問題の解決を目指し、持続可能な資源の循環を実現すること、 ▽微生物や昆虫などの機能を活用して、持続的な食料
Wi-Fiで壁の向こうにいるのが誰か分かる新技術が登場
カリフォルニア大学サンタバーバラ校の研究者らは、「Wi-Fiを使用して壁の向こうにいる人物を識別することができる新技術を開発した」と発表しました。「XModal-ID」と呼ばれるこの技術では、Wi-Fiの信号により人の動作を検知して別の映像と照合することで、検知した人物が映像の人と同一人物かどうかを高い精度で判別することが可能だとのことです。 XModal-ID: Through-Wall Person Identification from Candidate Video Footage Using WiFi https://www.ece.ucsb.edu/~ymostofi/IdentificationThroughWalls Researchers' new method enables identifying a person through walls from candida
「量子理論の副産物に過ぎなかった」──東芝の「量子コンピュータより速いアルゴリズム」誕生秘話
「量子理論の副産物に過ぎなかった」──東芝の「量子コンピュータより速いアルゴリズム」誕生秘話：「量子コンピュータとは何か」を問う“新たな壁”（1/5 ページ） 今、量子コンピュータの一種である「量子アニーリングマシン」で高速に解けるとされる「組合せ最適化問題」をより速く・大規模に解くべく、各社がしのぎを削っている。 米Googleと米航空宇宙局（NASA）が2015年に「従来のコンピュータより1億倍速い」と評した量子アニーラ「D-Wave」を作るカナダD-Wave Systems、量子アニーリングを模したアルゴリズムをデジタル回路上に再現する富士通と日立、光を用いて解く「コヒーレント・イジングマシン」を作るNTTの研究グループなどだ。IBMなどが作る「量子ゲート方式」の量子コンピュータを用いた組合せ最適化計算の研究も盛んだ。 各社が組合せ最適化計算に取り組むのは、これを高速に解けると交通渋
TechCrunch | Startup and Technology News
Meta will soon officially permit users as young as 10 to use its Meta Quest 2 and 3 VR headsets — if their parents say it’s okay, anyway. In a blog post, the tech giant says that there’s Nikola Corp. is laying off 270 employees, or about 23% of its workforce, and restricting its electric truck efforts to North America as it seeks to preserve cash. The company said Friday it will lay o
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
LLMは生物学で捉えられるものかもしれない
量子計算機が古典計算機よりも高速に解けることを示す新たなアルゴリズムを世界で初めて考案～周期性のような「構造」を持たない関数を用いた問題で検証可能な優位性を示す～ | ニュースリリース | NTT
Connected Papers | Find and explore academic papers
ファーウェイ｢新卒年収3200万円｣実名入り社内文書流出。米中貿易戦争でも売上高3割増