最近ローカルLLMがアツいらしい
最近、ローカルLLMがアツくなっているという話をtwitterでチラホラ見かける。 ローカルLLMって何じゃ？というと、オープンに公開されているモデルのウエイトをDLしてきて手元のPC上で推論させる事である。 オープンなAIモデルとは逆の存在として、モデルがDLできないクローズなAIモデルもある。 OpenAIやAnthropicのような最先端AI企業のクローズなAIモデルに比べて、オープンに公開されているオープンなAIモデルの性能は今でもかなり後れを取っている。 だから去年の間はあくまでAIの本命はChatGPTのようなクローズモデルであって、オープンなAIモデルなんて眼中にありませんみたいな風潮が無くはなかった。だが最近は風向きが少々変わってきている。 GPTのAPI高い問題 ＆ OpenAIがAIベンチャー皆殺しにしてしまう問題 まず「結局GPTのAPIを叩いてサービス運営して成功し
ジョーカルビ😺 @bellmaron0408 angooの次回作楽しみ！！ 趣味はパテによるフルスクラッチ。作ってる時が一番楽しいかな(^○^) 最近はクレパスや水彩で絵も描いてます。 BOOTH販売もしています。bellmaron0408.booth.pm ジョーカルビ😺 @bellmaron0408 ① 金曜夕方。仕事を終え家で寛いでいると妻から電話「パパさん、今仕事？私 記憶が無いんだけど！」と明るい声。 直ぐに店長が電話口に出て「ご主人ですか？奥様の言動がおかしいので脳梗塞の可能性あります。」 ジョー「直ぐに救急車呼んでもらえますか？私も直ぐにそちらに行きますので」 続く 2024-05-21 19:04:48 ジョーカルビ😺 @bellmaron0408 ② 救急車とほぼ同時に到着 救急車に乗せられる時にやっと妻の顔を見れた。不安げな表情が忘れられない この時点で僕に電話し
かつて「漢江の奇跡」とまで言われた韓国経済の失速が著しい。製造業への依存や財閥支配といった過去の成長モデルから脱却できないからだと、英経済紙「フィナンシャル・タイムズ」が報じている。そんななか、韓国政府はAI特需を見込んでソウル郊外に巨大な半導体集積地を築こうとしてるが……。 世界最大規模の半導体クラスター ソウルから南に40キロ離れた龍仁（ヨンイン）市郊外では、韓国の大統領が世界的な「半導体戦争」と呼ぶ状況に備えて、無数の掘削機が準備を進めている。 掘削機は1日に4万立方メートルもの土砂を運びだし、山を真っ二つに切り崩しながら、新たな半導体クラスター（集積地）の土台を築いている。その一角には、世界最大規模の3階建て製造工場も建設される予定だ。 半導体メーカーのSKハイニックスが910億ドル（約14兆円）を投じて建設したこの1000エーカーの製造拠点は、サムスン電子による300兆ウォン（約
ChatGPTの「メモリ（Memory）」機能の活用法 - Taste of Tech Topics
こんにちは、暖かくなったと思ったら涼しくなったりと、なかなか洋服選びが難しい季節ですが皆さん体調お変わりないでしょうか。安部です。 今回は、ChatGPTで少し前に一般公開された「メモリ（Memory）」機能をご紹介し、活用のためのTipsを共有できればと思います。 機能の利用自体は何も意識せず簡単にできますが、意識的に活用しないと本領発揮してくれない機能だなという印象です。 まずは、どのような機能なのか簡単に見ていきましょう。 メモリ機能の概要 メモリ機能が使えると何がうれしいのか メモリ機能の有効化 実際に使ってみる 活用Tips ショートカットコマンドの作成 手順自動化 前提知識の補完 メモリの削除 プライバシー/セキュリティについて まとめ メモリ機能の概要 「メモリ（Memory）」機能とは、文字通りChatGPTがこれまでやりとりした情報を記憶し、以降の応答時にそれらを踏まえた
Ubuntu Weekly Recipe 第814回1500円以下で買えるRaspberry Pi PicoサイズのRISC-VボードなMilk-V DuoでUbuntuを動かす Ubuntu 24.04 LTSではRISC-Vボードのひとつである「Milk-V Mars」をサポートしました。これは中国のRISC-V製品のベンダーであるMilk-Vが作っているRaspberry Piライクなシングルボードコンピューターです[1]。ただしこのMarsはなかなか入手できない状況が続いています。Milk-Vでは他にも64コア搭載されたPCライクなPioneer、10GbEのネットワークスイッチとして使えるVegaなどもリリースしています。今回はRaspberry Pi Picoサイズの小さなボードで、比較的安価で入手性が高いMilk-V Duoシリーズに、Ubuntuをインストールしてみましょう
May 22, 2024 In response to a recent Boats article, I mentioned that Rust’s type system drastically changes things for verification. This comment seems to have aroused a lot of interest, so I figured I’d expand on it, explaining how Rust simplifies formal verification and why this had the verification community excited for a while now. I assume that most of you reading this post won’t be experts i
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
妻から電話「今仕事？私 記憶が無いんだけど！」と明るい声。直ぐに店長が出て「奥様の言動がおかしいので脳梗塞の可能性あります」
韓国経済の奇跡は終わったか─過去の成長モデルに固執して改革を怠った国 | 英経済紙が報じる「韓国の失速とその原因」
第814回 1500円以下で買えるRaspberry Pi PicoサイズのRISC-VボードなMilk-V DuoでUbuntuを動かす | gihyo.jp
【福田昭のセミコン業界最前線】 20TBのSSD、2028年には300ドル前後に。その鍵は？
xavxav - Visions of the future: formal verification in Rust