• はてなブックマーク
  • テクノロジー
  • NEC、「標準的GPU 1基で動く」世界トップクラスの日本語LLM
  • Twitterでシェア
  • Facebookでシェア

NEC、「標準的GPU 1基で動く」世界トップクラスの日本語LLM

テクノロジー カテゴリーの変更を依頼 記事元:pc.watch.impress.co.jp
適切な情報に変更
204 usersがブックマーク コメント32

    記事へのコメント32件

    • 注目コメント
    • 新着コメント
    sgo2
    sgo2 ベクトルプロセッサのハード/OS設計のノウハウ持ってる&世界TOPになった事があるのを知ってるか否かで見る目が変わるニュース https://ja.wikipedia.org/wiki/NEC_SX

    2023/07/06 リンク

    その他
    napsucks
    napsucks うちはGPT4を組み込んだアプリを全社リリースするかどうかで揉めてる。業務効率化は期待できるが数千万～億単位で課金かかる恐れは嫌なんだと。1%でも効率化できりゃペイするんだが、アホは算数ができないらしい。

    2023/07/07 リンク

    その他
    qpci32siekqd
    qpci32siekqd ベクトルプロセッサ作ってるので何か関係持って性能上がるといいけどね

    2023/07/06 リンク

    その他
    puhu208n
    puhu208n 130億 = 13B。量子化した場合6GBで動作するライン。ChatGPTはビデオメモリ使用量が数百GBなので比較にはならない。この程度で商用化を目指しているというだけのことで、何か海外勢を超えたわけではない。

    2023/07/06 リンク

    その他
    shields-pikes
    shields-pikes 日本語機能で今でも普通に業務に問題ない品質のChatGPTを超えたのかどうか。たぶん、OpenAI社みたいにAPIを従量課金で気軽には使えないんだろうなー。各社ごとに導入費用と年間契約が必要、みたいな仕組みになってそう。

    2023/07/06 リンク

    その他
    BlueSkyDetector
    BlueSkyDetector パラメータ数≠性能。13Bのサイズでベンチマークどおり本当に「世界トップLLM」（そこにGPT4を含むとして）互角以上の性能を出せてるならむしろすごいでしょ。そしてそれをオンプレミスで動かせるというのもメリット。

    2023/07/07 リンク

    その他
    cloverstudioceo
    cloverstudioceo 多分今後LLMのサイズはその位で落ち着くと思ってる。そのサイズだとchatGPTみたいな使い方は無理だけど、プロンプトエンジニアリングの知見が溜まって来れば用途毎に工夫して実用に耐えるレベルまで行くと思う。

    2023/07/07 リンク

    その他
    ys0000
    ys0000 おそらく、社内用にチューニングする前提だと、それくらいのエンジンがちょうどいいのだろう。オンプレ志向のユーザーに特に受けそう。まだまだ頑張ってるね、NEC。

    2023/07/10 リンク

    その他
    KoshianX
    KoshianX ほー、あとで動かしてみるか/って別にオープンなわけじゃないのか?

    2023/07/07 リンク

    その他
    matsui
    matsui オンプレ用だよね。

    2023/07/07 リンク

    その他
    nemoba
    nemoba パラメータ量はあくまでも汎用化の世界での性能だから、特化することで性能上がるチャンスはあるよねー。ただ、用途的には長期的展望になりそう。組み込みに使えるほどじゃないから、汎用モデルのコスパ限界待ち

    2023/07/07 リンク

    その他
    BlueSkyDetector
    BlueSkyDetector パラメータ数≠性能。13Bのサイズでベンチマークどおり本当に「世界トップLLM」（そこにGPT4を含むとして）互角以上の性能を出せてるならむしろすごいでしょ。そしてそれをオンプレミスで動かせるというのもメリット。

    2023/07/07 リンク

    その他
    lli
    lli ちゃんとシェアを取りに行ってほしい

    2023/07/07 リンク

    その他
    Karosu
    Karosu 企業や組織じゃないと安く使えないから、流行らないと感じる

    2023/07/07 リンク

    その他
    ya--mada
    ya--mada 現状のAIチャットをまだまだオモチャだと思っているので、使っていないのだが、プロンプト規制が厳しくなってて思うように扱えないのがChatGPT。

    2023/07/07 リンク

    その他
    nakamura-kenichi
    nakamura-kenichi そうして民草が触る機会も無く宣伝文句だけで関係企業を廻すだけで助成金やら補助金やらががっぽがっぽで錬金術が捗ってたまりまへんわホンマｗ。我が国さあ…。

    2023/07/07 リンク

    その他
    cloverstudioceo
    cloverstudioceo 多分今後LLMのサイズはその位で落ち着くと思ってる。そのサイズだとchatGPTみたいな使い方は無理だけど、プロンプトエンジニアリングの知見が溜まって来れば用途毎に工夫して実用に耐えるレベルまで行くと思う。

    2023/07/07 リンク

    その他
    harumomo2006
    harumomo2006 標準的なGPUが何を指しているのかによる

    2023/07/07 リンク

    その他
    NLPer
    NLPer 13Bでどの程度の文章生成が可能なのだろうか。OSSのGPT-J-6Bを見た限りでは、大したものは期待できなさそうだが。ドメイン特化（例えば社内業務に特化）ならばそこそこ使える可能性はある。

    2023/07/07 リンク

    その他
    gcyn
    gcyn 『5月より社内で生成AIの業務利用を開始／資料作成時間が50%削減され、議事録作成時間を約平均30分から5分に短縮したという。また、システム開発におけるソースコード作成業務の効率化で、工数80%削減といった成果が』

    2023/07/07 リンク

    その他
    napsucks
    napsucks うちはGPT4を組み込んだアプリを全社リリースするかどうかで揉めてる。業務効率化は期待できるが数千万～億単位で課金かかる恐れは嫌なんだと。1%でも効率化できりゃペイするんだが、アホは算数ができないらしい。

    2023/07/07 リンク

    その他
    izoc
    izoc ええやん。垂直統合的なソリューションで売るんじゃなくて社外との連携を意識したサービスとして売って欲しいね。

    2023/07/07 リンク

    その他
    typographicalerror
    typographicalerror 標準的GPU、マスユーザ向け製品ではなさそうな気がしている

    2023/07/06 リンク

    その他
    mapiro
    mapiro 純国産だと政府機関や自治体で一気に採用が進むかも

    2023/07/06 リンク

    その他
    prjpn
    prjpn 欲しいのは日本語性能じゃなくて万能な知識と業務遂行能力

    2023/07/06 リンク

    その他
    kei_1010
    kei_1010 「現時点での知識量に相当する質問応答で81.1%」現時点での知識量、っていうワードに警戒感マシマシ。学習に用いた知識の範囲内で質問してるわけでは無いんだよね？

    2023/07/06 リンク

    その他
    tyhe
    tyhe ローカルで動くってんならまあ使い勝手次第で全然アリなのでは。今のNECにまともなものが作れるとはあまり思えないのだけれど……。

    2023/07/06 リンク

    その他
    for-my-internet-demo
    for-my-internet-demo デプロイがしやすそう(

    2023/07/06 リンク

    その他
    agricola
    agricola SX-Aurora TSUBASAでぶんぶん回せると嬉しいけど、NECは「AIはNVIDIAにお任せしてVEはGPUが苦手/できないことをやらせよう」というアプローチらしいからなぁ。

    2023/07/06 リンク

    その他
    sgo2
    sgo2 ベクトルプロセッサのハード/OS設計のノウハウ持ってる&世界TOPになった事があるのを知ってるか否かで見る目が変わるニュース https://ja.wikipedia.org/wiki/NEC_SX

    2023/07/06 リンク

    その他
    kotesaki
    kotesaki これでハルシネーション少なかったら良いのになー。そのうちひとり１台LLMなんて時代がくるのかしらね？

    2023/07/06 リンク

    その他
    RySa
    RySa 今後の基幹技術になるであろうAIを海外企業に全て頼るよりも国内企業で技術を蓄えるのは良いと思う。

    2023/07/06 リンク

    その他
    rgfx
    rgfx ジャンルを絞ってコスパよく導入、ができるといいね。

    2023/07/06 リンク

    その他
    qpci32siekqd
    qpci32siekqd ベクトルプロセッサ作ってるので何か関係持って性能上がるといいけどね

    2023/07/06 リンク

    その他
    Windymelt
    Windymelt へー面白そう。GPU1基でいいのも良い

    2023/07/06 リンク

    その他
    puhu208n
    puhu208n 130億 = 13B。量子化した場合6GBで動作するライン。ChatGPTはビデオメモリ使用量が数百GBなので比較にはならない。この程度で商用化を目指しているというだけのことで、何か海外勢を超えたわけではない。

    2023/07/06 リンク

    その他
    shields-pikes
    shields-pikes 日本語機能で今でも普通に業務に問題ない品質のChatGPTを超えたのかどうか。たぶん、OpenAI社みたいにAPIを従量課金で気軽には使えないんだろうなー。各社ごとに導入費用と年間契約が必要、みたいな仕組みになってそう。

    2023/07/06 リンク

    その他

    注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

    アプリのスクリーンショット
    いまの話題をアプリでチェック！
    • バナー広告なし
    • ミュート機能あり
    • ダークモード搭載
    アプリをダウンロード

    関連記事

    NEC、「標準的GPU 1基で動く」世界トップクラスの日本語LLM

    ブックマークしたユーザー

    • meerkat2023/07/20 meerkat
    • YAA2023/07/18 YAA
    • yuuki55552023/07/13 yuuki5555
    • midas365452023/07/11 midas36545
    • ys00002023/07/10 ys0000
    • tasukuchan2023/07/09 tasukuchan
    • yonyon_yossy2023/07/08 yonyon_yossy
    • dhrname2023/07/07 dhrname
    • flying-cat2023/07/07 flying-cat
    • KoshianX2023/07/07 KoshianX
    • kmnasjm2023/07/07 kmnasjm
    • sc3wp06ga2023/07/07 sc3wp06ga
    • k_oshima2023/07/07 k_oshima
    • misshiki2023/07/07 misshiki
    • temimet2023/07/07 temimet
    • rin512023/07/07 rin51
    • mjtai2023/07/07 mjtai
    • samurairodeo2023/07/07 samurairodeo
    すべてのユーザーの
    詳細を表示します

    同じサイトの新着

    同じサイトの新着をもっと読む

    いま人気の記事

    いま人気の記事をもっと読む

    いま人気の記事 - テクノロジー

    いま人気の記事 - テクノロジーをもっと読む

    新着記事 - テクノロジー

    新着記事 - テクノロジーをもっと読む

    同時期にブックマークされた記事

    はてなブックマーク

    公式Twitter

    はてなのサービス

    • App Storeからダウンロード
    • Google Playで手に入れよう
    Copyright © 2005-2024 Hatena. All Rights Reserved.