サクサク読めて、アプリ限定の機能も多数!
CPUにしろGPUにしろ大規模なMLに使うには非効率なので形を変えていくか新しいフォームファクタを作って行った方が良い。MLは数学演算をしてるようで数学要素は重要でも無いし。
RySa のブックマーク 2024/02/28 19:15
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性もCPUにしろGPUにしろ大規模なMLに使うには非効率なので形を変えていくか新しいフォームファクタを作って行った方が良い。MLは数学演算をしてるようで数学要素は重要でも無いし。2024/02/28 19:15
このブックマークにはスターがありません。 最初のスターをつけてみよう!
wirelesswire.jp2024/02/28
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみん...
682 人がブックマーク・95 件のコメント
\ コメントが サクサク読める アプリです /
CPUにしろGPUにしろ大規模なMLに使うには非効率なので形を変えていくか新しいフォームファクタを作って行った方が良い。MLは数学演算をしてるようで数学要素は重要でも無いし。
RySa のブックマーク 2024/02/28 19:15
このブックマークにはスターがありません。
最初のスターをつけてみよう!
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
wirelesswire.jp2024/02/28
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみん...
682 人がブックマーク・95 件のコメント
\ コメントが サクサク読める アプリです /