サクサク読めて、アプリ限定の機能も多数!
“1ビット、つまり行列の中身が0か1しかないのであれば全ての計算を加算演算のみにできる。 加算と乗算では計算速度も負荷も段違いに異なるためこれだけのスピードの差が出ている。また、当然ながらメモリ効率も高い
zoidstown のブックマーク 2024/02/29 08:22
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も“1ビット、つまり行列の中身が0か1しかないのであれば全ての計算を加算演算のみにできる。 加算と乗算では計算速度も負荷も段違いに異なるためこれだけのスピードの差が出ている。また、当然ながらメモリ効率も高い2024/02/29 08:22
このブックマークにはスターがありません。 最初のスターをつけてみよう!
wirelesswire.jp2024/02/28
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみん...
682 人がブックマーク・95 件のコメント
\ コメントが サクサク読める アプリです /
“1ビット、つまり行列の中身が0か1しかないのであれば全ての計算を加算演算のみにできる。 加算と乗算では計算速度も負荷も段違いに異なるためこれだけのスピードの差が出ている。また、当然ながらメモリ効率も高い
zoidstown のブックマーク 2024/02/29 08:22
このブックマークにはスターがありません。
最初のスターをつけてみよう!
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
wirelesswire.jp2024/02/28
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみん...
682 人がブックマーク・95 件のコメント
\ コメントが サクサク読める アプリです /