• はてなブックマーク
  • テクノロジー
  • 米OpenAI「公表しないで……」　ブラックボックスであるLLMの中身を“盗む”攻撃　米Googleらが発表
  • Twitterでシェア
  • Facebookでシェア

米OpenAI「公表しないで……」　ブラックボックスであるLLMの中身を“盗む”攻撃　米Googleらが発表

テクノロジー カテゴリーの変更を依頼 記事元:www.itmedia.co.jp
適切な情報に変更
223 usersがブックマーク コメント38

    記事へのコメント38件

    • 注目コメント
    • 新着コメント
    hate_flag
    hate_flag 学習に使用されたデータセットを非公開にしてるのが問題。「俺は学習素材をネットから盗むがLLMは盗まないで」は通らないだろ

    2024/03/14 リンク

    その他
    slkby
    slkby 数多の知財が勝手にAI企業のものになってるのに、AI企業の知財はなぜ私たちのものにならないんだい

    2024/03/14 リンク

    その他
    colonoe
    colonoe 名前にOpenがつく会社なんだからデータも公開すれば？

    2024/03/14 リンク

    その他
    yujimi-daifuku-2222
    yujimi-daifuku-2222 例え無断アップロードされた商用の表現でも学習するだけなら問題ないの精神に照らした場合、無断で公開されたLLMの内容を人間やAIが学習して何が悪いのかという話になる。/それが良い社会とは私には思えないな。

    2024/03/14 リンク

    その他
    inatax
    inatax 隠れ層の大きさとかNNの構造についての情報を特定できたという話っぽい。学習由来のNNの重みが抜き出せたとか、学習に使ったデータを復元できたとかそういう話ではない

    2024/03/14 リンク

    その他
    t-tanaka
    t-tanaka 昨年でた「出会って4光年で合体」はSFとしても超傑作なのだが。そのなかで，超知性体が人間が持ってたAIが参照する言語モデルから学習元となった会話を復元するシーンがある。それが実際に可能でまずは第一歩，かな。

    2024/03/14 リンク

    その他
    gsggyhig
    gsggyhig 社名変えようよ。もはやクローズドAIの最も代表的な企業だぞ。ここまで名前が体を表さない企業も珍しい

    2024/03/14 リンク

    その他
    operator
    operator 最終層のサイズが特定できると、どういう現実的な攻撃が可能になるのか、、、誰か解説してほしい

    2024/03/14 リンク

    その他
    mole-studio
    mole-studio OpenAIのclosedなAIをopenにするGoogle

    2024/03/14 リンク

    その他
    blackphone9
    blackphone9 AIも制限なく学習されて次のAIの土台にならないとお気持ち的には納得しかねる部分もある。自分たちだけ特別な根拠ってなんだろ。特許とか知財あたり？

    2024/03/14 リンク

    その他
    poad1010
    poad1010 この記事をおすすめしました

    2024/03/17 リンク

    その他
    altar
    altar カードゲームのデッキの枚数が一定数超えるとシャッフルの取りうる結果がメルセンヌツイスタの状態数より多くなるから、起きうる結果の偏りで内部処理が若干透けるみたいな話かな。

    2024/03/16 リンク

    その他
    renos
    renos OpenAI「ぐ、Googleちゃん、公表しないで…」Google「うるさいですね…」

    2024/03/15 リンク

    その他
    georgew
    georgew 全然openではないOpenAI。これはElon Muskが怒るのも無理はないと思う。

    2024/03/14 リンク

    その他
    eagleyama
    eagleyama 学習済みモデルがコピーできるよと？

    2024/03/14 リンク

    その他
    mr_yamada
    mr_yamada もしかして本当はAIじゃなくて、低賃金で奴隷のように働かされているオペレーターが対応してるだけとか？

    2024/03/14 リンク

    その他
    acealpha
    acealpha いや、データセットとかの話じゃなくて、これはアルゴリズム（の一部）のリバースエンジニアリングが出来たって話で、公表するな、は妥当では？

    2024/03/14 リンク

    その他
    TETOS
    TETOS 防御しました。終わり。

    2024/03/14 リンク

    その他
    qpci32siekqd
    qpci32siekqd モデルサイズが性能の指標になっていて、OpenAIが以前から秘密にしていたのをGoogleがこうすりゃモデルサイズわかるで、と嫌がらせしたとしか。これでGoogleはOpenAIに貸1つ取れたってことでしょ。クラック出来るとは違う

    2024/03/14 リンク

    その他
    koKekkoh
    koKekkoh 取り敢えず「隠れ層の次元数」から何の事だか分かりません‪ _:(´ཀ`」 ∠):‬

    2024/03/14 リンク

    その他
    nakakzs
    nakakzs AI潰すにはブラックボックスの公表が相当効果的になるから、今後集中して狙われるのでは。中身に不穏なもの(恣意性、思想的、著作権的など)があるとその信用が一気に失われる。

    2024/03/14 リンク

    その他
    tk_musik
    tk_musik 学習データとして公開情報を拾うのは盗むとは違うんじゃないかなーとブコメ見て思った。クローズドな内容も学習に使ってるのだろうか？

    2024/03/14 リンク

    その他
    hate_nao
    hate_nao これも学習でしょw

    2024/03/14 リンク

    その他
    Byucky
    Byucky 意味のわからん領域のボスバトルやっとんなぁという印象。

    2024/03/14 リンク

    その他
    timetrain
    timetrain 著作物の学習利用とリバースエンジニアリングとはだいぶ違うけど、それでも言えた立場か、という印象はあるわな

    2024/03/14 リンク

    その他
    shira0211tama
    shira0211tama 自分等は好き勝手無断学習システム野放図に使ってるのに？？？？やっぱだめだわAI界隈。

    2024/03/14 リンク

    その他
    kei_1010
    kei_1010 これの何がどう問題なのかさっぱりわからん。というか最初から最後まで何を言ってるのかさっぱりわからんw

    2024/03/14 リンク

    その他
    blackphone9
    blackphone9 AIも制限なく学習されて次のAIの土台にならないとお気持ち的には納得しかねる部分もある。自分たちだけ特別な根拠ってなんだろ。特許とか知財あたり？

    2024/03/14 リンク

    その他
    gsggyhig
    gsggyhig 社名変えようよ。もはやクローズドAIの最も代表的な企業だぞ。ここまで名前が体を表さない企業も珍しい

    2024/03/14 リンク

    その他
    cloverstudioceo
    cloverstudioceo 抜き出しても、動かせるGPUを用意できるのは個人では難しいだろうな。

    2024/03/14 リンク

    その他
    buhoho
    buhoho 応用して人間のニューロンネットワーク構造も調査して

    2024/03/14 リンク

    その他
    NEXTAltair
    NEXTAltair もっとオープンになれよ

    2024/03/14 リンク

    その他
    misshiki
    misshiki “言語モデルのAPIへのクエリを通じて、低コストでモデルの内部構造に関する情報を抽出することに成功した。”

    2024/03/14 リンク

    その他
    inatax
    inatax 隠れ層の大きさとかNNの構造についての情報を特定できたという話っぽい。学習由来のNNの重みが抜き出せたとか、学習に使ったデータを復元できたとかそういう話ではない

    2024/03/14 リンク

    その他
    mole-studio
    mole-studio OpenAIのclosedなAIをopenにするGoogle

    2024/03/14 リンク

    その他
    slkby
    slkby 数多の知財が勝手にAI企業のものになってるのに、AI企業の知財はなぜ私たちのものにならないんだい

    2024/03/14 リンク

    その他
    ykhmfst2012
    ykhmfst2012 ﾊﾊｯﾜﾛｽ

    2024/03/14 リンク

    その他
    spark7
    spark7 それが分かると何に有利なのかはわからんかった。『隠れ層の次元数は、しばしばモデルの全体的なパラメータ数と相関があるため、モデルの規模を推定するための手掛かりになり得る』

    2024/03/14 リンク

    その他
    colonoe
    colonoe 名前にOpenがつく会社なんだからデータも公開すれば？

    2024/03/14 リンク

    その他
    sylow
    sylow 人間に対して同様な質問セットでテストすればある種の賢さが測れそう

    2024/03/14 リンク

    その他

    注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

    アプリのスクリーンショット
    いまの話題をアプリでチェック！
    • バナー広告なし
    • ミュート機能あり
    • ダークモード搭載
    アプリをダウンロード

    関連記事

    米OpenAI「公表しないで……」　ブラックボックスであるLLMの中身を“盗む”攻撃　米Googleらが発表

    このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless...

    ブックマークしたユーザー

    • MrBushido2024/05/04 MrBushido
    • mgl2024/03/21 mgl
    • poad10102024/03/17 poad1010
    • wackunnpapa2024/03/17 wackunnpapa
    • zu22024/03/17 zu2
    • midas365452024/03/16 midas36545
    • altar2024/03/16 altar
    • t_otoda2024/03/15 t_otoda
    • flatbird2024/03/15 flatbird
    • feilong2024/03/15 feilong
    • and_hyphen2024/03/15 and_hyphen
    • abyssgate2024/03/15 abyssgate
    • peketamin2024/03/15 peketamin
    • renos2024/03/15 renos
    • NLPer2024/03/15 NLPer
    • akinonika2024/03/15 akinonika
    • camaci_mv2024/03/15 camaci_mv
    • akiu-ksg2024/03/14 akiu-ksg
    すべてのユーザーの
    詳細を表示します

    同じサイトの新着

    同じサイトの新着をもっと読む

    いま人気の記事

    いま人気の記事をもっと読む

    いま人気の記事 - テクノロジー

    いま人気の記事 - テクノロジーをもっと読む

    新着記事 - テクノロジー

    新着記事 - テクノロジーをもっと読む

    同時期にブックマークされた記事

    はてなブックマーク

    公式Twitter

    はてなのサービス

    • App Storeからダウンロード
    • Google Playで手に入れよう
    Copyright © 2005-2024 Hatena. All Rights Reserved.