AIモデル、「脱獄プロンプト」で不適切な画像生成の新手法

AIモデル、「脱獄プロンプト」で不適切な画像生成の新手法

文章・画像生成AIモデルは基本的に、暴力やヌードなどの有害な画像を生成しないようにポリシーで定めら...概要を表示 文章・画像生成AIモデルは基本的に、暴力やヌードなどの有害な画像を生成しないようにポリシーで定められている。だが、「スニーキープロンプト」と呼ばれる新たな脱獄手法で、これらのモデルが生成しないはずの画像を作れることが実証された。 by Rhiannon Williams2023.11.21 1 10 テキストから画像を生成する人気の文章・画像生成人工知能（AI）モデルに、自らの安全フィルターを無視して有害な画像を生成するように仕向けられることがわかった。 ある研究チームが、スタビリティAI（Stability AI）の「ステーブル・ディフュージョン（Stable Diffusion）」、およびオープンAI（OpenAI）の「DALL-E（ダリー）2」の文章・画像生成AIモデルの両方に、それぞれが設定しているポリシーを無視させ、裸の人々やバラバラにされた死体、その他の暴力的・性的なシナリオの