生成AI悪用で脆弱性を突く「自律サイバー攻撃」、GPT-4利用なら成功率87％

生成AI悪用で脆弱性を突く「自律サイバー攻撃」、GPT-4利用なら成功率87％

便利な生成AI（人工知能）だが、悪用もされている。代表例が、マルウエア（悪意のあるソフトウエア）や...概要を表示 便利な生成AI（人工知能）だが、悪用もされている。代表例が、マルウエア（悪意のあるソフトウエア）やフィッシングメールの作成だ。そして今回、米イリノイ大学アーバナ・シャンペーン校（UIUC）の研究者らによって、新たな悪用の可能性が示された。ソフトウエアの脆弱性（セキュリティー上の欠陥）を突く攻撃への悪用だ。 脆弱性に関する公開情報を教えるだけで、脆弱性のあるコンピューターに対して自律的に攻撃を仕掛けるという。大規模言語モデル（LLM）のGPT-4を利用した場合の成功率は87％。本当にそのようなことが可能なのだろうか。 狙われる「ワンデイ脆弱性」 ソフトウエアの脆弱性を突くサイバー攻撃が後を絶たない。攻撃者は脆弱性を悪用してインターネット上のサーバーや企業ネットワークなどに不正侵入する。近年では、インターネットと企業ネットワークの境界に設置されたVPN（仮想閉域網）装置の脆弱性を悪用することが

• 人工知能
• techfeed
• セキュリティ