AIモデルから情報流出？学習データを復元する「Model Inversion Attack」を検証

AIモデルから情報流出？学習データを復元する「Model Inversion Attack」を検証

AIモデルはどのようにして我々のプライバシーを侵害するのか？ IT活用全般において、個人情報や企業の機...概要を表示 AIモデルはどのようにして我々のプライバシーを侵害するのか？ IT活用全般において、個人情報や企業の機密情報などの保護は、重要視されてきました。近年のITサービスの普及・グローバル化によって、各国がプライバシー関連の規制(GDPRやCCPA、改正個人情報保護法等)を相次いで打ち出していることからもわかるように、その重要性はますます大きくなっています。AI分野についても同様であり、プライバシーの保護は、AIを活用するうえでの前提として考えられるべきものです。 では、「AI活用におけるプライバシーリスク」とは具体的にどんなものなのでしょうか。 本連載の初回のブログでも述べた通り、一般にAIモデルを構成するにあたっては、大量の、多くの場合は実世界のデータ(学習データ)を使います。しかし、学習済みのAIモデルは学習に使ったデータをそのまま記憶しているわけではありません。あくまで学習によって得られた

• 人工知能
• 機械学習
• techfeed
• セキュリティ