F2-06

11.20(木) 15:15-15:55 | 展示会場内 RoomF

×

テーマ別セミナー

AIを狙う攻撃の進化
― 敵対的機械学習から生成AI/エージェント時代へ

AI利活用の急速な進展と共にAIシステムへの攻撃手法が次々と編み出されています。本講演では、AIセキュリティ研究の黎明期から知られる回避攻撃やポイズニング攻撃をはじめ、近年注目されるプロンプトインジェクションやAIモデルへのコードインジェクションなど、幅広い攻撃手法とAIシステムに与える影響を俯瞰的に解説します。講演では、こうした攻撃によるAIシステムへの影響をセキュリティのCIAの観点に沿って体系的に整理するとともに、視覚的にわかりやすい可視化モデルを提示し、攻撃の理解を深めます。
  • セーフティ&セキュリティ
Speaker

AIセーフティ・インスティチュート
セキュリティチーム 研究員/

(独)情報処理推進機構

桐淵 直人

2012年よりNTT(持株)研究所にて暗号技術の研究開発に従事。 NTTグループCISO直轄のセキュリティ&トラスト室にてセキュリティガバナンスや、国際イベントにおけるセキュリティオペレーション等の実務を経て、2024年より現職。 AIに関するセキュリティの調査研究に従事。CISSP。

閉じる