AIエージェント構築のためのセキュリティガイドライン
〜セキュアなAIエージェントを開発するために押さえるべき設計・実装のポイント〜

※本セッションは【12:10-13:10】での実施となります

生成AIの普及に伴い、社内でもAIエージェントを自ら開発し、業務へ組み込むケースが増えています。 一方で、AIエージェントはファイルやデータベースへのアクセス、外部サービスとの連携、APIや各種ツールの実行など、従来の生成AIよりも広い権限を持つため、設計や実装を誤ると情報漏洩や誤操作、不正な処理につながる可能性があります。 本講演では、社内でAIエージェントを開発する担当者が押さえておくべきセキュリティ上の観点を整理し、権限設計、データの取り扱い、Prompt Injection対策、外部ツール連携、ログ・監査、Human-in-the-loopなど、安全なAIエージェントを構築するためのガイドラインについて解説します。
  • ワークショップ
Speaker

(一社)生成AI活用普及協会

常任協議員 /
(株)スニフアウト
代表取締役CEO

津本 海

東京大学大学院を2021年に卒業。在学時、大手化粧品メーカーや大手ゲーム会社で様々なAIや機械学習の開発に従事。チャットボットを提供するベンチャー企業にて新規事業の立ち上げ及びグロースを事業責任者として主導したのち、2022年11月に株式会社スニフアウトを創業。定着化を実現するヒューマンセントリックなAIエージェント開発や、上流の意思決定にまで入り込むコンサルティングを得意としており、200以上の企業の生成AI導入を支援。

東京会場|講演一覧に戻る 閉じる