自律するAIの暴走と企業知性の崩壊を防ぐ4つのガードレール
※本セッションは【12:10-13:10】での実施となります
自律型AIエージェントの普及により、企業のセキュリティリスクは大きく変化しています。従来は外部からの攻撃や情報漏洩を防ぐことが中心でしたが、AIが自律的に判断・実行する時代では、誤った情報の参照や過剰な権限利用など、AI自身が意図せずリスクを生み出す可能性があります。
また、企業独自の知識・判断基準・実行プロセスをAIに宿すことで、守るべき対象は「情報」から「企業の知性」へと広がります。本講演では、自律するAIの暴走と企業知性の崩壊を防ぐため、知識完全性・権限管理・実行制御・ガバナンスの4つのガードレール設計を解説し、安全にAIを活用するための基盤づくりを紹介します。
- AIセキュリティ
- ワークショップ
- 中級者向け
- Agentic AI Security
- AI Data Security
Speaker
生成AI活用普及協会
協議員 /
（株）いいんじゃ
代表取締役社長
渡邉 勇輝
マーケ/デザイン/開発の3刀流 デジタルネイティブなクリエイター アドテク系ベンチャーにて電通・博報堂・GMO・富士通との共同開発事業の企画開発やPMに従事し、デジタル全般やAI系事業創出の経験を積む。 その後、ブランディング設計からデジタルマーケティング、システム開発まで行うデジタル・ネイティブ組織である株式会社いいんじゃを設立し、ナショナルクライアントを中心にマーケティングから事業開発、クリエイティブやPRまで幅広く支援。 自社事業ではAI×スポーツ領域に進出。自身は生成AI活用普及協会の協議員や立教大学、立教大学 大学院にてDXやAIの講談をする。