AIインシデントへの具体策
～ヒヤリハットと大事故を踏まえた対策～
EU AI規制、G7 AI原則などで、AI にセキュリティ対策が求められています。これらの規制・原則で、リスクベース・アプローチが求められており、AI 活用においてリスクを知った上での対策を行うことが不可欠です。
本セッションでは AI 活用にリスクベース・アプローチを実践することの重要性をあらためて指摘し、国内であまり報道されていない AI 大事故やヒヤリハットを振り返るとともにガイドラインや規制ベースのアプローチの有効性と限界を点検します。さらに、AI 活用とセキュリティ検討に取り組む当事者と共に、AI 活用の現場で参照可能な AI の「リスク台帳」や「ヒヤリハット集」の作り方を紹介します。
＜要旨＞
●AI規制とセキュリティ対策の関係 ●AI規制対応で鍵となる、リスクベース・アプローチ ●AI リスク台帳の作り方 ●学習データ・生成データの著作権、知的財産権 ●AIモデルやライブラリのライセンス ●学習のオプトアウト、業務データの学習
- AI / 生成AI
- セキュリティ
Speaker
（株）竹中工務店
デジタル室 主任
鈴木 真徳
製造業での研究開発業務や情報システム業務等を経て、株式会社 竹中工務店に入社。データサイエンスやBI業務を担当した後、現在はサイバーセキュリティに関する企画を担当。CISSP, 産業サイバーセキュリティエキスパート
Chair
奈良先端科学技術大学院大学
サイバーレジリエンス構成学研究室
教授
門林 雄基
大阪大学大型計算機センターなどを経て、平成29年より現職。 同年、「サイバーレジリエンス構成学研究室」を設立。産官学連携によるサイバーセキュリティ研究開発に 25 年以上、サイバーセキュリティ人材育成に 15 年 以上にわたり従事。業界に1000人以上の卒業生を輩出している。情報処理推進機構 産業サイバーセキュリティセンターにおける人材育成事業に構想段階より参画。欧米セキュリティ専門機関とともにサイバーセキュリティ研究開発ならびに人材育成を推進する。各種政府委員会委員を務める傍ら、Hardening Project 実行委員等としても精力的に活動。