セキュリティ関係者が押さえておくべき生成AIの利点・欠点・海外動向
企業におけるDXが進み、業務のIT依存度が高まる中、ITやセキュリティ人材の不足が社会的な課題となっています。そうした中で、ChatGPTに代表される生成AIの活用が業務効率の向上や自動化の観点から大きな注目を浴びています。しかしながら、生成AIが事実に基づかない、あるいは存在しない情報を生成してしまう「ハルシネーション」や、不正な入力によって想定しない回答を引き出す「Jailbreak」など生成AIの活用には課題もあります。
そうした中、外部ソースを用いて回答の精度と信頼性を向上させるRAG(Retrieval Augmented Generation:検索拡張生成)を始めとする仕組みの実用化が進んでおり、業務での生成AIの本格的な活用が期待されています。
本セッションでは、安心安全に生成AIを活用する方法、特にセキュリティ業務における活用方法について実用例や海外の動向について紹介します。
＜要旨＞
●生成AIの業務活用とその課題 ●RAGの活用によるハルシネーション（幻覚）軽減 ●Red Team、セキュリティレポート自動作成などのセキュリティ対策への活用 ●セキュリティ分野のLLM活用の海外動向
- AI / 生成AI
- セキュリティ
Speaker
三井物産セキュアディレクション（株）
シニアエキスパート
高江洲 勲
情報処理安全確保支援士。CISSP。 AIセキュリティに着目し、機械学習アルゴリズムの脆弱性に関する研究や、機械学習を用いたセキュリティタスク自動化の研究を行っている。研究成果は、世界的に著名なハッカーカンファレンスであるBlack Hat ArsenalやDEFCON Demo Labs/AI Village、CODE BLUE、AV Tokyo HIVE等で発表している。近年はセキュリティ・キャンプ（2019年より講師、また2022年からは講師兼プロデューサーとして参画）やSECCONワークショップの講師、国際的なハッカーカンファレンスであるHack In The BoxのAIセキュリティ・コンペティションで審査員を務める等、教育にも力を入れている。
Speaker
東洋大学
情報連携学術実業連携機構 特任研究員
渡曾 航生
東洋大学 情報連携学学術実業連携機構 特任研究員。IPAにおける情報処理安全確保支援士 実践講習（ 制御システム向けサイバーセキュリティ演習「CyberSTIX」）講師。2022年から、IPA産業サイバーセキュリティセンター中核人材育成プログラムの講師（ITセキュリティ）を担当。Black Hat Asia 2023 Arsenal ,Black Hat Asia 2024 Arsenal Speaker.
Chair
東洋大学
情報連携学部 准教授
満永 拓邦