AI/IoT時代の安全設計
~STAMPの本質を考える~
※本講演のオンデマンド配信期間は【2023年1月23日(月)10:00 ~ 1月30日(月)9:59】と【2月6日(月)10:00 ~ 2月10日(金)17:00】となります。
AI・IoT時代に開発・運用するシステムは、ソフトウェア集約システムであり、組織・人間・コンピュータ・機械の相互作用がより複雑化し、従来の還元論的な安全解析法(FMEA、FTA、HAZOPなど)だけでは、安全を確保することが難しくなっている。このような複雑システムでは、従来のコンポーネント故障が事故を引き起こすという考えから、故障がなくとも事故が起こるという新しい考え方(パラダイムシフト)を受容する必要がある。これを体現する考え方がSTAMP(システム理論に基づく事故モデルとプロセス)である。しかし、そこでは、具体的手順だけでなく、その裏に深遠な安全哲学が隠されている。この安全哲学を理解して使いこなさないと、本来のSTAMPのメリットを享受できない。新しい考え方でもあり、「STAMP-only」(STAMPですべての安全解析ができる)と「STAMP-never」(従来の安全解析法で十分でSTAMPは不要)といった両極端の考え方も存在するが、その本質を理解すれば、複雑システムで起こる創発的な事故を緩和することに大きく役立つことが分かる。いくつかの事例を踏まえてSTAMPの有用性を説明する。