概要

第3回 AI/IoTシステム安全性シンポジウム、The 2nd Asian STAMP Workshop、FRAMワークショップは、新型コロナウイルスの世界的な感染拡大により、海外講演者の訪日が難しくなったこと、また、参加者の安全を確保する必要があることから昨年同様、オンライン開催を予定しています。また、昨年は3日間集中開催でしたが、今年は11/29-12/3に分散させて、セッションごとに2時間-半日以内の開催を予定しています。

※当日の接続先は、決まり次第、本サイトでお知らせします。

プログラム

Day 1：2021年11月29日（月）15:00~18:00（機械学習システム）

15:00 - 15:10　オープニング　実行委員長挨拶

金子 朋子 氏（国立情報学研究所 特任准教授）

15:10 - 16:10 :【AIS11-S】 機械学習工学の進展と課題
講演者：石川　冬樹 氏　(国立情報学研究所 准教授　ｅＡＩプロジェクト代表)
2019年頃より機械学習工学やAI品質に関するガイドライン策定等の取り組みが産学連携を通して立ち上がり、また学術界でも関連する多くの先端研究がなされてきた。本講演ではこれらの双方について、達成された現状を俯瞰し、今後の課題について議論する。

16:10 - 16:45 :【AIS12-S】 AI・機械学習プロダクトの品質保証に関する課題とパラダイムシフト
講演者：西 康晴 氏（QA4AIコンソーシアム・運営委員長／電気通信大学・講師）

AIや機械学習の技術を用いた製品やサービスによる破壊的イノベーションがビジネスを大きく変えようとしている。その一方で、きちんと品質を保証できている組織は極めて少ない。本講演では、そうしたモダンなソフトウェアの品質保証に必要となるパラダイムシフトについて、「AIプロダクト品質保証ガイドライン」の内容を紹介しつつ議論していく。

【休憩】

16:55 - 17:25 :【AIS21-S】 信頼できるAIの実現を目指す~AIガバナンスの取り組み
講演者：鈴木　賢一郎 氏　（株式会社NTTデータ 技術開発本部 シニアエキスパート）

AIの活用により様々なベネフィットが期待される一方で、精度や品質の制御等に課題がある上に、場合によっては想定外の倫理問題に発展する可能性がある。 本講演ではAIガバナンスの動向やAI活用のリスク事例を踏まえ、本年に新設のAIアドバイザリーボードなど、当社のAIガバナンスの取組みを紹介する。

17:25 - 18:00 :【AIS22-S】 エンジニア向け機械学習応用システムのためのセキュリティガイドライン
講演者：吉岡　信和 氏　（早稲田大学 理工学術院総合研究所・研究院教授）
講演者：矢嶋 純 氏（富士通株式会社 富士通研究所 研究本部 データ＆セキュリティ研究所 AIサイバーセキュリティプロジェクト・シニアリサーチャー）

近年、さまざまなサービスに機械学習が組み込まれ、ミッションクリティカルなシステムにも機械学習が活用されるようになってきた。一方、データを書き換えて故意に機械学習を誤動作させる敵対的攻撃などの機械学習特有の攻撃手法が盛んに研究されている。しかしながら、そのような攻撃が実際のシステムに発生するかどうかのリスクは、明確になっていない。本講演では、エンジニアがシステム開発時に機械学習特有のセキュリティリスクを分析するガイドラインの取り組みを紹介する。

Day 2：2021年11月30日（火）15:30~18:00 （自動運転の現状と取り組み）

15:30 - 16:15 :【AIS31-S】自動車業界における機械学習システムの品質確保の事例
講演者：桑島　洋 氏（株式会社デンソー　担当課長）

近年、機械学習モデルは、タスクによっては人間を凌ぐ正確性を発揮し、自動運転システムや先進運転支援システムでも使われ始めている。しかし、機械学習が社会に浸透し始める一方で、機械学習システムのリスクも顕在化している。本発表では、自動車業界における機械学習に関して、品質確保の課題と取り組みを紹介する。

16:15 - 17:00 :【AIS32-S】自動運転におけるDNN安全性評価方法~ｅＡＩプロジェクト　交通PoCの活動を通じて
講演者：金子　朋子 氏（国立情報学研究所・特任准教授, (株)ＮＴＴデータエグゼクティブＲ＆Dスペシャリスト）

昨年の本シンポジウムで提示した「機械学習システムの課題」に対して、自動運転の安全性評価フレームワーク やAIQMリファレンスなどのガイドラインや安全分析手法の調査をもとに、eAIプロジェクト交通PoCで検討中の「DNN安全性評価方法」を示す。著書「セーフティ＆セキュリティ入門」に示す自動運転事故事例などを通じての紹介とする。

17:00 - 17:30 :【AIS33-S】自動運転で合理的に予見可能・回避可能な事故を防止するには
講演者：二宮 芳樹 氏 （名古屋大学 特任教授/㈱Tier IV CSTO）

レベル３以上の自動運転の実現の大きな課題は，安全性の評価・検証である。その中でも運転そのものが世界基準である「合理的に予見可能，回避可能な事故を起こさない」をどう実現するかは，基準もまだ不明確な問題であり，社会との受容性の側面も強い。本発表ではその課題解決に向けた取り組みについて紹介する。

17:30 - 18:00 :【AIS34-S】ミニ・パネルディスカッション~自動運転の今に思うこと

パネリスト：Day2の講演者
進行：余宮 尚志 氏　トヨタ自動車株式会社　

Day 3 ：2021年12月1日（水）14:00~18:00 (Asian STAMP Workshop・交流会)

14:00 - 14:10：オープニング

セッション1:[STAMP/STPA] 座長：岡本 圭史 氏

14:10 - 14:40 : 【ASW11-N】組織のミッション・ビジネス目標を反映した、安全分析と対策の選択

沖汐 大志 氏（日本ユニシス株式会社）

14:40 - 15:10 : 【ASW12-N】Service STAMP/STPA ～サービスプロセスへのSTAMP/STPAの拡張

西 康晴 氏（電気通信大学）

15:10 - 15:25 : 【ASW13-L】基板検査システム開発へのSTAMP/STPAの適用

吉田 邦雄 氏（オムロンソフトウェア株式会社）

【休憩】

セッション2:[STAMPとセキュリティ] 座長：福島 祐子 氏

15:35 - 16:05 : 【ASW21-N】STPA-SecのISO/SAE 21434への対応における課題

岡本 圭史 氏（仙台高等専門学校）

16:05 - 16:35 : 【ASW22-N】STPA-SecにおけるISO/SAE 21434への対応方法の提案

大場 諒介 氏（三菱電機株式会社 情報技術総合研究所）

16:35 - 16:50 : 【ASW23-L】ドローンシステムへのセーフティ・セキュリティ統合分析の検討

日下部 茂 氏（長崎県立大学）

16:50 - 17:05 : 【ASW24-L】STAMP/STPAと攻撃木分析の統合的実施

日下部 茂 氏（長崎県立大学）

交流会　17:05~18:00

Day 4：2021年12月2日（木）9:00~12:00 (Asian STAMP Workshop)

座長　山口晋一氏
9:00 - 9:50 : 【ASW31-S】How to Learn More From Accidents (50min.)
9:50 - 10:10 : Q&A (20min.)

講演者：Nancy Leveson（Professor, Massachusetts Institute of Technology）

略歴：ソフトウェア安全という新分野の創設者であり、世界の第一人者。全米工学アカデミー会員。米国計算機学会などから受賞多数。設計、運用、管理と社会的局面を含むシステム安全のすべての分野の研究を行なっており、その研究結果や手法は、航空宇宙、交通運輸、化学プラント、原子力、医療機器など、安全に係わる多種多様な産業で応用されている。

10:10 - 10:20 休憩

座長　日下部茂氏
10:20 - 11:30 : 【ASW41-S】日本語訳完成記念　～CASTチュートリアル～

講演者：福島 祐子 氏（日本ユニシス株式会社）、金子 朋子 氏（国立情報学研究所）

CAST日本翻訳版の事例にもとづく説明とIT運用、サイバーセキュリティなどの適用事例紹介

11:30 - 12:00 : 【ASW42-N】鉄道事故調査報告書 RA2021-1に基づくCompact CASTによる分析事例の紹介

講演者：岡本 圭史 氏　（仙台高等専門学校）
兼本 茂 氏　（会津大学, 組込みシステム技術協会）

Day 5：2021年12月3日（金）14:00~18:10（FRAM Workshop）

座長　野本秀樹氏
14:00 - 14:40 ： 【FRW11-N】MATLAB/Simulink モデルに対する FRAM モデルの作成手法
掛下 真通 氏（九州大学）

14:40 - 15:20： 【FRW12-N】FRAMとVDMを用いた要求仕様記述支援に関する考察

張 漢明 氏（南山大学）, 日下部 茂 氏（長崎県立大）, 小田 朋宏 氏（ＳＲＡ）

15:20 - 16:00 ： 【FRW13-N】FRAMモデルにおける人の認知活動による変動の理解を支援する手法の提案

青木 善貴 氏（日本ユニシス株式会社）

16:00 - 16:40 ： 【FRW14-N】Modeling and Analyzing Expert Skills in Manufacturing Industry using FRAM

安江 成輝 氏（京都大学）, 椹木 哲夫 氏（京都大学）

16:40 - 17:20 : 【FRW15-S】"Optimising the Performance of Complex Sociotechnical Systems: using FRAM as a simulation tool"
講演者：David Slater 氏（カーディフ大学）

概要： Understanding what’s really happening in complex sociotechnical systems, requires a “model” that can reflect accurately, the inevitable and inherent variability that these systems exhibit, but can normally tolerate, in successfully operating in the real world. Knowing how that variability propagates and impacts the total function mix, then allows an understanding of emergent behaviours. This non linear interdependence, however, is not readily apparent from normal linear business or engineering process flow diagrams. A newer approach to exploring the operability of complex systems, that addresses these limitations, is the Functional Resonance Analysis Method (FRAM). This is a way of visualising a system’s behaviour, by defining it as an array of functions, with all the interactions and interdependencies that are needed for it to work successfully. Another way is to observe, or simulate the system in operation and identify how and why the performance is affected. A number of healthcare projects in the UK, have now attempted to combne the two and capture the behaviour of the observed/simulated functions as a FRAM instantiation. Until now, however, this methodology has mainly been employed as a qualitative mind map. Optimisation requires measures of the effects and extent of any observations, or proposed improvements, for comparative risk, or cost benefit assessments. This presentation describes a new development of the FRAM visualisation software which allows the quantification of the extent and effects of this functional variability. It then sets out to demonstrate its application in a practical, familiar test case. The example chosen, is the complex sociotechnical system involved in a Formula 1 Pit stop. This has shown the potential of the application and provided some interesting insights into the observed performances.

17:20 - 18:00 : 【FRW16-S】"A Functional Analysis of Systemic Potentials Management""
講演者：エリック・ホルナゲル氏（スウェーデン　ヨンショーピング大学教授）

概要： In Resilience Engineering (RE), the essence of safety is that as much as possible goes well. It is therefore necessary to understand how systems and processes can be controlled and managed to ensure acceptable performance, in addition to understanding how something has gone wrong. RE has proposed that four potentials are necessary for performance to go well: the potentials to respond, monitor, learn, and anticipate. Because the potentials can be considered as generic functions, the FRAM can be used to understand how they are mutually dependent or coupled.

18:00 - 18:10
クロージング
実行委員長： 金子朋子氏

共催

• AI/IoTシステム安全性シンポジウム実行委員会
  
• JST未来社会創造事業「機械学習を用いたシステムの高品質化・実用化を加速する“Engineerable AI”技術の開発」プロジェクト
• 機械学習研究会（MLSE）機械学習システムセーフティ＆セキュリティWG
• 株式会社NTTデータ
  
• 有人宇宙システム株式会社

組織（敬称略）

• 実行委員長：金子朋子(国立情報学研究所/NTTデータ)
  
• アドバイザー：吉岡信和(早稲田大学)、兼本茂(会津大学)、野本秀樹(JAMSS)
  
• プログラム委員(五十音順)：岩永寿来(チェンジビジョン)、岡本圭史(仙台高等専門学校)、日下部茂(長崎県立大学)、髙橋雄志(日本AIシステムサービス)、橋本岳男(日立産業制御ソリューションズ)、福島祐子(日本ユニシス株式会社)、向山輝(NEC)、 山口晋一（慶應義塾大学SDM研究所）、余宮尚志(トヨタ自動車)

問合せ先: ais3_symp2021 [at] nii.ac.jp

スポンサー

株式会社チェンジビジョン