AUTOSAR CountdownAdvent Calendar 2022

参考文献の参考文献は参考文献だ。清水吉男「「派生開発」を成功させるプロセス改善の技術と極意」を超えて, OSEK(77)

Last updated at 2024-07-23Posted at 2021-08-19

今まで買ってよかった技術書を紹介しよう！
https://qiita.com/official-events/d409f91fc8b9b44cefb4
参加記事をです。

【ソフトウェア品質向上セミナー】事例と研究から学ぶ派生開発における影響範囲の特定と、不具合・ソフトウェアメトリクスの関連の分析(オンライン)
https://www.techmatrix.co.jp/es/seminar/understand_20210826.html?fbclid=IwAR0RrRPft3yfPo_LIT52Is6pEdo6ptpq_K3DM7BnKkjpNEQ1PcF7VRsF4sg

で講演する方のある論文の参考文献に

「「派生開発」を成功させるプロセス改善の技術と極意」
https://bookmeter.com/books/422459

があります。

清水吉男　さんの書かれた本を読んでいた若い方がおみえになりました。

その上司の方に、ぜひ、あの方を　清水吉男　さんのセミナを受講させてあげてください。

とお願いしました。　清水吉男　さんのよいところを、本を読んだだけでわかる方もおみえでしょう。

私はそうではありませんでした。

論理回路の世界では、 Verilog HDLなどのソースコードが設計で、
コンパイルして生成する回路図と実際の配線が実装です。

ソースコードで設計しないで、何で設計するというのでしょうか。

状態遷移図、時系列図で設計し、Verilog HDL、Cなどのソースを出力するのも一つの設計方法です。
図で設計するのはありだし、効率的に設計できる場合がしばしばあると思いました。

清水吉男　さんが、SWESTで講演された時に、あ、清水吉男　さんのいいところは、本に書いてある中身じゃなくて、
問題に対する姿勢が大事なんだということがわかりました。

論理回路の話や、ソースコードでしか設計しない話を　清水吉男　さんにしたときも、
自分の経験ではと、成功体験を語られましたが、それは自分の制約条件の場合の成功例だというお話のされ方をしていました。

成功体験は語っても、成功体験に頼らないために。清水吉男・田中伸明・柏原一雄・佐々木眞一。仮説（153）
https://qiita.com/kaizen_nagoya/items/d32adfaf7b2568bfd9d2

佐々木眞一　の動画を拝見し、著作の２冊目をよませていただいて、
確信しました。田中伸明・柏原一雄が、清水吉男を超えるには、一つは佐々木眞一を見習うこと。

トヨタの自工程完結　佐々木眞一
https://qiita.com/kaizen_nagoya/items/dd2de8bd9d884c16911d

もう一つは、

参考文献駆動執筆(references driven writing)・デンソークリエイト編
https://qiita.com/kaizen_nagoya/items/b27b3f58b8bf265a5cd1

ここでの試みは後者。

<この項は書きかけです。順次追記します。>
This article is not completed. I will add some words in order.

＊印は一度登場した文献。

ある論文の参考文献欄

[1]吉村達彦，「トヨタ式未然防止手法・GD3」，日科技連出版社，2008
https://bookmeter.com/books/311392
[2]清水吉男，「「派生開発」を成功させるプロセス改善の技術と極意」，技術評論社，2007
https://bookmeter.com/books/422459
[3]多田直弘，「モノづくりにおける実践のDRBFM」，友月書房，2015
https://bookmeter.com/books/9174708
[4]柏原一雄，新留光治，藤田亮太，周廣有，小林展英，竹下千晶，林香織，「欠陥混入メカニズムの知識を活用したDRBFMの提案」，ソフトウェア品質シンポジウム2018，2018
https://www.juse.jp/sqip/library/shousai/?id=402
[5]「JISQ31010:2012 リスクマネジメント－リスクアセスメント技法」，2012
[6]小川清, 「一人HAZOPを組み合わせた効率的な分析作業」, WOCS2011 JAXA/IPA, 2011
https://www.ipa.go.jp/files/000005325.pdf
[7]河野哲也, 「ソフトウェア要求仕様におけるHAZOPを応用したリスク項目設計法」, ソフトウェアテストシンポジウム2012, 2012
http://jasst.jp/symposium/jasst12tokyo/pdf/D2-1_paper.pdf
[8]益田美貴，高野研一，「金融情報システムへのHAZOP手法の適用」，安全工学 49(2)，p.104-114，2010
https://www.jstage.jst.go.jp/article/safety/49/2/49_104/_pdf/-char/ja
[9]大林英晶，森崎修司，渥美紀寿，山本修一郎，「逸脱分析を用いた要求仕様書からのテスト項目抽出手法」，情報処理学会論文誌 57(4)，p.1262-1273，2016
https://ipsj.ixsq.nii.ac.jp/ej/index.php?action=pages_view_main&active_action=repository_action_common_download&item_id=159063&item_no=1&attribute_id=1&file_no=1&page_id=13&block_id=8
[10]中西恒夫，久住憲嗣，福田晃，「ソフトウェアFMEAの一手法とプロダクトライン開発におけるその利用」，電子情報通信学会技術研究報告. SS ソフトウェアサイエンス 111(481), p.19-24, 2012
https://jglobal.jst.go.jp/detail?JGLOBAL_ID=201202209548028551&e=reference/article
[11]中西恒夫，久住憲嗣，福田晃，「FMEA を援用した例外処理の仕様定義と設計の方法論」，研究報告ソフトウェア工学（SE）2012-SE-175 14号，p.1-8，2012
https://ipsj.ixsq.nii.ac.jp/ej/?action=repository_action_common_download&item_id=81080&item_no=1&attribute_id=1&file_no=1
[12]梅田浩貴，波平晃佑，祖川和弘，植田泰士，片平貴史，「GSN及びESDモデルを用いたソフトウェアFMEAの提案」，ソフトウェア品質シンポジウム2018，2018
https://www.juse.jp/sqip/library/shousai/download/index.cgi/B1-1.pdf
https://www.juse.jp/sqip/symposium/archive/2018/day1/files/B1-1_happyou.pdf
[13]小川清, 「HAZOP 3.0 (Safety & Security)」，SWEST19，2019
https://www.slideshare.net/kaizenjapan/hazop-safety-and-security-with-records-swest-at-gero-gifu-pref-japan
[14]小川清，柏原一雄，田中伸明，「安全分析におけるHAZOPによる想定外の洗い出し」，自動車技術会 2020年春季大会学術講演会講演予稿集，2020
https://researchmap.jp/multidatabases/multidatabase_contents/detail/231120/bb4403ea934696c54372bedb331b09bd
[15]小川明秀, 小川清, 「安全分析において、HAZOP, FMEA, FTAの組み合わせによるリスクアセスメントの進め方の検討」, 安全工学シンポジウム2015
[16] 余宮尚志，兼本茂，「システム思考によるソフトウェアの安全設計」，https://www.jasa.or.jp/wp-content/uploads/2020/02/Anzen_ET2018_JG-1.pdf
[17] 余宮尚志，小島昌一，「不具合リスク発想のための観点の抽出方法とその効果」，ソフトウェア品質シンポジウム2016，2016
https://www.juse.jp/sqip/library/shousai/?id=330
[18] 山科隆伸，森崎修司，「大規模ソフトウェアの保守開発を対象とした故障モード影響解析(FMEA）適用の試み」，技報 UNISYS TECHNOLOGY REVIEW 28(4)，p.107-121，2009
https://dl.ndl.go.jp/view/download/digidepo_8561372_po_9908.pdf?contentNo=1&alternativeNo=

資料

書籍の感想は、人名の記載のないものは @kaizen_nagoya

1 感想「トヨタ式未然防止手法・GD3」

感想歌 HAZOPがないのは疑問よい分析（Good dissection）不十分だと感じています。p.s. 良い設計（Good design）良い議論（Good Discussion）は分かる。分かった点しか書いていないReviewは、実は何も分かっていない場合がある。分からなかった点を書いてあるReviewを信用した方がよいかもしれない。それが、未然防止の肝。問題が安全である場合には、FMEAをやり過ぎるより、安全分析をやりきることの方がよい設計には必要。故障は必ずしも安全の原因ではない。

@kazuo_reve

故障モードは、ストレス（部品の使用条件）とストレングス（部品の設計の弱点）できまる。 DRBFMは、人間の問題発見能力を生かす手法。

2 感想「「派生開発」を成功させるプロセス改善の技術と極意」

世界中でシステム設計の現場では「新規開発」より「派生開発」としての動いているシステムの変更や機能追加が多い。その点に着目した著者の経験が凝縮。派生開発の場合に何が課題になるかの仕立て。仕様をどうやって明確にする知見が豊富。仕立て(tailoring)だけでなく，現場にあわせた着付け(fitting)もできる。決めたことを決めた通りにやるだけなら能力のある技術者はいらない。どういう制約条件のもとで決めたことか条件が変わったらどうするかを考える能力があるかどうかが課題。

@kazuo_reve

ドラえもんのポケットの例え好き。変更だけでなく、移植についての言及もある。

3 感想　

「モノづくりにおける実践のDRBFM」
https://bookmeter.com/books/9174708

感想歌 #短歌形式　トヨタ式未然防止手法にはDRBFMもあるとな　FTA付録FMEAと合わせて未然防止HAZOP

@kazuo_reve

ソフトウェアに対するDRBFMのやり方は確立していない。隠れた相違点を特定すること大切。変更によって生まれる変化点を特定する。

4 参考文献　「欠陥混入メカニズムの知識を活用したDRBFMの提案」

[1]清水吉男，「派生開発における母体に由来するバグとその対応」，JaSST'09 Tokyo，2009
[2]清水吉男，「派生開発」を成功させるプロセス改善の技術と極意」，技術評論社，2007 *
[3]柏原一雄,「統合テストにおいて影響範囲に対するテスト漏れを防止する「影響波及パス分析法」の提案」，ソフトウェア品質シンポジウム 2017，2017
[4]吉村達彦，「トヨタ式未然防止手法・GD3」，日科技連出版社，2008 *
[5]多田直弘，「モノづくりにおける実践の DRBFM」，友月書房，2015 *
[6]飯塚悦功，「構造化知識工学ことはじめ」，品質 35(1) ，6-10，2005 [7]安田隆司，「変更要求仕様書を活用した未然防止方法の提案-XDDP への DRBFM 導入とその効果-」，ソフトウェア品質シンポジウム 2011，2011
[8]2014 年度 SQiP 研究会第 7 分科会，「ソフトウェア欠陥予測アルゴリズム」，ソフトウェア品質シンポジウム 2015，2015
[9]河野哲也，「ソフトウェア要求仕様における HAZOP を応用したリスク項目設計法」，ソフトウェアテストシンポジウム 2012，2012 *

5 参考文献　「JISQ31010:2012 リスクマネジメント－リスクアセスメント技法」

JIS Q 0073 リスクマネジメント−用語注記対応国際規格：ISO Guide 73，Risk management−Vocabulary（IDT）
https://kikakurui.com/q/Q0073-2010-01.html
JIS Q 31000 リスクマネジメント−原則及び指針注記対応国際規格：ISO 31000，Risk management−Principles and guidelines（IDT）
https://kikakurui.com/q/Q31000-2019-01.html
JIS C 0508（規格群）電気・電子・プログラマブル電子安全関連系の機能安全注記対応国際規格：IEC 61508 (all part)，Functional safety of electrical/electronic/programmable electronic safety-related systems（IDT）
https://kikakurui.com/c0/C0508-1-2012-01.html
JIS C 0511（全ての部）機能安全−プロセス産業分野の安全計装システム注記対応国際規格：IEC 61511 (all part)，Functional safety−Safety instrumented systems for the process industry sector（IDT）
https://www.kikakurui.com/c0/C0511-1-2019-01.html
JIS C 5750-4-3 ディペンダビリティマネジメント−第4-3部：システム信頼性のための解析技法−故障モード・影響解析（FMEA）の手順注記対応国際規格：IEC 60812，Analysis techniques for system reliability−Procedure for failure mode and effects analysis (FMEA)（IDT）
JIS C 5750-4-4 ディペンダビリティマネジメント−第4-4部：システム信頼性のための解析技法−故障の木解析（FTA）注記対応国際規格：IEC 61025，Fault tree analysis (FTA)（IDT）
JIS Z 8051 安全側面−規格への導入指針注記対応国際規格：ISO/IEC Guide 51，Safety aspects−Guidelines for their inclusion in standards（IDT）
ISO 22000，Food safety management systems−Requirements for any organization in the food chain
IEC 60300-3-11，Dependability management−Part 3-11: Application guide−Reliability centred maintenance
IEC 61078，Analysis techniques for dependability−Reliability block diagram and boolean methods
IEC 61165，Application of Markov techniques
IEC 61649，Weibull analysis IEC 61882，Hazard and operability studies (HAZOP studies)−Application guide
IEC 62551，Analysis techniques for dependability−Petri net techniques 2)
ISO/IEC 15909 (all parts)，Software and systems engineering−High-level Petri nets
ISO/IEC Guide 98-3:2008，Uncertainty of measurement−Part 3: Guide to the expression of uncertainty in measurement (GUM:1995)

5-1 JIS Q 0073

1] JIS Q 9000 品質マネジメントシステム−基本及び用語注記対応国際規格：ISO 9000，Quality management systems−Fundamentals and vocabulary（IDT）
[2] JIS Q 31000:2010 リスクマネジメント−原則及び指針注記対応国際規格：ISO 31000，Risk management−Principles and guidelines（IDT） *
[3] JIS Z 8002 標準化及び関連活動−一般的な用語注記対応国際規格：ISO/IEC Guide 2，Standardization and related activities−General vocabulary（IDT）
[4] JIS Z 8051 安全側面−規格への導入指針注記対応国際規格：ISO/IEC Guide 51，Safety aspects−Guidelines for their inclusion in standards（IDT）
[5] ISO 704，Terminology work−Principles and methods
[6] ISO 860，Terminology work−Harmonization of concepts and terms
[7] ISO 3534-1，Statistics−Vocabulary and symbols−Part 1: General statistical terms and terms used in probability [8] ISO 10241，International terminology standards−Preparation and layout

5-2 JIS Q 31000:2010

[1] JIS Q 0073:2010 リスクマネジメント−用語 *
[2] JIS Q 31010:2012 リスクマネジメント−リスクアセスメント技法

5-3 JIS C 0508

JIS C 0508-4 電気・電子・プログラマブル電子安全関連系の機能安全−第4部：用語の定義及び略語注記対応国際規格：IEC 61508-4:2010，Functional safety of electrical/electronic/programmable electronic safety-related systems−Part 4 : Definitions and abbreviations（IDT）
IEC 61508-2:2010，Functional safety of electrical/electronic/programmable electronic safety-related systems−Part 2: Requirements for electrical/electronic/programmable electronic safety-related systems
IEC 61508-3:2010，Functional safety of electrical/electronic/programmable electronic safety-related systems−Part 3: Software requirements
IEC Guide 104:1997，The preparation of safety publications and the use of basic safety publications and group safety publications 注記 1984年のGuideは，1997年に改訂された。
ISO/IEC Guide 51:1999，Safety aspects−Guidelines for their inclusion in standards 注記このGuideは，1999年版が最新である

[1] JIS C 0511（全ての部）機能安全−プロセス産業分野の安全計装システム注記対応国際規格：IEC 61511 (all parts)，Functional safety−Safety instrumented systems for the process industry sector（IDT）
[2] JIS B 9961 機械類の安全性−安全関連の電気・電子・プログラマブル電子制御システムの機能安全注記対応国際規格：IEC 62061，Safety of machinery−Functional safety of safety-related electrical, electronic and programmable electronic control systems（IDT）
[3] IEC 61800-5-2，Adjustable speed electrical power drive systems−Part 5-2: Safety requirements−Functional
[4] IEC/TR 61508-0:2005，Functional safety of electrical/electronic/programmable electronic safety-related systems−Part 0: Functional safety and IEC 61508
[5] IEC 61508-6:2010，Functional safety of electrical/electronic/programmable electronic safety-related systems−Part 6: Guidelines on the application of IEC 61508-2 and IEC 61508-3
[6] IEC 61508-7:2010，Functional safety of electrical/electronic/programmable electronic safety-related systems−Part 7: Overview of techniques and measures
[7] IEC 61506:1997，Industrial-process measurement and control−Documentation of application software
[8] Managing Competence for Safety-Related Systems, IET/BCS/HSE, 2007; (Part 1: Key guidance; Part 2 Supplementary material). HSE. 2007 [9] IEC 60300-3-1:2003，Dependability management−Part 3-1: Application guide−Analysis techniques for dependability−Guide on methodology
[10] JIS C 5750-3-1 ディペンダビリティ管理−第3-1部：適用の指針−ディペンダビリティ解析手法の指針注記対応国際規格：IEC 60300-3-1:2003，Dependability management−Part 3-1: Application guide−Analysis techniques for dependability−Guide on methodology（IDT）
[11] IEC 60300-3-9:1995，Dependability management−Part 3: Application guide−Section 9: Risk analysis of technological systems
[12] IEC 61882: 2001，Hazard and operability studies (HAZOP studies)−Application guide
[13] NUREG/CR-4780, Volume 1, January 1988, Procedures for treating common cause failures in safety and reliability studies−Procedural framework and examples
[14] NUREG/CR-4780, Volume 2, January 1989, Procedures for treating common cause failures in safety and reliability studies−Analytical background and techniques
[15] IEC 61326-3-1，Electrical equipment for measurement, control and laboratory use−EMC requirements−Part 3-1: Immunity requirements for safety-related systems and for equipment intended to perform safety-related functions (functional safety)−General industrial applications
[16] ISO 8613-1:1994，Information technology−Open Document Architecture (ODA) and interchange format: Introduction and general principles
[17] JIS C 0451 電気及び関連分野−プラント，システム及び装置用の技術文書の分類及び指定注記対応国際規格：IEC 61355 (all parts)，Classification and designation of documents for plants, systems and equipment

5-4 JIS C 0511

JIS B 9705-1:2011 機械類の安全性−制御システムの安全関連部−第1部：設計のための一般原則
JIS C 0508-6:2019 電気・電子・プログラマブル電子安全関連系の機能安全−第6部：第2部及び第3部の適用指針 JIS Q 9000:2006 品質マネジメントシステム−基本及び用語
JIS Q 9001:2008 品質マネジメントシステム−要求事項
JIS Q 27001:2014 情報技術−セキュリティ技術−情報セキュリティマネジメントシステム−要求事項
JIS Z 8051:2015 安全側面−規格への導入指針
ISO/IEC 2382:2015，Information technology−Vocabulary
ISO TR 12489:2013，Petroleum, petrochemical and natural gas industries−Reliability modelling and calculation of safety systems
ISO 13849-2:2012，Safety of machinery−Safety-related parts of control systems−Part 2: Validation
ISO 14224:2006，Petroleum, petrochemical and natural gas industries−Collection and exchange of reliability and maintenance data for equipment
ISO/IEC 90003:2014，Software engineering−Guidelines for the application of ISO 9001:2008 to computer software
IEC 60050 (all parts)，International Electrotechnical Vocabulary (available at <http://www.electropedia.org/)
IEC 60300-3-2:2004，Dependability management−Part 3-2: Application guide−Collection of dependability data from the field
IEC 60605-4:2001，Equipment reliability testing−Part 4: Statistical procedures for exponential distribution−Point estimates, confidence intervals, prediction intervals and tolerance intervals IEC 60617-12:1997，Graphical symbols for diagrams−Part 12: Binary logic elements 注記この規格は廃止されている。
IEC 61025，Fault tree analysis (FTA) IEC 61131-3:2013，Programmable controllers−Part 3: Programming languages
IEC 61131-6:2012，Programmable controllers−Part 6: Functional safety IEC 61506:1997，Industrial-process measurement and control−Documentation of application software IEC 61511-2:2016，Functional safety−Safety instrumented systems for the process industry sector−Part 2: Guidelines for the application of
IEC 61511-1:2016 IEC 61511-3:2016，Functional safety−Safety instrumented systems for the process industry sector−Part 3: Guidance for the determination of the required safety integrity levels
IEC 61784-3:2010，Industrial communication networks−Profiles−Part 3: Functional safety fieldbuses−General rules and profile definitions
IEC 62443-2-1:2010，Industrial communication networks−Network and system security−Part 2-1: Establishing an industrial automation and control system security program
IEC 62682:2014，Management of alarm systems for the process industries
IEC TS 61000-1-2:2008，Electromagnetic compatibility (EMC)−Part 1-2: General−Methodology for the achievement of functional safety of electrical and electronic systems including equipment with regard to

6 参考文献「一人HAZOPを組み合わせた効率的な分析作業」

[1] Safeware, Nancy,翔永社, 2009
[2] HAZOP and HAZAN, Trevor A. Kletz ,1983
[3] 5ゲン主義入門,古畑友三,日科技連出版社 ,1996
https://bookmeter.com/books/1562871

説明歌　5ゲン主義、現場・現物・現実と原理・原則これで５つな短歌

[4] 4M5E ~~http://www.n-iinet.ne.jp/4m5e.htm~~
https://qiita.com/kaizen_nagoya/items/918f0a64ee92636638ed

[5] FMEA,FTA実施法,鈴木順二郎,日科技連,1982
https://bookmeter.com/books/627786

説明歌　座長さん安全工学シンポでの丁寧助言論文別送　#短歌　ポリテク系の電源のセミナを受講していたら、上の階でFMEAのセミナをしていました。見たら、この本がで教科書になっていたので購入しました。 FMEAの実施例が、懐中電灯にはじまり、ディーゼルエンジン、ロケット姿勢制御、発電機と、自分が興味があるものが多かったのでとても参考になりました。 FTAの実施例も、芝刈り機、パネルヒータ、石油ストーブなど、分かりやすいものが多く、やってみようという気になりました。

[6] もの・こと・ことば，廣松渉，筑摩書房, 2007
https://bookmeter.com/books/39185

説明歌　意味論と認識論と言語論　もの　と　こと　とを　言葉で綴る　参考文献一覧　https://researchmap.jp/blogs/blog_entries/view/78881/3a4315e2ec252336a03dbe219e6b0ce5?frame_id=412479&lang=en マイノングの本がamazonでみあたらなかった（図書館などにはあるらしい）資料整理中。https://researchmap.jp/read0065441/published_papers/10861608/attachment_file.pdf

[7] なぜなぜ分析徹底活用術,小倉仁志,JIPMソリューション, 1997
https://bookmeter.com/books/273183

SWESTという合宿形式の演習で、アイシン精機の方が講師でなぜなぜ分析をした際の参考文献になっていましたので購入しました。具体例もあがっており、とても参考になりました。

先に演習を経験したからかもしれません。

[8] MISRA-C解説書,SESSAME/MISRA-C研究会日本規格協会,2004/2006
[9] RTL設計スタイルガイド Verilog-HDL編，VHDL編, STARC, 2003/2006
[10] 組込みシステム開発事例集,産業技術連携推進会議情報電子部会組込み技術研究会 ,工業調査会, 2006
[11] プロセス改善ナビゲーションガイドベストプラクティス編,IPA/SEC, オーム社,2008
http://jasst.jp/symposium/jasst12tokyo/pdf/D2-1_paper.pdf
[12] デジタル設計工学の基礎の検討,小川清,第6回ディペンダブルシステムシンポジウム,産業技術総合研究所システム検証研究センター,2009
[13] 関連資料 http://i-chi.ne.jp/blog/?key=21516 hazopブログ
[14] ESC: http://www.esc-jpromo-activesafety.com/

6-1 Safeware,

Nancy,
https://bookmeter.com/books/592387

SAFewareという、Hardware, Softwareとは視点の違う論点を提言しているという点において、貴重な本である。項目としては、障害分析としてIECの国際規格にもなっている FTA(Fault tree analysis) FMEA(failure modes and efects analysis) なども紹介している。 HAZOP(hazard and operability study)も重要だと思われる。
日本は、過剰品質であるという話があった。それは、売り方の問題で、作り方の問題ではないかもしれない。過剰分析という現象を巻き起こすかもしれないが、その結果をうまく売るこめればよいのではないか。全体を見渡したRISK管理で対応するとよいかもしれない。翻訳が出るという話を小耳に挟んでいる。翻訳がでたとしても、原書で内容を再確認するとよい、基本的な教科書だと思います。

安全基本文献。ソフトが安全にどう貢献できるか。原著は前に出て改訂。過去の失敗を教訓として生かす。SafeWareという、Hardware, Softwareとは視点の違う論点を提言している貴重な本。項目としては、障害分析としてIECの国際規格にもなっているFTA(Fault tree analysis),FMEA(failure modes and efects analysis)なども紹介。HAZOP(hazard and operability study)も重要のはずだが著者の手法の紹介中心。

「人生で影響を受けた本100冊」の１冊。
https://qiita.com/kaizen_nagoya/items/16af53acbb147a94172e

Engineering a Safer World Systems Thinking Applied to Safety
By Nancy G. Leveson
http://sunnyday.mit.edu/safer-world.pdf

[1] Russell L. Ackoff. Towards a system of systems concepts. Management Science, 17(11):661-
671, July 1971.
[2] Aeronautica Civil of the Republic of Colombia. AA965 Cali Accident Report. September
1996.
[3] Air Force Space Division. System Safety Handbook for the Acquisition Manager. SDP 127-1,
January 12, 1987.
[4] Aircraft Accident Investigation Commission. Aircraft Accident Investigation Report 96-5.
Ministry of Transport, Japan, 1996
[5] James G. Andrus. Aircraft Accident Investigation Board Report: U.S. Army UH-60 Black
Hawk Helicopters 87-26000 and 88-26060. Department of Defense, July 13, 1994.
[6] Marcia Angell. The Truth about the Drug Companies: How They Deceive us and What to do
About it. Random House, 2005.
[7] Anonymous. American Airlines only 75% responsible for 1995 Cali crash. Airline Industry
Information, June 15, 2000.
[8] Anonymous. USS Scorpion (SSN-589). Wikipedia.
[9] Richard Arnold. A Qualitative Comparative Analysis of STAMP and SOAM in ATM Occur-
rence Investigation. Masters Thesis, Lund University, Sweden, June 1009.
[10] W.R. Ashby. An Introduction to Cybernetics. London: Chapman and Hall, 1956.
[11] W.R. Ashby. Principles of the self-organizing system. in H. Von Foerster and G.W. Zopf
(eds.) Principles of Self-Organization, Pergamon, 1962.
[12] Robert U. Ayres and Pradeep K. Rohatgi. Bhopal: Lessons for technological decision-makers.
Technology in Society, 9:19 45, 1987.
[13] Associated Press. Cali Crash Case Overturned. CBS news, June 16, 1999
(http://www.csbnews.com/stories/1999/06/16/world/main51166.shtml).
[14] Lisanne Bainbridge. Ironies of Automation. in Jens Rasmussen, Keith Duncan, and Jacques
Leplat (Eds.), New Technology and Human Error, pages 271-283, John Wiley & Sons, New York: 1987
[15] Edward Bachelder and Nancy Leveson. Describing and probing complex system behavior: A
graphical approach. Aviation Safety Conference, Society of Automotive Engineers, Seattle,
September 2001.
[16] Alina Baciu, Kathleen R. Stratton, and Sheila P. Burke. The Future of Drug Safety: Pro-
moting and Protecting the Health of the Public. Institute of Medicine, National Academies
Press, Washington, D.C., 2007.
[17] James A. Baker (Chair). The Report of the BP U.S. Refineries Independent Safety Review
Panel. January 2007
[18] David Barstow, Laura Dood, James Glanz, Stephanie Saul, and Ian Urbina. Regulators Failed
to Address Risk in Oil Rig Fail-Safe Device. New York Times, New York Edition, June 21,
2010, Page A1.
[19] D.A. Bernstein and P.W. Nash. Essentials of Psychology. Boston: Houghton Mifflin Company,
2005.
[20] Ludwig Bertalanffy. General Systems Theory: Foundations, Development, and Applications.
G. Braziller, New York, 1969.
(21) Charles Billings. Aviation Automation: The Search for a Human-Centered Approach. CRC
Press, 1996.
[22] William Bogard. The Bhopal Tragedy. Westview Press, Boulder, Colo., 1989.
[23] Richard C. Booten Jr. and Simon Ramo. The development of systems engineering. IEEE
Transactions on Aerospace and Electronic Systems, AES-20(4):306,309, July 1984.
[24] B. Brehmer. Dynamic Decision Making: Human Control of Complex Systems. Boston:
Houghton Mifflin Company, 2005. Acta Psychologica, Vol. 81, pp. 211-241, 1992.
[25] Malcolm J. Brookes. Human factors in the design and operation of reactor safety systems.
In David L. Sills, C.P. Wolf, and Vivien B. Shelanski, editors, Accident at Three Mile Island:
The Human Dimensions, pages 155-160, Westview Press, Boulder, Colo., 1982.
[26] Robbie Brown and Griffin Palmer. Workers on Doomed Rig Voiced Concern about Safety.
New York Times, Page A1, July 22, 2010.
[27] Bundesstelle fur Flugunfalluntersuchung. Investigation Report. German Federal Bureau of
Aircraft Accidents Investigation, May 2004.
[28] Cameron, R. and Millard, A.J. Technology Assessment: A Historial Approach. Dubuque,
Iowa: Kendall/Hunt Publishing Company, 1985.
[29] Rear Admiral Walt Cantrell (ret). Personal Communication.
[30] Geoff Carrigan, Dave Long, M.L. Cummings, and John Duffer. Human Factors Analysis of
Predator B Crash. Proceedings of AUVSI: Unmanned Systems North America, San Diego, CA 2008.

[6]-[14] 参考文献

カーネギーメロン大学・ソフトウェア工学研究所 : 開発のための C M M I ! 1 .2 版， 2 0 0 7 年
ISO/IEC 1504 Information technology-Process assessment プロセスアセスメントに関する国際規格群本書発行時点で以下の部が発行されている。対応する JIS 規格群(JIS X 0145)も順次発行予定。
‐Part1:Concept and vocabulary
‐Part2:Performing an assessment
‐Part3:Guidance on performing an assessment ‐Part4:Guidance on use for process improvement and process capability determination ‐Part5:An examplar Process Assessment Model
独立行政法人情報処理推進機構ソフトウェア・エンジニアリング・センター編:共通フレーム2007，オーム社，2007年
ISO/IEC 1504-5:206:Information technology - Process assessment - Part 5:An exem- plar Process Assessment Model
JIS X 0160:207:ソフトウェアライフサイクルプロセス注)対応国際規格:ISO/IEC 1207:195，Information　technology - Software life cycle processes, Amendment 1(202)及び Amendment 2(204)

7 参考文献「ソフトウェア要求仕様におけるHAZOPを応用したリスク項目設計法」

[1] Japan Software Testing Qualifications Board 技術委員会(訳) (2011):「テスト技術者資格制度 Advanced Level シラバス日本語版 Version 2007.J02」.
[2] 清水吉男 (2005):「要求を仕様化する技術・表現する技術~仕様が書けていますか?~」，技術評論社.
[3] 中井栄次他(2009):無知見プロジェクトに対する XDDP の適用- USDM，プロセス設計によるプロセス改善 -，第 28 回ソフトウェア品質シンポジウム 2009.
[4] 本多慶匡他(2010):XDDP と USDM でプロジェクトの課題解決，派生開発カンファレンス 2010.
[5] 久保明(2011):測色計の組込みソフトウェア開発における QCD 同時達成への挑戦 ~XDDP、USDM、 PFD の活用~，派生開発カンファレンス 2011.
[6] 藤倉俊幸(2011):ユースケースと USDM にセミフォーマル手法を適用した要求検証，派生開発カンファレンス 2011.
[7] 小野寺勝重 (2006):「グローバルスタンダード時代における実践 FMEA 手法」, 日科技連出版社.
[8] 金周慧他(2011):状態遷移図に着目した安全要求分析手法，第 8 回クリティカルソフトウェアワークショップ.
[9] Hansen K.M., Wells L., Maier T., (2004):HAZOP Analysis of UML-Based Software Architecture Descriptions of Safety-Critical Systems, Proceedings of Nordic Workshop on the Unified Modeling Language 2004.
https://www.researchgate.net/profile/Thomas-Maier-7/publication/249883238_HAZOP_Analysis_of_UML-Based_Software_Architecture_Descriptions_of_Safety-Critical_Systems/links/54b7961e0cf2bd04be33a874/HAZOP-Analysis-of-UML-Based-Software-Architecture-Descriptions-of-Safety-Critical-Systems.pdf

[10]山科隆伸他(2008):保守開発型ソフトウェアを対象としたソフトウェア FMEA の実証的評価，ソフトウェア品質シンポジウム 2008.
[11]夏目珠規子他(2011):ソフトウェア開発における FMEA の適用可能性検討，第 41 回信頼性・保全性シンポジウム.
[12]高山啓(2010):ソフトウェア製品開発における FTA による信頼性リスク分析，ソフトウェア品質シンポジウム 2010.
[13]中谷多哉子(2010):安全性向上への要求工学の貢献の可能性, 組込みソフトウェアによる信頼性及び安全性, SEC journal Vol.6, No.3.
[14]鈴木和幸他(2002):未然防止のための潜在的エラーモード抽出, 信頼性学会誌, Vol.24, No.7.

7-9

[1] L. Bass, P. Clements, and R. Kazman. Software Architecture in Practice.
Addison-Wesley, 2 edition, 2003.
[2] C++ in Safety Critical Systems,
http://hissa.ncsl.nist.gov/sw_develop/ir5769/ir5769.l.html.
[3] P. Clements, F. Bachmann, L. Bass, D. Garlan, J. Ivers, and R. Little. Documenting
Software Architectures: Views and Beyond. Addison-Wesley, 1st
edition, 2002.
[4] P. Clements, R. Kazman, and M. Klein, editors. Evaluating Software Architectures:
Methods and Case Studies. Addison-Wesley, 2002.
[5] A. Cockburn, editor. Writing Effective Use Cases. Addison-Wesley, 2001.
[6] G. Dahll. Safety evaluation of a train leader telephone system. In SAFECOMP’
99, volume 1698 of LNCS. Springer, 1999.
[7] A. Hussey. HAZOP analysis of formal models of safety-critical interactive
systems. In F. Koornneef and M. van der Meulen, editors, SAFECOMP
2000, volume 1943 of LNCS. Springer, 2000.
[8] International Electrotechnical Commission. Functional Safety of Electrical/
Electronic/ Programmable Electronic Safety-Related Systems, 1st edition,
1998-2000. International Standard IEC 61508, Parts 1-7.
[9] P. Johannessen, C. Grante, A. Alminger, U. Eklund, and J. Torin. Hazard
analysis in object oriented design of dependable systems. In Proceedings of
the International Conference on Dependable Systems and Networks. IEEE,
2001.
[10] J. Jürjens. Developing safety-critical systems with UML. In P. Stevens et al.,
editors, Proceedings of UML 2003, volume 2863 of LNCS. Springer Verlag,
2003.
5http://www.isis.alexandra.dk/software
22
[11] P. Kruchten. The 4+1 view model of architecture. IEEE Software, 12(6),
1995.
[12] K. Lano, D. Clark, and K. Androutsopoulos. Safety and security analysis
of object-oriented models. In S. Anderson et al., editors, Computer Safety,
Reliability and Security: SAFECOMP, volume 2434 of Lecture Notes in
Computer Science (LNCS). Springer-Verlag, 2002.
[13] N. Leveson. Safeware: System Safety and Computers. Addison-Wesley,
1995.
[14] N. G. Leveson, M. P. E. Heimdahl, and J. D. Reese. Designing specification
languages for process control systems: Lessons learned and steps to the
future. In ESEC / SIGSOFT FSE, 1999.
[15] Ministry of Defence. HAZOP studies on systems containing programmable
electronics. Defence Standard 00-58, Parts 1 and 2, Issue 2, May 2000.
[16] J. McDermid, M. Nicholson, D. Pumfrey, and P. Fenelon. Experience with
the application of HAZOP to computer-based systems. In Computer Assurance.
COMPASS ’95. IEEE, 1995.
[17] Object Oriented Technology in Aviation, http://shemesh.larc.nasa.gov/foot/.
[18] OMG. UnifiedModeling Language Diagram Interchange 2.0. Final Adopted
Specification. Technical Report ptc/03-09-01, Object Management Group,
2003.
[19] OMG. Unified Modeling Language specification 1.5. Technical Report
formal/2003-03-01, Object Management Group, 2003.
[20] D. Reifer. Software Failure Modes and Effects Analysis. IEEE Transactions
on Reliability, R-38(3), 1979.
[21] Software Engineering Standards Committee. IEEE recommended practice
for architectural description of software-intensive systems. Technical Report
IEEE Std 1471-2000, IEEE Computer Society, 2000.

8 参考文献　「金融情報システムへのHAZOP手法の適用」

FISC 編，SWIFT システムの利用状況，平成 19 年度版金融情報システム白書，p299，財経詳報社(2007) 2) 金融機関等コンピュータシステムの安全対策基準・解説
書(第 7 版)，財団法人金融情報システムセンター (FISC:The Center for Financial Industry Information
Systems)，2006 3) 飯沼聡・圷雅博・河内善弘，金融機関向けリスク評価
ツールの構築，三菱総合研究所所報，No.49，pp78- 99 (2008)
日立ソフト iFIS- Navi(FISC 安全基準に基づく自己評価システム)，http://hitachisoft.jp/products/fisc/index.html
ユニシス技報，オープン勘定系システム稼動までの軌跡，第 96 号，pp3- 12(2008)
稲垣直樹，システム障害対策の理想と現実「08 年の金融機関等のシステム障害」，金融財政事情，pp35-37
(2008.11.17) 7) 日本銀行金融機構局金融高度化センター，金融高度化セ
ミナー「システムリスク管理の現状と課題」，http://
www.boj.or.jp/type/release/zuiji07/fsc0703d.htm 8) 米国国立標準技術研究所(IPA および NRI セキュアテクノロジーズ株式会社により翻訳監修 )， S p e c i a l Publication 800- 30「IT システムのためのリスクマネジメントガイド」(2002)http://www.ipa.go.jp/security/
publications/nist/documents/SP800- 30- J.pdf 9) 高木伸夫，プロセス安全性評価における HAZOP の効率
的運用，安全工学，Vol.44，No.1，pp31- 36(2005) 10) 山科隆伸・森崎修司・飯田元・松本健一，保守開発型ソフトウェアを対象としたソフトウェア FMEA の実証的
評価，ソフトウェア品質シンポジウム 2008 発表報文集， pp157- 164(2008

9 参考文献　「逸脱分析を用いた要求仕様書からのテスト項目抽出手法」

[1] 秋山浩一:HAYST 法によるテスト分析テスト設計,
ASTER 智关華配布資料 (20121-
2] ASTER:テスト設計コンテスト'13 本選決勝大会レポー
(2013), 1# (http://aster.or.jp/business/contest/
contest2013.html).
3 Cohen, M.B.: Constructing strength three covering ar-
rays with auginented annealing, Discrete Mathematics,
Vol.308, Issue 13, pp.2709-2722 (2008).
[4] David, J.P.: The Principled Design of Computer System
Safety Analyses, Ph.D. Thesis, The University of York
(1999).
15) Glenford, J.M.: The Art of Software Testing 3rd Eds-
tion, Wiley (2011).
[6Habli, I.M.: Model-based assurance of safety-critical
product lines, Ph.D. Dissertation, Department of Com-
puter Science, University of York (2009).
17 HITACHI: * (GOMA-1015 ix**
St #1 (2012), 17(http://www.hitachi.co.jp/
Prod/comp/soft1/topics/jasst/02.pdf).
8 International Software Testing Qualifications Board:
Standard Glossary of Terms used in Software Testing
Version 2.4, p.29 (2014).
9 International Software Testing Qualifications Board: Ad-
vanced Level Syllabus Test Analyst Version 2019.JO1
(2012).
[10] Jacek, C.: Pairwise Testing in the Real World: Practi-
cal Extensions to Test-Case Scenarios, Proc. 94th An-
nual Pacific Northwest Software Quality Conference,
pp.419 430 (2006).
[11] 河野哲也:ソフトウェア要求仕様における HAZOP を応
用したリスク項目設計ソフトウェアシンポジウム 2012
(2012)
[12] Leveson, N.G.: Fault Tree Analysis, Safeware: System
Safety and Computers, pp.317-326, Addison-Wesley
(1995).
[13] Leveson, N.G.: Failure Mode and Effects Analysis,
Safeware: System Safety and Computers, pp.341-344,
Addison-Wesley (1995).
[14] Leveson, N.C.: Hazards and Operability Analysis,
Safeware: System Safety and Computers, pp.335-341,
Addison-Wesley (1995).
[15] McDermid, J: Issues in developing software for safety
critical systems, Reliability Engineering and System
Safety, Vol.32, No.1-2, pp.1-24 (1991).
[16] Reifer, D.J.: Software Failure Modes and Effects Analy-
sis, IEEE Trans. Reliability, Vol.R-28, No.3, pp.247 249
(1979).
[17] Reza, H., Ogaard, K. and Malge, K.: A model based
testing technique to test web applications using state-
charts, Proc. 5th International Conference on Informa-
ton Technology: New Generations, pp.183-188 (2008).
[18] Robert, M.: Orthogonal Latin Squares: An DA applica-
tion of Experiment Design to Compiler Testing, Comm.
ACM, Vol.28, No.10, pp.1054-1058 (1985).
[19] Sarra, M. and Mall, R.: Automatic Test Case Genera-
tion from UML Models, Proc. 10th International Con-
ference on Information Technology, pp.196-201 (2007).
[20] SESSAME:話題沸騰ボット(COMA-1015型) 要求仕様書第7版 (2005),
[21] SESSAME:話題沸騰ボット(COMA-1015型) テストアーキテクチャ設計書第一版 (2012), 入手先 (http://www.hitachi.co.jp/Prod/comp/soft1/topics/jasst/03.pdf),
[22] 清水吉男:要求を仕様化する技術・表現する技術仕様が
書けていますか?, 技術評論社 (2005).
[23] Systems and software engineering - Life cycle pro-
cesses Requirements engineering, ISO/IEC/IEEE
29148-2011(E), pp.1-94 (2011)-
[24] 山本修一郎:保証ケースに基づくテスト十分性に関する
合意形成手法の提案、人工知能学会第 13 回知識流通ネッ
トワーク研究会 (2013)-

10 参考文献　「ソフトウェアFMEAの一手法とプロダクトライン開発におけるその利用」

CRISTIAN, F. Exception Handling and Tolerance of Software Faults. Software Fault Tolerance. 1995, Chapter 4
BOWLES, J. B. The New SAE FMECA Standard. Proc. Annual Reliability and Maintainability Symp. (RAMS) 1998, Jan. 1998, 48-53
LUTZ, R. R. Experience Report : Contributions of SFMEA to Requirements Analysis. Proc. 2nd Int. Conf. on Requirements Engineering (ICRE '96), Apr. 1996, 44-51
GODDARD, P. L. Software FMEA Techniques. Proc. Annual Reliability and Maintainability Symp. (RAMS) 2000, Jan. 2000, 118-123
BOWLES, J. B. Software Failure Modes and Effects Analysis for a Small Embedded Control System. Proc. Annual Reliability and Maintainability Symp. (RAMS) 2001, Jan. 2001, 1-6
OZARIN, N. Failure Modes and Effects Analysis during Design of Computer Software. Proc. Annual Reliability and Maintainability Symp. (RAMS) 2004. 2004, 201-206
HANSEN, K. M. HAZOP Analysis of UML-Based Software Architecture Descriptions of Safety-Critical Systems. Proc. 2nd Nordic Workshop on the Unified Modeling Language (NWUML) 2004, Aug. 2004, 59-78
山科隆伸. 保守開発型ソフトウェアを対象としたソフトウェアFMEAの実証的評価. ソフトウェア品質シンポジウム2008発表報文集, 9月. 2008, 157-164
SHENVI, A. A. Software FMEA : A Learning Experience. Proc. India Software Engineering Conf. (ISEC) 2011, Feb. 2011, 111-114
夏目珠規子. ソフトウェア開発におけるFMEAの適用可能性検討. 第41回信頼性・保全性シンポジウム予稿集, 2011年7月. 2011, 359-364
河野哲也. ソフトウェア要求仕様におけるHAZOPを応用したリスク項目設計法. ソフトウェアテストシンポジウム2012 (JaSST'12 Tokyo) 予稿集, 1月. 2012, 37-42
金周慧. 状態遷移図に着目した安全分析手法. 信学論, A. 2012, J95, 2, 198-209
CLEMENTS, P. Software Product Lines : Practice and Patterns. 2001
SPANGLER, C. S. Equivalence Relations within the Failure Mode and Effect Analysis. Proc. Annual Reliability and Maintainability Symp. (RAMS) 1999, Jan. 1999, 352-357
NIDA, E. A. The Theory and Practice of Translation. 1969
GOMAA, H. Designing Software Product Lines with UML : From Use Cases to Pattern-Based Software Architecture. 2004
HOLLNAGEL, E. Accidents and Barriers. Proc. Lez Valenciennes. 1999, 20, 175-182
MAXION, R. A. Eliminating Exception Handling Errors with Dependability Cases : A Comparative, Empirical Study. IEEE Trans. on Software Engineering. 2000, 26, 9

11 参考文献　「FMEA を援用した例外処理の仕様定義と設計の方法論」

F. Cristian, Exception Handling and Tolerance of Software Faults," Software Fault Tolerance, M.R. Lyu, ed., Chapter 4, John Wiley & Suns, 1995
J.B. Bowles, “The New SAE FMECA Standard,” Proc. Annual Reliability and
Maintainability Symp. (RAMS) 1998, pp.48–53, Jan. 1998.
C.S. Spangler, “Equivalence Relations within the Failure Mode and Effect Anal-
ysis,” Proc. Annual Reliability and Maintainability Symp. (RAMS) 1999, pp.352
357, Jan. 1999.
中西恒夫, 久住憲嗣, 福田晃, 「ソフトウェア FMEA の一手法とプロダクトライン
開発におけるその利用」, 信学技報, 2012年3月(発表予定).
K.C. Kang, J. Lee, and P. Donohoe, “Feature-Oriented Product Line Engineering,"
IEEE Software, Vol.9, No.4, pp.58-65, July/August 2002.
P. Clements and L. Northrop, Software Product Lines: Practice and Patterns,
Addison-Wesley, 2001.
R.R. Lutz and R.M. Woodhouse, “Experience Report: Contributions of SFMEA to
Requirements Analysis,” Proc. 2nd Int. Conf. on Requirements Engineering (ICRE
'96), pp.44-51, Apr. 1996.
P.L. Goddard, “Software FMEA Techniques,” Proc. Annual Reliability and Main-
tainability Symp. (RAMS) 2000, pp.118-123, Jan. 2000.
J.B. Bowles and C. Wan, "Software Failure Modes and Effects Analysis for a Small
Embedded Control System,” Proc. Annual Reliability and Maintainability Symp.
(RAMS) 2001, pp.1-6, Jan. 2001.
D. Nguyen, “Failure Modes and Effects Analysis for Software Reliability,” Proc.
Annual Reliability and Maintainability Symp. (RAMS) 2001, pp.219–222, Jan.

N. Ozarin, “Failure Modes and Effects Analysis during Design of Computer Soft-
ware,” Proc. Annual Reliability and Maintainability Symp. (RAMS) 2004, pp.201–
206, Jan. 2004.
K.M. Hansen, L. Wells, and T. Maier, “HAZOP Analysis of UML-Based Software
Architecture Descriptions of Safety-Critical Systems,” Proc. 2nd Nordic Workshop
on the Unified Modeling Language (NWUML) 2004, pp.59–78, Aug. 2004.
山科隆伸, 森崎修司, 飯田元, 松本健一,「保守開発型ソフトウェアを対象としたソ
フトウェア FMEA の実証的評価」, ソフトウェア品質シンポジウム 2008 発表報文集,
pp. 157-164, 2008 9.
A. A. Shenvi, “Software FMEA: A Learning Experience," Proc. India Software
Engineering Conf. (ISEC) 2011, pp.111-114, Feb. 2011.
夏目珠規子, 村山知寛, 小島昌一,「ソフトウェア開発における FMEA の適用可能
性検討」, 第 41 回信頼性・保全性シンポジウム予稿集, pp.359-364, 2011年7月.
河野哲也, 「ソフトウェア要求仕様における HAZOP を応用したリスク項目設計法」,

12 参考文献　「GSN及びESDモデルを用いたソフトウェアFMEAの提案」

[1] 新 FMEA 技法, 益田昭彦, 河北印刷株式会社 [2] JIS Z 8115:2000
[3] IEC 61882: Hazard and operability studies (HAZOP studies)
[4] Hisashi Yomiya, 不具合リスク発想のための観点の抽出方方とその効果, SQiP2016
[5] GSN COMMUNITY STANDARD VERSION 1(http://www.goalstructuringnotation.info/)
[6] Matsuno Yutaka, Takai Toshinori, Yamamoto Shuichiro, D-Case 入門
[7] Mori Motoko D-Case 導入によるシミュレーションS/Wの期待結果明確化と合意形成,
Software Quality Symposium 2014 年
[8] Kobayashi,IoT 時代に求められるセーフティ設計の見える化とは~ GSN 入門~ (http://sec.ipa.go.jp/seminar/20150730.html)2015 年
[9] JAXA, IV&V ガイドブック~導入編~、~実践偏~ ver1.2 2017 年
[10] ロケットエンジンにおけるモデルベース信頼性評価技術の構築と試行, 先進的な設計・検証技術
の適用事例報告書 2015 年度版事例 15-A-18
[11] Probabilistic Risk Assessment Procedures Guide for NASA Managers and Practitioners,
NASA/SP-2011-3421,p53

13 参考文献　「HAZOP 3.0 (Safety & Security)」

1.IEC 61882:2001 Hazard and operability studies (HAZOP studies) -
Application guide.
2.IEC 61882:2016 Hazard and operability studies (HAZOP studies) -
Application guide.
3.ちょけねこたんじょうびのおくりもの,ちょけむさ,􃻬kaizen_nagoya, 2015
4.「想定外を減らす」11個の「魔法の言葉」,小川清, 月間技術士, 2017年2月号
• 参考文献の参考文献
5 https://www.slideshare.net/kaizenjapan/hazopogawa2015
6 https://www.slideshare.net/kaizenjapan/12-76145295
7 https://www.slideshare.net/kaizenjapan/road-traffic-safety-analysis-withhazop-and-triz

13-7

[1] 始める前に、小川清,岐阜大学 2016, https://www.slideshare.net/
kaizenjapan/before-study-gifu-university-2016
[2] HAZOP, FTA and FMEA for risk assessment, $$184,
JVIBA,VID, 2015, https://www.slideshare.net/kaizenjapan/hazopogawa2015
[3] An application on Hazard and operability Study for digital system,
Ogawa Kiyoshi, 5th World Congress for Software Quality, E., 2011
[4] 自動車制御用プラットフォームの機能安全対応, 竹内舞, 水野智仁,
森川聡久, 小川清,斉藤直希, 渡部謹二, 安全工学シンポジウム, 2010
[5] 595, https://researchmap.jp/jorwtr60m-51292/#_51292
[6] 安全に貢献するソフトウェア関連国際規格,水野智仁, 森川聡久, 小
川清, 斉藤直希, 渡部謹二, 堀武司, 安全工学シンポジウム, 2009goya
[7] ISO/IEC Guide 50:2014 Safety aspects - Guidelines for child safety in
standards and other specifications子供むけ安全ガイド(JIS未発行)
[8]ISO/IEC Guide 51:2014 Safety aspects - Guidelines for their inclusion
in standardsti TF(JIS Z 8051:2015)
安全分析におけるHALOP-TRIZ連携の試み
[9] IEC 61160:2005 Design review, 設計審査, IEC 2005
[10] IEC61025 FTA: Fault tree analysis 故障木解析 IEC, 2006
[11] IEC60812 FMEA: failure mode and effectiveness analysis: システム信頼性の分析技法失敗状態と効果解析 (FMEA), IEC, 2006
[12] IEC 61882 Hazop: hazard analysis and operability study, IEC, 2016
[13] 機械安全 ISO 12100:2010 Safety of machinery General principles
for design - Risk assessment and risk reduction (JIS B 9700:2013)
[14] 電気安全 IEC 60065:2014 Audio, video and similar electronic
apparatus - Safety requirements (JIS C 6065:2016)
[15] 機能安全 IEC 61508-1:2010 Functional safety of electrical/
electronic/programmable electronic safety-related systems - Part 1:
General requirements (JIS C 0508:2012)
[16] JIS Q 31010:2012 (IEC/ISO 31010:2009)"2527-29
アセスメント技法
[17] HAZOP手法の応用と展開, 小川清, 渡部謹二,斉藤直希, 電気関係学会東海支部連合大会,2010

13-6

[1] 始める前に, 小川清,岐阜大学, 2016, https://www.slideshare.net/ kaizenjapan/before-study-gifu-university-2016
[2] HAZOP, FTA and FMEA for risk assessment, 安全工学シンポジウム, 小川明秀, 小川清, 2015, https://www.slideshare.net/kaizenjapan/hazopogawa2015
[3] An application on Hazard and operability Study for digital system, Ogawa Kiyoshi, 5th World Congress for Software Quality, 上海, 2011
[4] 自動車制御用プラットフォームの機能安全対応,竹内舞, 水野智仁, 森川聡久, 小川清, 斉藤直希, 渡部謹二, 安全工学シンポジウム, 2010
[5] 自動車安全, https://researchmap.jp/jorwtr60m-51292/#_51292
[6] 安全に貢献するソフトウェア関連国際規格,水野智仁, 森川聡久, 小川清, 斉藤直希, 渡部謹二, 堀武司, 安全工学シンポジウム, 2009
[7] ISO/IEC Guide 50:2014 Safety aspects - Guidelines for child safety in standards and other specifications子供むけ安全ガイド(JIS未発行)
[8]ISO/IEC Guide 51:2014 Safety aspects - Guidelines for their inclusion in standards安全ガイド(JIS Z 8051：2015)
[9] IEC 61160:2005 Design review, 設計審査, IEC 2005
[10] IEC61025 FTA: Fault tree analysis 故障木解析, IEC, 2006
[11] IEC60812 FMEA: failure mode and effectiveness analysis システム信頼性の分析技法失敗状態と効果解析 (FMEA), IEC, 2006
[12] IEC 61882 Hazop: hazard analysis and operability study, IEC , 2016
[13] 機械安全　ISO 12100:2010 Safety of machinery General principles for design - Risk assessment and risk reduction (JIS B 9700：2013)等　
[14] 電気安全　EC 60065:2014 Audio, video and similar electronic apparatus - Safety requirements (JIS C 6065:2016)等
[15] 機能安全　EC 61508-1:2010 Functional safety of electrical/electronic/programmable electronic safety-related systems - Part 1: General requirements (JIS C 0508:2012)等
[16] JIS Q 31010：2012 (IEC/ISO 31010：2009)リスクマネジメント−リスクアセスメント技法
[17] プロセス改善ナビゲーションガイド〜ベストプラクティス編, １０事例のうちの一つがJAXAのIV&V(独立検証)IPA, http://www.ipa. go.jpからダウンロード可。
18] HAZOP手法の応用と展開, 小川清, 渡部謹二, 斉藤直希, 電気関係学会東海支部連合大会,2010
[19] HAZOP手法の展開, 小川清, 斉藤直希, 渡部謹二, 安全工学シンポジウム, 2010
[20]実践HAZOP演習,小川清, SWEST2010(組込みシステム技術に関するサマーワークショップ, 2010
[21] 安全関連系の設計のためのHAZOPの展開,小川清, 斉藤直希, 渡部謹二, 安全工学シンポジウム, 2011
[22] 科学分類, 小川清,SWEST, 2016, https://www.slideshare.net/ kaizenjapan/ss-65852140
[23]実践HAZOP演習(2),小川清, SWEST2011(組込みシステム技術に関するサマーワークショップ, 2011
[24] HAZOPの誘導語の体系化と実習,小川清, 斉藤直希, 渡部謹二, 電気関係学会東海支部連合大会, 2011年
[25] HAZOPによるTOPPERS/sspの分析,小川清,クリティカルソフトウェアワークショップ, 2011
[26] 1人HAZOPを組み合わせた効率的な分析作業, 小川清, クリティカルソフトウェアワークショップ, 2011
[27] 状態遷移図に着目した安全要求分析手法, 金周慧, 第8回WOCS, JAXA/IPA, 2011
[28] 安全分析,状態記述と形式手法に着目した安全教育とスキル,堀武司, 小川清, 斉藤直希, 渡部謹二, 森川聡久, 服部博行,安全工学シンポジウム, 2009
[29] HAZOPと関連手法の展開,小川清, 名古屋市工業研究所,安全工学シンポジウム, 2013
[30] ISO 26262におけるソフトウェア安全解析の検討, 山本輝俊, WOCS 2012, 2012
[31] TOPPERS第三世代カーネル統合仕様書, http://
www.toppers.jp/docs/tech/tgki_spec-300.pdf,.2016
[32] 端末間経路選択のための片方向遅延測定方,小川清, 静岡大学博士論文, 2005
[33] UML tools, Model Checkingを適用した実践的非同期制御検証, Go with the Early Bird,富士ゼロックス株式会社オフィスプロダクト事業本部コントローラソフトウェア開発部,村石理恵/服部彰宏/野村秀樹/山本訓稔,2007, http://jasst.jp/archives/jasst07e/pdf/D2-3.pdf
[34] spin, ModelChecking技術の専門性の排除とその効用,富士ゼロックス株式会社オフィスプロダクト事業本部コントローラソフトウェア開発部,野村秀樹/服部彰宏/村石理恵/山本訓稔, 2008, http://www.jasst.jp/archives/jasst08e/pdf/B4-2.pdf
[35] 名古屋新設ガスホルダーの運転開始について, 新日鉄,2004
[36]システムが安全とは何か考える, トヨタ急加速問題のNASA分析を題材にして,間瀬順一, SWEST13, http://swest.toppers.jp/SWEST13/slide/swest13-S3-b.pdf, 2011
[37] 福島原子力発電所事故調査報告書一覧, https://researchmap.jp/johyczndy-48418/ ,2015
[38] X線天文衛星ASTRO-H「ひとみ」異常事象調査報告書一覧, http://researchmap.jp/jocqvl9km-50024/, 2016
[39] ENGINEERING A SAFER WORLD Systems, Thinking Applied to Safety, Nancy G. Leveson, 2012
https://mitpress.mit.edu/books/engineering-safer-world
[40] 金融情報システムへのHAZOP手法の適用, 益田美貴, 高野研一, 安全工学/安全工学会,49(2) (通号 275) 2010,ページ104～114, ISSN 0570-4480
[41] 術合併症に対する危険源分析 Hazard and Operability Study (HAZOP Study)の経験:人工股関節置換術における神経合併症を対象として, 大川淳, 野村徹, 高橋誠,医療の質・安全学会誌,医療の質・安全学会, 7(3):2012, 235-238, ISSN 1881-3658
[42]万能設計, 機能安全とHCD(human centered design) , http:// www.slideshare.net/kaizenjapan/hcdhuman-centered-design, 2013
[43]高齢者・障害者設計指針, https://researchmap.jp/jorv9lpca-2024324/, 2015
[44] かたちの設計指針,機能安全とHCD(human centered design) , 小川清, 2013
[45] 国際単位系, ISO 80000-1:2009 Quantities and units Part1: General
[46]トリーズ(TRIZ)の発明原理40 あらゆる問題解決に使える[科学的]思考支援ツール,高木芳徳,ディスカヴァー・トゥエンティワン, 2014
[47] ISO/IEC Guide 71, Guide for addressing accessibility in standards, 2014
[48] JISX8341-1　高齢者・障害者等配慮設計指針―情報通信における機器，ソフトウェア及びサービス―第１部：共通指針
[49] JISX8341-2　高齢者・障害者等配慮設計指針－情報通信における機器，ソフトウェア及びサービス－第２部：パーソナルコンピュータ
[50] JISX8341-3　高齢者・障害者等配慮設計指針－情報通信における機器，ソフトウェア及びサービス－第３部：ウェブコンテンツ
[51] JISX8341-4　高齢者・障害者等配慮設計指針－情報通信における機器，ソフトウェア及びサービス－第４部：電気通信機器
[52] JISX8341-5　高齢者・障害者等配慮設計指針－情報通信における機器，ソフトウェア及びサービス－第５部：事務機器
[53] JISX8341-6　高齢者・障害者等配慮設計指針－情報通信における機器，ソフトウェア及びサービス－第６部：対話ソフトウェア
[54] JISX8341-7　高齢者・障害者等配慮設計指針－情報通信における機器，ソフトウェア及びサービス－第７部：アクセシビリティ設定
[55] World report on child injury prevention, UNICEF,2008 ISBN 978 92 4 156357 4
[56] 中小企業大学校デザイナ指導者養成講座, 1995
[57] 応用昆虫学の基礎,中筋房夫,朝倉書店, 2000
[58] STARC RTL設計スタイルガイドを「こう使おう」 Verilog-HDL版 VER4.0 2011年版改定に対応, 小川清, http://www.slideshare.net/kaizenjapan/how-to-use-starc-rtl-design-style-guide-veriloghdl-2011-version, 2015
[59] System C 動作合成スタイルガイド, エッチ・ディー・ラボ, 2007
[60] ISO/IEC TS 17961, Information technology -- Programming languages, their environments and system software interfaces -- C secure coding rules, 2013
[61] ]ソフトウェアFMEA を体系的に実施する出発点としてのMISRA-C, 森川聡久, 小川清,WOCS 2014, 2014
[62] CERT C bibliography, Ogawa kiyoshi, https://www.securecoding.cert.org/ confluence/display/c/AA.+Bibliography, 2017
[63] より効率的なHAZOP TRIZ を利用した設計変更への対応, 小川清, 安全工学シンポ, 2012
[64] TRIZ ホームページ,中川徹, http://www.osaka-gu.ac.jp/php/nakagawa/TRIZ/
[65] USIT,連載: USIT入門: 創造的な問題解決のやさしい方法,中川徹,2007
[66] ちょけねこたんじょうびのおくりもの,ちょけむさ,pritemps, 2015
[67] 大切におもうこと,日本サッカー協会Respectプロジェクト教材
http://www.jfa.or.jp/respect/, 2015
[68] 秘密保持契約書サンプル版の紹介, 大島厚,不正競争防止法委員会副委員長, p.53, Vol.59 No.3パテント, 2006, http://www.jpaa.or.jp/activity/publication/patent/patent-library/patent-lib/200603/jpaapatent200603_053-056.pdf
[69] 安全なシステム構築のためのソフトウェア技術者に必要なスキル,小川清,技術融合化シンポジウム技術講演会,2007
[70] ETSSを利用した機能安全対応スキル判定と教育訓練,小川清, 渡部謹二, 斉藤直希, 堀武司, 奥田篤, 水口大知, 吉岡律夫, 渡辺登,安全工学シンポジウム,2008
[71] パネルディスカッション：安全なソフトウェアをつくるためにやるべきこと, Nancy Leveson,小川清,白坂成功,西康晴,片平真史,第6回クリティカルソフトウェアワークショップ,2006
[72] 製品設計におけるFTAとその支援システムの開発 Fault Tree Analysis支援システムの実用性評価及び今後の発展性, 平岡洋二, WOCS 2012
[73] CARDION: 概念段階におけるハザード・脅威の抽出手法, (株)ニルソフトウェア, 伊藤昌夫, JAXA/IPA 12th WOCS, 2014
[74] システムアプローチによる機能安全への対応,dSPACE Japan(株),藤倉俊幸,自動車機能安全カンファレンス,JARI, 2015
[75] 安全関連システムのためのOSの検討,斉藤直希, 堀武司, 小川清,安全工学シンポジウム,2009
[76] ISO/IEC Directives part1, Procedures for the technical work, 2016
[77] ISO/IEC directives part2, Rules for the structure and drafting of International. Standards, 2016
[78] WTO/TBT協定,1995, https://www.jisc.go.jp/cooperation/wto-tbt-guide.html
[79] 参考文献一覧
[80] Space Wire, https://galaxy.astro.isas.jaxa.jp/SpaceWire/open-products
[81] TOPPERS ダウンロードTOPPERS/HRP2/ATK2/SSPカーネル, https://www.toppers.jp/download.html
[82] GCC: Gnu Compiler Collection, https://gcc.gnu.org/
[83] LLVM, The LLVM Compiler Infrastructure, http://llvm.org/
[84] Linux, ISO/IEC 23360-1:2006 Linux Standard Base (LSB) core specification 3.1 -- Part 1: Generic specification
85] Android, https://source.android.com/
[86] MISRA-C++とCERT C++ による安全・安心システムへの貢献 STARC RTL設計スタイルガイドとHAZOPを使って, 小川清, 安全工学シンポジウム, 日本学術会議, http://www.slideshare.net/kaizenjapan/misra-cpp-cert-cpp-2016-with-rtl-design-style-guide,2016
[87] 組み込み中核人材エレベータ分析
[88]　津波を含んだプレゼン
[89]　故意を含むプレゼン
[90] JIS 部門記号, http://www.jisc.go.jp/jis-act/index.html
[91] GxP, http://www.fxis.co.jp/lifesciencesquare/law/
[92] 英語複文の構文解析と編集，その論理と方法,加藤輝政，小川清, 佐良木昌, 電子情報通信学会・言語理解とコミュニケーション研究会, 1997
[93] サーチャー試験傾向と対策―データベース検索技術者認定試験1級・2級,小川清,安藤彰敏,日外アソシエーツ・紀伊国屋書店,1993
[94] うずく，まる (新鋭短歌シリーズ)中家菜津子,書肆侃侃, 2015
[95] HAZOPによる　歌集「うずく，まる」中家菜津子の鑑賞・分析 http://researchmap.jp/joxuvn2vg-2033461/#_2033461, 2015
[96]歌集「うずく，まる」中家菜津子手帖7弾, TRIZによる短歌鑑賞,　http://researchmap.jp/joquzbdx5-2033461/#_2033461, 2015
[97] 歌集計画者の一日　言譜篇・算譜篇, @kaizen_nagoya, pritemps, 2015
[98] MISRA C 2012解説書、MISRA C研究会, 2017
[99] 歌集　味噌が好き・題詠百, @kaizen,nagoya, pritemps, 2016
[100] ふれふれぼうず<降誕祭版>, ©小川萌, 2009

14 参考文献　「安全分析におけるHAZOPによる想定外の洗い出し」

(1)JIS C 5750-4-4:2011 ディペンダビリティマネジメント
第4-4 部：システム信頼性のための解析技法―故障の木解析
（ＦＴＡ）, 東京, 日本規格協会, 2011.
(2) JIS C 5750-4-3:2011 ディペンダビリティマネジメント
第4-3 部：システム信頼性のための解析技法―故障モード・
影響解析（FMEA）の手順, 東京, 日本規格協会, 2011.
(3) IEC 61882:2016 Hazard and operability studies
(4) 小川清:遠隔HAZOP 演習,日本技術士会情報工学部会,
2012
(5)小川清:HAZOP による安全分析について, 日本技術士会中
部航空部会, 2016
(6)小川清:安全・安心シリーズ想定外を減らす11 個の「魔
法の言葉」,東京,日本技術士会,技術士(602), 2017 p.16-19
(7)小川清:HAZOP演習,SWEST, https://bit.ly/2UAqXMZ, 2010
(8)小川清:想定外をなくす実践安全分析(HAZOP) 2.0, SWEST,
https://bit.ly/3bsksCG, 2011
(9)小川清:HAZOP演習,SWEST, https://bit.ly/2QK2N1F, 2013
(10)小川清:HAZOP3.0,SWEST, https://bit.ly/2wCeZKT, 2017
(11)小川清:図を使って分析すればこんなに簡単,SWEST,
https://bit.ly/3dsd3Fj, 2019
(12) 柏原一雄:ソフトウェア開発におけるHAZOP 入門,
JaSST2018 Tokai, https://bit.ly/2UFXwJq, 2018
(13) 柏原一雄ほか:ソフトウェア開発におけるHAZOP 入門,
JaSST2019 Tokai, https://bit.ly/3dsbibb,2019
(14) 柏原一雄ほか:ソフトウェア開発におけるHAZOP 入門,
JaSST2019 Shikoku, https://bit.ly/3dp8X0R,2019
(15)小川清:分析手法組み合わせのヒント, NCPICE.net, 2017
(16) Kiyoshi Ogawa: An application on Hazard and
operability Study for digital system, 5th World Congress
for Software Quality, 2011, Shanhai China
(17)小川清:形式手法教育の課題 HAZOP UML モデル検証, 先
端ソフトウェア工学に関するGrace 国際シンポ形式手法の
産業応用ワークショッフ, https://bit.ly/39VduG1, 2010
(18) 小川清:効率的HAZOP, https://bit.ly/33eT7B7, 2019
(19) プロセス改善ナビゲーションガイドベストプラクティ
ス編, https://www.ipa.go.jp/files/000005129.pdf, 2008
(20) Nancy G.Leveson, Safeware, Addison-Wesley, 1995,700p
(21) 鯛渕健ほか:交通事故死傷者ゼロに向けた最新の先進安
全・自動運転技術とその展望, 東京, 自動車技術会,自動車技
術Vol.74, No.3(2020)p.10-16
(22) 国土交通省 ASV 推進検討会, クルマの高度化による更
なる交通事故の削減を目指してhttp://www.mlit.go.jp/
jidosha/anzen/01asv/resourse/data/asv6pamphlet.pdf
(23) 塩見幸弘: ADASに対応する法制化の動きと課題, 将来動
向, 東京, 自動車技術会, 自動車技術Vol.74,
No.3(2020)p.85-90
(24) 小川清: 安全分析においてHAZOPで想定外を洗い出すた
めに, https://bit.ly/38XN5WW, 2020
(25) 緒方隆司: 効率的な製品開発を支援する機能ベースの
課題分析法, 日刊工業新聞社,機械設計 2017年12月号, p.50
(26) 小川清:科学四分類, https://bit.ly/2U2UkXY, 2016
(27) 消費者庁: 子どもを事故から守る!!事故防止ハンドブ
ック, https://bit.ly/2IU44ik, 2019
(28) 小川清: プログラマが知っているとよい設計指針（２）
形の設計指針, https://bit.ly/38SBNmF, 2019
(29)ユニバーサルデザイン, https://bit.ly/3d4UVBk
(30) JIS S 8341-1：2010高齢者・障害者配慮設計指針ソフト
ウェア及びサービス—第１部：共通指針,東京,日本規格協会
(31) 小川清：４M５E, https://bit.ly/3bslSNO, 2020
(32) 高木芳徳: トリーズの発明原理４０, 東京, ディスカ
ヴァー・トゥエンティワン, 2014, 187p
(33) 国際単位系（SI）日本語版第8 版,(独)産業技術総合研
究所計量標準総合センター, https://bit.ly/2UbKS5X, 2006
(34) 小川清: 用語の衝突, https://bit.ly/2TCokLv, 2019
(35) 小川清: 確率・統計, https://bit.ly/39jk7ku,2020
(36) The Angiosperm Phylogeny Group: An update of the
Angiosperm Phylogeny Group classification for the orders
and families of flowering plants: APG IV, 2016
(37)ANGIOSPERM PHYLOGENY WEBSITE, version 14.,
http://www.mobot.org/MOBOT/Research/APweb/, 2017
(38) 伏見譲: DNAと遺伝情報の物理, 岩波講座物理の世界物
理と情報, 東京, 岩波書店, 2005, 97p
(39) 曹纓ほか: 分子系統樹推定におけるモデルのミスス
ペシフィケーション脊椎動物の系統進化を例として, 東京,
統計数理研究所,統計数理第 50 巻第 1 号(2002) p.69–85
(40) ワークショップ「ソフトウェア開発におけるHAZOP入門」
の勧め or 進め方, 小川清, https://bit.ly/2vd1lx2, 2020
(41) AUTOSAR(AUTomotive Open System Architecture):
https://www.autosar.org
(42) docker: https://hub.docker.com/
(43) ISO 17356-3:2005, Open interface for embedded
automotive applications Part 3: OSEK/VDX Operating System
(OS)
(44) ISO/IEC/IEEE 9945:2009, Portable Operating System
Interface (POSIX®) Base Specifications, Issue 7
(45) ISO 11898-1:2015 Controller Area Network(CAN),
(46) TCP/IP, TCP(Transmission Control Protocol),
RFC793:1981,IP(Internet Protocol), RFC791:1981
(47) ISO/IEC 23360:2006 Linux Standard Base (LSB) core
specification 3.1
(48) ISO/IEC 9899:2018, Programming languages C
(49) 久保孝行: 組込みエンジニアのための状態遷移設計手
法, 東京, TechShare, 2012
(50) 尾仲洋和ほか: 中小企業における機能安全対応への取
り組み, JAXA/IPA 10thWOCS,2012
(51) 小川清ほか: HAZOP-TRIZ 連携による交通安全分析, 日
本学術会議安全工学シンポジウム, 2017
(52) 小川清:Autosar単語帳, https://bit.ly/33cCaHA, 2020
(53) 小川清: https://github.com/kaizen-nagoya/Safety_
Analysis_ self_driving_car, 2020
(54) AUTOSAR, Modeling Guidelines of Basic Software EA UML
Model, https://bit.ly/33bjSGA, 2016
(55) 経済産業省中部経済産業局,平成23年度市場競争環境
評価調査事業中小ものづくり産業IT 基盤ツールに係る環境
競争調査報告書,平成24年3月, https://bit.ly/2x3N3PN
(56) 田中伸明ほか:安全分析の図的表現方法，及び設計文書
と親和性の高いツールの提案, 東京,日本学術会議,安全工学
シンポジウム(2019).p.280-283
(57)小川清:https://hub.docker.com/repository/docker/
kaizenjapan/autosar
(58) AUTOSAR: Safety Use Case Example, https://bit.ly/
3aFPIOm, 2019
(59)ちょけむさ,ちょけねこたんじょうびのおくりもの,2020
(60) 日本学術会議: 自動運転のあるべき将来に向けて学
術界から見た現状理解,工学システムに関する安全・安心・リ
スク検討分科会, https://bit.ly/2U5suuc, 2017
(61) Tara Prakriya, Microsoft Connected Vehicle Platform,
https://bit.ly/2Uksub2, 2019
(62) 内閣府: 戦略的イノベーション創造プログラム(SIP)
自動運転(システムとサービスの拡張) 研究開発計画,
https://bit.ly/2w2oxOS, 2019
(63) Autoware: https://www.autoware.ai
(64) 田中伸明ほか：安全分析とモデルベース設計を統合する
ことによる説明力の向上策, 自動車技術会春季, 2020

15 参考文献　「安全分析において、HAZOP, FMEA, FTAの組み合わせによるリスクアセスメントの進め方の検討」

HAZOP手法の応用と展開, 小川清, 渡部謹二, 斉藤直希,電気
関係学会東海支部連合大会,2010
• 2. HAZOP手法の展開,小川清, 斉藤直希, 渡部謹二, 安全工学シ
ンポジウム, 2010
• 3. HAZOPの誘導語の体系化と実習,小川清, 斉藤直希, 渡部謹
二, 電気関係学会東海支部連合大会, 2011年
• 4. HAZOPによるTOPPERS/sspの分析.小川清, JAXA/IPA第9回クリ
ティカルソフトウェアワークショップ, 2011年
• 5. 実践HAZOP演習, 小川清,SWEST(組込みシステム技術に関す
るサマーワークショップ) , 2010,2011
• 6. 一人HAZOPを組み合わせた効率的な分析作業,小川清, 第8
回クリティカルソフトウェアワークショップ, 2011
• 7, An application on HAZard and OPerability (HAZOP) Study for
digital 2015年7月s2y日stem , Kiyoshi Ogawa, 世界ソフトウェア品質会議, 2011
プロセス改善ナビゲーション
ガイド〜ベストプラクティス編
ENGINEERING A SAFER WORLD Systems, Thinking Applied
to Safety, Nancy G. Leveson, 2012
https://mitpress.mit.edu/books/engineering-safer-world
CARDION: 概念段階におけるハザード・脅威の抽出手法,
(株)ニルソフトウェア, 伊藤昌夫, JAXA/IPA 12th WOCS, 2014
11.システムアプローチによる機能安全への対応,dSPACE
Japan(株),藤倉俊幸,自動車機能安全カンファレンスJARI, 2015

16 参考文献　「システム思考によるソフトウェアの安全設計」

安全設計入門　会愛知版電波新聞,2010年7月
国際安全規格の体系「ISO/IEC Guide 51」

##　17 参考文献「不具合リスク発想のための観点の抽出方法とその効果」
[1] 夏目珠規子ほか: ソフトウェア開発における FMEA の適用可能性検討, 第 41 回信頼性・保全性シンポジウム発表報文集, p.359-364, 2011
[2] IEC 61508 Ed.2.0 : Functional Safety of Electrical/ Electronic/ Programmable Electronic Safety -
related Systems, 2000
[3] ISO 26262 : Road Vehicles – Functional Safety, 2011
[4] IEC 60812 Ed.2.0 : Analysis techniques for system reliability – Procedure for failure mode and
effects analysis, 2006
[5] 余宮尚志ほか : 組込みソフトウェアに対するソフトウェア FMEA の試行実験とその考察,情報科学技術フォーラム講演論文集, 12th 巻第 1 分冊, p.283-284, 2013
[6] IEC 61025 Ed2.0 : Fault tree analysis, 2006
[7] IEC 61882 : Hazard and operability studies – Application guide, 2001

##　18 参考文献「大規模ソフトウェアの保守開発を対象とした故障モード影響解析(FMEA）適用の試み」
[ 1 ] 小野寺勝重，“実践 FMEA の手法”，日科技連，1998 年
[ 2 ] 山科隆伸，森崎修司，飯田元，松本健一“保守開発型ソフトウェアを対象とし
たソフトウェア FMEA の実証的評価”，ソフトウェア品質シンポジウム 2008 発表報文集，pp.157-164，2008 年
＜この記事は個人の過去の経験に基づく個人の感想です。現在所属する組織、業務とは関係がありません。＞

参考資料(reference)

清水吉男「"硬派"のホームページ」のおすすめ記事12選
https://qiita.com/kazuo_reve/items/bce7522fa2cca0995b85

マネージャ・リーダーの私にとって有益な知見が得られた書籍
https://qiita.com/kazuo_reve/items/6976029e72763ea73245#_reference-df08fb0b4ee7eedaec9d

新人の方によく展開している有益な情報
https://qiita.com/kazuo_reve/items/d1a3f0ee48e24bba38f1

自己参照

新人(学生)を指導するよりも新人(学生)に指導してもらった方が効率的。仮説・検証（139）
https://qiita.com/kaizen_nagoya/items/db993b1536055029f7c8

成功体験は語っても、成功体験に頼らないために。清水吉男・田中伸明・柏原一雄・佐々木眞一。仮説・検証（153）
https://qiita.com/kaizen_nagoya/items/d32adfaf7b2568bfd9d2

コンサルタントと（して）うまく付き合う方法（案）
https://qiita.com/kaizen_nagoya/items/499b0a16ac89c0fe3fb0

第11回 TOPPERS活用アイデア・アプリケーション開発コンテスト
https://qiita.com/kaizen_nagoya/items/91162a9b258a2a06f5e0

ひょっとしたら、この部門への投稿の表題を変えて、コンテストに応募するのも手かも。

TOPPERS のAUTOSARへの貢献(更新中), AUTOSAR(15)
https://qiita.com/kaizen_nagoya/items/d363cf06e2176207b391

AUTOSARとSimulink: Adaptive Platform, Classic Platformとマルチコア対応を含めた共通化を目指して
https://qiita.com/kaizen_nagoya/items/d613b0b14bfd91989a13

TOPPERS の AUTOSAR への貢献 II (改定中)
https://qiita.com/kaizen_nagoya/items/4614c04cfff70a241f77

人生で影響を受けた本100冊。Youtube(3)
https://qiita.com/kaizen_nagoya/items/16af53acbb147a94172e

今まで書いてよかった技術書を紹介しよう！
https://qiita.com/kaizen_nagoya/items/d31b7c158541d345a7ef

あなたもdocker, 私もdocker
https://qiita.com/kaizen_nagoya/items/8f2746f10f30b575d0a8

HAZOPの使い方をすごく限定して考えているのはなぜだろう。国際規格は出発点として利用するものだという認識がないのはなぜなんだろう。

ference)
WSL上にnxtOSEKの開発環境を構築する方法
https://qiita.com/TsuneoNakanishi/items/76999b2e6b4e9cd30117

Raspberry Pi 3 Model B+ 向けにリアルタイムOSを実装してみた話
https://qiita.com/tenkoh2/items/baa8e0b6c09669793b4f

[メモ] TrampolineRTOSでLチカ (OSEK/VDX & AUTOSAR APIにあわせたRTOS)
https://qiita.com/mt08/items/65f2ac9bbdae09a34470

MacでLego Mindstorms NXT環境構築 in 2018
https://qiita.com/vivid344/items/2f23f846cd3b135c5a74

ETロボコン開発環境構築 for Mac
https://qiita.com/tac0x2a/items/b1d82050c660935765ef

[メモ] ERIKA様でLチカ (Arduino)
https://qiita.com/mt08/items/adc90efbbfc938be7cc4

COFEを使って水-エタノールの分離シミュレーションを行う
https://qiita.com/kijuky/items/0979327cf7e7c091da02

自己参考(Self Reference)

OSEKはもう流行らないのでしょうか。AUTOSAR（64）OSEK(1) https://qiita.com/kaizen_nagoya/items/b87687254b11f30cc2ee
OSEKを図から理解 OSEK(2) https://qiita.com/kaizen_nagoya/items/f87a7ff5aeb63803a022
OSEK OS（AUTOSAR OS）をざっくり理解するには OSEK(3) https://qiita.com/kaizen_nagoya/items/c68c0b86b97d4a90e6e2
calloutとcallback, OSEK/VDX OS and AUTOSAR OSEK(4) https://qiita.com/kaizen_nagoya/items/b95b81354d07b9172a56
OSEK/VDX ISO and 2.23 OSEK(5) https://qiita.com/kaizen_nagoya/items/4d6bcec01e0132f9c41c
OSEK/VDX OSEK(6) https://qiita.com/kaizen_nagoya/items/a7720994f2178a15be81
ISO OSEK/VDX and ISO Linux OS 同梱ソースをC++またはRUSTで書く企画　OSEK(7) https://qiita.com/kaizen_nagoya/items/27899e936c90b415d700
OSEK 記事で views 100,000を目指して　OSEK(8) https://qiita.com/kaizen_nagoya/items/ff45ee55566eeff5f62e
自動車用OSを網羅する OSEK(9) https://qiita.com/kaizen_nagoya/items/a61144daf500a3f2b4f4
Smallest Set Profile and Automotive Profile, OSEK(10) https://qiita.com/kaizen_nagoya/items/0c5484f6562cc259e7f0
Exclusive Area, OSEK(11)　https://qiita.com/kaizen_nagoya/items/d87ff4e08378dbcf68a7
自動車のソフトウェア、例えばAUTOSAR の仕事を始めてする方に, OSEK(12) https://qiita.com/kaizen_nagoya/items/1832634788c23498e054
名古屋で自動車関係のソフトウェア設計する際にあるといいかもしれない知識, OSEK(13) https://qiita.com/kaizen_nagoya/items/9f01d55e4bd0bd931c96
single task os and data, OSEK(14) https://qiita.com/kaizen_nagoya/items/6acbd5d2cfd3ed8bca60
AUTOSARといえば O で始まる用語は? OSEK(15) https://qiita.com/kaizen_nagoya/items/06c969fe5c4b3e7319e0
Automotive Software Expert Examination Exercise, Examples or Extract. OSEK(16) https://qiita.com/kaizen_nagoya/items/1762e0612ef01e036efb
自動運転資料集(1) OSEK(17) https://qiita.com/kaizen_nagoya/items/42eb2129e281f25eaab8
TOPPERS of the YearとAUTOSAR, AUTOSAR(39), OSEK(18) https://qiita.com/kaizen_nagoya/items/f241bb4a819733110b7a
Autosar 2.0を読む, AUTOSAR(25), OSEK(19) https://qiita.com/kaizen_nagoya/items/b44a1047c2c517d522fe
IT関連技術でお世話になった方々, OSEK(20) https://qiita.com/kaizen_nagoya/items/8a5bf487594cd106e8b8
AUTOSARの４つの入力, OSEK(21) https://qiita.com/kaizen_nagoya/items/72cef6028b9697f7968e
AUTOSAR これだけ知っていればなんとかなる。OSEK(22) https://qiita.com/kaizen_nagoya/items/7a63e706bfb8f331cfe4
AUTOSAR based on ISO, OSEK(23) https://qiita.com/kaizen_nagoya/items/867a709cdf6f4dbdecc6
AUTOSARと国際規格。AUTOSAR（65), OSEK(24) https://qiita.com/kaizen_nagoya/items/4ddba03efb942969b125
AUTOSAR入門, AUTOSAR(16), OSEK(25) https://qiita.com/kaizen_nagoya/items/5e43b8ef0935c32ee11d
AUTOSAR 記事1000までの道, OSEK(26) https://qiita.com/kaizen_nagoya/items/785473512f5f7f85a6bf
Autosarの課題, OSEK(27) https://qiita.com/kaizen_nagoya/items/617d10b0e34143030600
AUTOSAR: The past 20 years and he next 10 years, OSEK(28) https://qiita.com/kaizen_nagoya/items/2dab0707c01059c152c4
Autosar文書を読む（準備), OSEK(29)　https://qiita.com/kaizen_nagoya/items/5f547173544703d267aa
AUTOSARが手に取るように分かるようになる。AUTOSAR(29), OSEK(30) https://qiita.com/kaizen_nagoya/items/ae092ea6aef89cdc15df
posixとethernet, osekとTCP/IP, osek(31) https://qiita.com/kaizen_nagoya/items/73b79a4a56f433bd53c0
斉藤直希「組み込み向けリアルタイムOSの基礎知識を整理する」を整理する, OSEK(32) https://qiita.com/kaizen_nagoya/items/d305e83b37d0c57dceb3
TOPPERS活用アイデア・アプリケーション開発コンテスト受賞作品紹介　まとめ作成中, OSEK(33) https://qiita.com/kaizen_nagoya/items/72b882d96b2841f25faf
はじめてのAUTOSAR(classic platform) ＜エンジニア夏休み企画>【読書感想文】, OSEK(34) https://qiita.com/kaizen_nagoya/items/696ad320f76f284664d7
AUTOSARとSimulink: Adaptive Platform, Classic Platformとマルチコア・共通化, OSEK(35) https://qiita.com/kaizen_nagoya/items/d613b0b14bfd91989a13
AUTOSAR Abstract Platformへの道（詳細編）, OSEK(36) https://qiita.com/kaizen_nagoya/items/cb217133884fa0a2c704
building block：AUTOSAR Abstruct Platform , OSEK(37), https://qiita.com/kaizen_nagoya/items/bf7c17624f648fb9f392
系建築家(system architect)になるには, OSEK(38) https://qiita.com/kaizen_nagoya/items/8c341e69233cb32f6275
自己紹介 OSEK(39) https://qiita.com/kaizen_nagoya/items/90aa368f296613ec93b5
AUTOSAR 「完全に理解した」, OSEK(40) https://qiita.com/kaizen_nagoya/items/51983798ad7902b33cb1
Architecture 「toaster model」を出発点として, OSEK(41)　https://qiita.com/kaizen_nagoya/items/9ab8b4bea3ff4e94b192
AUTOSAR Q&A。 AUTOSAR(30), OSEK(42) https://qiita.com/kaizen_nagoya/items/ba6c02b772e9617dc138
「人生で影響を受けた本100冊」に28冊足す計画（18冊）, OSEK(43) https://qiita.com/kaizen_nagoya/items/3ae6633725df77261df8
Bosch Automotive Handbook and so on. OSEK(44) https://qiita.com/kaizen_nagoya/items/8e330ce57880f04d71d9
動車　記事　１００, OSEK(45) https://qiita.com/kaizen_nagoya/items/f7f0b9ab36569ad409c5
何故、今、国際規格なのか。OSEK(46) https://qiita.com/kaizen_nagoya/items/6970577e3e94e5b51ccc
名古屋のIoTは名古屋のOSで。仮説（186）OSEK(47) https://qiita.com/kaizen_nagoya/items/fa6694bbec50723ea90a
AUTOSAR一覧作っていて気が付いたこと順位(ranking) osek(48) https://qiita.com/kaizen_nagoya/items/2c800548690dd9fb9f53
AUTOSAR教材作成３年計画, AUTOSAR(19) OSEK(49) https://qiita.com/kaizen_nagoya/items/84d8f1ecbbe7af7803af
AUTOSARの利点と方向性, OSEK(50) https://qiita.com/kaizen_nagoya/items/681902476520cccf3c3e
TOPPERS のAUTOSARへの貢献(更新中), AUTOSAR(15), OSEK(51) https://qiita.com/kaizen_nagoya/items/d363cf06e2176207b391
TOPPERS の AUTOSAR への貢献 II (改定中), OSEK(52) https://qiita.com/kaizen_nagoya/items/4614c04cfff70a241f77
A big wrapping cloth with the miniature garden, OSEK53) https://qiita.com/kaizen_nagoya/items/96411f20632e7f3ff73a
AUTOSAR R23-11 資料整理の計画（年越し懇親会遠隔開催時間投票含む）OSEK(54)　https://qiita.com/kaizen_nagoya/items/6b939e2373e0e6047ae8
自動車用（車載）ソフトウェアの基本設計提案を作る。OSEK(55) https://qiita.com/kaizen_nagoya/items/9c218e65d98084b24dfe
自動車用（車載）ソフトウェアの基本設計提案を作る(2), OSEK(56) https://qiita.com/kaizen_nagoya/items/38cb4710410a0d51e7a0
マルチコアの壁, OSEK(57) https://qiita.com/kaizen_nagoya/items/f38e47574905c80c0706
実時間処理, OESK(58) https://qiita.com/kaizen_nagoya/items/1e36077736d11960bb64
CPU マルチコア　マルチOS, OSEK(59) https://qiita.com/kaizen_nagoya/items/6bdb6116f0aa50c5372a
AUTOSAR related Standard, OSEK(60)
https://qiita.com/kaizen_nagoya/items/13b163f8515615ecc648
「あなたがAUTOSARのEditorだったらどの文書をどう書き換えたいか」選手権(0), OSEK(61)
https://qiita.com/kaizen_nagoya/items/0055bb88f43f98a61739
Call back, OSEK(62)
https://qiita.com/kaizen_nagoya/items/8c76f5e05cbd9125f86d
C言語教育はCコンパイラの写経で, OSEK(63)
https://qiita.com/kaizen_nagoya/items/088a9906797559cd8b8a
Reentrant とRecursive, OESK(64)　
https://qiita.com/kaizen_nagoya/items/cdc028f73fe2dea3090f
AUTOSARの基礎の仮説, OSEK(65)
https://qiita.com/kaizen_nagoya/items/ceaf360e69f81c332677
Linuxを学ばずに使う, OSK(66)　
https://qiita.com/kaizen_nagoya/items/b9859782bab0cf6c78a4
AUTOSAR わかりにくいこと12, AUTOSAR(27), OSEK(67)
https://qiita.com/kaizen_nagoya/items/68b0da5bee1421200a11
お盆には「箱庭」記事を書きましょう「もくもく会」の題材になる（１）, OSEK(68)
https://qiita.com/kaizen_nagoya/items/a22bf2b1dab0ad3258d4
逆も真：社会人が最初に確かめるとよいこと。OSEK(69)
https://qiita.com/kaizen_nagoya/items/39afe4a728a31b903ddc
プログラマが安全工学シンポジウムで発表する動機、題材、技法。安全（22）OSEK(70)
https://qiita.com/kaizen_nagoya/items/b7adf3001eb325166e52
プログラマにも読んでほしい「QC検定にも役立つ！QCべからず集」OSEK(81)　
https://qiita.com/kaizen_nagoya/items/d8ada7b7fceafe2e5f0e
AUTOSAR文書の読み方（文書番号と発行年）, AUTOSAR(23), OSEK(72)
https://qiita.com/kaizen_nagoya/items/daa3f7de7e86b89bcc33
計算機系事故記録(computer system trouble record), OSEK(73)
https://qiita.com/kaizen_nagoya/items/910847f01379903e40c8
basic: プログラムジェネレータジェネレータ。構造屋(architect)としての成功事例3失敗事例６, OESK(74)
https://qiita.com/kaizen_nagoya/items/117c7a1b6dad97470ae9
AUTOSAR記事一覧, OSEK(75)
https://qiita.com/kaizen_nagoya/items/89c07961b59a8754c869
AUTOSAR 文書番号, OSEK(76)
https://qiita.com/kaizen_nagoya/items/8b894228a0b76c2265c7
参考文献の参考文献は参考文献だ。清水吉男「「派生開発」を成功させるプロセス改善の技術と極意」を超えて, OSEK(77)
https://qiita.com/kaizen_nagoya/items/562a0cf784cf92bc0ebb
ボッシュ自動車handbook(英語)11版(0-1) 課題と記事一覧new, OSEK(78)
https://qiita.com/kaizen_nagoya/items/a9d2887bf2a7598dc8e5
プログラマの「プログラムが書ける」思い込みは強みだ。３つの理由。仮説（168）統計と確率(17) , OSEK(79)
https://qiita.com/kaizen_nagoya/items/bc5dd86e414de402ec29
最新規格のコンパイル, OSEK(80)
https://qiita.com/kaizen_nagoya/items/4e23544a7ee8a8f19b68

参考文献の参考文献は参考文献だ。清水吉男「「派生開発」を成功させるプロセス改善の技術と極意」を超えて, OSEK(77)

ある論文の参考文献欄

資料

1 感想「トヨタ式未然防止手法・GD3」

2 感想「「派生開発」を成功させるプロセス改善の技術と極意」

3 感想

4 参考文献　「欠陥混入メカニズムの知識を活用したDRBFMの提案」

5 参考文献　「JISQ31010:2012 リスクマネジメント－リスクアセスメント技法」

5-1 JIS Q 0073

5-2 JIS Q 31000:2010

5-3 JIS C 0508

5-4 JIS C 0511

6 参考文献「一人HAZOPを組み合わせた効率的な分析作業」

6-1 Safeware,

[6]-[14] 参考文献

7 参考文献「ソフトウェア要求仕様におけるHAZOPを応用したリスク項目設計法」

7-9

8 参考文献　「金融情報システムへのHAZOP手法の適用」

9 参考文献　「逸脱分析を用いた要求仕様書からのテスト項目抽出手法」

10 参考文献　「ソフトウェアFMEAの一手法とプロダクトライン開発におけるその利用」

11 参考文献　「FMEA を援用した例外処理の仕様定義と設計の方法論」

12 参考文献　「GSN及びESDモデルを用いたソフトウェアFMEAの提案」

13 参考文献　「HAZOP 3.0 (Safety & Security)」

13-7

13-6

14 参考文献　「安全分析におけるHAZOPによる想定外の洗い出し」

15 参考文献　「安全分析において、HAZOP, FMEA, FTAの組み合わせによるリスクアセスメントの進め方の検討」

16 参考文献　「システム思考によるソフトウェアの安全設計」

参考資料(reference)

自己参照

自己参考(Self Reference)

関連資料

自己記事一覧

文書履歴

最後までおよみいただきありがとうございました。

Thank you very much for reading to the last sentence.

参考文献の参考文献は参考文献だ。清水吉男「「派生開発」を成功させるプロセス改善の技術と極意」を超えて, OSEK(77)

ある論文の参考文献欄

資料

1 感想 「トヨタ式未然防止手法・GD3」

2 感想 「「派生開発」を成功させるプロセス改善の技術と極意」

3 感想

4 参考文献 「欠陥混入メカニズムの知識を活用したDRBFMの提案」

5 参考文献 「JISQ31010:2012 リスクマネジメント－リスクアセスメント技法」

5-1 JIS Q 0073

5-2 JIS Q 31000:2010

5-3 JIS C 0508

5-4 JIS C 0511

6 参考文献 「一人HAZOPを組み合わせた効率的な分析作業」

6-1 Safeware,

[6]-[14] 参考文献

7 参考文献 「ソフトウェア要求仕様におけるHAZOPを応用したリスク項目設計法」

7-9

8 参考文献 「金融情報システムへのHAZOP手法の適用」

9 参考文献 「逸脱分析を用いた要求仕様書からのテスト項目抽出手法」

10 参考文献 「ソフトウェアFMEAの一手法とプロダクトライン開発におけるその利用」

11 参考文献 「FMEA を援用した例外処理の仕様定義と設計の方法論」

12 参考文献 「GSN及びESDモデルを用いたソフトウェアFMEAの提案」

13 参考文献 「HAZOP 3.0 (Safety & Security)」

13-7

13-6

14 参考文献 「安全分析におけるHAZOPによる想定外の洗い出し」

15 参考文献 「安全分析において、HAZOP, FMEA, FTAの組み合わせによるリスクアセスメントの進め方の検討」

16 参考文献 「システム思考によるソフトウェアの安全設計」

参考資料(reference)

自己参照

自己参考(Self Reference)

関連資料

自己記事一覧

文書履歴

最後までおよみいただきありがとうございました。

Thank you very much for reading to the last sentence.

1 感想「トヨタ式未然防止手法・GD3」

2 感想「「派生開発」を成功させるプロセス改善の技術と極意」

3 感想　

4 参考文献　「欠陥混入メカニズムの知識を活用したDRBFMの提案」

5 参考文献　「JISQ31010:2012 リスクマネジメント－リスクアセスメント技法」

6 参考文献「一人HAZOPを組み合わせた効率的な分析作業」

7 参考文献「ソフトウェア要求仕様におけるHAZOPを応用したリスク項目設計法」

8 参考文献　「金融情報システムへのHAZOP手法の適用」

9 参考文献　「逸脱分析を用いた要求仕様書からのテスト項目抽出手法」

10 参考文献　「ソフトウェアFMEAの一手法とプロダクトライン開発におけるその利用」

11 参考文献　「FMEA を援用した例外処理の仕様定義と設計の方法論」

12 参考文献　「GSN及びESDモデルを用いたソフトウェアFMEAの提案」

13 参考文献　「HAZOP 3.0 (Safety & Security)」

14 参考文献　「安全分析におけるHAZOPによる想定外の洗い出し」

15 参考文献　「安全分析において、HAZOP, FMEA, FTAの組み合わせによるリスクアセスメントの進め方の検討」

16 参考文献　「システム思考によるソフトウェアの安全設計」