職業訓練
https://qiita.com/kaizen_nagoya/items/95368b63fa21d64271ec
Day 2. Programmer
https://qiita.com/kaizen_nagoya/items/120abc94567ea8e2effd
一部誤植は訂正。Markdownで 誤植 を訂正
安全分析における HAZOP による想定外の洗い出し
小川 清 1) 柏原一雄 2) 田中 伸明 3)
- 株式会社アテック(461-0004 名古屋市東区葵3-24-4)
- 株式会社デンソークリエイト(460-0003 名古屋市中区錦2-14-19)
- ガイオ・テクノロジー株式会社(140-0002 品川区東品川2-2-4)
Unexpected identification using HAZOP in safety analysis
Dr. Kiyoshi Ogawa
Kazuo Kashiwabara
Nobuaki Tanaka
To clarification of unexpected identification in safety analysis on Self Driving Car and AUTOSAR, we use HAZOP with FTA and FMEA. In
early stage of AUTOSAR, TOPPERS open source are analyzed. HAZOP guide wards are good abstraction on SPACE/TIME, Quality/Quantity
and Upper/Lower limits. Road Administrator and Traffic regulators should be joined in safety analysis of auto driving car system using HAZOP.
KEY WORDS: Safety, safety education, diagnosis, system engineering, HAZOP, Safety Analysis, Security (C1)
まえがき
1.1 背景
HAZOP で，自動車，航空宇宙など人命にかかわるシステム等を対象として分析してきた。自動運転安全にも対応するため，FTA(1), FMEA(2)を用いた安全分析の初期段階において HAZOP(3)と組み合わせることにより想定外の洗い出しを行っている。
日本技術士会(4)(5)(6)，情報処理学会が共催しているSWEST(7)(8)(9)(10)(11)，NPO 法人ソフトウェアテスト技術振興協会が主催しているテストシンポジウム(12)(13)(14)，NSPICE(15)などで演習等を実施し，国立情報学研究所(16),世界ソフトウェア品質会議(17),日本学術会議安全工学シンポジウム，JAXA/IPA 主催WOCS などで発表してきた(18)。
| Analysis Method/Phase | Requirements | Basic D. | Detailed D. | Coding | Integration T. | System T. | Field T. | Operation |
|---|---|---|---|---|---|---|---|---|
| Mode Transition A. | ○ | ○ | ○ | ○ | ||||
| Completeness A. | ○ | ○ | ○ | ○ | ||||
| Nominal Simulation | ○ | ○ | ○ | |||||
| Software deviation a. | ○ | ○ | ○ | ○ | ||||
| Single Fault S. | ○ | ○ | ○ | ○ | ||||
| FMEA, FTA | ○ | ○ | ○ | ○ | ○ | ○ | ○ | ○ |
| Double Fault S. | ○ | ○ | ○ | |||||
| HAZOP | ○ | ○ | ○ | |||||
| Code Clone A. | ○ | ○ | ||||||
| Traceability Analysis | ○ | ○ | ○ | ○ | ○ | |||
| Reachability A. | ○ | ○ | ○ | ○ | ||||
| Interface Analysis | ○ | ○ | ○ | ○ | ||||
| Timing Analysis | ○ | ○ | ○ |
A.:Analysis, D.:Design, S.:Simulation, T.:Tet
Table 1. JAXA Verification method and process(19)
1.2 従来研究
Table 1.は，JAXA における各種手法とその適用段階(19)を示している。2007年当時，FMEA/FTAは全工程で取り組んでいるが，HAZOP を初期段階での想定外の洗い出しに利用していない。Table 1.は手法の一部で，JAXA では Nancy などによるSTAMP/STPA を始めとする代替手法(20)を用いている。最終的にHAZOP で網羅性を確認して抜け漏れを防いでいる。
従来，HAZOP は，「時間がかかる」，「どこまでやればいいかわからない」，「抽象的だ」，「誘導語を減らしたい」など利用方法がうまく伝わっていなかった。想定外の洗い出しにどれくらい幅広く実施したいかで，HAZOPと別の手法を組み合わせるか，簡便な代替手法を用いるか，模型設計，模擬試験などを構成する分析戦略による。
1.3 研究の目的
自動運転分析で，自動車，交通・通信基盤，運転者・歩行者，道路管理者，交通規制当局等のそれぞれの視点から分析を行うにあたって，技術確認，それぞれの関連分野における知見の蓄積方法，これまでの分析結果から今後必要となる対応が検討できる枠組みを示すことを目的とする。
様々な制度の試行に合わせて，それぞれの事業に対応する短期的な目標と，安全な自動運転実現に向けた長期的な目標を設定できるようにする。自動運転技術を交通死傷者ゼロに向けた取組(21)に焦点を絞るとともに，ASV(22)，ADAS(23)など，実用性と将来性を見据えた分析のやり方を示す。
2．安全分析
安全分析は試行錯誤の積み重ねで，想定外を洗い出す段階で製品・サービスの特質によって何回か繰り返すとよい。やり方も，目的に応じて毎回変えることが，新たな想定外の発見につながることがある(24)。作業時間の見積もりや，作業を終わるための条件設定などは分析対象の規模による。自動運転のように環境，製品・技術・通信規約，社会制度，利害関係者の範囲が変化する場合には，定期的に行うことが大切で，システムを運用している限り終わりはないかもしれない。
2.1 誘導語
HAZOPのFTA, FMEAとの大きな違いは誘導語(guide word)である。Table2のように11種類ある。
Table 2. Guide Word(3)
| ID | Guide Word | Category | sym. |
|---|---|---|---|
| D1 | no | Existence(ex.) | D0 |
| D2 | reverse | Direction(dir.) | D0 |
| D3 | other than | ex. and dir. | |
| D4 | more | space/quantity | D5 |
| D5 | less | space/quantity | D4 |
| D6 | as well as | space/quality | D7 |
| D7 | part of | space/quality | D6 |
| D8 | early | time/quantity | D9 |
| D9 | late | time/quantity | D8 |
| D10 | before | time/quality | D11 |
| D11 | after | time/quality | D10 |
空間(space)について４つ（大(more)小(less)類(as well as)部(part of)），時間(time)についてが４つ（早(early)遅(late)前(before)後(after)）ある。空間と時間のそれぞれが，量(quantity)についてが２つづつ，質(quality0についてが２つづつである。量・質のどちらも，上限越え，下限越えの逆の方向がある。合計８種類は，どのような状況においても検討せずに置くことはできない抽象的な概念である。sym.は対称(symmetry)な誘導語であり，空間と時間はそれぞれ対になっている。ID D4の対称(sym.)がID D5という具合である。空間と時間に区分して設計する方法は従来より行われており(25)，設計の体系に即した抽象度である。これらの８種類の誘導語は，論理的・物理的な意味が変わらないのであれば，別の単語や複数の用語を一つの概念に用いてもよい。
Table 3. Space/Time and Quality/Quantity
| Quantity | Quality | |||
|---|---|---|---|---|
| Upper | Lower | Upper | Lower | |
| Space | More | Less | As well as | Part of |
| Time | Early | Late | Before | After |
無(no)は設計意図，利用意図の非存在を表し，逆(reverse)は方向の逆を表す。これも検討は不可欠である。無，逆の対称な概念は，設計通り（D０），利用者の意図通りを想定する。他(other than)は，存在と方向についてno, reverse以外という意味であるが，上記必須１０概念以外を入れる入れ物であると理解するとよい。対象によって特定の誘導語を別に決めてもよい。ただし，作業の効率，偏りの両方を測定して，適宜取捨選択するとよい。例えば，論理回路では「同時」を類(as well as)に分類することがあるが，「同時」を別の誘導語として扱っても良い。機械系であれば「振動」を類(as well as)または別(other than)として扱うことがあるが，「振動」という誘導語を用いてもよい。最終的に１１分類にする場合には，どこに含めるかを決めておけば，他社の結果との比較がし易くなる。誘導語の対象を物に限定するか，事に限定するか，両方扱うかなども検討するとよい。
2.2 班構成
設計を一人で行っている場合は，分析を一人で行い，関係者相互で見直す(review)こともある。人の命にかかわる安全分析は複数人で行う。安全分析は構造設計を行う建築家(architect)が一人はいるとよい。また，システムを構成する部品や材料の物性を知っている協力会社の方，いろいろな使い方をする可能性のある利用者(顧客)がいるとよい。Fig.１に，複数の視点による見え方の違いを示す。視点1では全体はAで黄色，部分はBで緑色。視点２では全体はBで空色，部分はAで緑色。共通なのは部分が緑色であるということだけである。自分の視点が正しく，相手の視点が間違いだということはない。
班構成は三人を原則としている。設計者，利用者，部品・材料提供者がいると立体的な分析が可能になった。顧客，部品・材料提供者が参加できない場合には，経験，専門分野などで３つの集合に分類し，それぞれの集合から一人づつ参加する班を構成するとよい。ソフトウェア業界で，同程度の経験の人だけの場合には，それぞれの得意分野，興味などを事前に回答してもらい班構成する(26)など毎回違う方法を取り新たな想定外の発見に努めるようにしている。誤解が大事な情報源で，HAZOPのやり方，対象の製品・サービスなどに対する誤解は記録する。間違いは間違いとして記録すると利用者の勘違いなどによる事故を防ぐことができる可能性が高くなる。
2.3 実施段階
想定外を発見するために発想を発散させる作業と，出てきた課題を，どう測定し，対策案を立てるかという作業と，発生確率・損害の予想と測定・対策を実施するかどうかを判断する三つの作業に分類できる。想定外を洗い出す場合にはさまざまな設計指針などと一緒に用いるか，従来のFTA, FMEAの抜け漏れを探すか，どんな手法とも一緒に利用できるのがHAZOPの誘導語の抽象度が高い利点である。WhatifとRCAに誘導語を組み合わせたHAZOPは，過去トラブル集を分類し抜け漏れを探すのにも役立つ。これまで用いてきた設計指針類は，子供の安全ガイド(27)，形の設計指針(28)，ユニバーサルデザイン(29)，高齢者・障害者設計指針(30)，４M５E(31)，TRIZ４０発明原理(32)はじめ十数種類用いてきた。
Table 4. International System of Units(33)
| Quantity | Name | Symbol |
|---|---|---|
| length | metre m | |
| mass | kilogram kg | |
| time | second s | |
| electric current | ampere A | |
| Thermodynamic temperature | kelvin K | |
| amount of substance | mole mol | |
| luminous intensity | candela cd | |
| plane angle | radian rad | |
| solid angle | steradian sr | |
| frequency | hertz | Hz |
| force, weight | newton | N |
| pressure, stress | pascal | Pa |
| energy, work, heat | joule | J |
| power | watt | W |
| electric charge | coulomb | Cd |
| voltage | volt | V |
| capacitance | farad | F |
| resistance | ohm | Ω |
| electrical conductance | siemens | S |
| magnetic flux | weber | Wb |
| magnetic flux density | tesla | T |
| inductance | henry |
|
| luminous flux | lumen | lm |
| illuminance | lux | lx |
| radioactivity | becquerel Bq | |
| absorbed dose | gray | Gy |
| equivalent dose | sievert | Sv |
| catalytic activity | katal | kat |
物理単位としての国際単位系では，基本単位７つと，固有の名称と記号で表される一貫性のあるSI組み立て単位(33)22のうちものさしが違うだけのセルシウス度を除いた２１個の合計２８単位について，測定方法を考え，設計上の上限，下限を見積もり，それを逸脱した時の状況を想定し，そういった状況にならないための対策を検討してきた。この28単位を測定する装置，測定方法を網羅していると，想定外の検出において役立つことがる。様々な分野，対象によっては測定が困難な単位もあり，取捨選択することになる。
分析・試験と設計は対の作業で，分析・試験しながら設計するか，設計しながら分析するかは，それぞれの対象の試験の容易性に依存する。実物の試験ではなく模擬試験で性能，仕
様の確認ができる場合には，模擬試験をしながら設計する。
自動車用ソフトウェアプラットフォーム開発事業において，設計する前，設計審査，出荷審査の三回実施するとよいという経験をした。設計前には，製品の目的，範囲，利用可能な技術の洗い出しに役立つ。設計審査では，最終顧客の利用に適するかなどの設計の妥当性確認，試験の網羅性，製造容易性などを確認した。出荷審査では，試験の妥当性，製品の完備生，説明書・運用方法の妥当性などを確認した。
主な重要事項は次の１０項目である。
1)一人作業の後で３人の班で意見交換する
2)ありえないことを列記する。（確率計算は後日）
3)他の手法を併用する。（人には強制しない）
4)思いついたことは記録する。
5)間違っていても消さない。
6)時間を短く区切って３回実施する。（全体で70から180分）
7)毎回人を入れ替える。（方法は資料に例示）
8)班の意見交換では量が少ない人から報告する
9)全体報告で前の班と同じことは報告しない
10)３０点（百点満点中）を目指す。
2.4 教育・訓練・
安全分析の教育・訓練を行うよりも，設計に関わる重要な設計資料があるかどうかが重要な場合がある。教育・訓練は技術者の技能と経験の分布に基づき，知見の集約と伝達に焦点をあてて行った。OJTとして実作業の中で，三人の班で，一人または二人が教育・訓練対象者を配置するようにしてきた。
安全分析を実施する前に，関連資料の用語確認を行う。特に略号は，同じ表現で異なる意味を持つ語が存在すると関係者間で誤解が発生し，意思疎通が円滑に行えない可能性がある(34)。３回，３人で実施するため，１回で一人で考えるときに30点をめざしている。
物理指標の網羅性の確認のための国際単位系のような指標横顔(profile)(35)が，生物系，社会系であるとよく，現在検討中である。生物系では，従来から地域によって異なる種を同じ名前で呼び，同じ種を別の名前で呼ぶ事象の把握が課題であった。遺伝子解析により従来の種の分類がいろいろ変更がある(36)(37)。日本では遺伝子解析においても技術的な蓄積があり(38)，生物系の模型の知見が物理系，社会系での類推に役立つ可能性がある(39)。用語の重複，上下関係の逆転など，どの分野にも共通の課題で，階層的な用語構造は大切である。
いつも新しい発見があるようにやり方を変え続けることが大切である。物と事，経験にも続いた発想と妄想に基づいた発想などの両方が出るとよい。演習参加者の振り返りを分類(40)し本研究に反映した。
3．仕様分析
3.1 AUTOSAR
自動車用ソフトウェア共通基盤AUTOSAR(41)は，現在約250文書あり，出現する単語の数を集計すると，433,366種類5,968,967語であった。定義済みの略号は参考文献内も含め数百に上り，MAC, TCPなど同じ略号で異なる意味の単語が存在している(42)。従来のISO OSEK OS(43)に基づいたClassic Platform と自動運転で利用するISO/IEC POSIX(44)に基づいてTCP/IP に対応したAdaptive Platform に分かれている。基本的な通信規約もCAN(45)とTCP/IP(46)に分かれている。Classic Platform はエンジンやモータが角速度制御の必要性からタスクで管理するのではなく，割り込み制御を基本として，時間制約がより緩い部分の通信，ログをタスク制御とする基本設計である。
Adaptive Platform における Linux(47)-TCP/IP は，OSEK-CAN とは異なり，メモリの動的管理を前提として設計しており，C言語(48)，Linux 及び TCP/IP とともに発展してきている。
Classic Platform と Classic Platform に対応した分析の比較検討を行っている。現在では実用的なOSおよび通信ソフトウェアがオープンソースで提供されている。AUTOSAR はMBSD(model based system design)(49)で様々な模擬試験を実施して効率よく設計する上での共通の土台(platform)を構築するものであった。Classic Platform相当への対応は，OSEK OSに基づいたオープンソースの事業(50)を展開する際に実施している。AUTOSAR の二つの Platform に対応した OS,通信規約から診断に至るまでの幅広いシステムを，設計者，分析専門家，利用者の意図の整合性を確認することが課題となっている。
このように基本設計の異なるソフトウェアで共通の応用を行うのは，いくつかの計算機製造業社が自社の古いOSを新しいOS の上で実装して提供する方法の他，現在流行しているdocker(51)などの仮想環境上のOSなどであり，開発現場かクラウド上で実現しており，利用者や応用ソフトウェア設計者か
らは見えにくいかもしれない。
3.2 利害関係者
Table 5.に自動車及び鉄道における利害関係者の一覧を示す。自動車では，運転者，自動車製造事業者，自動車部品製造事業者，半導体自動車の間で，必ずしも利害が一致するとは限らず，目標設定をどこに置くかが重要である。死亡事故をいかに減らすかを目標設定にすると，道路管理者，交通規制当局と制約条件をどう設定するとよいかの交換が大切である。鉄道を一次元，自動車を二次元，航空宇宙を三次元と仮定すると，自動車の分析は，鉄道と航空宇宙の両方の分析と比較すると抜け漏れを少なくすることができるかもしれない。
鉄道のように輸送基盤，輸送機器，輸送規制を一体で行っている鉄道事業者の経験に学ぶことを課題設定した(52) 自動運転では，関係者との共同作業に必要な資料を道路管理者(Road Management)，交通規制当局(Regulation)との間でうまく提供しあう仕組みが必要である。各国の道路制度の違い，自然環境の違い，文化の違いなどを横顔(profile)にして共通で対応できる事項と個別に対応できる事項とを区別する。
また「従来通り」という仕様に対する分析を行い，関係者の既知の範囲の食い違いなどを確認する作業を行うとよい。
Table 5. Stakeholders
| Operator | Maker | Road Management | Regulation | |
|---|---|---|---|---|
| Automobile | Driver | Car maker | National/Regional/Highway Companies | Police |
| Railroad | Driver(Railroad) | Railroad | Railroad | Railroad |
3,3 分析
Table 6. HAZOP Example：Power supply
| Guide Word | Deviation | Cause |
|---|---|---|
| no | No current coming | Disconnecting |
| reverse | Current is reversed | Wiring mistake |
| Voltage is reversed | Wiring mistake | |
| other than | Power supply error | Automatic diagnosis function is broken |
| more | Current is too large | Inrush current |
| Voltage is too high | Wiring mistake/Electrical element failure | |
| less | Current is too small | Wiring mistake/Electrical element failure |
| Voltage is too low | Wiring mistake/Electrical element failure | |
| as well as | Input is AC | Wiring mistake |
| part of | Loose connection | Vibration |
| early | Not yet controlled | ECU is not wake up |
| late | Slow voltage / current rise | Electrical element failure |
| before | The power is onbefore pressing the enter button | Anchoring |
| after | The power turns on only after moving | Insufficient battery current |
Safety Use Case Example(53) p.10 では，電池，電源供給については扱わないとしている。しかし，電源は，供給する部品ごとに振る舞いが異なり，電池側の制御だけでは対応できるとは限らない。Table 6.は電源供給について HAZOP の分析例である。Table 6.では，moreの項目にtoo large, too high, less の項目にtoo small, too lowとあるように，誘導語は概念例であって，具体的には単位系によって用語が違うことを示している。as well asにおける質の違いに分類するかother than に分類するかなどは，分析対象ごとに一貫性があれば抜け漏れは防ぐことができる。実際には，Wiring mistake のような抽象的な表現ではなく，接続を間違えた素子名と端子名を具体的に記載する必要がある。Voltage is too low であれば，具体的な二つの端子名を記載する。
想定外を洗い出してから，検出方法の検討，対策の検討は別途行うことがあり Table 6 には検出方法，対策は示していない。設計者のように分析時点で検出方法，対策を思いつく場合には記載してもらっている。Table 7.にプログラマ用にそれぞれの誘導語に対応するプログラミング時の文の C 言語風記載例を紹介する(54)。想定外をなくすことに焦点をあてる。
Table7 . Guide Ward and Script Examples(59)
| Guide Word | Script examples |
|---|---|
| no | x == 0 or Null |
| reverse | x == - A |
| other than | x != A & x != 0 & x != - A |
| more | x > A |
| less | x < A |
| as well as | x(j) ==A or x1t == x2t |
| part of | A(k) == x |
| early | xt < At |
| late xt | > At |
| before | xi < Ai |
| after | xi > Ai |
x: variable, A: target value, t:time, i,j,k:index,
初期の段階と，二回目以降は一回目とやり方を変えることによる網羅性の確保を図っている。また，それぞれの段階で時間を設定し，全体の作業の中で，取りまとめ担当以外は一日以内の作業で終わるように時間配分を行なっている。
3.4 道具
開発過程でネットワークを利用する方法については，従来から検討してきた(58)。公開可能な資料はgithubのPublicにおき(59)，非公開の資料は gitlab の Private に置いている。AUTOSAR の UML モデル及メタモデルは EnterPrise Architectのファイルが配布されている(60)。また田中伸明が提案している道具はEnterPrise Architect アドオンとして評価している(61)。道具立てとしては，逆の誘導語と一緒に図に表示する方法，空間と時間の４つづつを同時に表示する方法などを検討している。図が同じで，誘導語だけ違う図を何枚も複写するのは手間がかかる上に，一覧性を失いかねないからである。
関連する研究のうち，プログラミングに関する事項は異なるcloud サービス間でも容易に移行できるように，docker で作成し，docker hubに登録する方法も取っている(62)。
自動運転では自動車だけではなく，地図・道路運行状況・信号などの外部との通信が重要であり，自動車が乗っ取られるだけでなく，サーバ，ネットワークが乗っ取られた場合などのサイバーセキュリティ対策の工夫が必要である(55)。
AUTOSAR は，IoT, Cloud の仕様について言及しておらず，仕様の組み合わせを実現していくかはこれからである。自動車製造業とCloud サービスとの提携(56)における技術仕様のうち，標準化するとよい境界の確認はこれからである。また，サイバー攻撃への対策を検討するための洗い出しは，日本では内閣府などが主導して取り組むことを宣言している(57)。 想定外を整理し、検出、対策を発想し、発生確率、影響度を積算する道具だてとの連携を検討している。
4.まとめ
HAZOP は，洗い出した事象の抽象的な網羅性の確認に役立つ。しばしば逆を検討しないことにより抜け漏れが発生したり，空間か時間，質か量，上限か下限という一方だけ検討し他方を検討しない傾向を排除することができる。未知のサイバー攻撃のような，想定外の洗い出しは，新しい仕様，新しい材料，新しい機構に対して，TRIZ を始めとする複数の設計指針とHAZOP を用いることによって発想してきた。自動運転のオープンソースであるAutoware(63)は docker 上でも展開できる構成になっているが，一定以上の性能が必要であり，動かしながらの分析はこれからである。多数の利害関係者の各分野の最先端の知見者の参加を募り，HAZOPなどの手法の利用と道具の整備(64)によって効率的な分析を進めて行きたい。特に、more, less の分析から低速走行と高速走行に分離した分析にが、実用性と将来性を展望した分析領域として焦点を当てる。
参考文献
(1)JIS C 5750-4-4:2011 ディペンダビリティ マネジメント 第4-4 部：システム信頼性のための解析技法―故障の木解析（ＦＴＡ）, 東京, 日本規格協会, 2011.
(2) JIS C 5750-4-3:2011 ディペンダビリティ マネジメント第4-3 部：システム信頼性のための解析技法―故障モード・影響解析（FMEA）の手順, 東京, 日本規格協会, 2011.
(3) IEC 61882:2016 Hazard and operability studies
(4) 小川清:遠隔 HAZOP 演習,日本技術士会情報工学部会, 2012
(5)小川清:HAZOP による安全分析について, 日本技術士会中部航空部会, 2016
(6)小川清:安全・安心シリーズ 想定外を減らす 11 個の「魔法の言葉」,東京,日本技術士会,技術士(602), 2017 p.16-19
(7)小川清:HAZOP 演習,SWEST, https://bit.ly/2UAqXMZ, 2010
(8)小川清:想定外をなくす 実践安全分析(HAZOP) 2.0, SWEST, https://bit.ly/3bsksCG, 2011
(9)小川清:HAZOP 演習,SWEST, https://bit.ly/2QK2N1F, 2013
(10)小川清:HAZOP3.0,SWEST, https://bit.ly/2wCeZKT, 2017
(11)小川清:図を使って分析すればこんなに簡単,SWEST, https://bit.ly/3dsd3Fj, 2019
(12) 柏原一雄:ソフトウェア開発における HAZOP 入門, JaSST2018 Tokai, https://bit.ly/2UFXwJq, 2018
(13) 柏原一雄ほか:ソフトウェア開発における HAZOP 入門, JaSST2019 Tokai, https://bit.ly/3dsbibb,2019
(14) 柏原一雄ほか:ソフトウェア開発における HAZOP 入門, JaSST2019 Shikoku, https://bit.ly/3dp8X0R,2019
(15) 小川清:分析手法組み合わせのヒント, NCPICE.net, 2017
(16) Kiyoshi Ogawa: An application on Hazard and operability Study for digital system, 5th World Congress for Software Quality, 2011, Shanhai China
(17)小川清:形式手法教育の課題 HAZOP UML モデル検証, 先端ソフトウェア工学に関する Grace 国際シンポ 形式手法の産業応用ワークショッフ, https://bit.ly/39VduG1, 2010
(18) 小川清:効率的HAZOP, https://bit.ly/33eT7B7, 2019
(19) プロセス改善ナビゲーションガイドベストプラクティス編, https://www.ipa.go.jp/files/000005129.pdf, 2008
(20) Nancy G.Leveson, Safeware, Addison-Wesley, 1995,700p
(21) 鯛渕健ほか:交通事故死傷者ゼロに向けた最新の先進安全・自動運転技術とその展望, 東京, 自動車技術会,自動車技術Vol.74, No.3(2020)p.10-16
(22) 国土交通省 ASV 推進検討会, クルマの高度化による更なる交通事故の削減を目指して http://www.mlit.go.jp/jidosha/anzen/01asv/resourse/data/asv6pamphlet.pdf
(23) 塩見幸弘: ADASに対応する法制化の動きと課題, 将来動向, 東京,自動車技術会,自動車技術Vol.74, No.3(2020)p.85-90
(24) 小川清: 安全分析においてHAZOPで想定外を洗い出すために, https://bit.ly/38XN5WW, 2020
(25) 緒方隆司: 効率的な製品開発を支援する機能ベースの課題分析法, 日刊工業新聞社,機械設計 2017年12月号, p.50
(26) 小川清:科学四分類, https://bit.ly/2U2UkXY, 2016
(27) 消費者庁: 子どもを事故から守る!!事故防止ハンドブック, https://bit.ly/2IU44ik, 2019
(28) 小川清: プログラマが知っているとよい設計指針（２）形の設計指針, https://bit.ly/38SBNmF, 2019
(29)ユニバーサルデザイン, https://bit.ly/3d4UVBk
(30) JIS S 8341-1：2010 高齢者・障害者配慮設計指針ソフトウェア及びサービス—第１部：共通指針,東京,日本規格協会
(31) 小川清：４M５E, https://bit.ly/3bslSNO, 2020
(32) 高木芳徳: トリーズの発明原理４０, 東京, ディスカヴァー・トゥエンティワン, 2014, 187p
(33) 国際単位系（SI）日本語版第 8 版,(独)産業技術総合研究所計量標準総合センター, https://bit.ly/2UbKS5X, 2006
(34) 小川清: 用語の衝突, https://bit.ly/2TCokLv, 2019
(35) 小川清: 確率・統計, https://bit.ly/39jk7ku, 2020
(36) The Angiosperm Phylogeny Group: An update of the Angiosperm Phylogeny Group classification for the orders and families of flowering plants: APG IV, 2016
(37)ANGIOSPERM PHYLOGENY WEBSITE, version 14., http://www.mobot.org/MOBOT/Research/APweb/, 2017
(38) 伏見譲: DNAと遺伝情報の物理, 岩波講座 物理の世界物理と情報, 東京, 岩波書店, 2005, 97p
(39) 曹纓ほか: 分子系統樹推定におけるモデルの ミススペシフィケーション 脊椎動物の系統進化を例として, 東京, 統計数理研究所,統計数理第 50 巻 第 1 号(2002) p.69–85
(40) ワークショップ「ソフトウェア開発におけるHAZOP入門」の勧め or 進め方, 小川清, https://bit.ly/2vd1lx2, 2020
(41) AUTOSAR(AUTomotive Open System Architecture): https://www.autosar.org
(42) docker: https://hub.docker.com/
(43) ISO 17356-3:2005, Open interface for embedded automotive applications Part 3: OSEK/VDX Operating System (OS)
(44) ISO/IEC/IEEE 9945:2009, Portable Operating System Interface (POSIX®) Base Specifications, Issue 7
(45) ISO 11898-1:2015 Controller Area Network(CAN),
(46) TCP/IP, TCP(Transmission Control Protocol), RFC793:1981,IP(Internet Protocol), RFC791:1981
(47) ISO/IEC 23360:2006 Linux Standard Base (LSB) core specification 3.1
(48) ISO/IEC 9899:2018, Programming languages C
(49) 久保孝行: 組込みエンジニアのための状態遷移設計手法, 東京, TechShare, 2012
(50) 尾仲洋和ほか:中小企業における機能安全対応への取り組み, JAXA/IPA 10thWOCS,2012
(51) 小川清ほか:HAZOP-TRIZ 連携による交通安全分析, 日本学術会議安全工学シンポジウム, 2017
(52) 小川清:Autosar 単語帳, https://bit.ly/33cCaHA, 2020
(53) 小川清: https://github.com/kaizen-nagoya/Safety_
Analysis_ self_driving_car, 2020
(54) AUTOSAR, Modeling Guidelines of Basic Software EA UML
Model, https://bit.ly/33bjSGA, 2016
(55) 経済産業省 中部経済産業局,平成23年度 市場競争環境評価調査事業 中小ものづくり産業IT基盤ツールに係る環境競争調査報告書,平成24年3月, https://bit.ly/2x3N3PN
(56) 田中伸明ほか:安全分析の図的表現方法，及び設計文書と親和性の高いツールの提案, 東京,日本学術会議,安全工学シンポジウム(2019).p.280-283
(57) 小川清:https://hub.docker.com/repository/docker/kaizenjapan/autosar
(58) AUTOSAR:Safety Use Case Example, https://bit.ly/ 3aFPIOm, 2019
(59) ちょけむさ,ちょけねこたんじょうびのおくりもの,2020
(60) 日本学術会議:自動運転のあるべき将来に向けて術界から見た現状理解,工学システムに関する安全・安心・リスク検討分科会, https://bit.ly/2U5suuc, 2017
(61) Tara Prakriya, Microsoft Connected Vehicle Platform, https://bit.ly/2Uksub2, 2019
(62) 内閣府: 戦略的イノベーション創造プログラム(SIP) 自動運転(システムとサービスの拡張) 研究開発計画, https://bit.ly/2w2oxOS, 2019
(63) Autoware: https://www.autoware.ai
(64) 田中伸明ほか：安全分析とモデルベース設計を統合することによる説明力の向上策, 自動車技術会春季, 2020
追加情報
上記記事の追加情報を順次追記します。
(19) プロセス改善ナビゲーションガイドベストプラクティス編, https://www.ipa.go.jp/files/000005129.pdf, 2008
https://qiita.com/kaizen_nagoya/items/be2ac977bd81e043eb26
(38) 伏見譲: DNAと遺伝情報の物理, 岩波講座 物理の世界物理と情報, 東京, 岩波書店, 2005, 97p
https://qiita.com/kaizen_nagoya/items/150646f72c55a36f8c39
(48) ISO/IEC 9899:2018, Programming languages C
https://www.open-std.org/jtc1/sc22/wg14/www/docs/n2310.pdf
(59) ちょけむさ,ちょけねこたんじょうびのおくりもの,2020
https://qiita.com/kaizen_nagoya/items/fc9675686c229f7a155e
(56) 田中伸明ほか:安全分析の図的表現方法，及び設計文書と親和性の高いツールの提案, 東京,日本学術会議,安全工学シンポジウム(2019).p.280-283
https://qiita.com/kaizen_nagoya/items/048dfde781cace74e718
<この項は書きかけです。順次追記します。>
This article is not completed. I will add some words and/or centences in order.
Este artículo no está completo. Agregaré algunas palabras en orden.
知人資料
' @kazuo_reve 私が効果を確認した「小川メソッド」
https://qiita.com/kazuo_reve/items/a3ea1d9171deeccc04da
' @kazuo_reve 新人の方によく展開している有益な情報
https://qiita.com/kazuo_reve/items/d1a3f0ee48e24bba38f1
' @kazuo_reve Vモデルについて勘違いしていたと思ったこと
https://qiita.com/kazuo_reve/items/46fddb094563bd9b2e1e
自己記事一覧
Qiitaで逆リンクを表示しなくなったような気がする。時々、スマフォで表示するとあらわることがあり、完全に削除したのではなさそう。2024年４月以降、せっせとリンクリストを作り、統計を取って確率を説明しようとしている。2025年２月末を目標にしていた。
一覧の一覧( The directory of directories of mine.) Qiita(100)
https://qiita.com/kaizen_nagoya/items/7eb0e006543886138f39
仮説（0）一覧（目標100現在40）
https://qiita.com/kaizen_nagoya/items/f000506fe1837b3590df
Qiita(0)Qiita関連記事一覧（自分）
https://qiita.com/kaizen_nagoya/items/58db5fbf036b28e9dfa6
Error一覧 error(0)
https://qiita.com/kaizen_nagoya/items/48b6cbc8d68eae2c42b8
C++ Support(0)
https://qiita.com/kaizen_nagoya/items/8720d26f762369a80514
Coding(0) Rules, C, Secure, MISRA and so on
https://qiita.com/kaizen_nagoya/items/400725644a8a0e90fbb0
Ethernet 記事一覧 Ethernet(0)
https://qiita.com/kaizen_nagoya/items/88d35e99f74aefc98794
Wireshark 一覧 wireshark(0)、Ethernet(48)
https://qiita.com/kaizen_nagoya/items/fbed841f61875c4731d0
線網（Wi-Fi）空中線(antenna)(0) 記事一覧(118/300目標)
https://qiita.com/kaizen_nagoya/items/5e5464ac2b24bd4cd001
なぜdockerで機械学習するか 書籍・ソース一覧作成中 (目標100)
https://qiita.com/kaizen_nagoya/items/ddd12477544bf5ba85e2
プログラムちょい替え（0）一覧:4件
https://qiita.com/kaizen_nagoya/items/296d87ef4bfd516bc394
言語処理100本ノックをdockerで。python覚えるのに最適。:10+12
https://qiita.com/kaizen_nagoya/items/7e7eb7c543e0c18438c4
Python(0)記事をまとめたい。
https://qiita.com/kaizen_nagoya/items/088c57d70ab6904ebb53
安全（0）安全工学シンポジウムに向けて: 21
https://qiita.com/kaizen_nagoya/items/c5d78f3def8195cb2409
プログラマによる、プログラマのための、統計(0)と確率のプログラミングとその後
https://qiita.com/kaizen_nagoya/items/6e9897eb641268766909
転職(0)一覧
https://qiita.com/kaizen_nagoya/items/f77520d378d33451d6fe
技術士(0)一覧
https://qiita.com/kaizen_nagoya/items/ce4ccf4eb9c5600b89ea
Reserchmap(0) 一覧
https://qiita.com/kaizen_nagoya/items/506c79e562f406c4257e
物理記事 上位100
https://qiita.com/kaizen_nagoya/items/66e90fe31fbe3facc6ff
量子(0) 計算機, 量子力学
https://qiita.com/kaizen_nagoya/items/1cd954cb0eed92879fd4
数学関連記事１００
https://qiita.com/kaizen_nagoya/items/d8dadb49a6397e854c6d
coq(0) 一覧
https://qiita.com/kaizen_nagoya/items/d22f9995cf2173bc3b13
統計(0)一覧
https://qiita.com/kaizen_nagoya/items/80d3b221807e53e88aba
図(0) state, sequence and timing. UML and お絵描き
https://qiita.com/kaizen_nagoya/items/60440a882146aeee9e8f
色(0) 記事100書く切り口
https://qiita.com/kaizen_nagoya/items/22331c0335ed34326b9b
品質一覧
https://qiita.com/kaizen_nagoya/items/2b99b8e9db6d94b2e971
言語・文学記事 １００
https://qiita.com/kaizen_nagoya/items/42d58d5ef7fb53c407d6
医工連携関連記事一覧
https://qiita.com/kaizen_nagoya/items/6ab51c12ba51bc260a82
水の資料集(0) 方針と成果
https://qiita.com/kaizen_nagoya/items/f5dbb30087ea732b52aa
自動車 記事 １００
https://qiita.com/kaizen_nagoya/items/f7f0b9ab36569ad409c5
通信記事１００
https://qiita.com/kaizen_nagoya/items/1d67de5e1cd207b05ef7
日本語（０）一欄
https://qiita.com/kaizen_nagoya/items/7498dcfa3a9ba7fd1e68
英語(0) 一覧
https://qiita.com/kaizen_nagoya/items/680e3f5cbf9430486c7d
音楽 一覧(0)
https://qiita.com/kaizen_nagoya/items/b6e5f42bbfe3bbe40f5d
「@kazuo_reve 新人の方によく展開している有益な情報」確認一覧
https://qiita.com/kaizen_nagoya/items/b9380888d1e5a042646b
鉄道（０）鉄道のシステム考察はてっちゃんがてつだってくれる
https://qiita.com/kaizen_nagoya/items/faa4ea03d91d901a618a
OSEK OS設計の基礎 OSEK(100)
https://qiita.com/kaizen_nagoya/items/7528a22a14242d2d58a3
coding (101) 一覧を作成し始めた。omake:最近のQiitaで表示しない5つの事象
https://qiita.com/kaizen_nagoya/items/20667f09f19598aedb68
官公庁・学校・公的団体（NPOを含む）システムの課題、官（０）
https://qiita.com/kaizen_nagoya/items/04ee6eaf7ec13d3af4c3
「はじめての」シリーズ ベクタージャパン
https://qiita.com/kaizen_nagoya/items/2e41634f6e21a3cf74eb
AUTOSAR(0)Qiita記事一覧, OSEK(75)
https://qiita.com/kaizen_nagoya/items/89c07961b59a8754c869
プログラマが知っていると良い「公序良俗」
https://qiita.com/kaizen_nagoya/items/9fe7c0dfac2fbd77a945
LaTeX(0) 一覧
https://qiita.com/kaizen_nagoya/items/e3f7dafacab58c499792
自動制御、制御工学一覧（０）
https://qiita.com/kaizen_nagoya/items/7767a4e19a6ae1479e6b
Rust(0) 一覧
https://qiita.com/kaizen_nagoya/items/5e8bb080ba6ca0281927
programの本質は計画だ。programは設計だ。
https://qiita.com/kaizen_nagoya/items/c8545a769c246a458c27
登壇直後版 色使い(JIS安全色) Qiita Engineer Festa 2023〜私しか得しないニッチな技術でLT〜 スライド編 0.15
https://qiita.com/kaizen_nagoya/items/f0d3070d839f4f735b2b
プログラマが知っていると良い「公序良俗」
https://qiita.com/kaizen_nagoya/items/9fe7c0dfac2fbd77a945
逆も真：社会人が最初に確かめるとよいこと。OSEK(69)、Ethernet(59)
https://qiita.com/kaizen_nagoya/items/39afe4a728a31b903ddc
統計の嘘。仮説（127）
https://qiita.com/kaizen_nagoya/items/63b48ecf258a3471c51b
自分の言葉だけで論理展開できるのが天才なら、文章の引用だけで論理展開できるのが秀才だ。仮説（136）
https://qiita.com/kaizen_nagoya/items/97cf07b9e24f860624dd
参考文献駆動執筆(references driven writing)・デンソークリエイト編
https://qiita.com/kaizen_nagoya/items/b27b3f58b8bf265a5cd1
「何を」よりも「誰を」。１０年後のために今見習いたい人たち
https://qiita.com/kaizen_nagoya/items/8045978b16eb49d572b2
Qiitaの記事に３段階または５段階で到達するための方法
https://qiita.com/kaizen_nagoya/items/6e9298296852325adc5e
出力(output)と呼ばないで。これは状態(state)です。
https://qiita.com/kaizen_nagoya/items/80b8b5913b2748867840
祝休日・謹賀新年 2025年の目標
https://qiita.com/kaizen_nagoya/items/dfa34827932f99c59bbc
Qiita 1年間をまとめた「振り返りページ」＠2024
https://qiita.com/kaizen_nagoya/items/ed6be239119c99b15828
2024 参加・主催Calendarと投稿記事一覧 Qiita(248)
https://qiita.com/kaizen_nagoya/items/d80b8fbac2496df7827f
主催Calendar2024分析 Qiita(254)
https://qiita.com/kaizen_nagoya/items/15807336d583076f70bc
Calendar 統計
https://qiita.com/kaizen_nagoya/items/e315558dcea8ee3fe43e
LLM 関連 Calendar 2024
https://qiita.com/kaizen_nagoya/items/c36033cf66862d5496fa
Large Language Model Related Calendar
https://qiita.com/kaizen_nagoya/items/3beb0bc3fb71e3ae6d66
博士論文 Calendar 2024 を開催します。
https://qiita.com/kaizen_nagoya/items/51601357efbcaf1057d0
博士論文(0)関連記事一覧
https://qiita.com/kaizen_nagoya/items/8f223a760e607b705e78
coding (101) 一覧を作成し始めた。omake:最近のQiitaで表示しない5つの事象
https://qiita.com/kaizen_nagoya/items/20667f09f19598aedb68
あなたは「勘違いまとめ」から、勘違いだと言っていることが勘違いだといくつ見つけられますか。人間の間違い(human error(125))の種類と対策
https://qiita.com/kaizen_nagoya/items/ae391b77fffb098b8fb4
プログラマの「プログラムが書ける」思い込みは強みだ。３つの理由。仮説（168）統計と確率(17) , OSEK(79)
https://qiita.com/kaizen_nagoya/items/bc5dd86e414de402ec29
出力(output)と呼ばないで。これは状態(state)です。
https://qiita.com/kaizen_nagoya/items/80b8b5913b2748867840
これからの情報伝達手段の在り方について考えてみよう。炎上と便乗。
https://qiita.com/kaizen_nagoya/items/71a09077ac195214f0db
ISO/IEC JTC1 SC7 Software and System Engineering
https://qiita.com/kaizen_nagoya/items/48b43f0f6976a078d907
アクセシビリティの知見を発信しよう！（再び）
https://qiita.com/kaizen_nagoya/items/03457eb9ee74105ee618
統計論及確率論輪講（再び）
https://qiita.com/kaizen_nagoya/items/590874ccfca988e85ea3
読者の心をグッと惹き寄せる7つの魔法
https://qiita.com/kaizen_nagoya/items/b1b5e89bd5c0a211d862
「@kazuo_reve 新人の方によく展開している有益な情報」確認一覧
https://qiita.com/kaizen_nagoya/items/b9380888d1e5a042646b
ソースコードで議論しよう。日本語で議論するの止めましょう（あるプログラミング技術の議論報告）
https://qiita.com/kaizen_nagoya/items/8b9811c80f3338c6c0b0
脳内コンパイラの3つの危険
https://qiita.com/kaizen_nagoya/items/7025cf2d7bd9f276e382
心理学の本を読むよりはコンパイラ書いた方がよくね。仮説（34）
https://qiita.com/kaizen_nagoya/items/fa715732cc148e48880e
NASAを超えるつもりがあれば読んでください。
https://qiita.com/kaizen_nagoya/items/e81669f9cb53109157f6
データサイエンティストの気づき!「勉強して仕事に役立てない人。大嫌い!!」『それ自分かも?』ってなった!!!
https://qiita.com/kaizen_nagoya/items/d85830d58d8dd7f71d07
「ぼくの好きな先生」「人がやらないことをやれ」プログラマになるまで。仮説（37）
https://qiita.com/kaizen_nagoya/items/53e4bded9fe5f724b3c4
なぜ経済学徒を辞め、計算機屋になったか（経済学部入学前・入学後・卒業後対応） 転職(1)
https://qiita.com/kaizen_nagoya/items/06335a1d24c099733f64
プログラミング言語教育のXYZ。 仮説（52）
https://qiita.com/kaizen_nagoya/items/1950c5810fb5c0b07be4
【24卒向け】9ヶ月後に年収１０００万円を目指す。二つの関門と三つの道。
https://qiita.com/kaizen_nagoya/items/fb5bff147193f726ad25
「【25卒向け】Qiita Career Meetup for STUDENT」予習の勧め
https://qiita.com/kaizen_nagoya/items/00eadb8a6e738cb6336f
大学入試不合格でも筆記試験のない大学に入って卒業できる。卒業しなくても博士になれる。
https://qiita.com/kaizen_nagoya/items/74adec99f396d64b5fd5
全世界の不登校の子供たち「博士論文」を書こう。世界子供博士論文遠隔実践中心 安全(99)
https://qiita.com/kaizen_nagoya/items/912d69032c012bcc84f2
日本のプログラマが世界で戦える16分野。仮説(53),統計と確率(25) 転職(32)、Ethernet(58)
https://qiita.com/kaizen_nagoya/items/a7e634a996cdd02bc53b
小川メソッド 覚え（書きかけ）
https://qiita.com/kaizen_nagoya/items/3593d72eca551742df68
DoCAP（ドゥーキャップ）って何ですか？
https://qiita.com/kaizen_nagoya/items/47e0e6509ab792c43327
views 20,000越え自己記事一覧
https://qiita.com/kaizen_nagoya/items/58e8bd6450957cdecd81
Views１万越え、もうすぐ１万記事一覧 最近いいねをいただいた213記事
https://qiita.com/kaizen_nagoya/items/d2b805717a92459ce853
amazon 殿堂入りNo1レビュアになるまで。仮説(102)
https://qiita.com/kaizen_nagoya/items/83259d18921ce75a91f4
100以上いいねをいただいた記事16選
https://qiita.com/kaizen_nagoya/items/f8d958d9084ffbd15d2a
水道局10年(1976,4-1986,3)を振り返る
https://qiita.com/kaizen_nagoya/items/707fcf6fae230dd349bf
小川清最終講義、最終講義（再）計画, Ethernet(100) 英語(100) 安全(100)
https://qiita.com/kaizen_nagoya/items/e2df642e3951e35e6a53
＜この記事は個人の過去の経験に基づく個人の感想です。現在所属する組織、業務とは関係がありません。＞
This article is an individual impression based on my individual experience. It has nothing to do with the organization or business to which I currently belong.
Este artículo es una impresión personal basada en mi experiencia personal. No tiene nada que ver con la organización o empresa a la que pertenezco actualmente.
文書履歴(document history)
ver. 0.01 初稿 20250518
最後までおよみいただきありがとうございました。
いいね 💚、フォローをお願いします。
Thank you very much for reading to the last sentence.
Please press the like icon 💚 and follow me for your happy life.
Muchas gracias por leer hasta la última oración.
Por favor, haz clic en el ícono Me gusta 💚 y sígueme para tener una vida feliz.