こんにちは、ひろかずです。
CODEBLUE2015に行ってきましたので、レポートします。
ライブで書いているので、多少の誤字脱字、表記揺れはご容赦ください。
予定の500名を超えて、600名の来場者
お品書き
0.挨拶
東京電機大学教授 佐々木良一(実行委員長)
1.基調講演:シンギュラリティがやってくる
神戸大学名誉教授 松本卓也
2.医療機器のセキュリティ
フローリアン・グルーノ
[Medical][IoT]
=== 以降は後半 ===
3.Firefox の倒し方
西村 宗晃 (にしむねあ)
[Web][Firefox][OSS][CORS]
4.中国における情報セキュリティの新たな免疫システム
シャオドゥン・ファン
[bug report][Community][Zero-day market]
5.日本の組織をターゲットにした攻撃キャンペーンの詳細
朝長 秀誠 & 中村 祐
[APT][reverse engineering]
0.挨拶
東京電機大学教授 佐々木良一(実行委員長)
今年から2パラレルセッション、Under25枠(学生2名)の新しい試み
情報交換、交流会の場も設けている。各国から応募があったが、日本から2名参加
20歳以下のスピーカーが一般枠で1名いる(年齢伏せて応募)
1.基調講演:シンギュラリティがやってくる
神戸大学名誉教授 松本卓也
2045年問題 コンピュータが人類を超える日
シンギュラリティ(技術的特異点)
人類を遥かに超える知能(超知能)が生まれるのが2045年。
知能爆発が起こる(自分のプログラムを自分で書き換える)
この時に人類社会に大きな影響(ユートピアorアポカリプス?)
ハリウッド映画に見る人工知能
- 2001年宇宙の旅:HAL9000:強い人工知能(意識を持っているということ:哲学用語)
- ターミネーター:スカイネット/殺人ロボット:強い人口知能
- 攻殻機動隊:義体化/電脳化:実現する会のコンペが神戸で開催予定。神戸市には公安9課があるw
- マトリックス:ネオとアーキテクト:シュミレーション現実化説
- Her 世界で一つの彼女:virtual秘書:強い人工知能
- トランセンデンス:マインドアップローディング(コンピュータの上に人間の意識を移植):
- ルーシー:超人間:
- Ex-Machina:チューリングテスト:人間同一なものを作る(日本未公開)
超知能の種類
機械超知能:ターミネータ、マトリクス
超人類:生物学的に増強された人間(ルーシー:ありそうにない)
知能増強(AI)人間:攻殻機動隊(一番有り得る)
本題
上記のことを実際にやろう、できるという話
分類
- 狭い人工知能:特定目的、チェスマシン、ワトソン、Siri
- 汎用人工知能:人間的、一応なんでもできて常識ある、2029年に実現?
手法
- 生物学的手法:大脳皮質の模倣
- 数学的手法:深層学習大流行
- 工学的方法:従来的なAI(Siriとか)
シンギュラリティへの道のり
- ~2029年:スマートマシンの発達(ガートナー社予測)、技術的失業
- 2029年:前特異点(プレ・シンギュラリティ)汎用人工知能、チューリングテストのパス
- 2045年:シンギュラリティ(全人類並の知能)
起きる時期(アンケート結果)
- 21世紀以内が一番高い予測
シンギュラリティ後の世界
- 楽観的世界観:不死になる、あるゆる問題が解決
- 悲観的世界観:ハリウッド的な世界
人工知能脅威論
- ホーキンス博士
- イーロン・マスク(ヴァイカリウスに投資)
- ビル・ゲイツ(MSは膨大な人工知能投資)
→ 言ってることと、やってることが違うので、ハリウッド的な世界観かなー
専門家は脅威論に与しない
- 中立以上が75%
シンギュラリティ後の現実的世界
- 超知能と共存
- 国家間の格差拡大(先進国による妨害も)
- 個人間格差拡大(金持ちだけが救われる)
目指すべき社会
- 全知全能の慈悲深い超知能?:人類補完計画?
- 人は働かなくていい:総カルチャーセンター、ベーシックインカム(ロボットが稼いで人が消費)
- ギリシャ・ローマが理想:奴隷が仕事、市民は学問・娯楽
人類史の転換点
- 農業革命:1万年前:定住、国家の起源
- 産業革命:250年前の英国(米国、EU、日本)
- 第二次産業革命
中国の失敗
- 伝統的な先進国だったが、明時代の大航海以降、洋出禁止
今後の日本
- 現在は、幕末の泰平の眠りに似てる
- 超知能は黒船
- 指導層の覚醒が必要(政治家、官僚、起業家、メディア)
- 志士(数学、英語、コンピュータが武器)
人工知能の進歩は止められない
- 促進の動機(ペンタゴンとウォール・ストリート)
政府レベルの取り組み
- EU:ヒューマンブレインプロジェクト:2023年前に人間の脳を再現
- アメリカ:
ITジャイアントと人工知能
- グーグル、フェイスブック、MS、IBM、百度(最も脅威)
人工知能競争
- マンハッタン計画
- 天才を買う
- 東大発のロボットベンチャーSHAFTを買収(国防総省→Google)
Googleの野望
- ロボット製造会社、火災報知機会社、人工衛星会社、監視カメラ会社を買収
日本の取組み
- 予算配分は米国:IT企業;日本=100:10:1
- 敗北は必至
日本からシンギュラリティを!
- 齋藤元章「エクサスケールの衝撃」
- アメリカで医療機器ベンチャー成功(日本では挑戦者が成功し得ない土壌)
- 日本でスパコン開発(2014年):7ヶ月で開発
- エクサスケールスパコン(京の100倍:1日600万円の電気代)を2020年までに作る
- ハードはOK。後はソフト...H(S)TM理論など
- 機械超知能(人工大脳皮質)はクラウド
- ウェアブルデバイスであらゆる知識を教えてくれる
- 大阪で会合
-
齋藤元章 ワイアード
で検索 - 論文を書いて、科学研究補助で超知能を実現できる!
2.医療機器のセキュリティ
フローリアン・グルーノ
[Medical][IoT]
CODE BLUEは医療用語では 重要なイベント(心肺停止)
助けを必要としている
を示す。
動機
- 重要性:医師と患者は機器を信じている
- 技術:非常に複雑、独占的なプロトコル、技術の結晶
- FDAから勧告:サイバー攻撃からの脅威を低減を保証する適切な措置を講じること
- マカフィーのテクニカルハッカーにて、医療機器の設定を変える事を実証(ハードコードされたパスワード等の脆弱性)
成果発表
これまで
- シーメンスBS1(パラレルポートとプリンタポート)
- 日本光電ニューロファックス脳波計(外部とのコミュニケーションは要しない)
変わること
- プロセスの最適化
- 通信ポートオプションの有効化
- ICUで特に必要
- 相互運用(ehealth記録、画像保存通信システム)
これらの変化への準備
- 病院ITの状況(リソース/ノウハウが足りているか)
- 異なるネットワーク(医師、患者、関係者...)
- ホームモニタリングはどうか?(安価で、セキュアでないといけない)
- HTTPで送信されている(ASCIIでデコードすれば判ってしまう。Wifmo)
- ベンダーは学習を活かしているか?(ポートは使わないが、基盤は対応してしまっている。セキュアな病院ネットワークとインターネットに両方接続するPC)
ドイツでは、安全とセキュリティは同じ言葉(区別がない)
安全はほぼ機能するが、セキュリティは守られているか?
- ハッカーにどうせやられてしまう
- 501(k)は、敵対的でなく医者が患者を傷つけない前提でいる。
- 認証も安全にFOCUSしている
問題
リソースがなく、セキュリティ侵害に対応できない。
対象
- 有効化された通信ポート持つ医療機器
- 重症度評価:平時を観察(Low),患者にフィードバック(High)
- 診断:MRIの設定を誤ると大事故になる、除細動器、酸素ポンプ(入手難しい)
- ベンダーは関心がない?
- 高価なのでベンダー、病院の協力が必要
これまでの発見
事例1.脳波計
有線なので、暗号化、認証はなかった。
Open脳波計プロジェクトというものもある。
事例2.生体モニター(心拍計のようなもの)
攻撃実演:ネットワークからDoS攻撃で生体モニターを無効にする。(表示データを消してしまう。手術時はCritical)
pythonスクリプトでブロードキャストMessageを流して生体モニタを再起動させる。
攻撃が止まるまで再起動できない。
事例3.生体モニター(心拍計のようなもの)
攻撃実演:閾値を変更することで心拍数警報境界を変えてしまう。
事例4.MRI構成ステーション
ホストシステム(WindowsPC)
画像処理システム(生データ抽出と処理)
VxWorks(コイルの制御)
- WindowsXPでFWがOffになっている。
- ベンダーは64bitOSなので大丈夫と言っている
- ポートは114個空いてた(httpdも!)
- システムクラッシュに成功
事例5.シリンジポンプ
セキュリティコードで設定値を保護
- ネットワークからセキュリティコードを窃取して、設定変更できた。
事例6.麻酔ポンプ
- ネットワークから装置をフリーズさせることができた。
- アラームが鳴った
- 幸運にもバックアップが稼働
事例7.生体モニター(バイタルサインの表示する機器)
ICUに入ったVIPをモニタしているシナリオ
* ネットワーク経由で攻撃スクリプトを実行し、平常時のバイタルサインを録画し、クラッシュさせた後に、装置上で再生させる事ができた。
* 全く別の画面を表示させることができた。
最後に
医療機器には攻撃は可能であり、検証が必要である。
入院の際は周囲に気をつけて!:)
質疑応答
患者が医療機器の誤使用による死亡事故が増えている。
現実に起こっているか?
- 検知することができていないので、そういったデータはない。
- 標的型としてはあり得る。
- 一般患者としては、ネットワークセキュリティを高めることが必要
検証は、実際の病院ネットワークで行ったのか?
- コントロールされたラボ環境で行った。
- 対象機器には最終的にクリーンナップを行った。
前半はここまで。
後半に続きます。