こんにちは、ひろかずです。
CODEBLUE2015に行ってきましたので、レポートします。
ライブで書いているので、多少の誤字脱字、表記揺れはご容赦ください。
予定の500名を超えて、600名の来場者
お品書き
0.挨拶
東京電機大学教授 佐々木良一(実行委員長)
1.基調講演：シンギュラリティがやってくる
神戸大学名誉教授 松本卓也
2.医療機器のセキュリティ
フローリアン・グルーノ
[Medical][IoT]
=== 以降は後半 ===
3.Firefox の倒し方
西村 宗晃 （にしむねあ）
[Web][Firefox][OSS][CORS]
4.中国における情報セキュリティの新たな免疫システム
シャオドゥン・ファン
[bug report][Community][Zero-day market]
5.日本の組織をターゲットにした攻撃キャンペーンの詳細
朝長 秀誠 & 中村 祐
[APT][reverse engineering]
0.挨拶
東京電機大学教授 佐々木良一(実行委員長)
今年から2パラレルセッション、Under25枠(学生2名)の新しい試み
情報交換、交流会の場も設けている。各国から応募があったが、日本から2名参加
20歳以下のスピーカーが一般枠で1名いる(年齢伏せて応募)
1.基調講演：シンギュラリティがやってくる
神戸大学名誉教授 松本卓也
2045年問題 コンピュータが人類を超える日
シンギュラリティ(技術的特異点)
人類を遥かに超える知能(超知能)が生まれるのが2045年。
知能爆発が起こる(自分のプログラムを自分で書き換える)
この時に人類社会に大きな影響(ユートピアorアポカリプス?)
ハリウッド映画に見る人工知能
- 2001年宇宙の旅：HAL9000：強い人工知能(意識を持っているということ：哲学用語)
- ターミネーター：スカイネット/殺人ロボット：強い人口知能
- 攻殻機動隊：義体化/電脳化：実現する会のコンペが神戸で開催予定。神戸市には公安9課があるw
- マトリックス：ネオとアーキテクト：シュミレーション現実化説
- Her 世界で一つの彼女：virtual秘書：強い人工知能
- トランセンデンス：マインドアップローディング(コンピュータの上に人間の意識を移植)：
- ルーシー：超人間：
- Ex-Machina：チューリングテスト：人間同一なものを作る(日本未公開)
超知能の種類
機械超知能：ターミネータ、マトリクス
超人類：生物学的に増強された人間(ルーシー：ありそうにない)
知能増強(AI)人間：攻殻機動隊(一番有り得る)
本題
上記のことを実際にやろう、できるという話
分類
- 狭い人工知能：特定目的、チェスマシン、ワトソン、Siri
- 汎用人工知能：人間的、一応なんでもできて常識ある、2029年に実現?
手法
- 生物学的手法：大脳皮質の模倣
- 数学的手法：深層学習大流行
- 工学的方法：従来的なAI(Siriとか)
シンギュラリティへの道のり
- ~2029年：スマートマシンの発達(ガートナー社予測)、技術的失業
- 2029年：前特異点(プレ・シンギュラリティ)汎用人工知能、チューリングテストのパス
- 2045年：シンギュラリティ(全人類並の知能)
起きる時期(アンケート結果)
- 21世紀以内が一番高い予測
シンギュラリティ後の世界
- 楽観的世界観：不死になる、あるゆる問題が解決
- 悲観的世界観：ハリウッド的な世界
人工知能脅威論
- ホーキンス博士
- イーロン・マスク(ヴァイカリウスに投資)
- ビル・ゲイツ(MSは膨大な人工知能投資)
→ 言ってることと、やってることが違うので、ハリウッド的な世界観かなー
専門家は脅威論に与しない
- 中立以上が75%
シンギュラリティ後の現実的世界
- 超知能と共存
- 国家間の格差拡大(先進国による妨害も)
- 個人間格差拡大(金持ちだけが救われる)
目指すべき社会
- 全知全能の慈悲深い超知能？：人類補完計画？
- 人は働かなくていい：総カルチャーセンター、ベーシックインカム(ロボットが稼いで人が消費)
- ギリシャ・ローマが理想：奴隷が仕事、市民は学問・娯楽
人類史の転換点
- 農業革命：1万年前：定住、国家の起源
- 産業革命：250年前の英国(米国、EU、日本)
- 第二次産業革命
中国の失敗
- 伝統的な先進国だったが、明時代の大航海以降、洋出禁止
今後の日本
- 現在は、幕末の泰平の眠りに似てる
- 超知能は黒船
- 指導層の覚醒が必要（政治家、官僚、起業家、メディア）
- 志士(数学、英語、コンピュータが武器)
人工知能の進歩は止められない
- 促進の動機(ペンタゴンとウォール・ストリート)
政府レベルの取り組み
- EU：ヒューマンブレインプロジェクト：2023年前に人間の脳を再現
- アメリカ：
ITジャイアントと人工知能
- グーグル、フェイスブック、MS、IBM、百度(最も脅威)
人工知能競争
- マンハッタン計画
- 天才を買う
- 東大発のロボットベンチャーSHAFTを買収(国防総省→Google)
Googleの野望
- ロボット製造会社、火災報知機会社、人工衛星会社、監視カメラ会社を買収
日本の取組み
- 予算配分は米国：IT企業；日本＝100:10:1
- 敗北は必至
日本からシンギュラリティを！
- 齋藤元章「エクサスケールの衝撃」
- アメリカで医療機器ベンチャー成功（日本では挑戦者が成功し得ない土壌）
- 日本でスパコン開発(2014年)：7ヶ月で開発
- エクサスケールスパコン(京の100倍：1日600万円の電気代)を2020年までに作る
- ハードはOK。後はソフト...H(S)TM理論など
- 機械超知能(人工大脳皮質)はクラウド
- ウェアブルデバイスであらゆる知識を教えてくれる
- 大阪で会合
-
齋藤元章 ワイアードで検索 - 論文を書いて、科学研究補助で超知能を実現できる！
2.医療機器のセキュリティ
フローリアン・グルーノ
[Medical][IoT]
CODE BLUEは医療用語では 重要なイベント(心肺停止) 助けを必要としている を示す。
動機
- 重要性：医師と患者は機器を信じている
- 技術：非常に複雑、独占的なプロトコル、技術の結晶
- FDAから勧告：サイバー攻撃からの脅威を低減を保証する適切な措置を講じること
- マカフィーのテクニカルハッカーにて、医療機器の設定を変える事を実証(ハードコードされたパスワード等の脆弱性)
成果発表
これまで
- シーメンスBS1(パラレルポートとプリンタポート)
- 日本光電ニューロファックス脳波計(外部とのコミュニケーションは要しない)
変わること
- プロセスの最適化
- 通信ポートオプションの有効化
- ICUで特に必要
- 相互運用(ehealth記録、画像保存通信システム)
これらの変化への準備
- 病院ITの状況(リソース/ノウハウが足りているか)
- 異なるネットワーク(医師、患者、関係者...)
- ホームモニタリングはどうか？(安価で、セキュアでないといけない)
- HTTPで送信されている(ASCIIでデコードすれば判ってしまう。Wifmo)
- ベンダーは学習を活かしているか？(ポートは使わないが、基盤は対応してしまっている。セキュアな病院ネットワークとインターネットに両方接続するPC)
ドイツでは、安全とセキュリティは同じ言葉(区別がない)
安全はほぼ機能するが、セキュリティは守られているか？
- ハッカーにどうせやられてしまう
- 501(k)は、敵対的でなく医者が患者を傷つけない前提でいる。
- 認証も安全にFOCUSしている
問題
リソースがなく、セキュリティ侵害に対応できない。
対象
- 有効化された通信ポート持つ医療機器
- 重症度評価：平時を観察(Low),患者にフィードバック(High)
- 診断：MRIの設定を誤ると大事故になる、除細動器、酸素ポンプ(入手難しい)
- ベンダーは関心がない？
- 高価なのでベンダー、病院の協力が必要
これまでの発見
事例1.脳波計
有線なので、暗号化、認証はなかった。
Open脳波計プロジェクトというものもある。
事例2.生体モニター(心拍計のようなもの)
攻撃実演：ネットワークからDoS攻撃で生体モニターを無効にする。(表示データを消してしまう。手術時はCritical)
pythonスクリプトでブロードキャストMessageを流して生体モニタを再起動させる。
攻撃が止まるまで再起動できない。
事例3.生体モニター(心拍計のようなもの)
攻撃実演：閾値を変更することで心拍数警報境界を変えてしまう。
事例4.MRI構成ステーション
ホストシステム(WindowsPC)
画像処理システム(生データ抽出と処理)
VxWorks(コイルの制御)
- WindowsXPでFWがOffになっている。
- ベンダーは64bitOSなので大丈夫と言っている
- ポートは114個空いてた(httpdも！)
- システムクラッシュに成功
事例5.シリンジポンプ
セキュリティコードで設定値を保護
- ネットワークからセキュリティコードを窃取して、設定変更できた。
事例6.麻酔ポンプ
- ネットワークから装置をフリーズさせることができた。
- アラームが鳴った
- 幸運にもバックアップが稼働
事例7.生体モニター(バイタルサインの表示する機器)
ICUに入ったVIPをモニタしているシナリオ
* ネットワーク経由で攻撃スクリプトを実行し、平常時のバイタルサインを録画し、クラッシュさせた後に、装置上で再生させる事ができた。
* 全く別の画面を表示させることができた。
最後に
医療機器には攻撃は可能であり、検証が必要である。
入院の際は周囲に気をつけて！:)
質疑応答
患者が医療機器の誤使用による死亡事故が増えている。
現実に起こっているか？
- 検知することができていないので、そういったデータはない。
- 標的型としてはあり得る。
- 一般患者としては、ネットワークセキュリティを高めることが必要
検証は、実際の病院ネットワークで行ったのか？
- コントロールされたラボ環境で行った。
- 対象機器には最終的にクリーンナップを行った。
前半はここまで。
後半に続きます。