研究

興味と研究内容

人間中心の自動化のためのシステムデザインとその基礎

1. オートメーションサプライズの抑制と安全確保のトレードオフ

緊急時には,ヒトの判断と実行を待っていては間に合わない,ということがある. しかし,「完璧」でありえないキカイが,はたして「緊急時」に安全確保に介入してよいのか?というと, しばしば否定的な見解をもたれることが多い(とくに直ちに実用化を見越した場合).

ひとつの理由として,安全を確保しようとするキカイが「堅すぎる」と, (実際には不必要な場面,あるいは, 本当は必要なのだけれどヒトから見ると不必要に見えてしまう場面において) キカイが安全を確保しようとして,ヒトから見たときに 「こいつは,何故,今,こんなところでこんなことをしているんだ?」 というような驚き(オートメーション・サプライズ)がより顕著に現れやすい, という懸念が挙げられる.

オートメーションサプライズを防ぎつつ,かつ,安全を確保するために, キカイをどのようにデザインしていくべきであろうか

この問題については,分野・領域に依存してソリューションは異なりそうである. 実際にどのタイミングでキカイが顔をだすか,どの程度の信頼性が確保できそうか, といったことなどから,総合的にみて,適切と思われるデザインを作り上げていく.

自動車の衝突リスクとその対処:ドライビングシミュレータでの検証
自動車の衝突リスクとその対処:ドライビングシミュレータでの検証

2. 過信の要因とそのプロセス,および抑制

「緊急時」に安全確保にキカイが介入することに対して, 否定的な見解をもたれるもう一つの理由は,「安全を確保しようとするキカイ」に「ヒトが過信する」 あるいは「ヒトが過度に頼るようになる」というものである.

もし,キカイが十分に能力を有しているのであるならば,うまくインタフェースをデザインすることによって, すなわちそれによってうまく過信を抑制することによって,全体としての安全性を向上させたい.

そこで,過信がどのように発生するか,どうしたら抑えることができるか,を明らかにする必要がある.

過信という概念を,「信頼」がいびつに肥大化した状態としてとらえよう.ただし, (1次元のスケールで聞くアンケートでの)主観的な評点が高ければ過信だ,というような, そんな安直なものではない.

過信というものの一つのとらえ方は,キカイの能力を過大評価することであり, あるいは,キカイの機能を拡大解釈することである.「機能や能力を知らされ ていないだけなんじゃないの?」という人もいないわけではないが,「じゃあ, 機能の範囲や能力の限界を知らされたら過信しないのか?」というと必ずしも そうではないことに注意しないといけない.もちろん,「適切に知らされたら」 過信しないかもしれないが,何をもって「適切に知らされた」とすることがで きるかは,実は必ずしも自明ではない.

キカイの機能を拡大解釈したり,能力を過大評価してしまうのは,個人的な性格もあるかもしれないが, 必ずしもそれだけではなさそうだ.何か理由がある.注意深く,その理由をつきつめていきたい. また,過信を防ぐ手立てを考えていきたい.

3. 警戒心欠如状態の検出と対処

残念ながら,ヒトの警戒心が欠如して,潜在的に危険が高まってしまった場合には, そのことを早期に検出して,自然な形で正常な状態に戻す支援が必要である.

そのためには,まず,ヒトの「警戒心の低下」をどう検出するか,が問題となる. 自動車の分野では,「ディストラクション」といわれることがあるが,「ディストラクション」 の様態は実はさまざまであり,したがって,検出方法も各々異なる.たとえば, いわゆる「脇見」であれば顔や目の向きを推定することが基本となるが, いわゆる「意識の脇見」であれば,顔や目の向きだけではだめで,もうすこし 生理的なレベルでの状態評価が必要である.

生体計測は,いろいろな研究者が取り組んでいる課題であるが,当方が少しでも オリジナリティがあるとすれば,「どういう場面でどういう支援を提供するべきか」を 常に見据えた上で何を検出しなければならないかを考えている点であろうか.

個別の生体計測技術のみで勝負しようと思うと,それを専門としている研究者に対しての 勝ち目は薄い.総合力で勝負しなければならないと思っている.その意味で,つねに, 支援の提供される文脈を忘れずに,なおかつ,一連の研究から得られる知見を できうる限り一般化・普遍化し,総合的に知見と技術の体系を確立していきたい.

とてもではないが一人でできることではないし,地道なデータの積み重ねが必要不可欠である. 誰か一緒にやりませんか.

圧力分布センサで運転中の姿勢などを計測し,そこから心的状態の変化を探る
圧力分布センサで運転中の姿勢などを計測し,そこから心的状態の変化を探る

4. 支援が人間行動に及ぼす影響の評価. 適応的な行動変容(behavioral adaptation) とリスク恒常性

技術者が良かれと思って開発した技術・システムでも,開発者が思いもよらな かった使い方をしたり,人間行動が変わってしまったりして,意図していたよ うには効果を発揮しないということも少なくない.

身近な例でいえば,よく知られているのは「防具をつけるようになって,アメフトは プレーが一層過激になった」というようなことである.

HollnagelやWoodsといった人たちは,Joint Cognitive System という言い方 で,ヒトとキカイとの相互作用を説明しようとしているし,もっとも極端な思 想としては,Wildeのいう「リスク恒常性」(risk homeostasis),もう少しマ イルドな言い方をしようとおもえば「リスク補償」(risk compensation)とい う現象は現実にいくつかの例で垣間見ることができる.

システム作り,技術開発を進めるにあたっては,いまや,「それを使うヒトがどのように 振舞うか」をある程度見越した上で,それでも大きな問題とならないようにしなければ ならない.

ただしこのあたりは微妙といえば微妙なのだ.使う側の啓蒙・訓練を全く仮定しないで 本当にいいのか? ということが必ずしもはっきりしているとは限らない. ある程度高度な情報技術を用いたシステムについては,むしろある程度の講習や練習を 前提とせざるを得ない,という領域は現に存在するし,時代とともに変化していく可能性もある.

いずれにしても,ヒトがどのように適応していくか? を理解することが必要であることには 変わりないだろう.そういう意味で,当方が取り組んでいる研究は,ある意味での心理学である ことには間違いない.

不確実状況での推論と意思決定

ヒトが,あるコンテキストの中でどのように判断をし,どこに問題が生じるの か.それに対してどのような支援をしていけばよいのか.開発した支援・シス テムが本当に有効か,それを搭載していいか,リスクはどれくらいあって,ど の程度不確実なのか,その不確実性をどれくらい織り込んで同判断するか...

こういった問題を考えていくにあたって,利用者の意思決定,支援を開発する 側の意思決定を理解し,いずれにしてもよりよい意思決定とその実行ができる ようにしていきたい.そのための考察のツールとしては,ベースとなるのはリ スク認知や意思決定の理論である.

普通,意思決定理論という場合,多分に戦略的な意思決定のことをいい,資源 の有限性を踏まえた「限定合理性」をいいつつも,時間的な切迫状況での意思 決定とは趣を異にする.ところが,自動車などだと,「あと1秒しかない」と いう事態はしばしば起こる.そのような場面での意思決定の特徴を理解することが必要になっている.

また,いわゆる「知識ベースの行動」においては,判断のよりどころとなる情 報がほとんどない,ということも珍しくない.そのような場面でリスクをどう とらえ,どう意思決定するかを考えると,従来の確率論的な方法だけでは必ず しも十分とはいえない場面がでてくる.そういうところで威力を発揮「しそう」 だとして以前から提案されているものに「証拠理論」(Theory of Evidence, あるいはDempster-Shafer Theory)と呼ばれるものがある.

いまでもときおり理論の発展がなされているが,キラーアプリが見つかっていないためなのか, 全体としての歩みは遅々としたものになっている.当方はといえば,修士論文において 証拠理論における信念の更新規則の提案をした以来,目立った成果はないのである..

  1. 証拠理論(Dempster-Shafer理論)の理論的整備
    1. 証拠の解釈と信念更新の最適化
  2. 信頼と過信・不信の認知メカニズムの証拠理論的モデル化

証拠理論は,故障診断や安全制御など,システム信頼性の理論・技術に対しても 新たな展開をもたらす可能性を秘めている.インタフェースデザイン,情報提示のデザインの問題として, 不確実にしか状況を理解できないときに,どのように情報を提供するか,という問題は, 様々な分野で同じようにでてくる.証拠理論が適用できそうだ,という「におい」はするのだが, なかなかブレークスルーが見えてこない.早くカベを打ち破りたい...

社会安全情報システム

当方の興味の一つの視点は,安全性と信頼性である.これを,リーズンの言葉を借りれば 「情報に立脚する文化」として,すなわち,(場合によっては不十分・不確実な)情報を 用いて,いかに安全性の向上に役立てるか,ということは常に興味を持っている.最近は, いろいろなプロジェクト等の関係でなかなか手をつけられずにいるのがつくづく残念でならない.

また,信頼 という言葉がキーワードの一つであるが,風評被害において安全宣言が信頼されないのは なぜなんだろう,という素朴な疑問がいつも頭の中にある.これも何とかしたい

  1. 日本におけるインシデントレポートシステムのあり方
  2. 事故調査のあり方,および情報システムとの関りについて
  3. 組織事故の発生メカニズムのモデリング
  4. 風評被害への対応.社会における信頼と安心.

データ