最後にAIは勝つ！？

しばらくネタもなくて日記をサボっていた。そろそろ画像もたまったので、吐き出しがてら思いついたことなど書きつつ、貼ってみようかなと・・・。

昨日から南紀某所で毎年恒例のイベント。今年はちょっと都合が悪くてパスしたのだが、毎年、「飛行機がもし落ちたら」「津波が来たら」、日本の某業界は終わるな・・と言われつつも、そういう人たちが集まってワイガヤやっている。講演を聴くよりも、どちらかと言えば夜、他の人たちと飲みながらワイワイやるのが楽しいイベントだから、行けないのはちょっと寂しい。今夜も、FBでは飲み食い画像テロが頻発中である。

しかし、今年のテーマは、なにやら流行に流された感じもする。まぁ、それはさておき、どんな感じに結論づけるのか気になるところだが、行けないので確認のしようが無いところである。

IoTに関して言えば、ある意味、想定できる範囲が広すぎるのだが、クリティカルな用途の機器をピンポイントで攻撃された場合、対応も立証も難しくなりそうだ。そもそも、そんなことを想定していない機器で、攻撃後に痕跡を消されてしまえば、それが故障なのか攻撃なのかの判断がそもそもつかないかもしれない。人の命や社会インフラの安全にかかわるものなら、最初からそうした事態を考慮して、なんらかのトラップを入れておくこともできるだろうが、今のところ、そういう発想を持っているメーカーがどれくらいあるか疑問だ。

まして、コンシューマ向け機器に至っては、大量攻撃ならばいざしらず、特定の相手を狙って仕掛けられたら、それこそ「事故」で終わってしまいかねないという危惧もある。まぁ、今のところこれは「妄想」の域を出ないのだが、標的型の攻撃にコンシューマ向けのIoT製品が悪用される可能性も小さくないと思うのである。今のところ、コンシューマ向けで、こうした発想に基づいた設計をしているメーカーは皆無だろうし、現実にあるかどうかわからない攻撃にどこまで対処すべきかという判断も難しい。また、汎用のコンピュータとは異なり、フォレンジック的な解析も難しい製品が多いだろう。メーカーの協力がどこまで得られるかも課題だ。製品の「欠陥」を恐れて協力に消極的になる可能性もあるかもしれない。犯罪への対処（司法機関的に）という意味合いでは、メーカーなどとのコンセンサス作りは不可欠だろうと思うのである。

話がAIとなると、さらにややこしい。世界的には既に議論が始まっているが、それこそロボット三原則的なものを（開発するメーカーの責任を含め）制度化しないといけなくなるかもしれない。犯罪にAIをリアルタイムで使われると、防御は非常に困難である。なにせ、相手は人間よりはるかに速い判断と行動が可能なのだから、いちいち人が対処していたのでは絶対に間に合わない。そうなると、守る側もAIを導入して「悪のAI」に対抗せざるを得なくなりそうである。近い将来、もし「サイバー戦争」が起きるとすれば、それはAI対AIの戦いになる可能性が高い。どちらかが優位になれば、その相手が物理攻撃に出る可能性もあり、実際に戦争になる可能性もあるだろう。映画 War Gameのような事態が（核戦争ではなくても）起きない保証はないのである。

このあたりも、議論すると発散しそうなテーマだろう。実際に、そうした事態は明日起きるかもしれないし、もしかしたら、ずっと起きないかもしれない。だが、ワーストケースのシナリオは破滅的なものになる。まさに自然災害と同じだ。こうした問題は社会的な議論が不可欠である。AIの悪用や暴走に耐えられる社会をどうしたら作れるのか、そろそろ真剣に考える必要がありそうだ。

「悪のAI」はさておき、このところのAIブームはちょっと異常である。まさに、「猫も杓子も」の状態なのだが、今日も新聞を読んでいて、ちょっとした疑問にぶちあたった。日常の仕事や生活の中で行う「判断」をAI（深層学習ベースのもの）に任せるのはいいのだが、その判断の根拠を求められた場合に、それを明らかに出来るのだろうかという疑問だ。深層学習は、ある意味、人間の神経回路の模倣なのだが、「直感」の説明は人間でも難しい。だから、説明を要求される判断は、最初から論理立てて行うことが求められる。しかし、こうした判断に安易にAIを使ってしまうと、説明がつかなくなる可能性があると思うのだ。まして、その判断が間違っていた場合、大きな問題になる可能性がある。そう言う意味では、深層学習ベースのAIを補完する論理的なAIが必要になるだろうと思う。将来的なAIはこの両方を備えた「ハイブリッド」AIなのかもしれない。

そんな妄想をしながら、今日は家で仕事などをして過ごした。朝から本降りの雨だったので、朝の散歩には出ず。書き物仕事をしながら、時々テレビニュースを見たり、ごろ寝したりして過ごす。午後、仕事が一段落したあたりで、雨も上がったので、ちょっと買い物がてら歩いて見た。

途中、近所の猫としばらく遊んで癒やされる。なんとなく、ほっとする時間である。道沿いには、そろそろ紫陽花が花をつけ始めた。

しかし、世の中のニュースはドロドロしている。テロ、武力挑発、政治疑惑、殺人事件・・・。なんとなくニュースを見るのが憂鬱である。

憂鬱といえば、もうそろそろ梅雨の季節。今日も、なんとなく梅雨の走りのような天気だった。

天気が悪いと気分も湿っぽくなってしまうのだが、何か気分を盛り上げるようなネタを見つけて、夏まで凌ぐとしよう。