Ｂ

「次の試合で活躍するサッカー選手を阻止したいのなら、試合前に、そのサッカー選手の足の骨を折ってしまえばいい」ずいぶん物騒な例えを宮本秀夫は挙げるので、私は苦笑した。「至極、単純ですね」
「ただ今回、問題となっているのは、特殊なタイプの事象です」
「そうでした」
「問題となっているのは、人工知能の根幹となっているプログラム、その一部ですので、そのプログラムを許可した責任者に何らかの方法でいなくなってもらえば、そのプログラムは、存在しなくなるはずです」
「たとえば、一定期間、監禁するなど、ですか」私が物騒な例えを避けたので、宮本秀夫が微笑した。
「ええ、開発責任者を監禁したとしましょう。ですが、それでは何も変わりません。そのプラグラムは存在したままです。なぜなら新たに据えられた責任者がバグを起こすプログラムを許可してしまうからです。だったら、もう少し大きな干渉をすればいい。たとえば、開発をしている企業そのものを倒産させ、組織を解体したとしたらどうでしょう。しかし結果は変わりません。その場合、代わりに別の企業が依頼を受けるだけで、バグを生み出すプログラムを開発してしまうらしいのです。未来の彼らは、過去をモニタリングし、規則性を導き出し、それをもとに、現実を模倣した仮想空間を作り、あらゆる条件でシミュレートしてみたと言っています。が、問題となるプログラムは、遺伝子のように受け継がれ、社会に存在しつづけてしまうらしいのです」
「たとえば、そのプログラムそのものを削除したら、どうなるんです？」それは以前も私の頭をもたげた疑問だ。
「不思議なことに同じ結果になります。バグを引き起こすプログラムの部分を削除しても、新たな誰かが、そのことに気づき、元の状態に戻してしまうというのです。だから」
「だから？」
「プログラムを世の中から消すことは諦めました。存在させたままで構わない。代わりに、人工知能が暴走しないための安全なプログラムを用意して、それを使ってもらうことに決めたのです」宮本秀夫は自ら決めたように、言う。
「なるほど、では、もう安心だ」これで未来の人類も幸せに暮らせましたとさ、おしまい、おしまい。と自分のなかで昔話ならぬ、未来話の結末の音声が流れる。「とはならない」
「仰るとおり、そうはなりません。問題はどうやって、既にあるプログラムを、新しく用意したプログラムに切り換えてもらうか」言うと宮本秀夫は苦笑した。「なんだかそのほうが難しい気もしますが」

人間のしわざ