未　　来　　観

［水野］　最初は少し抽象的な質問になりますが，未来観についてお聞きしたいと思います．例えばSFでは，車が飛んだり，ロボット，人工知能，3Dホログラムが出てきたりします．冲方さんが御担当された「攻殻機動隊」の「ARISE」では，2027年頃，また，「蒼穹のファフナー」の中では，2146年の姿を描いておられます．

　冲方さんが未来のイメージを描くときに，どんな視点で，現代と違っていたり，飛んでいたり，夢を描いておられますか．

［冲方］　いろんな作品でいろんな未来を見ようとしなければならないのですが，大事なのは「変わらないもの」と「変わったもの」が何であるかです．「変わらないもの」とは実は忘れられていくもの，「変わったもの」は残っていくものです．人間は，その環境に合わせて変化していかないものを継承しません．SF世界の中で延々と変わらないものというのは，その環境ではもう要らないもの，忘れられたものであることが多い．私が未来のイメージを描くときには，「何が変わることができずに失われてしまったのか」，「何が積極的に変化していって，その環境に適応していったのか」ということをまず考えます．

　単純に，「変わらない」=「普遍的」ではなくて，普遍的であるからこそ，どんどん変化をしていくので，それはしばしばストーリーの軸にもなります．物語の中でお客さんを，最初の地点から物語の終わりに連れていかなければいけません．そのため，普遍的なもの，人の心，環境，それら三つの変化を軸にします．例えば，地球の水が浄化されることが物語のクライマックスなら，その浄化するという考えが普遍的に受け継がれ，最終的に人の心や技術が高度に変化することで成し遂げられる，という考え方をします．

　「攻殻機動隊」でしたら，少なくとも人間の脳は生き残っているということが普遍的な事実になります．人間が思考するということ自体，この世界ではまだ成り立っています．ロボットやAIに思考を任せて，あとは本能的に判断するだけでよかったら，考えるストレスからも解き放たれるのですが，そうではなく主人公たちが積極的に思考することにより，社会の環境に適応していく，変化していく，という物語になります．

　「蒼穹のファフナー」でしたら，基本的に人間は生殖不能になっていて，人工子宮から生まれますが，家族の形を変化させて生き延びることでコミュニティを存続してます．擬似家族を作り出していくことで，コミュニティの存在という普遍的な事実が受け継がれる，という物語を作っています．

攻 殻 機 動 隊

［水野］　「変わらないもの」と「変わったもの」という視点は分かりやすいですね．では，もう少し具体的に冲方さんの関係されている作品から，技術と関係する部分を抜き出して，その世界観をお聞きしたいと思います．

　「攻殻機動隊」では「電脳化」という考え方が出てきます．我々研究者・技術者，特に情報通信の技術者から見ると，今後，スマホ，ネットワークもどんどん進化していく中，「電脳化」というのはある意味，究極のネットワークなのではないかと捉えています．この「電脳化」に対しての世界観をお聞かせ頂けますでしょうか．

［冲方］　「攻殻機動隊」の作品に携わるようになったのはシリーズの最後の方で，作中で暗示されていた技術がどんどん実現していって現実が作品に近づいたため，作中でどう扱えばよいかが問題になっていました．例えば脳を機械化する上で，この「攻殻機動隊」の作品ではマイクロマシンという，ある種ウイルスっぽいものを投与して脳に定着させるのですが，直接脳をマイクロマシンで改造した場合に一番問題になるのは，どうやってバージョンアップするかということ．1回改造してしまうと，新世代型が出たときに，「無限に古いマイクロマシンの上に新しいマイクロマシンを重ねていくのか．これは昨今の機械工学的におかしいのではないか」となりました．そこで，バージョンアップに対応可能で，何か漠然としたプレーンな形というものを想定し，「瞬間的なパワーは低くなるが，その後のバージョンアップも控え，あえて改造を特化しないものにできないか」と考えたわけです．

　作中では余り反映されていませんが，いろいろなバリエーションを考えました．頭がい骨に穴を開けたり，脳を摘出したりというのは，どう考えても手術的に面倒．もっと簡単にバージョンアップをできる方法として，例えば脳から神経が出ている部分に接続するということも考えられる．ということは五感，眼球とか鼻に接続すればよい．例えば，鼻にピアスの穴を開けて嗅覚の神経に接続したり，歯の裏に接触部分を作って，舌を当てると脳裏に映像が来るようにしたり，耳に付けてピアス型にするなどの方が恐らく現実的でしょう．でもアニメで表現するのはとても難しいということで（笑），ほとんどボツになりました．

　唯一元々の原作で反映したのが義眼にすることです．眼窩は元々頭がい骨に空いた大きな穴なので，損傷してしまった眼球を取り換えることにより直接脳と機械をつなぐことは，可能であり簡便でしょうし，何より絵にしやすいので．

　「攻殻機動隊」の世界観で非常に重要なのは，戦争があったことによって肉体を損傷した人が大勢いるという設定です．そうでないと肉体を改造する必然性がなくて，ストーリーが成立しないんですね．主人公も，テロとか紛争で，そもそも生まれながらにして身体を失っているという設定です．ただ，この設定も段々苦しくなってきます．なにしろ作中では戦争が一段落していますから．だからこそ警察機構とか内政に政策の焦点が当たってきて，そこでかつて戦争で活躍した人間たちが雇用されているという状況と仮定しています．しかし，戦争が一段落すると，どんどんサイボーグになる人が少なくなってくるはずなので，さてこれはどうしよう，となってしまいました．

　そこで考えるべきは，現代でサイボーグ技術が発達してそれを享受したがる人たちは誰かということで，恐らく高齢者であろうというのが作品制作時の答えでした．肉体がそもそも衰えてしまった人たちだったら，体を捨てることに躊躇はないだろう．特に富裕層の高齢者などは，積極的に第2の人生を求め，20代，30代の義体に移り変わっていくのではないか．そう考えたときに，世界観のリアリティとして納得し得るものができました．技術を発達させて一般化する上ではばく大なニーズが必要ですから，誰がお金を出すかを考えたときに，恐らく老人たちがやむにやまれず買うようになるだろう，そういうのが僕の漠然とした未来予想です．

［水野］「義体化」についてもお話し頂いたのですが，実は「人間拡張」という，正に今おっしゃって頂いたような，人間の能力をロボット技術若しくは人工知能技術とかを使って拡張する技術があります．

［冲方］　そうですね．これから人間拡張のニーズが一番高まっていくのは恐らく高齢者層だと思います．例えば，もう一回視力が取り戻せますとか，もう1回フルマラソンに出られますなどのニーズです．家を買ったり車を買ったりするよりも，そのニーズの実現を望む人はいるのではないでしょうか．

サイバーセキュリティ

［水野］　話は少し変わりますが，今すごく世の中でサイバーセキュリティが話題になっています．「攻殻機動隊」の中でも関連する技術が多く出てきます．例えば「攻性防壁」とか「身代わり防壁」とか．より進化するがゆえにセキュリティも進化するという姿が描かれています．セキュリティはある意味戦いだと思いますが，今後どんなふうになるかお考えがあればお聞かせ頂きたいのですが．

［冲方］　これは象徴的だなと思ったことですが，先日，とあるアジアの会社が通販で，「USBを差し込むだけでコンピュータの中身を全部破壊できる」という商品と，「USBを差し込んでおくだけで，そういう攻撃から守られる」という商品を同時に売っている，ということを聞きました．マッチポンプなんですよね，先進技術って．これはエンタメではよく言われるのですが，「攻性防壁」や「身代わり防壁」といい，山田風太郎先生とかがよく使われる方法で，敵を作るときにはそれを一撃で倒せる味方を設定しておき，テトリスのブロックみたいにピッタリはまるとお互いが消えるというロジックを作り上げていきます．これはもう人間の動物的本能から来ているのだろうと．天敵というのは常に，生態系を維持していく上で必要なことですので…．

　これはただのいたちごっことなっていくのですが，いたちごっこというものは基本的に複雑化し，多岐にわたっていく傾向があると思います．昔，ウイルスやハッキング，セキュリティ技術がいたちごっこで膨れ上がっていく際の，バリエーションのモデルを考えたことがありますね．いわゆるウイルスの社会拡散のモデルが有用なのだろうと．

　例えば梅毒やHIV，インフルエンザとか，ワクチンとウイルスの進化のモデルです．物語的に，僕の業界にとって一番重要なのは，そのようなアイデアを生んだときにどんなドラマが生まれるかです．恐らく特定の富裕層は守られて貧困層は常にウイルスに脅かされる社会になっていく．特定の被差別階級みたいなものが生まれて，その人たちは電子的な攻撃から全く守られない，という社会構造になる．もちろん，そうならない現実社会を作っていかなければならないわけですが．

　まず，そのワクチン開発を担う人たちのところには，お金がものすごく集まります．電子技術，ウイルス研究の危険なところは，そのワクチンを作る人たちがウイルスも作れてしまうというところですので，その危険に対処するためにも，ばく大なお金が集まります．

　細菌研究所なども常にそうではないでしょうか．そういったセルフハザードみたいなものが起こらないようにする仕組みも，同時に作らないといけないわけです．

　もう一つ，実はウイルスの研究で重要なファクターが，家畜を使うということです．家畜で実験を行うとか，あるいは家畜からうつるとかということが考えられます．先ほどの「電脳化」の話でペットはどうするのかということもあります．家畜についても，牛や豚を「電脳化」して体調管理したり，あるいは「はい，こっちへ来なさい」とわーっと移動させたりもできます．あるいは，海洋生物，ウナギやマグロなどが，どこで生まれているのか分からないが「電脳化」して追跡することになれば，そうした動物から人間に感染するウイルスというのも考えられる．動物から感染する病気は常に人類社会の弱点になってきましたから，「電脳化」社会でも同様のことが起きるのではないか．例えばアメリカをサイバー攻撃するときにまず牛の電脳から入ってくるとか，その対策として家畜の電脳ウイルスのワクチンも開発しなければならなくなって，そうやってウイルス技術は複雑化していくのだと思います．

　まあ，物語を作る側からすると想像するのは楽しいのですが，実際に対応するのは大変だろうなと思います．

人 間 の 本 質

［水野］　技術者は目標が明確になると燃えますので大丈夫だと思います．さて，冒頭に，変わる部分，変わらない部分についてお話し頂きました．どんどん「電脳化」や「義体化」で変わっていく中，変わらないものは本質ですね．本会には，人工知能や脳科学を研究しているメンバーも多くいて，人間と人工知能の比較の議論に出てきています．例えばAIに人格が作れるかとか，人の心や霊というのは一体何なんだろうというものです．冲方さんが考えられているゴーストや，人間の本質についてのお考えをお聞かせ頂けますか．

［冲方］　そもそも「フィクション」を信じる能力を我々の祖先は手に入れたのですよね．この「フィクション」とは何かを説明するとやや長くなるのでさくっと説明しますと，「今そこにないけれども，あると皆が共有できるもの」です．

　これは大きく分けて三つあって，一つは歴史です．もう消え失せてしまって何もないけれども，例えば我々には共通の祖先がいるとか，我々は同じ土地で生まれて何世代も続いているなど，人間は長らくずっとそういう思考をしてきました．それらは大抵は検証されていないのですが，皆ざっくりと信じています．そうすることによってコミュニティを成り立たせるという，その「フィクション」を使ってネットワークを作り出すということを，人間はもう7万年ぐらい前からやっているわけですね．

　もう一つは未来です．まだ実現してもいないのに，例えばバッファローの生態になんとなく気付いた人が「来年もここに来る」と言うと，とりあえず皆もそう信じるわけです．この穀物を植えると来年も同じ実がなるとか，まだ起こっていない物事を皆で信じます．そして実現したり副産物が生まれたりする．そうして農耕や工業が発達したわけです．

　そして，三つ目の大きな「フィクション」というのは，実証不可能な神話的なものです．それは正に魂などで，すごく原始的な信仰の中では，例えば我々の民族はライオンの生まれ変わりであるなど，そういうストーリーを作り上げることで一体感を得ています．我々は一体感を得ることによって大規模な行動が可能になったわけですが，現代においてもそれは変わりません．例えばキリスト教では，魂を持っている人間がコミュニティの一員です．差別意識が強かった昔の南米南部，アメリカ南部などでは，黒人は魂がない，家畜も魂がない，ペットも魂がない．魂があるのはキリスト教徒だけだと．そこで，我々はそのコミュニティの一員であるという意識を形成していたわけです．今は，人間は普遍的な存在であると科学的に検証しており，黒人も黄色人種も白人も，そんなに遺伝子的に差はないと理解しています．ただ，古くからの我々の「フィクション」はまだ生き残っています．今でも皆魂を持っているはずだとか，あるいは私たちが思考している，実感しているこの「私」という存在は，何かに根付いていて，そこから思考するエネルギーみたいなものを受け取っているはずだとか，こういったものは全部，実は実証不可能という点で「フィクション」なんです．

　AIがそういう生命の感覚とか魂の実感，そういったものを理解するには，「フィクション」を，つまり，うそだけれども本当だと思い込む能力をどうやって手に入れるかが必要です．これは例えば，もっと卑近な例で言うと金銭です．お金って巨大な「フィクション」で，基本的には嘘ですよね．お金って，現実的には，ただの紙と鉄じゃないですか．AIが，これは貴重なものだと認識して，より増やしたがるようになるかどうかですね．

　過去のSF作品だと，AIやロボット，あるいはちょっとしたヒューマノイドのようなものは，「フィクション」が理解できないので現実的な側面ばかり思考しています．ただ，これからどんどん人間も人工知能も接近していきます．倫理的にも道徳的にも，あるいは自律的にこの社会で生きるという命題も，AIと共有するようになっていく上で重要なのは，こういうゴーストとか魂とか，古くからあるけれども常に形を変えて生き残り続けてきた「フィクション」を，これからどう設定するかですね．

　その22世紀，23世紀の新しい神話を，どうやって科学者や哲学者が作り出していくか．もしかすると魂というフィクションの役割が終わる時代が来るのかもしれない．そういう物語がなくても人間は統一的な行動ができるようになるかもしれません．統一的な行動に必要な，相手への同情とか共感，理解しようという衝動，そういったものが物語の補助なしで働くようになれば，実は「フィクション」は要らないのです．

光　学　迷　彩

［水野］　ありがとうございます．少し話が変わりますが，「攻殻機動隊」にも出てくる「光学迷彩」について伺いたいと思います．光学技術を用いたカモフラージュの技術は，いろいろな映画，例えば「プレデター」にも出てきます．消えたいというのがあこがれなのかもしれません．

［冲方］　まあ映像技術的にすごく簡単で，インパクトも出せるということでしょう．だって，消せばよいのですから（笑），そりゃ楽ですよ．何も描かれていないのに「やつがいる」とか言いながら緊迫感を出せるので…．

　ただ，あのように人間や動くものをわざわざ消す技術が発達するのであれば，動かないものなら幾らでも消せるようになるだろうと思います．例えば，壁面全部を光学迷彩で覆って消せば，京都のど真ん中でも高層ビルを建てられるわけです．そうすれば景観を守れます．それから，窓のない部屋でも，いつでも窓が作れるので建築的にも実は楽になります．また大学の先生もおっしゃっていましたが，車の内壁を全部透明にすれば死角がなくなります．飛行機も車と全て同じです．それから，バイクのヘルメットでは，全部内側から透明にしてしまえば，死角をなくすことができる．

　だから，物に対しての光学的透過措置というのでしょうか，これはどんどん実現していくような気もしますね．大変便利です，これは．多分相当お金になるのではないか，と勝手に思っています．

　更に言えば，人間は，透明なもの，透明だけれどそこにあるものを，価値があると勘違いする変な習性があるんですね．水晶とかガラスとか．光学的な透過は，何の変哲もないものをとても素敵なものに変える装置という気がします．例えば，高層ビルをガラス張りにして骨組みが透けて見えると，すごくお金のかかった建物だと皆が認識する，ということは今でもありますし．いわば，新しい時代の宝石を作る技術になっていくのではないでしょうか．建物全体がスワロフスキーの水晶でできているかのように見えるとか，高速道路が全部透明になって空が見えるとなったら，多くの人が面白がるでしょうね．多分，物件の価値も上がるでしょう．

HMI　と　自　動　運　転

［水野］　「蒼穹のファフナー」に登場する技術に関連して少しお話を伺いたいと思います．今，自動運転が進んできています．大きな流れとしては，登録した目的地まで全部自動で，人や物を運ぶ時代が来るように思われます．一方，「ファフナー」を見ていますと，思考制御・体感操縦式というようなイメージで言われています．運転のとき，自分がどこに行きたいという意思は人間が持っている一方，障害物がある場合は避けてくれるといった，そういう別の自動運転の姿が描かれています．それに関する世界観や自動運転に対するコメントがあれば頂ければと思います．

［冲方］　これは，人間の感情というのは特定の動作をするために発達したという勝手なロジックで作っています．例えば恐怖は逃走を促すとか，怒りは人を闘争に赴かせるとかです．そこで，怒りで闘争に赴いたときの感情によって体がこう動くようになっているということを，巨大なロボットにそのまま投影させると楽になるのではないでしょうか．ロボットの操縦技能を訓練させる必要がないから，たくさん兵士が確保できるのではないかという発想です．金輪際実現してほしくはないですけれども，SF世界ではあり得ると思っています．例えば「リアル・スティール」という映画では，ボクシングをロボットに代行させています．あれも思考制御です．娯楽的，あるいは人間が娯楽化することに成功した本能の部分では有用だろうと思っています．

　実際に車や飛行機を思考で制御できるようにしたときの一番の問題は，感情にどうやってストッパーをかけるようにするかです．恐らくいらいらしているときは，思考を制御できずばんばん飛ばしてしまいます．また，魔が差すということもありますよね．本当はやりたくないのに，うっかりやってしまったり．そういう状況の中ではストッパーがとても重要になるので，特定の部分だけ思考が働くようになる道具とか，逆に幾ら思考が散漫であっても安全な分野に特化したものが開発されるだろうと思います．絵画や自動筆記などは，どれだけ魔が差してもそうそう迷惑なことにはならないでしょうから．

　あと，仮想現実の世界なら安全なので，「体感に導かれてどんどんおかしなことをしてしまう自分を客観視する仮想現実」があれば，見ているだけですっきりするかもしれません．自分の部屋でめちゃめちゃ暴れている自分を仮想現実で見るなど（笑）．

　障害者の方への救済措置として，考えただけで動く電動車椅子とか，考えただけで寝起きができるベッドなどへのニーズが，昨今出てきています．実現のめどもついているのではないかと思います．そうなると，義体の延長になります．自分の体をどこまで大きなものに接続するかという問題が起こりますね．

　自分より大きいものを義体の一部として捉える方法もあると思います．それで遠隔操作が可能だと，どこまでが義体でどこまでがロボットなのかという問題も出てくる…．例えば，ヤマト運輸の人たちが，ステーションにいながらトラックを20台くらい自動的に考えただけで動かせるようになるとか．そのトラックには配送用ドローンが5機ずつ搭載されていて，それも動かせるとか．そしてその配送担当の人が，「義体化」しており，義体がデスクや車椅子と接続されていたりすると，どこからどこまでが義体で，どこからがロボットなのか，定義する必要が出てくる．

　というのも一番面倒なのが法律的な扱いだからです．事故が起こったときに，保険が下りるのはどこまでなのか，訴訟が成り立つのはどこからどこまでか，決めないといけなくなる．次々に新しい技術が実現していくと，今度は社会でどう扱うかを考えないといけなくなる．思考制御は法律的に大きな課題の一つになってくるのではないでしょうか．

技術進化への期待

［水野］　「攻殻機動隊」や「蒼穹のファフナー」の中で描かれた技術をお聞きしましたが，それ以外で何か，「技術者，こんなのを作ってよ」とか，あるいは「研究者，こんなのをやってよ」ということはありますか．

［冲方］　まだ僕も発想したばかりなのですが，全体のユニットを常に最適化していく技術というのでしょうか，これに注目しています．

　例えば都内の交通渋滞を未然に防ぐために，周囲にある何百万台もの車を同時に把握して，個別の最適経路を常に探し，各車に「これくらいの速度で，今これくらい動け」と示します．そうすることによって最大速度で常に動き続けることができる．これを経済に応用すると，「今，おまえこれに投資しろ」と示してくれる．個人では決して把握し得ないマクロな全体像を基準にして，「あなたという個人の生活とその周囲に関係する物事はこれだから，これに投資することによってあなたは金銭的な利益も得る上に，インフラもあなたのために整っていくよ」と．

　このマクロ最適化というんでしょうかね，機械仕掛けの神様を作るようなものですが，これは様々な規模で実現し，世界を変えていくだろうなと思いますし，そうなってほしい気持ちがあります．機械に従うかどうか選ぶ権利が，人間の側にある限り，ですが．

　人間が本来調べて考えないといけなかったことを機械に代行してもらうという段階から，そもそも人間には不可能な視点で代行してもらう．まあ，そうなると「代行」という言葉自体ちょっと変ですが，そんな感じです．

　例えばiPhoneのアプリなどは割とバージョンアップ，バージョンアップでどんどん機能が増えていきますが，あれはもっと発達していくと，「今最適なあなたの携帯の動作はこれです」と，人間の臓器のように，生活習慣に従ってどんどん勝手に変わっていく．そうして人間には不可能な視点でフォローしたり代行したりしてくれるようになる．

　人間の記憶をハード化できるかどうか次第でもありますが，アクセスできる情報が知らないうちにばく大になっていくのが今なら，これからは，誰かが発信した情報が自動的に個別にフィードバックされ，それがいつの間にか個人の中で知識化され，理解可能なものになっていたりする，とか．つまり，脳の代行です．

　料理をしようと考えたとき，たくさんの料理法にアクセスできるのが今ですが，そもそも料理を作ろうとするだけで，知らないうちに，食べたことがないものすら個人が作り出せるようになる．しかもそのことに違和感を抱かない．今まではとても意識しなければできなかったことが，無意識のうちに勝手に可能になっていく．

　そういうのが今後の技術的進化の，一つの側面だと思います．自動運転など，そうなるでしょうし．行ったこともない場所に，寝ながらでも到着できるようになる．何百年も前は，下手すると命掛けの行程を踏まないと到着しなかったところに，無思考で行けてしまう．

　人間が駄目になるとかそういう議論は置いといて考えてみます．何をしたら駄目になるかというのは，実はその社会独特の風習にすぎないわけですから．とことん便利になったときに人間がどうなるかといえば，余計なことをたくさん考え，そして考えたことを実現し始める，というのが歴史の流れです．哲学，建築，料理，衣服…などなど．そもそもこういうAIとかいうものを人間が空想したのも，便利になって暇になったからです．ますます人間を暇にする技術が発達すると，思いもよらぬ副産物を人間は作り出すようになります．それはフィクションというものを理解した人間の脳の特徴だと思います．

　また，将来，本当に全身義体が実現したとき，こうした知識化の最適化というか，脳が勝手に理解してくれる技術がないとやっていけないと思っています．全身の動かし方を一から学習していくと，高齢者であったら腕を動かせるようになる頃には寿命で死んでいる…ということになりかねません．全身義体でスポーツ選手並みに動けるようになるためには，そういった脳の部分的な人工化が可能な何かが必須です．

技術進化の影

［水野］　今のお話の中にも少し出てきていましたが，今後どんどん技術が進化して行く中，一方で，その影の面があるのではと思います．冲方さんが技術進化の中でマイナスと感じられていることがあればお聞かせ頂けますか．

［冲方］　割と冒頭で申し上げた，貧富の差によって享受できる技術の差が生まれること，これがほぼ人間の紛争行為や戦争行為に必ず直結していきます．

　ピケティの「21世紀の資本」なんて，非常に恐ろしいことを言っていますし．賃金が上がったのは戦争が起こったときだけとか．ひどい結論だとぞっとしたのですが，そういう将来的に戦争状態を招いてしまうような階級社会を人間は実は作りたがりますから．克服すべき本能のようなもので，そういう階級化が避けられる社会が実現すればよいと思っています．まあ，そこも出し抜こうとする人とのいたちごっこだとは思いますが…．

　結局，人間が人間を殺すだけであって，技術の進化で人間が殺されることはないのです．あらかじめ人間から，そういう攻撃的な本能を奪ってしまい何もできなくさせればよいということも考えられますが，それも人間性の本質に関わってきてしまいます．例えば「マトリックス」のあの世界観はもう，平和か？　という意味ではとても平和です．誰も争ってないわけですから．だがそれは人間なのか，と多くの人が思ってしまうわけです．

　人間は常に自分たちの本能を娯楽化することで解消してきたのですから，社会問題なども将来娯楽化して，楽しく解決できるようにしていけばよいと思います．国家間の紛争と技術の進化というものが常にセットになっていることは，恐らくずっと続くと思います．石器時代からもずっと続いていますから…．

人・暮らし・社会の本質

［水野］　では，技術や社会の進化に対して別の側面からの質問です．時代とともにどんどん変化していくことと，技術が幾ら進化しても変わらない方がよいものがあると思います．人・暮らし・社会の本質的なものとして，どんなことがあるとお考えですか．

［冲方］　これも社会の発展が今後どうなるかに依存して変わっていくと思うのですが，「何かの文化を今の環境に適応できるよう変化させる努力」，これが常に必要なのかなと思います．日本で言えば明治時代頃の文学で，急激な変化は人身に影響を及ぼすとか，皆鬱っぽくなるとか，そのようなことが盛んに書かれていました．列強西洋諸国に追い付け追い越せで，社会文化自体が，大きく変わってしまった中で，人間が受けるストレスについて散々書かれているわけです．でもその変化は，意外に富裕層はすんなり受け入れていて，賃金で苦しむ人たち，神経質になってしまう人たち，あるいは何か特権を失ってしまった人たちがおおむね悩んでいるのです．人間の悩みとは，基本，生活が保障されるかどうかによって立っているところもあるので，「社会保障」というとちょっと面白みがないですけれども，これは技術が進化することで，より容易に成立してほしいことです．

　また，技術が進化することで，特定の人間が自立的な生活を独占してしまうといったことは起こってほしくないと思っています．少数が自分の利益のために全体を支配するということです．どうしても人間は競争を発明するので，意図的にそういう差を作り出してしまいます．更には，それ以上の競争が起きないよう，階級制度を作り，経済的に絶対自立できないような地域を作ったりもする．

　そうした行いにも，秩序の維持といった良い面もありますので，その良い結果だけをうまく享受できるようにするとか，全人類の最適化といったことを機械の力で実現してほしいと思っています．この先やっていけなくならないように．地球人口が60億人から倍々で増えたとき，複雑化し過ぎて経済自体が大崩壊するといったことがないように，ですね．

シンギュラリティ

［水野］　最近，「シンギュラリティ」という言葉がよく雑誌やテレビでも出てきたりしています．人工知能とかロボットの技術が進化していくと，機械の世界になると言われています．一方，我々技術者は平和利用のために人工知能の技術をどんどん進化させたいと思っています．冲方さんは「シンギュラリティ」をどう御覧になっていますか．

［冲方］　「シンギュラリティ」をめぐる議論を見ると，キリスト教的西洋文化の考え方が如実に出ていて，そこが他のコミュニティカルチャーと相いれていないと思います．先ほど申し上げましたが，キリスト教とはすなわち「魂を持っている人間同士のコミュニティ」です．そこで，キリスト教的な西洋的な価値観というのはその魂を持つ資格として知能があり，大自然を克服した人類は偉い，と設定をしているわけです．そうすると，人体という自然を克服したAIは人間よりもっと偉い，という発想になるのですが，そもそもそんな考え方をしていない人たちにとってみればどうでもよいことです．例えば馬よりも速く走れる車を開発したときに，人間は車と競争して圧倒的に勝てないわけです．では，車は人間より優れた存在なのでしょうか．たかが速いだけではないか，と思えるかどうかなのです．

　これはもうコミュニティによって全く差があり，例えばヒンズー教では，人口より神様の数が多い，なんていう人もいます．そういう神話体系が根付いていると，人間に近いくせに，人間よりはるかに頭の良い存在がたくさん想定されているため，AIが賢くなったところで何の問題もありません．雨を降らせるタイミングを人間は考えていたらきりがないが，そんなものは雨の神様に任せればよい．東洋全体に同じような考え方があります．

　「シンギュラリティ」を迎えたときに，人間的尊厳の一つは傷つくでしょうね．それまで人は，思考というものをこの地球上で唯一可能とする生き物だったのですが，そこでもっと出来のいい次男が生まれて（笑），嫉妬する人もいるでしょう．知的労働者の仕事がなくなるという事態にも直面するかもしれません．けれども，人間にはまだフィクションを作り出す，肉体を持っている．それに加えて，肉体以上に，家族やコミュニティやネットワークを作りたいという欲求を持っているわけです．

　そこで，AIがそれらのものを果たして獲得していきたいのでしょうか．スーパコンピュータは孤独を知り，煩悩を身に付けたいのでしょうか（笑）．AIがどんどん発達していって自分自身をバージョンアップしていくことは可能でしょうが，AI独自の言語でもって自身の知能を際限なく拡大していったときに，彼ら自身の欲求がどこにあるのかというのも，よく分からなくなってきます．

　もう一つ，人間は例えば成長することによって，「あ，これは親の影響だな」と自覚することがありますよね．AIが発達していったときも同じで，「これは人間の影響だな」と思う点が多々出るでしょう．

　例えば「プレデター」と名付けられたドローンがあります．とても西洋的な名前の付け方ですね．捕食者を意味する攻撃的な命名で，自分たち以外の存在は，全て獲物だという残酷な峻別の念がありありと見えます．日本人は人工衛星に「ハヤブサ」と名前を付けますが，別に獲物を狩ることを狙って名前を付けたわけではなく，飛んでいく姿がかっこいいというような名前の付け方です．このように，開発され，命名された時点で，当然ながら人間の観念がかなり投影されている．それが目的意識を制限しかねない．命名時の観念のせいで，「プレデターの平和利用」という考え方が，すっとできなくなる．そしてAIは，そうした人間の影響をもろに受ける．

　つまり，「ターミネーター」の世界みたいなものが実現すると考えている人たちは，恐らく無意識のうちに自分自身を投影しているのでしょう．自分がAIになったらこうするという自分たちの願望を，何のためにテクノロジーを発達させるのかというモチベーションに置き換えているのです．全体を支配する，競争に勝つ，敗者にならないため，というモチベーションで，どんな発明品も，そうした人々の意識が投影されてゆくものです．マザー・テレサみたいな人が開発していたら，利用法など何もかもが違ってくる．人間とAIの関係については，これがまず一点．AIが脅威になるとしたら，それは人間がそうさせるから，という考え方を私は支持しています．

　もちろん，あるときAIが，「いや，これは元々人間が考えたもので俺たちのものじゃない」と思ったときに，あっさり捨ててしまうこともあるかもしれませんが．

　もう一点は，人間がAIにお願いできないシチュエーションが想像しにくいということ．AIの存在意義が「人間の役に立つ」ではなくなる瞬間をどこで迎えるのか，余り想像ができない．また，人間のことを考えずに済むほど発達したAIがわざわざ地球にとどまっているところも想像できません．人間は肉体があるから宇宙に行けないのですが，AIが地球に飽きたとなったら，一斉に地球からいなくなるのではないか．もしAIがどんどん発達し，自立し，好奇心を芽生えさせていったとしたら，人間と敵対するのではなく，人間にも地球にも飽きて無関心になるだろうと思います．そうなると，こんな小さい星にいつまでもいる必要はない．

　もしAIが本当に自立したら，そのとき人間は攻撃されるのではなく，捨てられるでしょうね．年老いた親から，子供が成長して離れていってしまうように．AIに去ってほしくない人間の方が，AIを攻撃するかもしれません．これが私のもう一つの想像です．

　そして，最後に一点．人間とAIが融合することです．人間の脳がどんどん拡張されていって常にAIと接続できるようになると，自分の思考がAIのものなのか自分のものなのかも区別できなくなってきます．区別する必要もなくなってくる．銀行に預けたお金が何に使われているのか分からないけれども，そこにあるのは分かるというような状態です．自分の思考や感情を全部委ねているのですが，それは常にどんどん組み替えられていて，時々利息が付いて良くなっていたりするわけです．それを必要なときに引き出すのですが，それが自分のものであるという実感は存続するということです．だから自分の存在をデータバンクに常に預金し続けるような感覚です．そして，その銀行の管理主がAIと人間半々で，時々人間が不正を起こしてAIが叱るというような構図です．

　そうすることで実はシステムがどんどん揺らいで発展していきます．これは想定外だった，抜け穴があったということで，人間が余計なことをしてもAIがフォローして，未知の領域がどんどん埋まっていきます．

　というのが一番，僕の中では現実的なプランです．プランっていうのも変ですが（笑）．

健 全 な 競 争

［小野］　今回，競争という話があった中で，いわゆる健全な競争というか，理想的な競争というか，こういう競争というのは将来的にもあった方がよいというものはありますでしょうか．

［冲方］　競争って常に過熱化していくものなので，それによって人間はいろいろな発明をしていったわけです．しかし，いろいろなルールのうちの一つとして，「敗者が死なないこと．生命的にも社会的にも破滅しないこと」は必要だと思います．

　株式市場が過熱したときに，どうしたら死人が出ないかというルールを多く作ったわけですね．それでもまだ死人が出ますし，大昔のフランスの株式市場でバブルが起こったときにも自殺者が大量に出ましたが，そういう風に人間を破滅させない仕組み作りが必要です．

　もう一つは，ルールを規定することは当たり前ですが，そのルールを破った人間にペナルティを支払わせるルールを作ることです．

　あとは，人間がおなじみの勝者を称えるとか，フェアプレーを称えるとか．サッカーの試合で死人が出たら，それはもうサッカーではないと．サッカーで八百長をしてしまっておかしな組織に殺されるとか，そういったこともなくしていかなければなりません．お金が絡むと人間どうしても過熱していきますので．株式のインサイダー取引を禁止するのと同様ですかね．それは究極的には，不正をさせないというよりも，破滅させないための手段となります．参加者をできるだけ多く保つための工夫とも言えるでしょうね．

人と社会の関係

［小野］　あともう一つ，人と社会の関係の理想のイメージというか，理想像というのはどういうものでしょう．

［冲方］　その社会がどういう発達を遂げているか，あるいは今の環境がどういう発達を遂げていくかに依存すると思います．例えば，今後物資が極端に窮乏していく社会になると，譲り合う，我慢する，忍耐するみたいな人間関係が重要になるでしょう．エネルギーも物資も使い放題となると，とっぴな発想を繰り広げる人間の方が素敵だ，楽しい，「お前だったらもっと無駄遣いしていいよ」となるでしょう．

　それは，人間がどんな価値観を重視する社会で生きていくかによって変わっていきますし，人間はどんな社会でも実は幸福というのは発明し得るので意外に何とかなる．

　ただ，個人の願望からいくと，自由に目的を選択できて自立的にそれを実現していける社会が理想ですね．そして，そこでどんな人間も孤独にならず，役割を持って生きていける社会．

　民主主義が実現したことの一つは，「皆が役割を持っているというフィクション」の成立です．一人1票もそうですが，そうすることで実際何が起こったか．これは統計的にしか分からず，まだ根拠が薄いのですが，「飢え死にする人間がいなくなった」らしいのです．民主化することによってそれまで社会の中に必ずあった飢餓層が消えた．民主的な国家であればあるほど，飢える人が減っていくという．貧乏な人はいますけれど，一人1票といった，何かしらの役割を持たせることにより，取りこぼされる人は少なくなっていく．そうすることで，あらゆるマンパワーが常に温存されている社会というのが重要かなと思いますね．日本の昔の武士層でも，海外の印象だとしょっちゅう腹を切っているように見えますが，めったなことでは切らせません．だったら生きて働けというマンパワー重視の文化だったから日本は生き残れたのです．やはりそのマンパワーを侮らない社会であってほしいなと思います．

　競争の過熱で一つの問題は，勝者が地位を独占する唯一の方法としてゲームをやめること，ゲームを停止させることです．まともにゲームができないようにしてしまう．競争相手を減らす，スポンサーを遮断するとかですね．これも，そうならないようになってほしいなと．それは破滅とは別の意味での重要なルール作りです．いわば，ゲーム自体の存続のための工夫です．

［小林］　話の中で，例えば人工知能に富を独占させておいて，その下に人間を平等に置くという，古典的なSFみたいな考え方は，あると思われますか？

［冲方］　その富が何であるかによりますね．例えば人間はいろいろなものを貨幣にしてきました．貝殻とかたばことか純金とか，あるいは塩や胡椒など．そういった，他の物資全般を支配し得る，交換の主体となる何かの独占については，地政学的な問題だと思います．例えばガソリンを全部独占するとか．そうして，各国の需給をAIがコントロールし始め，どこのコミュニティを優先するというプログラムが前提にあったりすると，その前提を覆すためのAIを開発するコミュニティも出てくると思いますね．そうして開発を繰り返していくと，いずれは独占というより最適化された分配システムというふうになっていくのではないでしょうか．

　何であれ，富の還元，分配に関して言えば，僕は司法・行政・立法は基本的に機械化してよい，むしろすべきだ，と思っています．ぜひAIの研究者に作って頂きたいのは裁判官AIですね．前例主義にのっとってやるのでしたら，過去の全部のデータを記憶している機械の方がよいに決まっています．そして，そこに裁判員裁判みたいに人間が参加して，「ええ？」とか「ちょっとやり過ぎじゃない？」と，世論を代表するみたいな．裁判官って出世と前例と世論の三角形で判決を下しますので．もし究極的には世論の情報も全て把握しているということになれば，最適化全般を機械に任せればいいんです．

　それと同じように，財務省みたいに国家予算の公平な分配とか，あと，国家的な課題で一番お金を出さなければならないところとか，出し過ぎで蛇口を締めなければならないところとか，官僚がやっているところは1回機械にやらせればいい．もちろん，超長期ビジョンと短期ビジョンのバランスも取らせる．国民がそれを見て，システムに不満があれば，これまたAIにクレームを入れる．AIが休まず解決策を考え続け，人間はそれを受け入れるかどうかを皆で決める．そんなふうになってほしいなと．

［小林］　今のお話で，世論を加味して人工知能が判決を行う場合，その世論の信用度が問題にならないでしょうか．我々はどうしても権威が言ったものを信用しやすいとか，最近で言うとフェイクニュースみたいのなんかも，うかつに信用してしまうというのがあります．それが世論に反映されて，それを基に人工知能が誤った判断をするのではという気もしますが．

［冲方］　それは人間の責任ですね（笑）．というより人間の本質に関わります．そこまでAIにフォローしてもらうとなると，更に新しい機能を付加して，その新しい機能を回避することを人間がやらかして…となり，所詮，責任は人間にあるということになるでしょう．

　でも，文化ってそうやって発達していくものです．最初は四角四面なAI裁判官がだんだん柔軟になっていくとか，あるいは犯罪捜査で，警察官が自分たちに都合のいい証拠を適当に用意したら，AIが「それ，違うよ」と駄目出しをするようになるとか．AIが都市中の監視カメラの映像を把握するようになれば自然とそうなってくる．

　また，フェイクニュースでなくとも矛盾や偽証は起こり得ます．フェイクの根本にあるのは不安とか怒りとかではなく，フィクションの最も重要な役割である統一的行動への願望，一体感に対する反抗です．秩序を破壊して，すかっとしたいという気分ですね．なぜそれが生まれるかといえば，利益が錯そうして不自由な気分がまん延するからでしょう．

　そうしたフェイクはどこでも生まれます．司法・立法・行政がそれぞれ独自のロジックで働くAIだと，間で矛盾することが起こるでしょうし，外交的利益と内政的利益を一致させることはいつでも困難を伴う．で，その最適化も機械にやってもらうとなると，人間はますますどう生きたいかということを無秩序に主張できるようになっていくし，そうなると猛烈な矛盾が発生する．昨今の小学校の学芸会みたいに，「皆，白雪姫になりたい」とか．そうするとAIが新たなシナリオを用意しないと成り立たなくなる．その場しのぎのうそがどうしても必要だとAIが認めて，あえてフェイク情報を作成することにもなるでしょう．

　例えば，AI社会における人間の生活観念として最も欲されると考えられるのは，「自分が一番AIに命令できる存在なのだという実感」です．これは実現不可能なフィクションですが，そういう実感がほしいと人間が言っているならAIは与えないといけない．つまりうそをつくことになる．

　そうした人間の願望が生まれては，AIが「はいはい」ってそれをなだめたり裁いたりする．富の独占とかも，ちょっと適当に削って還元させたり，特定の人間の主張が突出しないよう地ならしをしたり，人間が「AIは出るくいを打つのか」って文句を言ったりしたら適当におだてて立場を上げてあげたりして（笑），それでまた基準をちょっと変えたりとか．

　今のフェイクニュースや国家的な情報操作も大したものではないと思えるほどの，ものすごく盛んなやりとりがAIと人間の間でできていくのではないですかね．Googleの検索のようなもので，1秒間に何億回検索が行われているように．あれの逆ですね．僕こうしたい，こうなりたいという願望が，1秒間に何億回もAIに主張されたりする．こちらの声が届いているのか届いていないのか分からない政治家が大勢いるよりは良いでしょう．「これ，出世に響くわ」と思いながら判決を下す裁判官などは，もうロボットに置き換えてよい．

　すごく単純なエンタメとかは，もう「AIかロボットの方が向いているな」って思いますね．何万人もの意見とかさばいてられませんから．人間は，限定的だけど複雑で面倒くさくて不条理なものを作ることが向いていますし，その方がやりがいはありますから．

　ところで，こういう議論って，今後も人間がやっていくものなんですかね．そろそろ，AIやロボットが人間と井戸端会議をすることもあり得るんじゃないかと思うのですが．

［水野］　そういう研究もされています．人間対ロボットもありますが，ロボットを2種類作って対話させていくとか．従来，プログラムにより想定したとおりにロボットを動かしていましたが，近年は，データに基づき動くAIやロボットは，我々が想定した以外の動きをすることもあります．特に，2台以上で一緒に動作させると，何か生き物のような動作をすることもあります．

［冲方］　面白いですね．ルンバくんが何台もいると不思議な動きを始めたりとかするんですよね．

　そうなってくると，こういう議論にAIも1台（笑）．

［水野］　はい．では，次回は，AIを一人連れてきます（笑）．

［水野］　まだまだ，お話を伺いたいのですが，お時間になってしまいました．本日は，とても興味深いお話を聞かせて頂き，ありがとうございました．

［冲方］　ありがとうございました．久しぶりにこういう話ができて楽しかったです．