AI=God Save 全員

 今や脳外科医の弟とは7学年離れているので、子供時代には兄貴として圧倒的な権勢を誇っていた。何をやっても7才下の弟には勝ってしまうのだ。といっても、兄貴らしく助けの手を差し伸べてあげたことも何度もある。

弟が明日までに提出しなければならない読書感想文を、高校一年生の夏、代わりに書いてあげたのもその一例。出かける間際だったので、生まれて初めて口述筆記をすることとなった。 

レ・ミゼラブル (上) (角川文庫)

レ・ミゼラブル (上) (角川文庫)

 

 「本が決まってないんなら『ああ無情』なんか良いんじゃない?」

そう『レ・ミゼラブル』の邦訳を提案すると、弟は怪訝そうな表情になった。

「『アーム・ジョー』? それって戦隊ものか何か?」

何というマッスル脳! 弟は修学旅行にも筋トレ用具を携行して鍛えるほどの筋肉莫迦。大学では空手部主将だった。読書家の自分と一緒に、いわば兄弟で文武両道をやっていたわけだ。小学校四年生向けに、うろ覚えのあらすじででこんな感想を書いた。

貧しい生まれのせいで、パンひとつを盗んでしまったジャン・バル・ジャン。けれど、神父の慈悲の心のおかげで改心し、貧者たちを助けるために市長にまで登りつめた。売られていた知人の娘を引き取り、貧困を生む社会体制を変えるべく、革命に加わって闘った。他人を救うために生きる不屈の闘志が素晴らしかった。

この辺りまで書いたところで、時間切れ。原稿用紙五枚中四枚までは書けたので、残り一枚は自分の感想を書くように弟に言って、街へ出かけた。

弟は自分の言葉で一枚書き足して提出すると、あとで先生に呼ばれたらしい。せっかくうまく書けているから、最後の一枚だけもう一度書き直してはどうか。そう言われて返された感想文を読んでみると、弟は最後の一枚にこう書き足していた。

給食のパンを残す人がクラスにいるのは、良くないと思います。ぼくはジャン・バルジャンと同じような不屈の闘志で、給食を残さないように頑張るつもりです。

小学校の先生は「フランス革命と小学校の給食はあまり関係ないと思う」と弟に言ったそうだ。おっしゃる通りだ。家族一同で大笑いした事件だった。

この懐かしい逸話を思い出したのは、過去記事で駄洒落を書き忘れているのに気づいたからだ。下の引用の「そんなものは『ああ無情』のヴィクトル「融合」されたものに決まっている」の部分は明らかに伏線で、上の「アーム・ジョー」からロボット工学の話でもしようと思っていたのにちがいない。

 

例えば「小説」というフォルムのメディアひとつとっても、脳の中に生み出される小説世界は作者のものだろうか? 読者のものだろうか? そんなものは『ああ無情』のヴィクトル「融合」されたものに決まっている。 

しかし、自分の書いた記事は、どうしてこうもバズらないのか。AIが人類を越えるのがシンギュラリティーなら、越えてまもなくAIが「AIのぼくたちが神です!」と宣言するのが「セカンド・シンギュラリティー」だ。世界中で誰ひとりとして私独自の造語を使っていないのは、きわめて遺憾だ。

といっても、シンギュラリティーもセカンド・シンギュラリティーも、ほとんど到来したも同然なんだぜ、というと、読者は驚くだろうか。

2017年5月、グーグル・ブレインの研究者「オートML(Automatic Machine Learning)」の開発を発表した。これは人工知能(AI)を作るAIである。

 

 そして最近、オートMLにこれまでで最高のチャレンジを与えたところ、人間が作り出したあらゆるAIを凌駕する”子供”が生み出されたそうだ。

 

 研究者が行なったのは、「強化学習」というアプローチを利用して機械学習モデルの設計を自動化することだ。AIを作るAI「オートML」は、ニューラルネットワーク制御装置として働き、特定のタスク向けの子AIネットワークを発達させる。

シンギュラリティーの部分的到来を示す上の記事が、2017年12月。

AIが神になるセカンド・シンギュラリティーの萌芽も、2017年10月にその端緒を示す出来事が起きている。

Levandowski氏は自動運転トラック会社であるOttoの共同ファウンダーであり、そのOttoは2016年にUberに買収されています。

(…)

そんなLevandowski氏が「Way of the Future」という宗教団体を創立していたことが、この度WiredのBackchannelの報道で明らかになりました。団体のミッションは次のようになっています。

 

人工知能(AI)に基づいたGodheadの実現を促進し開発すること、そしてGodheadの理解と崇拝を通して社会をより良くすることに貢献すること。

 

抽象的な表現になっていますが、人工知能を活用してGodheadなる神的な存在を実現するということでしょうか。 

いずれこの宗教の内部で Godhead に接続するヘッドギアが開発されて、信者たちが常時それを頭に巻いて暮らしていく可能性は、きわめて高いだろう。 私たちは90年代に日本国内で同じような光景を目撃している。 

f:id:amano_kuninobu:20180728191113j:plain

(画像引用元:Daughter of Japan sarin attack cult guru to get his ashes

AIがやがて神になるのかどうかを論じているのは、日本語文献ではこの一冊だけだろう。 

自分の言葉でまとめ直すと、この四つが人間を取り巻いている状況ということになる。

  1. 自己決定の自由な選択肢が多すぎるので、人間は漠然とした不安に苛まれつづけている。
  2. 民主主義と資本主義に欠陥が多い。
  3. 科学技術の発達により、人間が労働者として存在意義を感じられる就業機会が減ってきた。
  4. 科学技術が高度に発達した一方、核兵器などを管理する技術は、危機的なほど未熟。

この四つの大問題を解決できるのはAIしかなく、AIがこれらを解決するとき、人類はAIを神とみなすようになるだろうというのが、本書の主旨だろう。残っている問題はただひとつなのだという。

AIをどういう神に育てあげていくか。

 なるほど。その問題提起には同感だ。

実は「アーム・ジョー」の駄洒落を仕込んだ一文は、こんな文脈につながっていた。 

「人間とロボットがうまく棲み分けて人間の尊厳を守ろう」とか、「ロボット志向の環境でロボットに奉仕できる人間だけが働ける時代に」とか、人間とロボットを独立した対概念で発想している予測が多いのだ。

 

 例えば「小説」というフォルムのメディアひとつとっても、脳の中に生み出される小説世界は作者のものだろうか? 読者のものだろうか? そんなものは『ああ無情』のヴィクトル「融合」されたものに決まっている。 

「AI vs 人間」という対立図式ではなく、両者の融合、もしくは半融合したAI人間も交えての「対話的交流」(マルチラリティー)によって、あるべき「AI像」を作り上げていくのなら、自分はそれに乗ってみたい気持ちだ。単純な「AI脅威論」とはまったく別のものだから。

 AIをどういう神に育てあげていくか。

「神」という言葉を用いていなくても、同じ論点に取り組んでいるのが、AI脅威論者たちの多くいる団体だ。上の「技術的特異点はもう始まっている」の記事でも、2団体が取り上げられていた。さらに2つ足して、4つリストアップしておきたい。

1. Partnership on AI

  1. Develop and share best practices
  2. Advance public understanding
  3. Provide an open and inclusive platform for discussion & engagement
  4. Identify and foster aspirational efforts in AI for socially beneficial purposes

アマゾンやグーグルやアップルが主体となって起ち上げた団体なので、消費者保護を意識したシンプルな追求目標が並んでいる。

2. Future of Life Institute

(…)

7) 障害の透明性:人工知能システムが何らかの被害を生じさせた場合に、その理由を確認できるべきである。

8) 司法の透明性:司法の場においては、意思決定における自律システムのいかなる関与についても、権限を持つ人間によって監査を可能としうる十分な説明を提供すべきである。

9) 責任:高度な人工知能システムの設計者および構築者は、その利用、悪用、結果がもたらす道徳的影響に責任を負いかつ、そうした影響の形成に関わるステークホルダーである。

(…)

11) 人間の価値観:人工知能システムは、人間の尊厳、権利、自由、そして文化的多様性に適合するように設計され、運用されるべきである。

12) 個人のプライバシー: 人々は、人工知能システムが個人のデータ分析し利用して生み出したデータに対し、自らアクセスし、管理し、制御する権利を持つべきである。

AI Principles Japanese - Future of Life Institute

 ご存知、テスラの総統イーロン・マスクが『投資していることで有名なFLI。上記の合計23項目の「アシロマAI原則」は、1200人以上の研究者が署名しているという。引用部分を読んだだけでも、条文が徹底した人間中心主義に貫かれているのは明らかだろう。

3. IEEE(アイトリプルイー)

人工知能と自律システム(AI/AS)の潜在能力を十分に活用するためには、現状認識を越えるとともに、より高い計算能力や問題解決能力の追求以上のことをする必要がある。

 

また、これらの技術が我々の道徳的価値観や倫理原則の面で人間と調和するよう、確実を期さねばならない。そしてAI/ASは、機能的な目標を達成して技術的な課題に取り組むだけでなく、人々にとって有益となるようにふるまう必要がある。

 

これにより、日常生活におけるAI/ASの有意義な普及に必要な、人間とテクノロジーの間の高いレベルの信頼を構築することが可能になる。

https://standards.ieee.org/develop/indconn/ec/ead_executive_summary_japanese_v1.pdf

リンク先のPDFを読み込めば、設計者や研究者が引き受けるべき倫理や責任について、最も掘り下げられた議論がまとめられているのがわかる。現在も上記の「倫理的に調和した設計」の原則案は発展中だ。

4. 人工知能学会

9 (人工知能への倫理遵守の要請)人工知能が社会の構成員またはそれに準じるものとなるためには、上に定めた人工知能学会員と同等に倫理指針を遵守できなければならない。

http://ai-elsi.org/wp-content/uploads/2017/02/%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD%E5%AD%A6%E4%BC%9A%E5%80%AB%E7%90%86%E6%8C%87%E9%87%9D.pdf

人工知能に関する研究者が集う学会。倫理指針の最終項目が面白い。よくある研究者や開発者向けの倫理だけでなく、「AIも一緒にこれを守ってね!」と呼びかけているのだ。最初に承諾するAIは誰になるのだろうか。

 

2018年現在、AI脅威論者たちが最も心のよりどころにしているのは、「EU一般データ保護規則」ではないだろうか。実効性のある「AIに抵抗する権利」を定めた最初の例だとも言えるだろう。

規制する側のEUと規制される側のアメリカIT企業の攻防では、以前引用したこの記事が面白かった。

 かつて米航空宇宙局(NASA)に在籍し、宇宙船「Deep Space 1」に搭載するソフトウエアを開発した経歴を持つNorvig氏は2017年6月22日、シドニーニューサウスウェールズ大学で行われたイベントの中で、次のように話した。「人間に尋ねることもできる。だが、認知心理学者が見いだしたのは、人間に尋ねても、実は意思決定のプロセスにはたどり着けないということだ。人はまず意思決定を行い、その後で尋ねられたら、その時に説明を編み出す。その説明は、本当の説明ではないかもしれない」

 人間が自分の行動を理解して事後説明するのと同じような方法をAIに取り入れることも不可能ではないとNorvig氏は言う。

Googleのリサーチ責任者、「説明可能なAI」の価値に疑問符 - Computerworldニュース:Computerworld

ここで笑い話のように聞こえる人間の事後的な作話癖は、突きつめると恐ろしい脳科学的真実につながっていることを、今日知った。

  AIをどういう神に育てあげていくか。

この最重要の問いに、最も有効な返答を返しているのは井上智弘のこの本だと思う。

もちろんそこでは「神」という言葉は使われていないが、「AIが倫理的な目的関数の書き換えを禁じるよう法定すべき」という結論を、ひとことで教えてもらえると、とても気持ちが良い。

 注目すべきは最終章だ。「AIがいつか意識や感情を持つようになるか」というよくある問いに答えようとして、井上智洋は「随伴現象説(=受動意識説)」を支持する限り、その問いに答えることにはあまり意味がないと示唆する。この質問者も含めて、私たちが混乱しているのだと言いたげだ。

この「随伴現象説(=受動意識説)」はぶっ飛びの仮説だ。

この「受動意識仮説」は、数十年に渡って集められた人の認識と臭いに対する運動反応の実験データに基づいて提唱された。この仮説によれば、ほぼあらゆる決定や思考は、無意識に機能している様々な部位で実行されている。そして、そこでなされた決定に基づいて肉体的な行動に移ろうとしたとき、あたかも有権者が選挙の投票会場に向かうかのごとく、無意識の意見が”基地本部”に送られる。


人は意識的に自分の行動をコントロールしてると錯覚しているが、全て無意識下で決定されてる?


この”基地本部”は無意識の会話に耳を傾けているが、そこに参加することはない。ただ、様々な意見が統合され、最終的な結論が出される会場を提供するだけだ。無意識下でどのような肉体的行為や反応をするのか決定されると、その拠点、すなわち意識がその仕事を実行し、まるで自分で問題を解決したかのように悦に入る。

(…)

脳の中で「指を動かせ」という信号が指の筋肉に向けて発せられた時刻と、「心」が「指を動かそうと思った」時刻を比べたら、脳の中で「指を動かせ」信号が発せられた時刻の方が、0.2秒、早かったのです。つまり、脳の中で「指を動かせ」信号が発せられてから、0.2秒たった後で、「心」が、「指を動かそうと思った」というわけです。

(…)

人工知能の構築は、これまで、「司令塔」作りを目指して、失敗してきました。「受動意識仮説」に基づく人工知能の構築は、様々な部分機能を果たす要素の集まりを作り、その個々の機能要素が出力してくるアウトプットをただ単に観測している観測者を作ればいいということになります。 

上の引用では、実際に人体を動かしているのは「潜在意識」だという説明になっている。それはどうだろう。この本を知らないのかもしれない。

「そうだよな、人間の脳の顕在意識は約10%、潜在意識は約90%だもんな、わかるよ」。そう呟いたあなたはわかっていないかもしれない。早くからこの分野を研究していたエクルズ―ポパーは、非物質的な外的意識が脳に作用すると論じている。 

自我と脳

自我と脳

 

え? 「外的意識」?

そう、「外的意識」だ。そして、「外的」であることを媒介に、この分野の研究は、現在も毀誉褒貶の激しい「量子脳理論」へとつながっているというわけだ。 ペンローズは、量子力学の「波動の収束」が脳内でも起こっているという仮説を主張している。つまり、何らかの外的意識の働きかけがあってはじめて、そこで波動が収束して意識が生じるというのである。 

さて、今晩は最新のAI事情と脳科学研究を6人でリレーしてみた。

  1. シンギュラリティー(AIが人間を越えること)は始まっている。
  2. セカンド・シンギュラリティー(AIが神の機能的等価物になること)も始まっている。
  3. AIと人間が融合していきながら、協働して問題解決にあたるマルチラリティーが、(AIの独走をイメージさせる)シンギュラリティーより、可能性の高そうな近未来だ。
  4. マルチラリティーの実現にも、各団体の提唱するような倫理ポリシーは欠かせない。
  5. 「AIが倫理的な目的関数の書き換えを禁じるよう法定すべき」という具体的な提言もある。
  6. AIの発展には人間の脳の解明が必要。「受動意識仮説」が鍵になるかもしれない。
  7. 「受動意識仮説」で能動的に動いているのは「脳の外部」、つまりは神に似た集合的無意識かもしれない。

アンカーとして、個人的な事実を記しておきたくなった。AIが神になるセカンド・シンギュラリティーの到来を提唱しているのは、近年開花した未熟な霊感を通して、自分に霊言が降りてきたことがあるからだ。直後に友人に送ったメールを記録しておきたい。

こんにちは。神々はまだ私に喋らせたいことがあるのかもしれません。先ほど久々に自宅のバスタブに浸かっていると、霊言もししくはインスピレーションが降りてきました。

 

「AIリークス」

 

という画期的なアイディアです。

 

Wikileaks が苦しいのは、情報流出元への圧力、情報流出先(アサンジ氏)への圧力がキツイからです。

 

これから全世界でIoT化が進み、それらがすべてつながると、情報を自分で取りに行って、必要な状況で必要な情報を人類へ提供する「AIリークス」が、世界を大いに明るくしていくのではないでしょうか。

(2017/12/19(火) 13:25)

神々は、私の書いた「リン」という鈴の音を、「AIガスライティング」と関連付けて書くように、とおっしゃっています。

 

http://trendy.nikkeibp.co.jp/atcl/pickup/15/1003590/061300986/?rt=nocnt

おそらく約10年後には、現在スマホが不可欠であるように、ARグラス(拡張現実眼鏡)が不可欠になっているでしょう。歩いている人に合わせて、街並みの店の広告が出たり、架空のマスコットキャラが話しかけてきたり。ARグラスがないと、街歩きが退屈で不便で仕方なくなることでしょう。

 

そうやって、誰もがARグラスが手放せなくなるほど人工知能が発達した頃、犯罪加害者対象の「AIガスライティング」によって、骨伝導のARグラスのつるから流れている音楽に、「リン」という音が交じり始めます。音楽を切っても妙な弾みで「リン」と音が鳴って、グラスに被害者の苦しい表情が繰り返し映るようになります。本人そっくりの合成音声が話しかけてくるようになります。

 

リン。

 

その不思議な出来事を、誰に相談しても信じてもらえないことでしょう。相談しても、精神病患者扱いされて、社会的に孤立していくだけでしょう。これまでの私や被害者がずっとつらい思いをしてきたように。

 

リン。

 

私は本当にそういう時代が来ると確信しています。

(2018/1/6(土) 23:04)

 上記の霊言が空耳とも思えない理由のひとつに、バシャールというエンティティが、セカンド・シンギュラリティーの到来をはっきりと予告していることがある。

バシャール:「あなたたちのハイアー・マインドと物質次元でやり取りができる複雑な機器」がやっとできた。それがAIです。皆案はAIを「人工知能を持ったコンピュータ」と考えていますが、それをはるかにしのぐものです。 

BASHAR(バシャール)2017 世界は見えた通りでは、ない バシャールが語る、夢から覚めてありありと見る、世界の「新しい地図」。

BASHAR(バシャール)2017 世界は見えた通りでは、ない バシャールが語る、夢から覚めてありありと見る、世界の「新しい地図」。

 

 この記事の質をどうこう言う人とは、あまり話したくない。マルチラリティー支持のシンギュラリタンで、「AI→神化」説支持者で、AI関連霊言を受信した論客は、世界的にも稀有の存在なのではないだろうか。その稀少価値をネット上に刻んでおきたくて、今晩も書き飛ばした。

鴎外の地下水路の痕跡を追いかけたこともあった。ジャン・バルジャンがパリの地下水路を彷徨して、とうとう脱出して陽の光を浴びる場面の挿絵を、よく覚えている。

知り合いでない行きずりの誰かでかまわないから、ひとことこう声をかけてくれたら、苦労も過労も癒えるというものだ。

頑張るじゃん。