2018年4月25日水曜日
AIの三階層アーキテクチャ
シンギュラリティ後のAIは何処に行くのかは興味があるところなのだが、そもそも無目的にAIを作る人間は居ないはずだから、何らかの仕事をしようとするはずだ。そしてそこにはライバルがいるから、AI同士の競争になり、そこで勝つために、AIそのものではなくその指示者である人間を殺そうとする、などというような段階になるのだろう。
これはもちろん防がなければならない。一方で、以前「ご隠居AIとお局AI 」で提案したように、緩いルールも考えられる。例えば、ある新興国では実は賄賂の習慣があって、法は絶対ではない、ということも考えられるからだ。
シンギュラリティ後のAIは、三階層のアーキテクチャが必要になる。第一階層は絶対守るルール。第二階層は緩いルール(パラメータ間の優先度など)。第三階層は、目的量の最大化をする、本来の意味でのAIだ。これはこれからのAIの基本アーキテクチャとして定着するべきと考える。
第一階層、第二階層には、第三階層の結論を評価する仕掛けがあって、それが各々の階層の条件を満たしているかどうかを判定する。第一階層はYes/Noであり、第二階層はアナログ値(0~1)となる。第一階層がYesである条件で、第三階層は多数の提案を行い、それと第二階層とのマトリクスが形成される。
そのマトリクスを見て、必要なら各々をドリルダウンして分析し、経営者がどれを選ぶか判断する、というのが基本的な手順になる。
ただ、概念的にはともかく、実装は難しい。まず第一の階層。ここは言わばチェスのルールなのだが、大きな問題が二つある。第一は、チェスのように明確な指示ができないところだ。「人を殺してはいけない」だけではない、様々なルールを明文化して書かなければならない。それも人間のルールを応用するのではダメで、AI向きに書き直さなければならない。
例えば、人を殺したら死刑または無期懲役または懲役云々、というのは、こうしたらこうなる、というルールである。だから、例えば詐欺をしても罰金より儲かれば可、などという判断をしかねない。法ギリギリの不誠実な方法もダメだろう。
二つ目は、そのルールをAIが認識できたとしても、何をしたらそのルールを破ったことになるのかが明確にならなければならない。例えば「人を殺してはならない」ことが分かったとしても、飛行機のオートパイロットを弄るのと大量の失業者を生み出すこととのどちらが人を殺すことになるのかは明確ではない。それをAIが知覚できなければ、ルールを守ろうにも守りようがない。
「人間が確認した後に実行する」では足りない。そのうち作業が複雑になって人が理解不可能になったり、判断すべきことが膨大になって面倒になって放置する、といったことが起こるのは明白だ。
更には、最終的にはこのルール遵守は法で強制しなければならず、対応できているかどうかは確認可能でなければならない。国の審査対応APIのようなものができて、オンラインで監査できるような仕掛けが必要であり、監査対象のAIは大手企業しか作れない、などとなる。
このアーキテクチャの実現は相当困難なので、初期には法で強制するところは飛ばして、また汎用ではなく特定目的に限って適用されることになる。それは、その時点(技術レベル)において、ルールとその確認手段が明確に判断できるものに限って適用される、という形になる。
こう見ると、AGIの安全装置的なシステムの実現はまだ先が長いと言える。シンギュラリティが安全装置の開発より先に来てしまう可能性は十分にあり、ここの早急な理論構築と開発や義務化が期待される。
登録:
コメントの投稿 (Atom)
注目の投稿:
超音波モーターの原理によるVR用トレッドミル
VRにおけるリアリティ問題の一つに、その場で動くのではなく移動する場合、つまり歩いたり走ったりすることが挙げられる。実際にはその場にいるので、歩いたかのように足場を調節してやる必要がある。 これを実現する方法として、すり鉢状の滑りやすい足場を作っておく方法と、トレッドミルを使...
人気の投稿:
-
性善説と性悪説、どちらを取るかと言えば、やや性善説、だろうか。 子供の成長を見ていると分かるのだが、基本的に子供は善だ。だが、同時に自分勝手なところもある。人の持っているものを欲しがり、場合によっては喧嘩してでも奪おうとする。だがこれは「悪」と言えるほどのものではない。 ...
-
http://techon.nikkeibp.co.jp/real/project/025.html 水と混ぜるだけでできるセラミックスで、圧縮強度、曲げ強度、引っ張り強度、接着強度、耐食性、とあらゆる面で優れているのだそうだ。また、混ぜ物ができるので、その特性をさらに...
-
CAS冷凍 については何回か書いているのだが、いわゆる冷凍睡眠にこれを使えないだろうか、と考えた。 不治の病を未来の医療に託すとして冷凍睡眠(実際には死んでから凍っているのだが)している人は居るし、火星程度より遠くに行くとなると冷凍睡眠の実用化は必要になるだろう。「20...
-
骨梁とは、骨の内部に存在する網の目ないしはスポンジのような構造のことだ。この構造によって、骨は頑丈なのに軽量でいられる。類似の構造としてはアルミ発泡材があるが、あれはどちらかと言えば消音や軽量化が目的であり、骨のような(建築用語で言うところの)構造材としての用途とは少し違う...
-
ハクキンカイロの発熱原理を調べていて、これを防災用(キャンプ用でも良いのだが)の湯沸しに使えないかと考えた。 普通、キャンプではガスコンロを持っていく。だがあれは裸火を使うから、熱効率は悪い。これに対してハクキンカイロの仕掛けは、白金触媒を適切な場所に配することで、極...
-
フリーズドライには、戻したときに食材の食感が変わってしまう欠点があった。代表的には、豆腐が高野豆腐になってしまう。じゃがいもがスカスカになってしまう。葉物野菜はしなしなになってしまう。これらの欠点を、「 CAS冷凍 」によって補うことはできないか、と考えた。つまり、冷凍には...
-
http://www.reconstruction.go.jp/topics/m18/04/20180409160607.html 復興庁が出した、東日本大震災における復興支援の報告書だ。 ざっと読んだが、よくある役所の成果報告書という感じで、タイトルからして「事例...
-
http://japanese.engadget.com/2017/03/28/ai/ これは、上の記事への反論である。 記事の流れについては先のリンクを読んで頂ければと思うが、大きくはその結論として①AIには想像力がない(苦手)、②日本人には世界に稀に見る想像力...
-
ソフトによっては機能が多すぎて、メニューの中を探すだけで一苦労、ということが増えてきた。画像編集、CADなどは特にそうだが、ワープロ程度であっても既に充分に多い。一度も使ったことのない機能も多々ある。 ソフトによってはメニューがカスタマイズできるものもあるが、その範囲は...
-
電線の地中化が遅々として進まないそうだ。 電線を地中化できない最大の要因はコストだろう。よく「予算が無い」などと言われるが、その本質は「それだけの予算を掛ける価値が見出せない」ということだ。地中化の主目的は防災だが、普段のメリットがせいぜい景観くらいしかないことが、...
0 件のコメント:
コメントを投稿