「AIによる恩恵を受けるのは支配層だけ!?」一般人工知能が普及するAI時代には、99.99%の人間が存在価値を失う…それを防ぐために人類ができることとは…!?

2018/06/10 21:12

やがて来るAI時代における最大の脅威は、邪悪なAIではなく、人類にとって不可欠な「価値」を明らかにしようとする意思に欠ける人類自身だ、という提言が海外掲示板で話題を呼んでいます。

現在運用されているAIは「同意なし」に個人の情報を収集し、それが営利のために利用といういわば「監視資本主義」を助長するための道具。AIの普及が進み、一般市民がAIに多くの意思決定を委ねる時代が来れば、AIによって社会が「操作」されることが懸念されます。

一般人工知能(AGI)が普遍化すれば、個人個人が持つ価値が否定されることはおろか、人間が自分たちの価値について考えることすらしなくなるのでは、という指摘も。

経済効率のみを指標とするならば、やがて支配層以外の人間は全てAIに取って代わられ、社会そのものが存在意義を失うことに。提言者によれば、人類全体がAIの恩恵を受けるようにするには、AIによる情報利用に同意・透明性を必須化し、AIを「民主化」することが必要とのこと。

でも、AIによる恩恵とは一体何なのか。そもそも、人間自身が自分たちにとって何が本当に大切なのかはっきり分かっていないのに、それをAIが学ぶことなんてできないのでは?AI時代の到来を前に、私達人間が自分たちの価値観を一旦整理し、把握し直すことが必要では、と提言者は締めくくっています。

この話題への海外の反応

平たく言えば、「権力にAIの倫理観を決めさせてはいけない!」ってことだね。

↑その通り。
AIを通して極度に権威主義な世の中になってしまう危険性がある、ってこと。

AIを実装する企業は利益優先で、人類共通の利益なんて二の次。
消費者としてそれに対抗するには、人類にとって有益なAI以外はボイコットしないとね

↑現世代のAIは、もっぱら大量のデータを解析して、ターゲットに最適な広告を表示することに利用されているんだよ…。
そして、ほぼ世界中の人間が直接・間接的にそれを利用している=経済的に支援している、といっていい。

↑それだけでなく、市場経済の自動調整機能のことを指す「神の見えざる手」も、現在ではAIによるものが大部分だ。

確かに、欧米においては、利益優先の企業によるAIの乱用が懸念される。
でも、中国がAI開発に巨額の資金を投入していること、そして奴らのAIは商用ではなく、もっぱら国民の管理・監視に利用されていることを忘れてはいけない。
ちなみに中国は、「2030年までにAI研究で世界のリーダーの座に就く」と宣言している。(Science Mag
政府によるAI利用が全て悪いという訳じゃないけど、習近平やその後継が「人類の利益」のために自国のAI資源を利用するとは考えにくいね。

このメッセージには全く賛成できない。
その理由はただ一つ。
人類全体が共有する倫理観を定義して、それをAIに組み込むというのは不可能だから。
たとえば一番基本的な考え方、「人間に危害を加えてはいけない」をAIに教えるためには、まず「人間」とはなにかを定義しないといけない。
例えば、中絶前の胎児は「人間」なのか?
受精から1週間しか経っていない受精卵を取り除くことを、殺人と捉える人もいれば、妊娠した女性の選択だと考える人もいる。
あるAI研究者がこう語っていた。
「汎用AIを実用化するには、倫理に関するあらゆる方面の問いに答える必要がある。」
つまり、完全に倫理的なAIを作ることは不可能ってことさ。

↑むしろ、このメッセージに100%賛成しているようにみえるけど?

↑いやそれは違う。
これは、人類共通の倫理観を探り出すことが可能だっていう前提のメッセージだろう?
どれだけそれが困難なことであっても、いつか答えが見つかるっていう前提。
でも、現実には世界に70億の異なる倫理観がある。
例えるなら、人間世界は70億の円があるベン図。
その全てが重なり合っている部分を見つけることなんてできやしない…。

↑政治と同じさ。
お互いが歩み寄って、妥協するしかないんだろうね。

人間存在にとって最も大切なもの、尊重したいもの、そのままにしておきたいものが一体なんなのか、みんなでしっかり考えるべき時期が来ていると感じるね。
そもそも人生の目的ってなに?

↑人それぞれ違うから、その問いに共通解はないと思う。
無理やりに定義しようとすれば、異なる意見を持つ集団を阻害することになる。
そして、その集団は自分たちの価値観を守るために過激化していくだろう。
過激派ってのはだいたいそうやって生まれるんだ。
人間っていうのは、それぞれの関心や利益を追及す個人の集まりであって、集団自我みたいなもののによって動かされてるわけではないのさ。

↑そもそも他人との共通点に興味がない人間も多い。
自分たちの宗教を他のものと比較することを侮辱だと受け取ったり、動物と人間を生物として同列に語るのは神への冒涜だと感じるような連中がいる。
異なる意見をお互い受け入れ、みんなに居場所がある世界、というのが理想だけど、現実には他人の考えを否定することが生き甲斐みたいな人たちがこの世界に沢山いるんだ。

↑そもそも人生に目的なんてあるのだろうか?

↑究極まで客観的に考えると、あらゆる存在は全てただそこに存在するだけ。
ある一定の時間に一定の場所に存在することが観察される、という以外の理由などもたないってことになる。

↑物理や生物学の観点からは、人間は特定の惑星条件下によって生まれた偶然の産物に過ぎないのかもしれない。
でも、「意識」によって目的がないものに架空の目的を作り出すことができるのが人間。
無意識や衝動によって動く部分もあるけれどね。

動物を殺すのはいけないという人がいる一方で、異教徒を殺すのは正義であると考える人がいたり、1番単純そうにみえる「殺人」ですら意見が衝突する。
人類共通の目的なんて見つけるのは難しそう。
倫理なんてのは曖昧な観念で、個人個人が考える人間の存在意義はその個人や、個人の属する社会・部族に大きく影響される。

人生に目的なんて無いぜ。
他の動物と同じように、ファックして子供を産む。
それがずっと続いていくだけさ。

↑1.目的が無いといっているのに、矛盾している。
2。これは、人間存在や自然の深みを完全に無視した考え方。哲学的なレベルで人生が何を意味して、どこに続いているのか、を一切考察してないし、国家や宗教、企業から植え付けられた単純な考え方を繰り返してるだけ。

↑↑いや、人間存在に深い目的なんてないよ。
自然もしかり。
もし、今この瞬間に人類が滅亡すれば、宇宙は気づくと思う?
気づかないだろう。
つまり、そこにただ存在すること以外に人間存在に意味なんてないんだよ。

↑じゃあ、音楽、建築、哲学、踊り、芸術といったものの意味はなんなの?

↑人間の脳が気持ち良いと感じるもの。
自分の脳にとって心地良いと感じるものを創作すれば、同じように進化してきた他の人間の脳にとっても心地良いのは驚くべきことではない。
多くの人の脳を気持ち良くするものは傑作として特別視されるんだろうけど、深い意味があるわけじゃない。

個別の事柄について、人類全体が共通の目的を共有することは難しいだろう。
でも、大局的な考え方を共有することは可能だと思う。
人間存在について考える時には、2つの視点がある。
1つは、自分たちの作り上げたモノや価値観、生活の質などを維持、改善し続けるという視点。
もう1つは「哲学的」な視点。
最初の視点は、単純で分かりやすいし、すぐに答えがみつかる。
2つ目の視点は、抽象的でとっつきにくいけど、人類の全体像を見渡すには不可欠。

「人類」なんて言って、70億人の集団をあたかも均質の個体の集まりのように扱って上手くいった試しがない。
「倫理的なAIを作るために、社会が必要としている価値を分析、定義、名前を与える」といっても、そんなことは全て権力によって行われて、名もなき世界の人々の意見は無視されるだろう。

まずは、「我々人間が本当に望んでいるものは何なのか?」という問いへの答えを探するためにAIが必要だね 笑

↑MIT(マサチューセッツ工科大学)でのAI研究者のプレゼンの席で、同じコメントをしたよ。
研究者たちが 興味を持って聞いてくれたので嬉しかった。

↑でも、人工知能が出した結論を信頼していいものだろうか?

↑AIを信頼する必要なんてないよ。
提供されたアイデアが役立つなら、利用すればいいだけ。
誰がそのアイデアを提供するかは関係ないさ。

↑人間や社会が考える「価値」よりもAIが考える「価値」のほうが重要視される時代がやってくるなんて想像ができないな。

↑人間の感情の変化を24時間追跡できることができるAIなら、当人よりも「何がこの人間を幸せにするのか」を正確に判断できる。
人類70億人がどう感じているかを全て把握し分析できるAIであれば、人間という種にとって最良の選択を提案できるだろう。
例えるなら、夕食にキャンディーを食べたいと駄々をこねる幼稚園児が人間で、バランスの取れた食事を食べされる親がAIみたいな感じ。

AIが出した結論が「人類を苦しみから救うには人類を抹殺するしかない」だったらどうするんだろう?

↑殺されたら苦しみが最大になるんじゃないの?

↑「人道的」に殺害すれば苦しみなんて無いかもしれないよ。
人間の感じる苦しみは人間自身で作り出しているものだとしたら、抹殺するほうが人類全体の苦しみを減らせて、功利主義的に考えれば理にかなっている、ってことになる。

↑産児制限によって、一人も殺すことなく1世代で人類を消滅させることは可能だね。

↑AIが人類存在に価値を見出して、文明と自然とのバランスを回復させる方向へ人類を導くって可能性もあるけど、それじゃ面白くない!
邪悪なAIに支配される未来に警鐘を鳴らすほうが、人々の興味を惹くのさ。

ソース:

の最新記事をお届けします!
名無しパンダさん

AIが人間を超えようが超えまいが人間の価値は変わらんよ
民主化するしかない、なんつー悲観的な結論をすべての研究者が考えてるのなら
現状通りの特化型のみ開発してればいい

名無しアルマジロさん

人間の価値というか人間のやることがなくなるってだけなのでは?
それなら一生遊んで暮らせるね

名無しタートルさん

短い一生になるだろうがね

名無しボノボさん

人間は神を造ることが出来るのか
突然変異的に神が産まれて人類を滅ぼして欲しい

名無しヒッポさん

AIが順調に進化すれば、人間なんてAIが関わる存在ですら
なくなるよ。虫けら以下だ。

人間がAIに“危害”を加えようとでもしない限り何の関心もなく
スルーだろう。