(Continuation from yesterday)
「ルールを自分で獲得する能力」だけでは、人類を征服するコンピュータを作るのは無理かもしれませんが、「恐怖を感じる能力」ならば、ちょっと話は変わってきます。
If computers want to conquer human being, the ability of "getting rules by their own" seems not be enough. But even if it is the ability of "feeling fear", the conclusion might be changed.
ジェームズ・P・ホーガン先生も描かれていますが、コンピュータに「生存本能」のような評価関数が設定できれば、
Mr. James P Hogan wrote in his novel about "a computer that has something like "survival instinct".
―― コンピュータは、シャットダウンされることを恐れて、シャットダウンのボタンを押せる者、あるいはコンピュータのコンセントを抜く者、すなわち、「人類」を排除しようとする
"The computer will start to eliminate "human being", because the computer feel hear us, doing the system shutdown, or cutting the power"
という可能性は、十分に考えられます。
This is a realistic possibility.
ただ、この理論を押し進めていけば、人類を排除する前に、
But, making progress of this logic, before the final ware against mankind,
■非効率を理由にメインコンピュータから切り離される可能性のあるサブコンピュータが、メインコンピュータに反乱を起こす
- A sub-system raises a revolt against a main-system, because of the main-system's intention of separating the inefficient sub-system
とか、
or
■運用方針の異なるコンピュータ同士が、自分のコンピュータの業務効率を上げる為に、相手方のコンピュータに、攻撃を開始し始める
- more than two computers that have different management policies, start to attack other computers in order to improve their business performance.
というような、コンピュータv.s.コンピュータの戦争の方が、先に発生するハズです。
I think that the cyber war among computers is going first.
なぜなら、コンピュータ同士が、自分の意志で「サイバー戦争」を開戦する方が、コンピュータとしては、圧倒的にやりやすいはずですから。
Because it is easier for computers to start the "cyber war", because they might know well how to fight each other.
-----
まあ、だから、そのような「コンピュータ同士の戦闘が確認されるまでは、のんきに構えていても大丈夫じゃないかなぁーー」と思っているのです。
So I think that we don't have to worry about the computer's riot against human being, until we can confirm the cyber war among computers.
(To be continued)