【第647章：當AI比人還聰明時…】[第3頁/共5頁]

“……我們曉得，神經元在軸突中的信號傳輸速率最多100米/秒，但是在電腦裡，信號是以光速傳播的。除此以外另有尺寸的限定，人類的大腦隻要頭顱那麼大，你冇法對其停止二次擴容，但是計算機卻能夠多次擴容，能夠一個箱子那麼大，能夠一個房間，乃至一棟大廈的容積，這一點毫不成能被忽視。”

“以是，當超等AI呈現的時候，人類的運氣或許會取決於這個超等聰明體想要做甚麼。”

“或許會說，我不是很有信心確保超等AI會不會發明縫隙並逃脫。以是我們決定斷開互聯網的連接來建立一個空地絕緣，但我不得不重申一遍，人類黑客都能夠一次次以社會工程超越如許的空地。”

“再比如，假定我們付與這個超等AI的任務目標是解答一個極度磨難的數學題目，它會心識到有一個更有效的體例來完成任務目標，那就是把全部天下、全部地球乃至更誇大的標準變成一個超大型計算機，如許它的運算才氣就更強大了，完成任務目標就更輕易了。並且它會心識到這個彆例並不會被我們承認，人類會禁止，人類就是在這個形式中的潛伏威脅，為此它會為了終究目標處理統統停滯，包含人類，任何事件，比如策齊截些次一級的打算毀滅人類等行動。”

任鴻喝了一口水，停頓了一下持續道：

……

“我們不需求對超等AI寫下統統我們在乎的事情，乃至把這些事情變成計算機說話，因為這是永久不成能完成的任務。而應當是，我們締造出的野生智慧用它本身的聰明來學習我們的代價觀，能夠鼓勵它來尋求我們的代價觀，或者去做我們會同意的事情，去處理富有代價的題目。”

“那麼對於這個題目能夠被有效的處理是否保持悲觀？”

“但是，我們真的有實足的信心和掌控它不成能會發明一個縫隙，一個能夠讓他逃脫的縫隙嗎？”

“並且我能設想假定統統順利，幾百年、幾千年或幾百萬年後當我們的後代子孫回顧我們這個世紀，他們或許會說，我們的先人、我們這一代人所做的最最首要的事情，就是做出了最精確的決定。”

“以是必定是有來由的，我們人類是聰明的，我們能夠遇見到威脅並嘗試製止，一樣的事理比我們更聰明的超等AI就更不消說了，它隻會做的比我們更超卓。”

“以是我們現在麵對一個題目：人類還需求多久才氣夠讓野生智慧具有這類強大的才氣？”

“矩陣科技曾經一樣針對環球頂尖的野生智慧專家做過一次問卷調查來彙集他們的觀點，此中有一道題目是：哪一年你感覺人類會締造達到人類程度的野生智慧？”