「人類即將被『邪惡的』人工智慧統治並毀滅!」──這個想法太瘋狂,還是比你以為的更實際?

「人類即將被『邪惡的』人工智慧統治並毀滅!」──這個想法太瘋狂,還是比你以為的更實際?

上個世紀,科幻小說對科技的想像

1958 年,美國科幻小說巨擘艾西莫夫(Isaac Asimov)寫了一個極短的短篇故事,標題是〈權力感〉。

故事裡卑微的技工奧伯(Myron Aub)發現,他可以在紙上將兩個數字相乘,因而仿製他電腦的工作。太驚人了!這個驚人的發現一路傳到更高的階層,將領和政治人物紛紛被奧伯的黑暗魔法震懾。最高階的將軍對此更好奇,因為人為的計算可能讓地球的軍隊有決定性的優勢,在對敵對星球德尼布(Deneb)的戰事中突破長期一直被電腦侷限住的僵局。

奧伯這項驚人的能力被稱為「圖像算術」,他可以在紙上計算,甚至可以在頭腦裡計算,消息最後一路傳到總統耳裡。一位議員這樣說明這種能力的潛力,讓總統非常激動:「我們會結合計算的機制與人類的思考;我們會有與智慧電腦相等之物;而且會有好幾十億個。我無法詳細預測這有什麼後果,但後果一定難以估算⋯⋯理論上,電腦能及之事沒有人腦辦不到的。電腦只會拿有限的資料,對之進行數量有限的操作。人腦可仿製這個程序。」

因此,總統被說服發動「數字計畫」,探索這種能力的軍事應用。故事的結局是典型的艾西莫夫式諷刺情節:將軍告訴新成立的團隊(其中包括剛剛升階的奧伯),他的願景是將太空船和飛彈上的昂貴電腦,以使用圖像算術的人類取代。他最後說:「戰爭的迫切需求讓我們記住一件事:人類比電腦更可有可無多了。」

這對可憐的奧伯太難受了,他回到房間裡自殺,留下一張紙條說他無法承受發明圖像算術的責任,他本來希望這個能力可以用來造福人類。

艾西莫夫對人機關係的演變著迷,他的機器人故事遠比這個短篇小說有名,也印證了他的著迷。從〈權力感〉的出版時間來看,可以確定的是艾西莫夫想的不只有人類變笨、被機器取代而已。美國和蘇聯不久前都測試過氫彈,世人也爭辯著核融合發電的願景與終結全世界的災難──人們不禁要問:我們這些強大的新能力會被用於善事,還是被當成毀滅的工具?

如果缺乏規範,科技將以何種程度反噬人類?

流行文化不會論定命運,可是以前的科幻市場現在大多被超自然和中世紀幻想取代,我認為是一件顯著的事情。快速看一下亞馬遜網站的「科幻與奇幻」暢銷排行榜,就會發現榜上的 20 本著作全都有吸血鬼、龍或巫師,甚至三者全包。

許多才華洋溢的作家寫下出色的奇幻故事,我自己也很迷托爾金的小說和哈利波特,可是我們若在流行文化裡尋找指向,看到巫師的魔杖揮一揮,就取代了「想像未來」這件艱困又甚具價值的工作,無疑讓人失望。

換個角度想,看完詹姆斯.卡麥隆的《魔鬼終結者》(1984)或前華卓斯基兄弟的《駭客任務》(1999 年),很難不對科技抱持悲觀的想法。兩部電影的主題都是人類的科技以暴力打擊人類。

超智慧機器會超越它們的創造者,甚至可能攻擊創造者,此一想法有悠久的歷史。1951 年,圖靈在演說中提出看法,認為機器會「擺脫我們的虛弱能力」,最後「拿下控制權」。

夏吉採取比較務實的研究方向,替自主機器設立道德規範,特別是他簡扼描述為「殺人機器人」的自主機器。我們已經非常接近這個地步了:現今的無人飛機已經可以做到所有的事,只差自己按下扳機而已;另外,遙控殺人的道德與政治面向理應是我們早就要面對的課題。

夏吉的責任機器人基金會(Foundation for Responsible Robotics)也要我們思考自動化的社會效應,以及自動這件事會如何影響人性本身。夏吉說:「我們現在應該退一步,在科技偷偷過來咬我們一口之前,好好想一想科技的未來。

「人們對 AI 的最大誤解,是擔心邪惡的超智慧即將降臨」

我和夏吉於 2016 年在牛津碰面時,他向我說明,我們除了在維安和軍事上面臨機器人化的革命,舉凡看護照料、教育、性愛、交通和服務業等工作,也即將面臨機器人化的革命。

他說:「有些大人物在外頭拚命大喊,人工智慧會占據全世界,把我們全部殺光。我不認為這種事會在近期發生。在此同時,這種聲調又干擾了近期未來的迫切議題。雖然大家誇大其詞,人工智慧其實非常愚笨又狹窄,我們卻逐步讓人工智慧控制更多人生的面向。」

我問了麻省理工學院的麥克費(《第二次機器時代》﹝The Second Machine Age﹞和《與機器競賽》﹝Race Against the Machine﹞的共同作者),他認為現今對人工智慧最大的誤解是什麼,他的回答很簡要:「最大的誤解是,大家期望機器取代人的時刻近在咫尺,或者恐懼超智慧即將到來。

麥克費以合乎常理、人性的方式研究科技對社會的影響,與我的觀點最接近。他的務實手法與機器學習專家吳恩達(Andrew Ng)的思路相仿。吳恩達曾任職於 Google,現任職中國的百度,他曾經說過,現在憂慮超智慧的邪惡人工智慧,有如擔憂「火星上人口過多」。

人應大膽做夢,走在科技之前

「新」不一定代表「好」,但認為「新」一定代表「不好」也是一種錯誤的想法,如果一直悲觀視之,對我們文明的發展更有害處。

我們無法確知新科技會帶來什麼改變,但是我對這些與科技一同成長的年輕人有信心。我相信,他們會找到新奇的方式來運用科技,就像我的世代運用電腦和人造衛星,以及每一個世代運用科技來實現人類夢想一樣。

結語通常是用來結束討論用的,但我比較想用這個結語來激發想法。我希望你把這段結論當作閱讀清單,起而主動創造出你想見到的未來。這個爭辯是獨特的,因為這不是學術爭辯,也不是事後檢驗。

只要相信未來的科技是正面的人越多,未來是正面的可能性就越大。我們都會透過自己的信念和行動,選擇出未來的樣貌。我不相信有我們控制不了的命運。沒有事情是先決定好的。沒有人是旁觀者。賽局已經開始,我們全部都在棋盤上。如果要贏,只能讓夢想更大、讓想法更深入。

這不是烏托邦與反烏托邦之間的抉擇,也不是我們對抗任何其他的事物。我們必須全數發揮自己的野心,才能走在科技之前。我們很擅長教機器做我們的工作,未來只會更擅長。唯一的解決之道,就是創造出連我們自己都不知道要怎麼進行的新工作、新任務、新產業。

我們需要新的疆界,以及探索這些疆界的意志。我們的科技善於讓我們的人生少做困難、不確定之事,所以我們必須不斷尋找更困難、更不確定的挑戰。

我先前說過,我們的科技能讓我們更有人性,因為科技讓我們更有自由發揮創意的空間,可是人性不只有創意。我們還有其他的特質,是機器無法匹敵的:它們只有指令,但我們有目標。機器不會做夢,就算在休眠模式裡也不會。人類會做夢;我們需要我們的智慧機器,才能將最宏大的夢想變成事實。假如我們停止做大夢,假如我們不再尋求更宏大的目標,那麼我們也只不過是機器而已。

圖/MikeDotta@Shutterstock

《關於作者》
加里‧卡斯帕洛夫 Garry Kasparov
前西洋棋世界冠軍,現為商業演講者、全球人權倡議者及作家。以策略性思考、展現頂尖表現能力及科技創新相關的演講和講座,在數十個國家備受好評。
經常在《華爾街日報》和許多報章雜誌發表文章,著有《走對下一步:向棋王學策略思考》(How Life Imitates Chess)和《寒冬將至》(Winter Is Coming),各已翻譯為十餘種語言。
責任機器人基金會(Foundation for Responsible Robotics)執行顧問,牛津大學馬丁學院(Oxford Martin School)資深訪問學者,聚焦在跨領域研究與人機決策過程。

註:本文摘自加里‧卡斯帕洛夫(Garry Kasparov)的《深度思考:從深藍到 AlphaGo,了解人工智慧的未來、探索人類創造力的本質,大腦最後防線與機器鬥智的終極故事》(Deep Thinking: Where Machine Intelligence Ends and Human Creativity Begins),由臉譜出版社授權換日線原文轉載並增訂小標。惟圖、文經編輯,均與原作有部分出入,欲閱讀作者完整作品,歡迎參考原書。

執行編輯:HUI
核稿編輯:林欣蘋

Photo Credit:Anton Gvozdikov@Shutterstock

出發,改變人生的一次旅行