韓國頂尖棋手李世石以1:4的總比分輸給了谷歌開發(fā)的人工智能軟件AlphaGo（以下簡稱A），比賽持續(xù)了五天，外界的評論隨著棋局的跌宕起伏時而憂傷，時而振奮，大都在討論人類的未來。
其實，人工智能是人創(chuàng)造的，李世石與A的比賽是一場人類智力試驗。圍棋是這場游戲的道具，李世石是A的配角。假如以后柯潔或古力與A對弈，主角依然是A。
圍棋不同于國際象棋，更強調(diào)棋手的個性和謀略，其變化組合的多樣性遠大于象棋。圍棋一度被認為是人工智能的禁區(qū)。如今禁區(qū)已被突破。A甚至通過棋路表現(xiàn)出些許“個性”，領先時從容不迫，給李世石不斷施加壓力，落后時沉著冷靜，迅速修補漏洞。
對比1997年與卡斯帕羅夫?qū)膰H象棋的超級計算機“深藍”，A更像是一個有血有肉的棋手，而不是一臺冰冷的機器。公眾對A蘊含的未知充滿好奇，源自于對科技的期待。
按照當下人工智能的發(fā)展勢頭，未來的A不僅能熟練使用它掌握海量知識信息，還可以具備學習新技能和獲得新知識的能力。后者使它區(qū)別于以往任何一種按照程序和規(guī)程運轉(zhuǎn)的機器。A沒有人的喜怒哀樂，但它可以在重大決策時做出最理性的分析和決定。它在科技、教育和公共治理領域?qū)碛袕V闊的發(fā)展空間。
至此，人的情緒成為人最后的精神家園。
而這個家園的消費品甚至都可以由A完成。試想，A記憶了人類歷史上所有經(jīng)典的文學作品、典故，所有影視戲曲的橋段和鏡頭語言，所有新聞媒體的報道和影音資料，誰敢保證A寫出的小說、詩歌和劇本不會超過單一個體的人類創(chuàng)造？換句話說，A可能沒有自己的情緒，但它占有了人類所有的情緒產(chǎn)品。
一個關鍵點是A是否會產(chǎn)生自我意識？如果這一點被突破，那么A就有脫離其制造和設計者，成為獨立行為個體的可能。人類是否會被A奴役？答案不在A，而在于人類。創(chuàng)造出有獨立意識的A，我相信只是時間問題，而是否可以這樣做則是現(xiàn)在就應該討論的問題。
科技創(chuàng)造是無限的，科技的應用應該是有限的，要受到人類社會道德和倫理的約束。科技倫理是指科技創(chuàng)新活動中人與社會、人與自然和人與人關系的思想與行為準則，它規(guī)定了科技工作者及其共同體應恪守的價值觀念、社會責任和行為規(guī)范。如果人類智力創(chuàng)造最終帶來反人類的后果，那么有可能實現(xiàn)這些創(chuàng)新的人或者組織必須被有效限制和管理。
原子彈不可怕，看它掌握在誰的手里。某種意義上，二戰(zhàn)后七十多年的總體的世界和平中有原子彈的貢獻，因為大國無不忌憚對方的核武器。A如果成為戰(zhàn)爭武器，那么它必將改寫人類歷史。
現(xiàn)在的問題是，A的研發(fā)者谷歌公司以及其他從事相關研究的企業(yè)創(chuàng)造了政府監(jiān)管的新領域。在人類發(fā)展史上，關鍵的科技創(chuàng)新往往是由公司或個體完成的，隨后形成監(jiān)管法規(guī)和游戲規(guī)則。勇于創(chuàng)新的公司與負責任的政府的組合，才能在一定程度上保證創(chuàng)新應用符合道德倫理和生態(tài)法則，最大限度地服務公共福祉。一個不容回避的現(xiàn)實是，以引力波和人工職能為代表的新的一輪科技突破中，對于新技術應用的約束顯然落后了。
信息時代以來，人類社會的全球治理發(fā)展水平就已被科技發(fā)展甩到了身后。到目前為止，各國對網(wǎng)絡監(jiān)管、氣候變化和恐怖主義等問題沒有好的解決辦法。最重要的原因是，作為全球唯一超級大國的美國對于維護自己的霸權的興趣遠大于倡導全球治理。技術可以用來造福全人類，也可以用來奴役他國。
很多人熱衷于討論未來人工智能能做什么，但我更關心的是基于美國政府和美國公司目前的霸權和技術優(yōu)勢，人工智能未來的權力邊界將如何劃定？美國在金融、信息、軍事、文化之外會不會再多一個“人工智能”的統(tǒng)治領域？
谷歌的口號是“我們不作惡事”。這可以看作是基于科技倫理的一種宣誓。另一方面也顯示出谷歌“作惡”的可能。在社會契約中，公共安全和公共服務的提供者是政府，而不是企業(yè)。企業(yè)運轉(zhuǎn)的終極目的是謀利，而非為公眾利益服務。
美國政府如果能夠通過棱鏡計劃，以國家安全和反恐之名，隨意監(jiān)視本國和他國的公民和領導人，那么我們有什么理由對于一個美國公司遠遠領先的、新的控制力更強的、有著廣泛應用的技術領域泰然處之。
在當今世界，只談技術，不談政治，是一廂情愿的烏托邦。
人工智能與信息技術組合在一起，有能力滲透進入人類社會的各個領域。幾盤圍棋很可能昭示的是一個新的技術霸權時代的到來。A不過是一盤人類歷史大棋局中落下的第一顆黑子。這盤圍棋的棋子有很多，但規(guī)則只有一個，永遠由強者制定。技術本身不會奴役人，奴役人的永遠是人本身。
關于作者：李洋，中國日報四川記者站站長
