6月8日晚上,清華大學梅汝璈法學講席教授馮象先生於閔行校區法商北樓一樓報告廳帶來了名為“機器人律師,機器人醫生🏌🏻,然後……”的講座。講座由EON4法學院田雷教授主持,上海法學會秘書長毛堅平♐️、會員部副主任朱炯📶、副調研員莫莉,EON4法學院黨委書記張惠虹及眾多師生共同參加。該活動同時納入上海法學院2017年“雙百”講座暨“上海法學講壇”暨EON4人文社會科學“知名學者學術講座”系列👆🏼。
講座伊始,上海法學會秘書長毛堅平致歡迎詞㊙️,毛秘書長介紹了上海法學會的“雙百計劃”🧑🏻🎓,指出成立此計劃的初衷是希望通過專家學者以報告會的形式宣傳法治,弘揚法治精神,普及法治教育,提高公民學法🎧、知法、用法的自覺性。毛秘書長進一步指出“上海法學講壇”作為“雙百計劃”的品牌項目🧑🏽🚒🤚🏼,已經在社會各界舉辦了數場講座🤾🏽♀️,效果顯著,希望今天在華師大的首場講座也可以圓滿成功🛸。隨後由田雷教授對馮象先生進行了簡短的介紹。
馮象先生首先從近日裏引人關註的柯潔對戰AlphaGo與人工智能參加高考談起🦸🏿♀️,談到他個人對於人工智能的研究誌趣與主要關註點在於抽象物的財產、人工智能與宗教、人機倫理這三個方面。
接著馮象先生提出一個思想實驗🏌🏿♀️🏇,並以此來說明人工智能對於人類社會的挑戰👱🏼♀️。假設有一個星球,星球上的人類的最高理想😐、最高價值🏊🏽♂️、最高成就都是下圍棋,棋手是最高職業,其余職業都是附屬。這個星球上也發展了人工智能,並且人工智能也發展到了擊敗一切棋手的水平,那麽,應該如何處理?
在這個高度簡化的星球上,當人工智能超越人類,那麽人類的經濟形式、生活方式、生活意義全部都會被改變。馮先生進而發問,當人工智能繼續發展下去,是否也會給我們帶來類似的挑戰,從出生到教育再到工作💍🧑🦼➡️,乃至於法律、政治,人工智能都會對人類產生影響。
由此,馮象先生提出第二個問題,有如此大的挑戰,人類與人工智能應有怎樣的關系?人工智能是否可以單單和平使用。對此馮先生認為人工智能參與到軍事戰爭已經是事實並且無可避免,我們更應該思考如何限製人工智能。在聯合國已經有了相關的積極討論🎚,而在國內業界,這樣的討論則趨於保守。
之後💆🏽♀️👋🏿,馮先生援引阿西莫夫在《我,機器人》中提出的機器人三定律,並逐條進行分析,指出在機器人發展前🦧,先製定出切實可行的規則體製的重要性🫵🏼。現在的人類所處的社會製度本身很難承擔人工智能,一方面人工智能易成為少數人的工具,另一方面,人工智能的發展可能會加大人與人之間的差距🔫,加劇分配不平等,從而刺激人們要求平等。而出於人工智能的巨大風險性🦸🏼♀️,人工智能的發展勢必對於政府有著極高的要求🎛,政府需要承擔更大的責任。這種責任同時也需要每個人。執政黨等多方面共同承擔。而這也需要法律法規,黨的紀律等外部條件的規製。
最後👩🏭,馮先生提出,面對人工智能替代人類的問題,我們一方面要善於利用人工智能,同時人類自身也要不斷地發展🧝🏿♀️。這樣的挑戰是空前的,因為人類從未面對過智能全面超越人類的挑戰。以法律領域為例,也許機器會在日後給出極其復雜以至於讓人根本看不懂的判決。由此👨🏽🦱,人類不僅要在技術上應對🏌🏿,同時也要在系統上應對人工智能💐。我們可能要重新設計階級🤸、文化💃🏽、社會各方面的製度,以應對挑戰並獲得更優質的服務👩🏻🦽。
馮先生以美國人工智能科學家的觀點“人工智能只要有微小的可能性就必須全力地去研究🚣♂️🧑🎄,而不是根據概率的大小來分配註意力,因為🎱,哪怕是最小的可能性,一次意外所帶來的災害都有可能是非常嚴重的,是人類經受不起的”為收尾,結束了本次講座的主體部分👀。講座過後,師生紛紛提問,涉及宗教、倫理、生物、法律等諸多方面的問題,一一得到了馮先生的回應。