科幻作品視角下的人工智能倫理

科幻作品視角下的人工智能倫理

梁衛國

(中央民族大學哲學與宗教學學院，北京 100081)

　　摘 要：人工智能快速發展的現實為科幻作品提供了創作素材和科技佐證，而科幻作品為人工智能提供了未 來想象和發展可能，兩者既相離又相交的關系構建起了豐富的精神實驗和感覺體驗。產生這些實驗和體驗的 根本原因是，在符號主義、連接主義和行為主義指導下，以數據和算法為技術核心的人工智能逐漸突破了人 類中心主義的倫理觀。這種倫理觀可能會導致人類喪失對機器的控制權，甚至導致人類的毀滅。要避免這種 悲劇發生，需要構建起人類與人工智能相處的新倫理：重新審視人本身，保持對人造自然物——人工智能的敬畏，在人類中心主義的主體下，構建起人類與人工智能相處的準伙伴關系。

　　關鍵詞：倫理 人工智能 科幻作品 主體性 人類中心主義

　　[ 中圖分類號 ] TP18;B82-057 [ 文獻標識碼 ] A [ DOI ] 10.19293/j.cnki.1673-8357.2020.03.005

　　Research on Artificial Intelligence Ethics from the Perspective of Science Fiction Creation

Liang Weiguo

(School of Philosophy and Religion，Minzu University of China，Beijing 100081)

　　Abstract：The rapid development of artificial intelligence(AI)provides creative materials and scientific evidences for science fiction creation，while science fiction creation provides AI research with future imaginations and developing possibilities. Such separating and interacting relationship forms rich spiritual and sensory experiences. The fundamental reason for these experiences is that AI(which takes data and algorithms as its core technology)has gradually broken through the ethics of anthropocentrism under the guidance of symbolism，connectionism，and behaviorism. This change of anthropocentric ethics may lead to the loss of human control on machines，or even the destruction of humankind. To avoid this predicament，we need to build a new ethic in which human and artificial intelligence could coexist，namely，a quasi-partnership between humans and artificial intelligence based on anthropocentrism.

　　Keywords：ethics;artificial intelligence;science fiction creation;subjectivity;anthropocentrism

　　在眾多的科幻作品 中，人類與人工智 能相處的倫理問題常常讓人揪 心。 在《終 結者 》(The Terminator ) 中，最新型終結者 T-X 美麗俊秀、身手毒辣，以能量形式存在 各種網絡之中;她能隨心所欲地變成各種形 態，并能操控其他機器人，連最先進的液態 金屬 T-800 也無法逃脫她的操控。《黑客帝 國》(The Matrix )中，在 22 世紀，人類生活 在機器所虛構的世界之中，肉體和精神都被 超級機器控制。電影《機械姬》(Ex Machina ) 中，人類造出的機器人具有獨立意識，利用 感情成功欺騙人類，逃離實驗室，并試圖毀 滅人類。從邏輯上看，科幻片的構思似乎無 懈可擊。一方面，人工智能的確具有人類所 沒有的無限壽命、超強的計算能力及其他高級智能。另一方面，在現實生活中，人類似 乎無處可逃：街頭車站涌現大量的手機“低 頭族”，網絡社交評分無處不在，狂熱青年忙 著賺虛擬貨幣。導致人類無處可逃的是高速 運轉的人工智能，人工智能正把虛擬世界與 物理世界的邊界變得愈加模糊。這些巨變使 得一些科學家認為，奇點來臨后，科幻片中 人類被追殺、毀滅的景象就會變成現實。那 么，人工智能和科幻作品有何關系?如何看 待人類和人工智能相處的倫理問題?面對這 種倫理問題，人類應該何去何從?

目錄

　　1 人工智能和科幻作品的關系

　　1.1 科幻作品為人工智能倫理研究提供可能

　　1.2 共時性中的人工智能倫理問題

　　1.3 歷時性中的人工智能倫理問題

　　2 人工智能倫理與人類中心主義

　　2.1 人工智能發展中人類中心主義的悖論

　　2.2 人工智能倫理應隨著時代發展而變化

　　3 構建人工智能倫理的思辨

　　3.1 人工智能倫理在哲學上難以構建

　　3.2 人工智能倫理在社會學上態勢復雜

　　3.3 人工智能倫理的困境是人自身矛盾的展開

　　4 結語