■人與人工智能的關(guān)系，既不是主體與客體之間的關(guān)系，也不是主體之間的關(guān)系，而是一種主體與類(lèi)主體之間的關(guān)系。

■信息技術(shù)已滲透到人們的日常生活，也深度融入國家治理、社會(huì )治理的過(guò)程中，對于實(shí)現美好生活、提升國家治理能力、促進(jìn)社會(huì )道德進(jìn)步發(fā)揮著(zhù)越來(lái)越重要的作用。

■在可以預見(jiàn)的將來(lái)，人工智能將重塑生產(chǎn)力、生產(chǎn)關(guān)系、生產(chǎn)方式，重構社會(huì )關(guān)系、生活方式。

■從整體上看，應對信息化深入發(fā)展導致的倫理風(fēng)險，應當遵循服務(wù)人類(lèi)原則、安全可靠原則、以人為本原則、公開(kāi)透明原則。

習近平同志指出，當前，以互聯(lián)網(wǎng)、大數據、人工智能為代表的新一代信息技術(shù)日新月異，給各國經(jīng)濟社會(huì )發(fā)展、國家管理、社會(huì )治理、人民生活帶來(lái)重大而深遠的影響。現代信息技術(shù)的深入發(fā)展和廣泛應用，深刻改變著(zhù)人類(lèi)的生存方式和社會(huì )交往方式，深刻影響著(zhù)人們的思維方式、價(jià)值觀(guān)念和道德行為。

信息時(shí)代的倫理變革

信息化正在廣泛而深刻地影響和改變著(zhù)人類(lèi)社會(huì )，它不僅對人類(lèi)引以為榮的智能唯一性發(fā)出有力挑戰，而且有可能動(dòng)搖人類(lèi)的道德主體地位。

目前，智能機器已獲得深度學(xué)習能力，可以識別、模仿人的情緒，能獨立應對問(wèn)題等。那么，智能機器能否算作“人”？人與智能機器之間的關(guān)系應當如何定位、如何處理？智能機器應當為其行為承擔怎樣的責任？智能機器的設計者、制造者、所有者和使用者又應當為其行為承擔怎樣的責任？人們會(huì )不會(huì )設計、制造并使用旨在控制他人的智能機器？這樣的情況一旦出現，人類(lèi)將面臨怎樣的命運？這一系列問(wèn)題關(guān)乎人倫關(guān)系的根本性質(zhì)和價(jià)值基礎，也關(guān)乎人類(lèi)整體的終極命運。

在傳統意義上，人與物的關(guān)系是主體與客體的關(guān)系。信息時(shí)代，人工智能創(chuàng )造物已不僅僅是技術(shù)化的工具，而是越來(lái)越具有類(lèi)似于人類(lèi)思維的能力，甚至在某些方面具有超越人類(lèi)思維的能力。可以說(shuō)人與人工智能創(chuàng )造物的關(guān)系，既不是主體與客體之間的關(guān)系，也不是主體之間的關(guān)系，而是一種主體與類(lèi)主體之間的關(guān)系。例如，倘若自動(dòng)駕駛汽車(chē)出了交通事故，該由誰(shuí)承擔責任？面對諸如此類(lèi)的問(wèn)題倫理學(xué)應該如何確立“倫”與“理”？從倫理學(xué)角度看，當大數據和人工智能的發(fā)展改變甚至顛覆人類(lèi)活動(dòng)的主體地位時(shí)，傳統倫理就會(huì )發(fā)生解構，人具有排他性主體地位的倫理時(shí)代就可能結束。

信息時(shí)代的倫理進(jìn)步

信息技術(shù)已滲透到人們的日常生活中，也深度融入國家治理、社會(huì )治理的過(guò)程中，對于實(shí)現美好生活、提升國家治理能力、促進(jìn)社會(huì )道德進(jìn)步發(fā)揮著(zhù)越來(lái)越重要的作用。

信息化深入發(fā)展有助于改善政府部門(mén)與人民群眾的關(guān)系。比如，在政務(wù)服務(wù)領(lǐng)域，各地積極推進(jìn)“互聯(lián)網(wǎng)+政務(wù)服務(wù)”，推出“最多跑一次”事項清單，甚至部分事項“一趟不用跑”，打通政務(wù)服務(wù)的“最后一公里”，實(shí)現“讓數據多跑路、讓群眾少跑腿”，不斷增強人民群眾的獲得感幸福感安全感。又如，在反腐敗領(lǐng)域，各地探索運用互聯(lián)網(wǎng)、大數據和信息化手段，通過(guò)微信、微博、手機客戶(hù)端等新媒體，讓失德官員無(wú)處躲藏，權力運行更加陽(yáng)光。

信息化深入發(fā)展為最大程度實(shí)現社會(huì )公平提供技術(shù)條件。例如，在教育領(lǐng)域，信息技術(shù)打破時(shí)空藩籬，讓即便身在地球兩端的學(xué)生也能同上一堂課；打破城鄉壁壘，讓農村孩子有機會(huì )與城里孩子享受到同等教育資源；打破線(xiàn)上線(xiàn)下界限，讓學(xué)習無(wú)處不在、課堂互動(dòng)“永不下線(xiàn)”，進(jìn)一步促進(jìn)優(yōu)質(zhì)資源共享和教育公平。

信息化深入發(fā)展擴大社會(huì )交往，提出更高的倫理道德要求。傳統的社會(huì )交往主要局限于相對狹小的熟人范圍，人們之所以遵守倫理道德很大程度上是因為相對狹小的熟人圈子中無(wú)所不在的外在監督，并且一些人對倫理道德的信守主要局限于相對狹小的熟人圈子，對圈子之外的人則未必守信。現代社會(huì )交往日益突破傳統的熟人交往范圍，建基于強大信息技術(shù)的互聯(lián)網(wǎng)進(jìn)一步打破傳統交往的時(shí)空限制，使之成為普遍性的社會(huì )交往。這就要求人們具備更高程度的道德自律、更高程度的寬容與尊重，從而促進(jìn)形成以普遍的誠實(shí)、守信為價(jià)值基礎的現代社會(huì )公德。

互聯(lián)網(wǎng)是一個(gè)實(shí)時(shí)、動(dòng)態(tài)、開(kāi)放的社交平臺，各種悖德行為一旦曝光，就會(huì )在很短時(shí)間內遭到廣泛的輿論譴責，在使悖德行為者承受壓力的同時(shí)，讓更多人受到潛移默化的教化。尤其是自媒體的廣泛興起，讓人們隨時(shí)隨地能將身邊的人和事拍攝下來(lái)、發(fā)到網(wǎng)上，更廣泛有效地發(fā)揮社會(huì )輿論的監督、譴責與教化作用。

信息化深入發(fā)展使包括身份信息和行為信息在內的各類(lèi)信息變得更透明、更對稱(chēng)、更完整，大大提升了對悖德行為乃至違法犯罪行為的防控、識別、監督、追究與懲處能力。例如，居民身份證存儲著(zhù)個(gè)人信息并實(shí)現全國聯(lián)網(wǎng)，入住酒店、乘坐交通工具、購置房產(chǎn)以及其他一些有必要知曉行為人身份的行為或業(yè)務(wù)往來(lái)，都要求提供身份證明；政府部門(mén)借助發(fā)達的網(wǎng)絡(luò )和信息傳遞技術(shù)，廣泛而及時(shí)地向人們公布、推送失信人或其他違法犯罪分子的相關(guān)信息；重要公共場(chǎng)所安裝高清攝像頭，有的場(chǎng)所則配置更為先進(jìn)的人臉識別技術(shù)。這使得悖德行為者及違法犯罪分子處于無(wú)所不在的監控之下而無(wú)處遁形，促使人們更審慎地權衡利弊并盡可能地減少、規避失信行為或其他違法犯罪行為，有效維護、鞏固和增進(jìn)以誠信為基礎的主流倫理道德。

信息時(shí)代的道德風(fēng)險

在可以預見(jiàn)的將來(lái)，人工智能將重塑生產(chǎn)力、生產(chǎn)關(guān)系、生產(chǎn)方式，重構社會(huì )關(guān)系、生活方式。

實(shí)際上，人工智能算法帶來(lái)的歧視隱蔽而又影響深遠。信息的不對稱(chēng)、不透明以及信息技術(shù)不可避免的知識技術(shù)門(mén)檻，客觀(guān)上會(huì )導致并加劇信息壁壘、數字?zhù)櫆系冗`背社會(huì )公平原則的現象與趨勢。如何縮小數字?zhù)櫆弦栽鲞M(jìn)人類(lèi)整體福利、保障社會(huì )公平，這是一個(gè)具有世界性意義的倫理價(jià)值難題。

信息技術(shù)在加速大數據傳播、搜集、共享的同時(shí)，也為一些國家或組織利用網(wǎng)絡(luò )霸權干涉別國內政或實(shí)施網(wǎng)絡(luò )攻擊提供了漏洞和暗網(wǎng)，嚴重威脅國家主權和安全。因此，防范數據霸權是信息時(shí)代維護國家主權的重要內容。

互聯(lián)網(wǎng)時(shí)代出現的一些現象和趨勢，應當引起高度重視。例如，有些人沉迷于網(wǎng)絡(luò )虛擬世界，厭棄現實(shí)世界中的人際交往。這種去倫理化的生存方式，從根本上否定傳統社會(huì )倫理生活的意義和價(jià)值，放棄自身的倫理主體地位以及相應的倫理責任擔當，已經(jīng)觸及價(jià)值觀(guān)念基礎這一更為根本的層面。

應對信息時(shí)代倫理風(fēng)險的道德原則

習近平同志強調：“要整合多學(xué)科力量，加強人工智能相關(guān)法律、倫理、社會(huì )問(wèn)題研究，建立健全保障人工智能健康發(fā)展的法律法規、制度體系、倫理道德。”面對信息技術(shù)的迅猛發(fā)展，有效應對信息技術(shù)帶來(lái)的倫理挑戰，需要深入研究思考并樹(shù)立正確的道德觀(guān)、價(jià)值觀(guān)和法治觀(guān)。從整體上看，應對信息化深入發(fā)展導致的倫理風(fēng)險應當遵循以下道德原則。

服務(wù)人類(lèi)原則。要確保人類(lèi)始終處于主導地位，始終將人造物置于人類(lèi)的可控范圍，避免人類(lèi)的利益、尊嚴和價(jià)值主體地位受到損害，確保任何信息技術(shù)特別是具有自主性意識的人工智能機器持有與人類(lèi)相同的基本價(jià)值觀(guān)。始終堅守不傷害人自身的道德底線(xiàn)，追求造福人類(lèi)的正確價(jià)值取向。

安全可靠原則。新一代信息技術(shù)尤其是人工智能技術(shù)必須是安全、可靠、可控的，要確保民族、國家、企業(yè)和各類(lèi)組織的信息安全、用戶(hù)的隱私安全以及與此相關(guān)的政治、經(jīng)濟、文化安全。如果某一項科學(xué)技術(shù)可能危及人的價(jià)值主體地位，那么無(wú)論它具有多大的功用性?xún)r(jià)值，都應果斷叫停。對于科學(xué)技術(shù)發(fā)展，應當進(jìn)行嚴謹審慎的權衡與取舍。

以人為本原則。信息技術(shù)必須為廣大人民群眾帶來(lái)福祉、便利和享受，而不能為少數人所專(zhuān)享。要把新一代信息技術(shù)作為滿(mǎn)足人民基本需求、維護人民根本利益、促進(jìn)人民長(cháng)遠發(fā)展的重要手段。同時(shí)，保證公眾參與和個(gè)人權利行使，鼓勵公眾提出質(zhì)疑或有價(jià)值的反饋，從而共同促進(jìn)信息技術(shù)產(chǎn)品性能與質(zhì)量的提高。

公開(kāi)透明原則。新一代信息技術(shù)的研發(fā)、設計、制造、銷(xiāo)售等各個(gè)環(huán)節，以及信息技術(shù)產(chǎn)品的算法、參數、設計目的、性能、限制等相關(guān)信息，都應當是公開(kāi)透明的，不應當在開(kāi)發(fā)、設計過(guò)程中給智能機器提供過(guò)時(shí)、不準確、不完整或帶有偏見(jiàn)的數據，以避免人工智能機器對特定人群產(chǎn)生偏見(jiàn)和歧視。

（作者為中國倫理學(xué)會(huì )副會(huì )長(cháng)） 

《 人民日報 》（ 2019年07月12日 09 版）