當今時(shí)代，人工智能日益深刻地影響著(zhù)人類(lèi)生活，幫助人類(lèi)提高工作效率。其中，設計科學(xué)的算法、用好大數據資源、不斷提高計算能力是人工智能技術(shù)發(fā)展的重要支點(diǎn)。然而，技術(shù)發(fā)展總是與風(fēng)險相伴，人工智能也可能帶來(lái)侵犯個(gè)人隱私、沖擊法律與社會(huì )倫理等問(wèn)題。在充分發(fā)揮人工智能作用的同時(shí)有效防范其風(fēng)險，需要運用法治思維和法治方式，加強對算法設計和數據運用的監督管理，推動(dòng)人工智能行業(yè)健康成長(cháng)，更好為經(jīng)濟社會(huì )發(fā)展服務(wù)。

對算法設計進(jìn)行監管。人工智能是人類(lèi)智慧的延伸，算法設計也不是純粹的技術(shù)問(wèn)題。所有算法都是為完成特定任務(wù)、實(shí)現特定目的而設計的，特定任務(wù)、特定目的的實(shí)現路徑往往蘊含著(zhù)設計者的價(jià)值觀(guān)。而設計者的價(jià)值觀(guān)又會(huì )影響其設計的技術(shù)方案，這就可能在技術(shù)運用中產(chǎn)生所謂的算法歧視。比如，某網(wǎng)絡(luò )公司推出的廣告服務(wù)中，男性用戶(hù)能夠比女性用戶(hù)看到更多高薪招聘廣告。即使算法設計者沒(méi)有給算法植入歧視的意圖，但有時(shí)仍然會(huì )出現某種歧視效果。因此，編制算法應當遵循一定的法律規則和行業(yè)規則，以合理控制路徑選擇，使其符合社會(huì )基本倫理規范。

對算法設計進(jìn)行監管，可以采用專(zhuān)業(yè)監督和社會(huì )監督等手段。專(zhuān)業(yè)監督就是對算法設計制定具有可操作性的技術(shù)和行業(yè)規范，讓設計者在進(jìn)行設計之前就受到有效制約。還可以請同行專(zhuān)家進(jìn)行監督。同行專(zhuān)家比較容易洞悉設計者的理念，能夠了解具體的操作程序。通過(guò)同行專(zhuān)家的評價(jià)和信息披露，可以對設計者設計出來(lái)的算法進(jìn)行比較有效的事后規制。社會(huì )監督就是要求設計者將其算法設計的基本情況進(jìn)行登記或備案，并且這種登記或備案信息可供社會(huì )公眾查詢(xún)，形成社會(huì )公眾評判，從而進(jìn)行道德和輿論上的制約。通過(guò)專(zhuān)業(yè)監督和社會(huì )監督，可以更好地防范人工智能算法設計偏離社會(huì )基本倫理規范。

對數據運用進(jìn)行監管。數據的獲得和利用方式是法律關(guān)注的問(wèn)題。當用戶(hù)流連于網(wǎng)絡(luò )、享受人工智能設備帶來(lái)的便利時(shí)，其個(gè)人信息安全可能正面臨風(fēng)險。例如，人們使用智能設備，往往要同意所謂的注冊協(xié)議、服務(wù)協(xié)議，這些協(xié)議通常會(huì )要求用戶(hù)“自愿”提供個(gè)人基本信息。企業(yè)在獲得用戶(hù)形式上的授權后，服務(wù)過(guò)程中涉及的個(gè)人數據就會(huì )按照約定通過(guò)網(wǎng)絡(luò )傳送給企業(yè)。比如，可以上傳用戶(hù)的位置、興趣、需求、使用習慣等信息。獲得這些數據的企業(yè)，可以據此形成消費者分析報告，針對用戶(hù)的年齡、居住區域、消費習慣差異等，準確把握用戶(hù)偏好，進(jìn)行精準的市場(chǎng)投放。因此，數據運用可以給企業(yè)帶來(lái)巨大利益。

由于互聯(lián)網(wǎng)海量存儲和快速傳播的特點(diǎn)，獲取、存儲和利用個(gè)人信息的主體和環(huán)節眾多，其中往往存在侵犯用戶(hù)隱私安全和濫用數據的風(fēng)險。面對這些風(fēng)險，法律應當確立相應規范，對企業(yè)使用個(gè)人信息進(jìn)行限制，使得對個(gè)人信息的保護更為詳實(shí)、充分。例如，允許智能設備出于便捷服務(wù)的需要收集個(gè)人信息，但不能要求用戶(hù)作出概括性授權。企業(yè)應以正當的、法定的、特定的目的，在特定范圍內收集個(gè)人信息，并用于特定用途，而不能隨意超越用戶(hù)對其個(gè)人信息收集、使用的授權范圍。應禁止企業(yè)向用戶(hù)收集與服務(wù)無(wú)關(guān)的信息。服務(wù)提供商違反個(gè)人信息保護義務(wù)的，應當依法承擔法律責任。總之，面對人工智能領(lǐng)域可能出現的風(fēng)險，我們應認真研究思考并作出法律上的應對，為新技術(shù)發(fā)展設計好法治框架，讓人工智能更好地造福人類(lèi)。

（作者單位：首都師范大學(xué)政法學(xué)院）

《 人民日報 》（ 2018年06月05日 07 版）