加強(qiáng)對(duì)算法設(shè)計(jì)和數(shù)據(jù)運(yùn)用的監(jiān)管

　　新知新覺(jué)：以法治保障人工智能健康發(fā)展

　　當(dāng)今時(shí)代，人工智能日益深刻地影響著人類生活，幫助人類提高工作效率。其中，設(shè)計(jì)科學(xué)的算法、用好大數(shù)據(jù)資源、不斷提高計(jì)算能力是人工智能技術(shù)發(fā)展的重要支點(diǎn)。然而，技術(shù)發(fā)展總是與風(fēng)險(xiǎn)相伴，人工智能也可能帶來(lái)侵犯?jìng)€(gè)人隱私、沖擊法律與社會(huì)倫理等問(wèn)題。在充分發(fā)揮人工智能作用的同時(shí)有效防范其風(fēng)險(xiǎn)，需要運(yùn)用法治思維和法治方式，加強(qiáng)對(duì)算法設(shè)計(jì)和數(shù)據(jù)運(yùn)用的監(jiān)督管理，推動(dòng)人工智能行業(yè)健康成長(zhǎng)，更好為經(jīng)濟(jì)社會(huì)發(fā)展服務(wù)。

　　對(duì)算法設(shè)計(jì)進(jìn)行監(jiān)管。人工智能是人類智慧的延伸，算法設(shè)計(jì)也不是純粹的技術(shù)問(wèn)題。所有算法都是為完成特定任務(wù)、實(shí)現(xiàn)特定目的而設(shè)計(jì)的，特定任務(wù)、特定目的的實(shí)現(xiàn)路徑往往蘊(yùn)含著設(shè)計(jì)者的價(jià)值觀。而設(shè)計(jì)者的價(jià)值觀又會(huì)影響其設(shè)計(jì)的技術(shù)方案，這就可能在技術(shù)運(yùn)用中產(chǎn)生所謂的算法歧視。比如，某網(wǎng)絡(luò)公司推出的廣告服務(wù)中，男性用戶能夠比女性用戶看到更多高薪招聘廣告。即使算法設(shè)計(jì)者沒(méi)有給算法植入歧視的意圖，但有時(shí)仍然會(huì)出現(xiàn)某種歧視效果。因此，編制算法應(yīng)當(dāng)遵循一定的法律規(guī)則和行業(yè)規(guī)則，以合理控制路徑選擇，使其符合社會(huì)基本倫理規(guī)范。

　　對(duì)算法設(shè)計(jì)進(jìn)行監(jiān)管，可以采用專業(yè)監(jiān)督和社會(huì)監(jiān)督等手段。專業(yè)監(jiān)督就是對(duì)算法設(shè)計(jì)制定具有可操作性的技術(shù)和行業(yè)規(guī)范，讓設(shè)計(jì)者在進(jìn)行設(shè)計(jì)之前就受到有效制約。還可以請(qǐng)同行專家進(jìn)行監(jiān)督。同行專家比較容易洞悉設(shè)計(jì)者的理念，能夠了解具體的操作程序。通過(guò)同行專家的評(píng)價(jià)和信息披露，可以對(duì)設(shè)計(jì)者設(shè)計(jì)出來(lái)的算法進(jìn)行比較有效的事后規(guī)制。社會(huì)監(jiān)督就是要求設(shè)計(jì)者將其算法設(shè)計(jì)的基本情況進(jìn)行登記或備案，并且這種登記或備案信息可供社會(huì)公眾查詢，形成社會(huì)公眾評(píng)判，從而進(jìn)行道德和輿論上的制約。通過(guò)專業(yè)監(jiān)督和社會(huì)監(jiān)督，可以更好地防范人工智能算法設(shè)計(jì)偏離社會(huì)基本倫理規(guī)范。

　　對(duì)數(shù)據(jù)運(yùn)用進(jìn)行監(jiān)管。數(shù)據(jù)的獲得和利用方式是法律關(guān)注的問(wèn)題。當(dāng)用戶流連于網(wǎng)絡(luò)、享受人工智能設(shè)備帶來(lái)的便利時(shí)，其個(gè)人信息安全可能正面臨風(fēng)險(xiǎn)。例如，人們使用智能設(shè)備，往往要同意所謂的注冊(cè)協(xié)議、服務(wù)協(xié)議，這些協(xié)議通常會(huì)要求用戶“自愿”提供個(gè)人基本信息。企業(yè)在獲得用戶形式上的授權(quán)后，服務(wù)過(guò)程中涉及的個(gè)人數(shù)據(jù)就會(huì)按照約定通過(guò)網(wǎng)絡(luò)傳送給企業(yè)。比如，可以上傳用戶的位置、興趣、需求、使用習(xí)慣等信息。獲得這些數(shù)據(jù)的企業(yè)，可以據(jù)此形成消費(fèi)者分析報(bào)告，針對(duì)用戶的年齡、居住區(qū)域、消費(fèi)習(xí)慣差異等，準(zhǔn)確把握用戶偏好，進(jìn)行精準(zhǔn)的市場(chǎng)投放。因此，數(shù)據(jù)運(yùn)用可以給企業(yè)帶來(lái)巨大利益。

　　由于互聯(lián)網(wǎng)海量存儲(chǔ)和快速傳播的特點(diǎn)，獲取、存儲(chǔ)和利用個(gè)人信息的主體和環(huán)節(jié)眾多，其中往往存在侵犯用戶隱私安全和濫用數(shù)據(jù)的風(fēng)險(xiǎn)。面對(duì)這些風(fēng)險(xiǎn)，法律應(yīng)當(dāng)確立相應(yīng)規(guī)范，對(duì)企業(yè)使用個(gè)人信息進(jìn)行限制，使得對(duì)個(gè)人信息的保護(hù)更為詳實(shí)、充分。例如，允許智能設(shè)備出于便捷服務(wù)的需要收集個(gè)人信息，但不能要求用戶作出概括性授權(quán)。企業(yè)應(yīng)以正當(dāng)?shù)摹⒎ǘǖ摹⑻囟ǖ哪康模谔囟ǚ秶鷥?nèi)收集個(gè)人信息，并用于特定用途，而不能隨意超越用戶對(duì)其個(gè)人信息收集、使用的授權(quán)范圍。應(yīng)禁止企業(yè)向用戶收集與服務(wù)無(wú)關(guān)的信息。服務(wù)提供商違反個(gè)人信息保護(hù)義務(wù)的，應(yīng)當(dāng)依法承擔(dān)法律責(zé)任。總之，面對(duì)人工智能領(lǐng)域可能出現(xiàn)的風(fēng)險(xiǎn)，我們應(yīng)認(rèn)真研究思考并作出法律上的應(yīng)對(duì)，為新技術(shù)發(fā)展設(shè)計(jì)好法治框架，讓人工智能更好地造福人類。

　　（作者 吳高臣 單位：首都師范大學(xué)政法學(xué)院）

　　《 人民日?qǐng)?bào) 》（ 2018年06月05日 07 版）