為了確保人工智能系統(tǒng)的發(fā)展和應(yīng)用符合人權(quán)、民主和法治的原則，歐洲委員會(huì)于2024年9月5日在維爾紐斯開放《人工智能與人權(quán)、民主和法治框架公約》（Artificial Intelligence and Human Rights,Democracy and the Rule of Law，以下簡(jiǎn)稱《公約》）供簽署，當(dāng)日已有美國(guó)、英國(guó)、歐盟、挪威、以色列等國(guó)家和國(guó)際組織簽署?！豆s》于2022年開始起草，于2024年3月敲定最終草案，于5月在歐洲委員會(huì)部長(zhǎng)委員會(huì)年度部長(zhǎng)級(jí)會(huì)議上通過，于9月5日開放簽署。歐洲委員會(huì)稱這是全球第一份具有法律約束力的人工智能國(guó)際公約，旨在確保人工智能系統(tǒng)的使用符合人權(quán)、民主和法治要求。該《公約》的制定旨在建立一個(gè)全球適用的法律框架，以規(guī)范人工智能系統(tǒng)在生命周期內(nèi)的活動(dòng)，促進(jìn)人工智能技術(shù)的可持續(xù)發(fā)展，保護(hù)人類的基本權(quán)利和自由。以下對(duì)《公約》主要內(nèi)容進(jìn)行介紹，以供各方參考。

隨著科學(xué)技術(shù)的加速發(fā)展，人工智能系統(tǒng)在醫(yī)療、交通、金融、教育等各個(gè)領(lǐng)域得到了廣泛的應(yīng)用，為人們的生活帶來了便利，提高了生產(chǎn)效率，推動(dòng)了經(jīng)濟(jì)的發(fā)展。然而，人工智能系統(tǒng)的生命周期內(nèi)活動(dòng)也帶來了一些潛在的風(fēng)險(xiǎn)和挑戰(zhàn)，如算法偏見、數(shù)據(jù)隱私泄露、自動(dòng)化決策導(dǎo)致的不公平等，可能會(huì)對(duì)人權(quán)、民主和法治造成負(fù)面影響，需要制定相應(yīng)的法律框架來加以規(guī)范。該《公約》的目的是在確保人工智能系統(tǒng)生命周期內(nèi)的活動(dòng)完全符合人權(quán)、民主和法治的原則，保護(hù)個(gè)人的尊嚴(yán)、自主權(quán)、隱私權(quán)和其他基本權(quán)利，維護(hù)民主制度的完整性和有效性，促進(jìn)法治的實(shí)施與監(jiān)督。

（一）范圍與定義

《公約》明確了“人工智能系統(tǒng)”的定義，指基于機(jī)器的能從輸入推斷如何生成影響環(huán)境的輸出（如預(yù)測(cè)、內(nèi)容、推薦或決策）的系統(tǒng)?！豆s》的范圍涵蓋了有可能干擾人權(quán)、民主和法治的人工智能系統(tǒng)生命周期內(nèi)的活動(dòng)。此外，《公約》規(guī)定締約方無(wú)需將該《公約》應(yīng)用于與保護(hù)其國(guó)家安全利益相關(guān)的人工智能系統(tǒng)生命周期內(nèi)的活動(dòng)。在不影響特定條款的情況下，《公約》不適用于尚未投入使用的人工智能系統(tǒng)的研發(fā)，并且與國(guó)防有關(guān)的事項(xiàng)也不屬于《公約》的規(guī)范范圍。

（二）一般義務(wù)

一是保護(hù)人權(quán)。締約方應(yīng)采取或維持措施，確保人工智能系統(tǒng)生命周期內(nèi)的活動(dòng)符合適用國(guó)際法和其國(guó)內(nèi)法規(guī)定的保護(hù)人權(quán)義務(wù)，包括尊重個(gè)人的生命權(quán)、自由權(quán)、平等權(quán)、尊嚴(yán)權(quán)等基本權(quán)利，以及確保人工智能系統(tǒng)的應(yīng)用不會(huì)導(dǎo)致歧視、侵犯隱私、限制言論自由等問題。

二是尊重法治。締約方應(yīng)采取或維持措施，確保人工智能系統(tǒng)不被用于破壞民主機(jī)構(gòu)和進(jìn)程的完整性、獨(dú)立性和有效性，包括權(quán)力分立原則、尊重司法獨(dú)立和保障訴諸司法的權(quán)利等。

（三）相關(guān)原則

一是個(gè)人自主權(quán)原則。各締約方應(yīng)采取或維持措施，在人工智能系統(tǒng)生命周期內(nèi)的活動(dòng)中尊重人的尊嚴(yán)和個(gè)人自主權(quán)。人工智能系統(tǒng)的設(shè)計(jì)和應(yīng)用應(yīng)充分考慮到人的尊嚴(yán)和自主權(quán)，避免對(duì)人的身體、精神和社會(huì)造成傷害。

二是確保透明度原則。各締約方應(yīng)采取或維持措施，確保針對(duì)人工智能系統(tǒng)生命周期內(nèi)的活動(dòng)制定適合具體情況和風(fēng)險(xiǎn)的充分透明度和監(jiān)督要求，包括識(shí)別由人工智能系統(tǒng)生成的內(nèi)容，提高公眾對(duì)人工智能系統(tǒng)的信任，促進(jìn)其合理應(yīng)用。

三是落實(shí)問責(zé)制原則。各締約方應(yīng)采取或維持措施，確保對(duì)人工智能系統(tǒng)生命周期內(nèi)的活動(dòng)對(duì)人權(quán)、民主和法治造成的不利影響負(fù)責(zé)，包括明確責(zé)任主體，建立相應(yīng)的問責(zé)機(jī)制，確保在出現(xiàn)問題時(shí)能夠及時(shí)追究責(zé)任。

四是保障平等和非歧視原則。各締約方應(yīng)采取或維持措施，確保人工智能系統(tǒng)生命周期內(nèi)的活動(dòng)尊重平等，包括性別平等以及適用國(guó)際法和國(guó)內(nèi)法規(guī)定的禁止歧視，克服不平等，實(shí)現(xiàn)公平、公正和公平的結(jié)果。

五是保護(hù)隱私原則。各締約方應(yīng)采取或維持措施，確保在人工智能系統(tǒng)生命周期內(nèi)的活動(dòng)中，個(gè)人的隱私權(quán)和個(gè)人數(shù)據(jù)得到保護(hù)，包括通過適用的國(guó)內(nèi)和國(guó)際法、標(biāo)準(zhǔn)和框架，并為個(gè)人根據(jù)適用的國(guó)內(nèi)國(guó)際法律義務(wù)建立有效保障措施。

六是可靠性原則。各締約方應(yīng)酌情采取措施，促進(jìn)人工智能系統(tǒng)的可靠性和對(duì)其輸出的信任，包括與人工智能系統(tǒng)生命周期內(nèi)的適當(dāng)質(zhì)量和安全相關(guān)要求。

七是促進(jìn)安全創(chuàng)新原則。為了促進(jìn)創(chuàng)新同時(shí)避免對(duì)人權(quán)、民主和法治產(chǎn)生不利影響，各締約方應(yīng)酌情促使在其主管的監(jiān)督下為開發(fā)、實(shí)驗(yàn)和測(cè)試人工智能系統(tǒng)過程中建立可控實(shí)驗(yàn)環(huán)境。

（四）補(bǔ)救措施

一是提供有效補(bǔ)救。締約方應(yīng)根據(jù)其國(guó)際義務(wù)并與其國(guó)內(nèi)法律制度一致，采取或維持措施，確保對(duì)人工智能系統(tǒng)生命周期內(nèi)的活動(dòng)導(dǎo)致的人權(quán)侵犯提供可訪問和有效的補(bǔ)救措施，包括建立相應(yīng)的法律程序和機(jī)制，確保受影響的人能夠獲得公正的賠償和救濟(jì)。

二是信息記錄共享。締約方應(yīng)確保記錄有關(guān)可能對(duì)人權(quán)產(chǎn)生重大影響的人工智能系統(tǒng)及其相關(guān)使用的相關(guān)信息，提供給有權(quán)訪問該信息的機(jī)構(gòu)，并在適當(dāng)和適用的情況下，向受影響的人提供或傳達(dá)該信息，提高透明度，促進(jìn)公眾對(duì)人工智能系統(tǒng)的監(jiān)督。

三是保障知情權(quán)、申訴權(quán)。締約方應(yīng)確保信息足以讓受影響的人對(duì)由該系統(tǒng)做出或?qū)嵸|(zhì)上由該系統(tǒng)使用所告知的決定提出質(zhì)疑，并在相關(guān)和適當(dāng)?shù)那闆r下，對(duì)系統(tǒng)本身的使用提出質(zhì)疑。同時(shí)，《公約》規(guī)定，有關(guān)人員有權(quán)向主管當(dāng)局提出投訴。

（五）風(fēng)險(xiǎn)評(píng)估與緩解

一是建立管理框架。締約方應(yīng)考慮到相關(guān)原則，采取或維持措施，通過考慮對(duì)人權(quán)、民主和法治的實(shí)際和潛在影響，識(shí)別、評(píng)估、預(yù)防和緩解人工智能系統(tǒng)帶來的風(fēng)險(xiǎn)。

二是具體措施要求。相關(guān)措施應(yīng)酌情分級(jí)和區(qū)分，并適當(dāng)考慮人工智能系統(tǒng)的背景和預(yù)期用途，特別是涉及人權(quán)、民主和法治的風(fēng)險(xiǎn)；適當(dāng)考慮潛在影響的嚴(yán)重性和可能性；在適當(dāng)情況下，考慮相關(guān)利益攸關(guān)方的觀點(diǎn)，特別是其權(quán)利可能受到影響的人；在人工智能系統(tǒng)生命周期內(nèi)的活動(dòng)中反復(fù)應(yīng)用；包括對(duì)人權(quán)、民主和法治的風(fēng)險(xiǎn)和不利影響的監(jiān)測(cè)；包括記錄風(fēng)險(xiǎn)、實(shí)際和潛在影響以及風(fēng)險(xiǎn)管理方法；并在適當(dāng)情況下，要求在首次使用人工智能系統(tǒng)之前和對(duì)其進(jìn)行重大修改時(shí)對(duì)其進(jìn)行測(cè)試。

三是應(yīng)對(duì)不利影響方面。締約方應(yīng)采取或維持措施，確保人工智能系統(tǒng)對(duì)人權(quán)、民主和法治的不利影響得到充分解決。并且，這些不利影響和解決這些影響的措施應(yīng)記錄在案，并為相關(guān)風(fēng)險(xiǎn)管理措施提供信息。此外，締約方應(yīng)評(píng)估是否需要暫停、禁止或采取其他適當(dāng)措施，對(duì)于其認(rèn)為與尊重人權(quán)、民主運(yùn)作或法治不相容的某些人工智能系統(tǒng)的使用。

歐洲委員會(huì)46個(gè)成員國(guó)、歐盟和11個(gè)非成員國(guó)（美國(guó)、加拿大、日本等）參與了《公約》起草和談判。只有上述參與者有權(quán)“簽署”，而其余國(guó)家須在歐洲委員會(huì)部長(zhǎng)委員會(huì)在與締約方磋商并獲得一致同意后，才能被邀請(qǐng)“加入”。

締約方會(huì)議由公約締約方的代表組成，負(fù)責(zé)定期磋商，以促進(jìn)《公約》的有效應(yīng)用和實(shí)施，包括識(shí)別問題、考慮公約的補(bǔ)充或修改、對(duì)公約的解釋和應(yīng)用提出建議、促進(jìn)信息交流、解決爭(zhēng)端以及加強(qiáng)與相關(guān)利益攸關(guān)方的合作。每個(gè)締約方應(yīng)在成為締約方后的前兩年內(nèi)向締約方會(huì)議提供報(bào)告，此后定期提供有關(guān)為實(shí)施公約相關(guān)條款所采取活動(dòng)的詳細(xì)信息。每個(gè)締約方應(yīng)建立或指定一個(gè)或多個(gè)有效機(jī)制來監(jiān)督公約義務(wù)的遵守情況。這些機(jī)制應(yīng)獨(dú)立和公正地行使職責(zé)，并擁有必要的權(quán)力、專業(yè)知識(shí)和資源，以有效地履行監(jiān)督公約義務(wù)遵守情況的任務(wù)。

在解釋或應(yīng)用《公約》出現(xiàn)爭(zhēng)議時(shí)，締約方應(yīng)首先尋求通過談判或其他和平方式解決爭(zhēng)端，包括通過締約方會(huì)議進(jìn)行協(xié)商。締約方可以通過多種途徑解決爭(zhēng)議，如友好協(xié)商、調(diào)解、仲裁等，以確保公約的解釋和應(yīng)用符合各方的利益和公約的宗旨。

在有必要進(jìn)行條款變更時(shí)，《公約》修正案可由締約方、歐洲委員會(huì)部長(zhǎng)委員會(huì)或締約方會(huì)議提出。任何提案應(yīng)由歐洲委員會(huì)秘書長(zhǎng)傳達(dá)給締約方。締約方或部長(zhǎng)委員會(huì)提出的修正案應(yīng)傳達(dá)給締約方會(huì)議，締約方會(huì)議應(yīng)向部長(zhǎng)委員會(huì)提交對(duì)該修正案的意見。部長(zhǎng)委員會(huì)應(yīng)考慮提案和締約方會(huì)議的意見，并可批準(zhǔn)修正案。批準(zhǔn)的修正案文本應(yīng)轉(zhuǎn)發(fā)給締約方接受，自所有締約方通知秘書長(zhǎng)接受之日起第三十天生效。

《公約》對(duì)歐洲委員會(huì)成員國(guó)、參與制定的非成員國(guó)和歐盟開放簽署，簽署后需經(jīng)批準(zhǔn)、接受或核準(zhǔn)，文書應(yīng)交存歐洲委員會(huì)秘書長(zhǎng)。公約應(yīng)在五個(gè)簽署方（其中至少包括三個(gè)歐洲委員會(huì)成員國(guó)）表示同意受公約約束之日起三個(gè)月后生效。對(duì)于隨后表示同意受《公約》約束的簽署方，《公約》應(yīng)在其交存批準(zhǔn)、接受或核準(zhǔn)文書之日起三個(gè)月后生效。

在《公約》生效后，歐洲委員會(huì)部長(zhǎng)委員會(huì)可在咨詢締約方并獲得一致同意后，邀請(qǐng)未參與《公約》制定的非成員國(guó)加入《公約》，但需經(jīng)歐洲委員會(huì)章程規(guī)定的多數(shù)投票和締約方代表在部長(zhǎng)委員會(huì)的一致投票決定。

《歐洲委員會(huì)人工智能框架公約》為規(guī)范人工智能系統(tǒng)的活動(dòng)提供了全面的法律框架，強(qiáng)調(diào)了人權(quán)、民主和法治的重要性，并通過一系列措施確保其有效實(shí)施和監(jiān)督。該《公約》的制定是應(yīng)對(duì)人工智能挑戰(zhàn)的重要舉措，有助于引導(dǎo)人工智能技術(shù)的健康發(fā)展，保護(hù)人類的基本權(quán)利和自由，促進(jìn)社會(huì)的可持續(xù)發(fā)展。

關(guān)注“廣東技術(shù)性貿(mào)易措施”，獲取更多服務(wù)。