2023年5月25日，美國微軟公司發(fā)布《人工智能治理：未來藍圖》報告，為生成式人工智能治理提出五點建議，希望通過公共政策、法律和法規(guī)來解決當(dāng)前正在出現(xiàn)的人工智能問題：

美國國家標準與技術(shù)研究所（NIST）已經(jīng)根據(jù)國會在《2020年國家人工智能倡議法案》中的指示制定了新的人工智能安全框架，該框架確保了人工智能的安全性和可靠性，并促進人工智能系統(tǒng)的可信性和負責(zé)任的開發(fā)使用。該框架通過政府機構(gòu)、民間社會組織等多方主體之間的緊密合作、共識驅(qū)動和透明協(xié)商共同研究形成。新人工智能風(fēng)險管理框架為企業(yè)和政府采取行動確保更安全地使用人工智能技術(shù)提供了堅實的基礎(chǔ)。

人工智能系統(tǒng)應(yīng)當(dāng)部署有效的故障安全系統(tǒng)，故障安全系統(tǒng)應(yīng)當(dāng)與整體系統(tǒng)安全綜合方法相結(jié)合，注重有效的人類監(jiān)督、彈性和穩(wěn)健性開發(fā)。雖然不是每個潛在的人工智能場景都會帶來重大風(fēng)險，但當(dāng)考慮到人工智能系統(tǒng)管理或控制電網(wǎng)、供水系統(tǒng)、應(yīng)急響應(yīng)和城市交通流量的基礎(chǔ)設(shè)施系統(tǒng)時，仍然需要“安全剎車”來確保這些系統(tǒng)在人類的控制之下。對此，政府應(yīng)當(dāng)完成以下方面工作。一是政府應(yīng)該定義用于控制關(guān)鍵基礎(chǔ)設(shè)施的高風(fēng)險人工智能系統(tǒng)的類別，保證上述人工智能系統(tǒng)能夠安全制動。二是政府應(yīng)該要求系統(tǒng)開發(fā)商確保在設(shè)計人工智能系統(tǒng)控制關(guān)鍵基礎(chǔ)設(shè)施時設(shè)置內(nèi)置安全停止裝置。三是政府應(yīng)確保運營商能夠持續(xù)測試和監(jiān)控高風(fēng)險系統(tǒng)，以確保為關(guān)鍵基礎(chǔ)設(shè)施供電的人工智能系統(tǒng)持續(xù)在人類控制之下。四是要求控制指定關(guān)鍵基礎(chǔ)設(shè)施運行的人工智能系統(tǒng)只部署在獲得許可的人工智能基礎(chǔ)設(shè)施中。

人工智能需要一個契合人工智能本身技術(shù)架構(gòu)的法律監(jiān)管架構(gòu)，需要根據(jù)不同行為者在管理人工智能技術(shù)的不同方面所扮演的角色，設(shè)置各類監(jiān)管責(zé)任。對此，相關(guān)主體應(yīng)當(dāng)做以下工作。首先，人工智能開發(fā)人員需要分享關(guān)于先進人工智能模型的專業(yè)知識，以幫助政府確定監(jiān)管人工智能的門檻。其次，人工智能技術(shù)人員應(yīng)當(dāng)支持政府確定必須滿足的要求，以便獲得開發(fā)或部署高性能人工智能模型的許可。第三，政府應(yīng)當(dāng)通過對用于測試或部署這些模型的人工智能數(shù)據(jù)中心的運營商施加許可要求，建立健全有效執(zhí)行高性能人工智能模型的許可制度。

安全與透明度之間的緊張關(guān)系是需要認真討論的眾多人工智能政策問題之一。對此，各方主體應(yīng)當(dāng)統(tǒng)籌考慮，在安全前提下加強人工智能透明度披露。首先，人工智能開發(fā)者應(yīng)當(dāng)發(fā)布年度透明度報告，向公眾通報其負責(zé)任和安全管理人工智能的政策、系統(tǒng)、進展和表現(xiàn)。其次，應(yīng)當(dāng)開發(fā)一個開放性的高風(fēng)險人工智能系統(tǒng)的國家登記處，以便公眾了解這些系統(tǒng)的使用地點和方式。第三，在公眾與人工智能系統(tǒng)交互時，確保能夠向公眾清楚地傳達人工智能系統(tǒng)的能力和局限性。第四，在重要的場景中，要求對人工生成的內(nèi)容貼上標簽，以便公眾就能“知道”他們正在接收的內(nèi)容。

即使善意的人們盡了最大的努力，技術(shù)變革也會不可避免地在前進的道路上遇到不可預(yù)見的障礙。對此，人工智能能夠成為一種有效的工具，來解決上述問題。因此，應(yīng)當(dāng)將政府、企業(yè)和非政府組織聯(lián)合起來，提供廣泛獲得人工智能技能的機會，并利用人工智能作為改善世界的工具，保護民主和基本權(quán)利，應(yīng)對技術(shù)變革不可避免地帶來的挑戰(zhàn)，以促進社會包容性增長和地球的可持續(xù)發(fā)展。

關(guān)注“廣東技術(shù)性貿(mào)易措施”，獲取更多服務(wù)。