生成式人工智能的變革潛力已顯著超越傳統(tǒng)人工智能。傳統(tǒng)人工智能是指利用從歷史數(shù)據(jù)中得出的見(jiàn)解進(jìn)行預(yù)測(cè)的人工智能模型。典型的傳統(tǒng)人工智能模型包括邏輯回歸、決策樹(shù)和條件隨機(jī)場(chǎng)等。生成式人工智能是指能夠生成文本、圖像或其他媒體的人工智能模型。它們學(xué)習(xí)輸入訓(xùn)練數(shù)據(jù)的模式和結(jié)構(gòu)，并生成具有類(lèi)似特征的新數(shù)據(jù)。生成式人工智能能夠接受自然語(yǔ)言提示作為輸入，包括GPT-4、Gemini、Claude和LLaMA等大型語(yǔ)言模型（LLM）。

為了促進(jìn)傳統(tǒng)人工智能的負(fù)責(zé)任使用，新加坡于2019年發(fā)布了第一版AI治理框架，并在2020年進(jìn)行了更新。然而，生成式人工智能的發(fā)展不僅加劇了傳統(tǒng)人工智能相關(guān)風(fēng)險(xiǎn)（例如偏見(jiàn)、濫用、缺乏可解釋性等），還引入了新的風(fēng)險(xiǎn)（例如誤導(dǎo)、侵犯版權(quán)、價(jià)值取向問(wèn)題等）。針對(duì)生成式人工智能引發(fā)的新問(wèn)題，有必要更新早期的模型治理框架，以全面解決新出現(xiàn)的問(wèn)題。新加坡于2023年6月發(fā)布討論文件《生成式人工智能：對(duì)信任和治理的影響》，對(duì)現(xiàn)有的框架進(jìn)行審查，廣泛聽(tīng)取政策制定者、產(chǎn)業(yè)界、人工智能行業(yè)組織、研究社群和公眾等多利益相關(guān)方意見(jiàn)。2024年1月16日，新加坡發(fā)布《生成式人工智能治理的模型人工智能治理框架草案》（以下簡(jiǎn)稱(chēng)框架草案），框架草案對(duì)討論文件中提出的概念以及相關(guān)反饋意見(jiàn)和建議進(jìn)行了整合，以在保護(hù)用戶(hù)和推動(dòng)創(chuàng)新之間取得謹(jǐn)慎的平衡，促進(jìn)更廣泛的可信生態(tài)系統(tǒng)。

此外，新加坡成立AI verify基金會(huì)，構(gòu)建AI 治理測(cè)試工具，如進(jìn)行AI 測(cè)試框架、代碼庫(kù)、標(biāo)準(zhǔn)和最佳實(shí)踐的開(kāi)發(fā)和研究等，培育多元化的人工智能測(cè)試倡導(dǎo)者網(wǎng)絡(luò)，并通過(guò)教育和推廣推動(dòng)廣泛采用。

框架草案提議從九個(gè)維度支持全面和可信人工智能生態(tài)系統(tǒng)的建立，核心原則是決策的可解釋、透明和公正原則。

問(wèn)責(zé)制是激勵(lì)人工智能開(kāi)發(fā)鏈中的參與者對(duì)最終用戶(hù)負(fù)責(zé)的一個(gè)關(guān)鍵考慮因素。參與者包括模型開(kāi)發(fā)人員、應(yīng)用程序部署人員和云服務(wù)提供商（提供托管AI應(yīng)用程序的平臺(tái)）。與大多數(shù)軟件開(kāi)發(fā)一樣，生成型人工智能也涉及到技術(shù)堆棧中的多層內(nèi)容。雖然責(zé)任的分配可能不能立即明確，但可以借鑒云計(jì)算和軟件開(kāi)發(fā)中的實(shí)踐經(jīng)驗(yàn)，采取相關(guān)措施。

數(shù)據(jù)是模型開(kāi)發(fā)的核心元素，它顯著地影響了模型輸出的質(zhì)量。因此，提供給模型的數(shù)據(jù)內(nèi)容很重要，并且需要確保數(shù)據(jù)質(zhì)量，例如通過(guò)使用可信的數(shù)據(jù)源。在使用數(shù)據(jù)用于模型訓(xùn)練存在爭(zhēng)議的情況下，如涉及個(gè)人數(shù)據(jù)和版權(quán)材料等情形下，堅(jiān)持透明和公正原則至關(guān)重要，并且應(yīng)在實(shí)際業(yè)務(wù)中切實(shí)做到確保透明度和公平對(duì)待。

模型開(kāi)發(fā)及在其上進(jìn)行的應(yīng)用程序部署是人工智能驅(qū)動(dòng)創(chuàng)新的核心。盡管最終用戶(hù)對(duì)其了解程度可能有限，但有關(guān)基本安全措施的透明度是非常關(guān)鍵的。產(chǎn)業(yè)界應(yīng)在開(kāi)發(fā)、評(píng)估和披露方面采用最佳實(shí)踐，例如采取“食品標(biāo)簽”式的透明度管理方式。隨著時(shí)間的推移，可以提高更廣泛的意識(shí)和安全性。

即使有最強(qiáng)大的開(kāi)發(fā)流程和保障措施，也不可能做到萬(wàn)無(wú)一失，軟件開(kāi)發(fā)和人工智能都是如此。事件報(bào)告是一種既定的做法，允許及時(shí)通知和采取補(bǔ)救措施。建立相應(yīng)的結(jié)構(gòu)和流程以實(shí)現(xiàn)事件監(jiān)測(cè)和報(bào)告是關(guān)鍵。這也將支持人工智能系統(tǒng)的持續(xù)改進(jìn)。

對(duì)于一個(gè)值得信賴(lài)的生態(tài)系統(tǒng)，第三方測(cè)試和保證起著補(bǔ)充的作用，金融和醫(yī)療保健等重要領(lǐng)域都是這樣做的，以實(shí)現(xiàn)獨(dú)立驗(yàn)證。盡管人工智能測(cè)試是一個(gè)新興領(lǐng)域，但對(duì)于公司來(lái)說(shuō)，采用第三方測(cè)試和保證來(lái)向最終用戶(hù)證明信任是有價(jià)值的。圍繞人工智能測(cè)試制定通用標(biāo)準(zhǔn)以確保質(zhì)量和一致性也很重要。

生成型人工智能模型本身引入新的威脅，且超出了任何軟件堆棧中固有的安全風(fēng)險(xiǎn)。雖然這是一個(gè)新興的領(lǐng)域，但需要調(diào)整現(xiàn)有的信息安全框架，并開(kāi)發(fā)新的測(cè)試工具來(lái)解決這些風(fēng)險(xiǎn)。

人工智能生成的內(nèi)容很容易被創(chuàng)建，這可能會(huì)加劇虛假信息相關(guān)風(fēng)險(xiǎn)。各國(guó)政府正在尋求數(shù)字水印和加密來(lái)源等技術(shù)解決方案，這些技術(shù)需要在正確的背景下使用，需要內(nèi)容生成位置和生成方式等方面的透明度，使最終用戶(hù)能夠以知情的方式使用在線(xiàn)內(nèi)容。

當(dāng)今最科學(xué)的模型安全技術(shù)也不能完全涵蓋所有的風(fēng)險(xiǎn)。需要加快研發(fā)投資，以改善人工智能模型的意圖，保證其與人類(lèi)價(jià)值觀的一致性。人工智能安全研發(fā)機(jī)構(gòu)之間的全球合作對(duì)于有限資源的優(yōu)化配置，以跟上商業(yè)驅(qū)動(dòng)的模型能力的增長(zhǎng)至關(guān)重要。

負(fù)責(zé)任的人工智能將支持引導(dǎo)人工智能走向?yàn)楣怖娣?wù)，如人工智能獲取應(yīng)民主化、改善公共部門(mén)人工智能的采用、提高員工的技能，以及人工智能系統(tǒng)的可持續(xù)開(kāi)發(fā)等。

人工智能治理仍處于初級(jí)階段。進(jìn)行國(guó)際合作、建立國(guó)際共識(shí)是進(jìn)行人工智能治理的關(guān)鍵，正如新加坡IMDA在國(guó)家人工智能治理框架的制定過(guò)程中，與美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）進(jìn)行了合作。該框架將隨著技術(shù)和技術(shù)的發(fā)展而不斷更新，新加坡將對(duì)人工智能模型治理框架進(jìn)行持續(xù)完善和優(yōu)化，采用實(shí)際方法來(lái)最大程度地提高信任和創(chuàng)新。新加坡預(yù)計(jì)在2024年中期正式發(fā)布《生成式人工智能治理的模型人工智能治理框架》。