北京時(shí)間的10月11日，我國對于生成是AI首次發(fā)布了相關(guān)的安全文件，在全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會在官方網(wǎng)站上，對于生成是AI所發(fā)布的相關(guān)安全文件內(nèi)顯示，為了對生成式人工智能服務(wù)進(jìn)行規(guī)范，已經(jīng)公開向社會征求意見，根據(jù)向社會所征求出的意見，經(jīng)過最初篩選評定，最終確認(rèn)生成式AI的安全文件里面總共有5種風(fēng)險(xiǎn)種類內(nèi)含31種風(fēng)險(xiǎn)。

作為我國首次對生成式AI的使用進(jìn)行相關(guān)規(guī)范，因此在向外界征求意見時(shí)，為外界提供生成式AI服務(wù)的提供者都必須以安全基本要求為主，在安全基本要求內(nèi)又涉及到了幾大方面，分別為語料安全安全措施，安全評估，以及模型安全等等，提供者在向外界提供人工智能時(shí)，不僅需要提前去進(jìn)行備案申請之外，同時(shí)還必須對于人工智能的安全性能進(jìn)行綜合評估，所得出的評估結(jié)果，還必須提交給相關(guān)部門進(jìn)行備案。

在征求意見稿里面，對于語料安全還有著極其重要的標(biāo)注，為了確保語料安全，必須要求提供人工智能的提供者去建立需要來源黑名單，在對人工智能進(jìn)行訓(xùn)練時(shí)，所使用的語料來源必須安全可靠，禁止使用黑名單內(nèi)的所有語料數(shù)據(jù)，相關(guān)部門對于語料來源是否安全，還必須去進(jìn)行綜合評估，一旦語料來源內(nèi)的違法內(nèi)容信息已經(jīng)超過5%的話，就必須將這些語料來源加入到黑名單之中。

除此之外，在征求意見稿上對于語料標(biāo)注安全這一方面還給出了詳細(xì)的要求，作為標(biāo)注人員，在對每項(xiàng)余料的任務(wù)進(jìn)行標(biāo)注時(shí)，必須留出充足的標(biāo)注時(shí)間，以方便標(biāo)注人員執(zhí)行任務(wù)，這份文件在正式對外下發(fā)之后，對于人工智能服務(wù)在安全方面也作出了更加全面的要求，人工智能在進(jìn)行使用時(shí)也受到了對應(yīng)的規(guī)范。