該公約旨在應(yīng)對AI的挑戰(zhàn)，審議AI相關(guān)的各類風(fēng)險和影響。國家安全利益、尚未面世的科研活動和國防相關(guān)的AI活動可不受約束
世界首個人工智能公約向全球各國開放簽署。9月5日，在歐洲委員會司法部長會議上，美國、歐盟、安道爾、格魯吉亞、冰島、挪威、摩爾多瓦共和國、圣馬力諾、英國和以色列10個國家和組織簽署了《人工智能與人權(quán)、民主和法治框架公約》（下稱“《框架公約》”），這是全球首個具有法律約束力的人工智能公約。
下一步，《框架公約》將等待各簽署國立法機(jī)構(gòu)的批準(zhǔn)?！犊蚣芄s》將在獲得5個簽署國(包括至少3個歐洲委員會成員國)立法機(jī)構(gòu)批準(zhǔn)三個月之后生效。世界各國都有資格加入《框架公約》。
歐洲委員會秘書長Marija Pej?inovi? Buri?表示，希望《框架公約》迅速得到批準(zhǔn)，以便能夠盡快生效。英國司法部長Shabana Mahmood則聲明，《框架公約》是確保AI技術(shù)在不侵蝕人權(quán)和法治等最古老價值觀的情況下得到利用的重要一步。
《框架公約》由46個歐洲委員會成員國、歐盟和歐洲委員會之外的11個非成員國談判撰寫。私營部門、民間社會和學(xué)術(shù)界的代表作為觀察員作出了貢獻(xiàn)。2024年5月，歐洲委員會的部長委員會通過了《框架公約》文案。
《框架公約》旨在應(yīng)對AI系統(tǒng)的整個生命周期中出現(xiàn)的具體挑戰(zhàn)，并鼓勵審議AI相關(guān)的各類風(fēng)險和影響，包括對人類健康和環(huán)境、就業(yè)和勞動等社會經(jīng)濟(jì)方面的影響。
僅12頁的《框架公約》規(guī)定了一些主要的準(zhǔn)則，包括保護(hù)人權(quán)、民主機(jī)構(gòu)和程序、隱私和個人信息；提升所有人的數(shù)字素養(yǎng)和數(shù)字技能，比如識別和阻止AI風(fēng)險的能力；建立機(jī)制，記錄有潛在風(fēng)險的AI系統(tǒng)的信息，保證授權(quán)機(jī)構(gòu)能得到這些信息，并能將這些信息傳遞給受影響的人群；讓受影響人群能向政府機(jī)構(gòu)有效申訴。
根據(jù)《框架公約》，締約方須采取立法、行政或其他措施來具體實施《框架公約》的要求。國家安全利益、尚未面世的科研活動和國防相關(guān)的AI活動可以不受《框架公約》約束。
至于具體怎么執(zhí)行，締約方將有較大的自由裁量權(quán)。據(jù)《框架公約》，締約方應(yīng)向歐洲委員會秘書長提交聲明，說明將如何履行義務(wù)，此后還需定期報告，說明具體開展了哪些活動。
值得注意的是，組織制定《框架公約》的歐洲委員會（Council of Europe）與歐盟委員會（European Council）不同，并非歐洲的行政機(jī)關(guān)，而是一個公益性質(zhì)的國際組織，主要使命是保護(hù)人權(quán)。
歐洲委員會成立于1949年，目前有46個成員國，中國不是成員國之一。歐洲委員會的決策機(jī)構(gòu)——部長委員會由各成員國外交部長或其常駐法國斯特拉斯堡的外交代表組成。至今，除了《歐洲人權(quán)公約》，歐洲委員會還制定了200多項具有法律約束力的國際條約，以幫助保護(hù)人們免受包括酷刑、暴力和性虐待在內(nèi)的各種威脅。
自ChatGPT在2022年11月誕生以來，全球各國紛紛開始AI立法（詳見《AI監(jiān)管全球競速》）。8月1日，歐盟《人工智能法案》生效（詳見《歐盟AI法施行 AI將被分四級監(jiān)管》）。對于日益興盛的通用AI大模型（GPAI），歐盟委員會“與時俱進(jìn)”，正在邀請在歐盟開展業(yè)務(wù)的AI大模型提供商、企業(yè)、民間社會代表、權(quán)利持有人和學(xué)術(shù)專家提交他們的意見和調(diào)查結(jié)果。歐盟預(yù)計將在2025年4月將其擬定成業(yè)務(wù)守則，在2025年8月前實施。
在美國，8月28日，美國加利福尼亞州議會通過了《安全可靠的前沿人工智能模型創(chuàng)新法案》，這是美國地方州嚴(yán)格監(jiān)管AI大模型的第一個州法案（詳見《美國加州通過AI大模型法案 馬斯克支持 李飛飛擔(dān)憂》）。2023年10月，美國總統(tǒng)拜登發(fā)布“關(guān)于安全、可靠、可信地開發(fā)和使用人工智能的行政命令”，要求美國商務(wù)部、能源部和國土安全部等部門展開行動，保護(hù)美國人免受人工智能（AI）系統(tǒng)的潛在風(fēng)險。該行政令尚待各部門具體落實。
本文轉(zhuǎn)自于 財新網(wǎng)
