歐盟立法者制定生成式AI透明度規則，同意禁止公共場面面部識別_人工智能

來源：澎湃新聞

作者：吳天一

圖片來源：由無界AI工具生成

·更新后的草案引入了旨在監管“通用人工智能”的新措施，適用于由微軟、谷歌和OpenAI等科技巨頭構建的資源密集型人工智能系統。大模型的創建者必須公開訓練人工智能使用的數據，以確保其使用受版權法保護的數據訓練。

·“鑒于人工智能將對我們的社會和經濟產生深遠影響，《人工智能法》很可能是這項任務中最重要的立法。這是全球第一項此類立法。”

歐洲議會兩個委員會當地時間5月11日通過《人工智能法》提案的談判授權草案。草案就對ChatGPT等生成式人工智能大模型的一系列要求達成一致，標志著歐盟對人工智能實施強監管方面又邁出了一步。

Circle歐盟事務總監：本周歐洲議會將召開聽證會，內容或關于FTX崩盤成因、欺詐和挪用:11月28日消息，Circle歐盟事務總監Jonas Frederiksen發推表示，本周歐洲議會將召開有關FTX的聽證會，內容可能包括關于FTX崩盤成因、FTX中的欺詐和挪用等。對加密市場全面監管的MiCA將在2023年中發布，可能將對全球加密監管走向起到指導作用。[2022/11/28 21:07:31]

新文本將嚴格禁止“對人類安全造成不可接受風險的人工智能系統”，包括有目的地操縱技術、利用人性弱點或根據行為、社會地位和個人特征等進行評價的系統等。

草案提出了新的保障措施，并禁止各種危險用例，包括禁止在公共場所進行大規模面部識別程序，以及禁止使用預測性警務系統。草案還要求建立一個公共數據庫，記錄政府部門部署的“高風險”人工智能系統，公開數據，以便公民能夠了解他們將何時以及如何受到這項技術的影響。

歐盟委員會將于3月14日對加密法規MiCA進行投票:金色財經報道，據最新消息，歐盟議會貨幣委員會將于3月14日對歐盟的加密貨幣市場規則（MiCA）立法進行投票。(CoinDesk)[2022/3/8 13:43:21]

這一草案將于6月中旬提交歐洲議會全會表決，之后歐洲議會將與歐盟理事會就法律的最終形式進行談判。歐洲議會的聲明說，一旦獲得批準，這將成為全世界首部有關人工智能的法規。

要求ChatGPT等承擔新的義務

該草案由兩個關鍵委員會批準：內部市場委員會和公民自由委員會。這些委員會由負責監督立法制定的歐洲議會議員組成。他們最終以84票贊成、7票反對、12票棄權批準了完成的草案。

“在草案中，歐洲議會議員旨在確保人工智能系統由人監督，且確保其安全、透明、可追溯、非歧視和環保。他們還希望對人工智能有一個統一的定義，旨在保持技術中立，以便其可以適用于現在和以后出現的人工智能系統。”歐洲議會在一份新聞稿中說。

歐盟推遲對加密資產市場指令（MiCA）的投票:2月26日消息，在比特幣能源辯論中，歐盟推遲對加密法規的投票，推遲對加密資產市場指令（MiCA）的投票，因為歐洲議會擔心該指令會因圍繞行業能源需求的問題 而“被誤解為事實上的比特幣禁令” 。MiCA——一項備受期待的針對加密行業的市場監管法案——最初定于2022年2月28日進行投票。經濟委員會主席 Stefan Berger在Twitter上宣布取消投票。（decrypt）[2022/2/26 10:16:38]

修正案包括擴大禁止行為清單，以禁止對人工智能系統的“侵入性”和“歧視性”使用，禁止行為包括：在公共可訪問空間建立實時遠程生物特征識別系統；使用遠程生物特征識別系統，唯一的例外是執法部門起訴嚴重犯罪，并且只有在司法授權后；使用敏感特征的生物識別分類系統；預測性警務系統；執法、邊境管理、工作場所和教育機構中的情感識別系統；從社交媒體或監控攝像頭中抓取生物特征數據以創建面部識別數據庫。

英國金融時報：歐盟著眼于制定新的規則來監管外國銀行:10月11日消息，據知情人士透露，歐盟委員會正在擬定提案，授權金融監管機構讓銀行將部分歐洲分支機構轉變為子公司，前提是這些分支機構的活動被認為規模足夠大、風險足夠大。規定旨在打擊監管薄弱、在歐洲迅速擴張的非歐盟銀行。預計規定將適用于資產規模至少300億歐元的歐盟分支機構，不過歐盟委員會仍在就這一門檻進行辯論，可能會做出改變。根據規定，金融監管機構將必須定期審查非歐盟銀行分支機構的狀況。（金十）[2021/10/11 20:20:16]

除了禁令之外，更新后的草案還引入了旨在監管“通用人工智能”的新措施，適用于由微軟、谷歌和OpenAI等科技巨頭構建的資源密集型人工智能系統，其中包括GPT-4和ChatGPT等語言模型，以及StableDiffusion、Midjourney和DALL-E等人工智能圖像生成器。

法國監管機構批準Melanion Capital在歐盟發行比特幣掛鉤的ETF:8月9日消息，法國監管機構已經批準資產管理公司Melanion Capital開始在歐盟發行比特幣掛鉤的交易所交易基金（ETF）。盡管這一資產與世界頭號加密貨幣的價格沒有完全相關性，但其廣泛的國際市場和90%以上的相關性標志著投資者獲得比特幣風險敞口的能力取得了重大進展，這對于歐盟加密市場來說是重要的里程碑。

此前報道，Melanion Capital計劃推出ETF，該ETF將跟蹤包括來自領先的區塊鏈和加密采礦公司的30只股票，如Riot Blockchain、VOYAGER Digital和Mike Novogratz的Galaxy Digital，并根據與比特幣價格的相關性進行加權。（Nasdaq）[2021/8/10 1:44:42]

根據擬議的立法，人工智能大模型的創建者需要在人工智能使用之前進行評估并減輕各種風險，包括評估訓練人工智能系統可能造成的環境損害。相關公司必須公開訓練人工智能使用的數據，以確保其使用受版權法保護的數據訓練。

有業內人士認為，版權問題可能會在美國產生重大影響。在美國，版權所有者已經對未經同意使用其數據的人工智能圖像生成器提起了一系列訴訟，許多科技公司，如谷歌和OpenAI，都通過拒絕披露訓練系統的數據來避免這類法律挑戰，若歐盟要求公開訓練數據，則可能會產生新的訴訟。

《人工智能法》草案的另一個關鍵條款是創建一個“高風險”人工智能系統的數據庫，以公開人工智能系統在歐盟的部署地點、時間和方式。“這個數據庫應該是自由、公開且易于理解的。”草案中提到，“數據庫還應方便用戶使用，易于導航，至少具有搜索功能，允許公眾在數據庫中搜索特定的高風險系統以及相關的位置、風險類別等。”

創建這樣一個數據庫一直是數字權利活動人士的長期需求，他們表示，公眾經常在不知不覺中被大規模監控系統進行實驗，或在未經同意的情況下被收集數據來訓練人工智能。

“其中一個大問題是，在傷害事件發生之前，我們對正在使用的人工智能系統一無所知。”非營利組織Access的高級政策分析師丹尼爾·盧弗說。他舉了荷蘭福利丑聞的例子，荷蘭政府使用的一種算法錯誤地就數千張未支付稅單發起訴訟。他表示，該數據庫將幫助歐盟公民用信息武裝自己，并使個人和團體更容易使用法律手段保護自身合法權益。

歐盟成員國還有重大分歧

對于人工智能監管的一系列想法已經在歐盟醞釀多年，投票結束后，聯合報告員兼歐洲議會議員德拉戈斯·圖多拉奇在一份聲明中評論說：“鑒于人工智能將對我們的社會和經濟產生深遠影響，《人工智能法》很可能是這項任務中最重要的立法。這是全球第一項此類立法，這意味著歐盟可以引領人工智能以以人為本、值得信賴和安全的方式發展。我們一直致力于支持歐洲的人工智能技術發展，為初創企業、中小企業和行業提供成長和創新的空間，同時保護基本權利，加強民主監督，確保成熟的人工智能治理和執法體系。”

“該草案具有全球意義。”數字倡導組織歐洲數字權利的高級政策顧問薩拉·錢德告訴科技媒體TheVerge。正如錢德所說，這些法律很可能會影響世界各國。歐盟是一個十分重要的市場，許多科技公司經常在全球范圍內遵守歐盟特定的法規，以減少同時遵守多套法規帶來的損耗。

不過，該草案仍可能發生變化，在5月12日獲得歐盟議會委員會的批準后，草案將在下個月面臨全體會議投票，然后進入三方會談，涉及歐盟成員國和歐盟政府機構的閉門談判。

歐洲數字權利組織的高級政策顧問艾拉·雅庫伯斯卡說：“許多成員國政府熱衷于保留進行生物識別大規模監控的能力。但我們也看到了奧地利和德國的不同意見，他們都贊成在《人工智能法》中加強對生物識別數據的保護。我們聽說有傳言說，其他幾個國家愿意在生物識別條款的方向上做出妥協。這給了我們希望，三方會談將取得積極成果，盡管我們當然希望幾個會員國作出強有力的反擊。”

錢德表示，數字權利活動人士最看重的是對生物識別監控和預測性警務系統的禁令，將在三方會談中引起“重大分歧”。“成員國認為，人工智能的這些用途對于打擊犯罪和維護安全是必要的。”錢德說。

Tags：人工智能MIC比特幣ICA人工智能對口的工作Shibanomics超級比特幣最新消息PICA價格

DYDX