春節假期尚未結束，OpenAI 最新發(fā)布的視頻生成模型 Sora 便突然引爆了科技圈。

作為一個(gè)數據驅動(dòng)的物理引擎，只需要接收一句話(huà)，Sora 便可以生成“充滿(mǎn)想象力”“史詩(shī)級”的大片。

由于生成的視頻畫(huà)面過(guò)于真實(shí)，且水平吊打一眾“前輩”視頻生成模型，Sora 讓人們不禁感嘆：又有一批人要失業(yè)了？現實(shí)要不存在了嗎？這無(wú)疑又是一顆投向人類(lèi)的重磅“炸彈”。

當天，Google 也發(fā)布了自家的最新大模型 Gemini 1.5。據介紹，Gemini 1.5 的上下文窗口高達 100 萬(wàn)個(gè) tokens，可以一次處理大量的信息——如 1 小時(shí)的視頻、11 小時(shí)的音頻、3 萬(wàn)多行的代碼等。這樣的算力，已經(jīng)遠遠超過(guò)人類(lèi)。

未來(lái)，人工智能（AI）還將會(huì )展現出怎樣的超級能力，我們還不得而知。但有一點(diǎn)顯而易見(jiàn)，AI 的安全治理，依然落后 AI 的發(fā)展。

面對已知的挑戰和未知的風(fēng)險，人類(lèi)已經(jīng)做了大量的工作，探討 AI 倫理、數據倫理和算法倫理，而卻很少討論支撐 AI 飛速發(fā)展的物理硬件——圖形處理器和算力上。

圖｜自 2010 年以來(lái)，用于訓練 AI 模型的計算量大約每六個(gè)月翻一番，數據來(lái)自 Epoch。

日前，來(lái)自 OpenAI、人工智能治理中心（GovAI）、劍橋大學(xué) Leverhulme 未來(lái)智能中心等機構的 19 位學(xué)界、業(yè)界人士，共同發(fā)表了一篇題為“Computing Power and the Governance of Artificial Intelligence”的研究論文，將 AI 發(fā)展的爭議焦點(diǎn)聚焦到了“硬件”和“算力”上。

在這篇論文中，這些專(zhuān)家提出了多項政策選擇，其中之一是建立一個(gè)全球登記處，跟蹤用于 AI 超級計算機的芯片流動(dòng)，從而幫助防止 AI 的濫用和災難。

另外，論文中提到的其他技術(shù)建議包括“計算上限”（compute caps）——對每個(gè) AI 芯片可連接的芯片數量的內置限制——以及在多方之間分配 AI 訓練的“啟動(dòng)開(kāi)關(guān)”（start switch），以便在有風(fēng)險的 AI 輸入數據之前對其進(jìn)行數字否決。

這些專(zhuān)家認為，驅動(dòng)生成式 AI 模型所需的強大計算芯片是通過(guò)由少數幾家公司主導的高度集中的供應鏈構建的，這使得硬件本身成為降低風(fēng)險的 AI 政策的強有力干預點(diǎn)。

圖｜計算（compute）供應鏈示意圖。

因此，治理人工智能硬件、芯片和數據中心將在治理 AI 模型開(kāi)發(fā)和部署方面發(fā)揮重要作用，但“也可能帶來(lái)新的社會(huì )風(fēng)險”。

硬件是治理AI的關(guān)鍵

硬件在 AI 領(lǐng)域的重要性主要體現在以下幾個(gè)方面：

AI 模型變得越來(lái)越復雜，需要大量的計算資源來(lái)訓練和運行。硬件，例如高性能的 CPU、GPU、TPU 等，提供了這些計算資源。它們能夠加速復雜算法的運行，以及大規模數據的處理，從而實(shí)現更快速、更有效的 AI 應用。

讓一個(gè) AI 模型變得越來(lái)越復雜，通常需要大量的計算資源，而硬件的性能直接影響著(zhù)模型訓練的速度和效率。高性能的硬件可以加快模型訓練的進(jìn)程，縮短開(kāi)發(fā)周期，提高模型的更新速度和質(zhì)量。

除了模型訓練，AI 模型在部署和實(shí)際應用中也需要大量的計算資源進(jìn)行推理。例如，在語(yǔ)音識別、圖像識別、自然語(yǔ)言處理等應用中，需要實(shí)時(shí)處理大量的數據并生成準確的預測結果。硬件的性能和效率直接影響著(zhù)這一過(guò)程的速度和準確性，這對實(shí)時(shí)性要求較高的應用尤為重要。

硬件在保障 AI 系統安全性和隱私保護方面也發(fā)揮著(zhù)關(guān)鍵作用。通過(guò)硬件的安全功能和加密技術(shù)，可以確保 AI 系統的數據和模型在傳輸和存儲過(guò)程中得到有效的保護，有效防止敏感信息泄露和惡意攻擊。

因此，計算資源的使用量是衡量一個(gè) AI 系統潛在影響的可靠指標之一。

通過(guò)監管和管理計算資源的使用，可以有效地影響和控制 AI 技術(shù)的發(fā)展方向和應用范圍。

相比看不見(jiàn)摸不著(zhù)的軟件，計算資源相對容易進(jìn)行檢測、排除和量化，這使硬件治理成為一種有效手段。

與數據和算法不同，計算資源是有限的實(shí)物資源，可以被準確地計數和跟蹤，因此更容易進(jìn)行管理和監管。

基于此，該論文提供了一系列可行的治理方案：

1.建立監測和追蹤系統，用于跟蹤計算資源的使用情況和流向；

2.制定限制性政策，限制某些敏感領(lǐng)域或特定用途的計算資源的使用；

3.加強對計算資源供應鏈的管理和監督，以確保供應鏈的安全和穩定性。

這些技術(shù)方案的目標是通過(guò)有效的管理和監管計算資源的使用，來(lái)保障 AI 技術(shù)的安全和可持續發(fā)展，從而實(shí)現對 AI 技術(shù)的有效治理。

全球視野下的AI計算可見(jiàn)性

具體來(lái)說(shuō)，AI 計算注冊制度（global registry tracking the flow of chips destined for AI supercomputers）指的是一個(gè)全球性的登記注冊系統，用于跟蹤用于人工智能超級計算機的芯片流動(dòng)。這個(gè)制度是報告提到的政策選擇之一。

建立AI計算注冊制度具有重要意義。

首先，可以提高對 AI 計算資源的透明度和可追溯性，使各國能夠更好地監測和控制全球 AI 技術(shù)的發(fā)展和應用。

其次，注冊制度有助于識別和防范潛在的安全風(fēng)險和倫理挑戰，確保 AI 技術(shù)的安全和可持續發(fā)展。

此外，全球注冊制度還可以促進(jìn)國際合作和信息共享，推動(dòng)全球 AI 治理的協(xié)調和合作，實(shí)現共贏(yíng)和共同發(fā)展。

當然，這項措施的推行也面臨著(zhù)很多挑戰。

首先，來(lái)自不同國家和地區的政治和文化差異可能導致立法和執行上的障礙。

其次，技術(shù)和數據安全、隱私保護等問(wèn)題可能引發(fā)國際爭議和糾紛。解決這些挑戰的關(guān)鍵在于建立多邊合作機制和國際標準，促進(jìn)各國間的協(xié)商和合作。

此外，加強國際組織和機構的角色和職能，建立信息交流和合作平臺，加強對技術(shù)和數據安全的監管和管理，都是解決這些挑戰的重要途徑。

該論文還提到了其他技術(shù)方案，例如“計算上限”，即每個(gè) AI 芯片可以連接的芯片數量的內置限制，以及分發(fā)“啟動(dòng)開(kāi)關(guān)”給多方，以允許對有風(fēng)險的 AI 進(jìn)行數字否決之類(lèi)的政策。

研究人員認為，AI 芯片和數據中心是更有效的審查和AI安全治理目標，因為這些資產(chǎn)必須是物理上擁有的，而“AI 三元組”的其他元素——數據和算法——理論上可以無(wú)限復制和傳播。

AI治理政策的新方向

該論文指出，針對 AI 可能帶來(lái)的風(fēng)險，政策制定可以從以下幾個(gè)方面進(jìn)行：

1.限制計算機芯片網(wǎng)絡(luò )：政府可以通過(guò)立法或監管機制限制對關(guān)鍵計算機芯片網(wǎng)絡(luò )的訪(fǎng)問(wèn)，以防止其被惡意使用或攻擊。這包括對芯片生產(chǎn)和供應鏈的管控，以確保其安全和可靠性。

2.加強加密技術(shù)監管：政府可以制定更嚴格的加密技術(shù)使用規定，確保其不被用于非法活動(dòng)或惡意目的。這可能包括對加密技術(shù)的出口管制和使用限制。

保證安全和良性發(fā)展的同時(shí)，一定會(huì )有所犧牲。

比如，限制計算機芯片網(wǎng)絡(luò )和加密技術(shù)可能會(huì )影響到正常的商業(yè)活動(dòng)和科研進(jìn)展，對技術(shù)創(chuàng )新造成一定程度的阻礙。過(guò)度的監管也可能導致市場(chǎng)動(dòng)態(tài)受到限制，影響市場(chǎng)的競爭性和效率性。

論文指出，治理 AI 的關(guān)鍵在于對其計算設備的監管。政府需要制定相應的政策和監管措施，以應對由AI發(fā)展帶來(lái)的風(fēng)險。

然而，政策制定需要權衡各方利益，并且要克服監管過(guò)程中的各種挑戰和困難。AI 發(fā)展是全球人類(lèi)的命題，在這個(gè)過(guò)程中，政府應該積極倡導國際合作，共同應對 AI 治理挑戰，攜手實(shí)現共贏(yíng)。

參考鏈接：

https://www.eurekalert.org/news-releases/1034407

https://www.cser.ac.uk/media/uploads/files/Computing-Power-and-the-Governance-of-AI.pdf

https://github.com/lheim/CPGAI-Figures

https://www.governance.ai/post/computing-power-and-the-governance-of-ai

http://lcfi.ac.uk/news-and-events/news/2024/feb/14/compute-ai-governance/

歡迎掃碼關(guān)注深i科普！

我們將定期推出

公益、免費、優(yōu)惠的科普活動(dòng)和科普好物！