周一晚上，當(dāng)員工下班時(shí)，數(shù)十名抗議者聚集在舊金山 OpenAI 總部外，抗議該公司人工智能 (AI) 的開(kāi)發(fā)。

這次演示是由兩個(gè)團(tuán)體組織的——Pause AI 和 No AGI——他們公開(kāi)懇求 OpenAI 工程師放棄他們?cè)诹奶鞕C(jī)器人 ChatGPT 等高級(jí) AI 系統(tǒng)上的工作。

該組織的信息從一開(kāi)始就很明確：停止人工智能的發(fā)展，這種人工智能可能會(huì)導(dǎo)致機(jī)器超越人類智能的未來(lái)，即通用人工智能（AGI），并避免與任何進(jìn)一步的軍事聯(lián)系。

此次活動(dòng)的舉辦部分是為了回應(yīng) OpenAI 上個(gè)月從其使用政策中刪除禁止將人工智能用于軍事目的的措辭。使用政策改變幾天后，有報(bào)道稱 OpenAI 接受了五角大樓作為客戶。

“在[二月。 12]，我們將要求 OpenAI 結(jié)束與五角大樓的關(guān)系，不再接受任何軍事客戶，”活動(dòng)描述中寫道。 “如果他們的道德和安全界限可以出于方便而修改，那么他們就不值得信任?！?/p>

VentureBeat 與這兩個(gè)抗議組織者進(jìn)行了交談，以了解更多關(guān)于他們希望通過(guò)演示實(shí)現(xiàn)什么目標(biāo)，以及從每個(gè)組織的角度來(lái)看成功會(huì)是什么樣子。

“No AGI 的目標(biāo)是讓人們認(rèn)識(shí)到我們從一開(kāi)始就不應(yīng)該構(gòu)建 AGI，”No AGI 負(fù)責(zé)人 Sam Kirchener 告訴 VentureBeat。 “相反，我們應(yīng)該關(guān)注全腦仿真之類的東西，讓人類思維保持在智能的最前沿?！?/p>

Pause AI（美國(guó)）的主要組織者 Holly Elmore 告訴 VentureBeat，她的團(tuán)隊(duì)希望“在全球范圍內(nèi)無(wú)限期地暫停 AGI 的前沿開(kāi)發(fā)，直到安全為止”。她補(bǔ)充道：“如果他們結(jié)束與軍方的關(guān)系，我會(huì)很高興。這似乎是一個(gè)非常重要的界限?！?/p>

人們對(duì)人工智能開(kāi)發(fā)的不信任感日益增強(qiáng)

此次抗議活動(dòng)正值公眾討論人工智能倫理影響的關(guān)鍵時(shí)刻。 OpenAI 決定修改其使用政策并與五角大樓接觸，引發(fā)了關(guān)于人工智能軍事化及其潛在后果的辯論。

抗議者的恐懼主要源于通用人工智能的概念——一種可以執(zhí)行人類可以執(zhí)行的任何智力任務(wù)的智能，但速度和規(guī)?？赡茈y以理解。人們擔(dān)心的不僅僅是失業(yè)或戰(zhàn)爭(zhēng)的自主權(quán)；它涉及社會(huì)權(quán)力動(dòng)態(tài)和決策的根本改變。

“如果我們建立通用人工智能，那么在后通用人工智能世界中，我們將失去所謂的心理威脅的很多意義，在這種威脅中，通用人工智能會(huì)為每個(gè)人做一切事情。人們不需要工作。在我們當(dāng)前的社會(huì)中，人們從工作中獲得了很多意義，”基切納告訴 VentureBeat。

埃爾莫爾補(bǔ)充道：“對(duì)于這些公司來(lái)說(shuō)，自我治理是不夠的，確實(shí)需要外部監(jiān)管。”他強(qiáng)調(diào)了 OpenAI 經(jīng)常撤銷其做出的承諾。 “六月份，薩姆·奧爾特曼吹噓說(shuō)董事會(huì)可以解雇他，然后到了十一月份，他們就不能解雇他了。現(xiàn)在我們?cè)谑褂谜?[和軍事合同] 上看到了類似的情況……如果這些政策實(shí)際上并沒(méi)有限制 OpenAI 做任何他們想做的事情，那么它們還有什么意義呢？”

暫停人工智能和禁止 AGI 都有一個(gè)共同的目標(biāo)，即停止 AGI，但他們的方法有所不同。如果可以安全地開(kāi)發(fā)，Pause AI 對(duì) AGI 的想法持開(kāi)放態(tài)度，而 No AGI 堅(jiān)決反對(duì)它的創(chuàng)建，強(qiáng)調(diào)潛在的心理威脅和人類生活意義的喪失。

兩個(gè)團(tuán)體都表示，這可能不會(huì)是他們的最后一次抗議。

其他擔(dān)心人工智能風(fēng)險(xiǎn)的人可以通過(guò)他們的網(wǎng)站和社交媒體參與其中。但目前硅谷正在向前邁進(jìn)，奔向未知的人工智能未來(lái)。

熱點(diǎn)：人工智能