人工智能 (AI) 開發(fā)商 OpenAI 宣布將實施其“準備框架”，其中包括創(chuàng)建一個特別團隊來評估和預測風險。 12月18日，該公司發(fā)布博文稱，其新的“準備團隊”將成為連接 OpenAI 工作的安全和政策團隊的橋梁。據(jù)稱，這些團隊提供的近乎制衡式的系統(tǒng)將有助于防范日益強大的模型可能帶來的“災難性風險”。 OpenAI 表示，只有在被認為安全的情況下才會部署其技術。新的計劃大綱要求新的顧問團隊審查安全報告，然后將其發(fā)送給公司高管和 OpenAI 董事會。雖然高管們在技術上負責做出最終決策，但新計劃允許董事會有權(quán)推翻安全決策。在此之前，OpenAI 在 11 月份經(jīng)歷了一場旋風般的變革，薩姆·奧爾特曼 (Sam Altman) 突然被解雇，然后又重新?lián)问紫瘓?zhí)行官。 Altman 重新加入公司后，該公司發(fā)布了一份聲明，命名了新董事會，目前包括 Bret Taylor（主席）、Larry Summers 和 Adam D’Angelo。相關：OpenAI 是否即將放棄新的 ChatGPT 升級？ Sam Altman 表示“不”O(jiān)penAI 于 2022 年 11 月向公眾推出了 ChatGPT，從那時起，人們對人工智能產(chǎn)生了濃厚的興趣，但也有人擔心它可能對社會造成的危險。今年 7 月，包括 OpenAI、微軟、谷歌和 Anthropic 在內(nèi)的領先人工智能開發(fā)者成立了前沿論壇，旨在監(jiān)督負責任人工智能創(chuàng)建的自我監(jiān)管。拜登政府于 10 月發(fā)布了一項行政命令，為開發(fā)高級模型及其實施的公司制定了新的人工智能安全標準。在拜登政府實施行政命令之前，著名的人工智能開發(fā)者被邀請到白宮，致力于開發(fā)安全、透明的人工智能模型——OpenAI 是眾多出席的公司之一。雜志：Deepfake K-Pop 色情片，喚醒 Grok，“OpenAI 有問題”，F(xiàn)etch.AI：AI Eye

熱點：人工智能