近日，一封由13位OpenAI和谷歌DeepMind前員工、現(xiàn)員工簽署的公開信引起廣泛關(guān)注。這封信對高級人工智能的潛在風(fēng)險以及當(dāng)前缺乏對人工智能科技公司的監(jiān)管表示擔(dān)憂。
此外，在這封公開信中提及了AI或許會加劇現(xiàn)有的不平等現(xiàn)象，操縱和傳播誤導(dǎo)信息，以及可能無法控制自主人工智能系統(tǒng)，最終可能威脅人類生存。
為這封公開信署名背書的有被譽(yù)為“人工智能教父”的杰弗里·辛頓（Geoffrey Hinton）、因開創(chuàng)性AI研究獲得圖靈獎的約書亞·本吉奧（Yoshua Bengio）和AI安全領(lǐng)域的學(xué)者斯圖爾特·羅素（Stuart Russell）。
公開信表示，人工智能技術(shù)有潛力為人類帶來前所未有的福祉，同時，這些技術(shù)會帶來嚴(yán)峻挑戰(zhàn)，全球的政府和其他AI專家以及AI公司本身都已經(jīng)意識到了這些風(fēng)險。然而，AI 公司出于財務(wù)利益的考慮，往往避免接受有效監(jiān)管，“我們認(rèn)為特別設(shè)計的企業(yè)治理模式不足以改變這一現(xiàn)狀”。
公開信提到，AI公司掌握著大量的內(nèi)部信息，包括其系統(tǒng)的能力和局限性、保護(hù)措施的充分性，以及不同類型傷害的風(fēng)險水平。然而，目前他們與政府分享這些信息的責(zé)任較為有限，而且沒有與民間社會分享的義務(wù)。
上述公司中，現(xiàn)任和前任員工是為數(shù)不多的能夠向公眾負(fù)責(zé)的人，然而，保密條款阻礙了這種憂慮的表達(dá)。
公開信提到，希望領(lǐng)先的AI 企業(yè)承諾遵循一些原則，包括承諾不會簽訂或執(zhí)行任何禁止對公司的風(fēng)險相關(guān)擔(dān)憂進(jìn)行負(fù)面評價或批評的協(xié)議，也不會因員工進(jìn)行風(fēng)險相關(guān)的批評而阻礙其既得經(jīng)濟(jì)利益做出報復(fù)。
聯(lián)名信希望建立一個可驗證的匿名機(jī)制，供現(xiàn)任和前任員工使用。
OpenAI 前員工丹尼爾·科泰洛 （Daniel Kokotajlo）是此次聯(lián)名信公開署名人員中的一位。他在社交平臺發(fā)文表示，“我們中一些最近從 OpenAI 辭職的人聚集在一起，要求實驗室對透明度作出更廣泛的承諾。”今年 4 月，丹尼爾從 OpenAI 辭職，其中的一個原因就是對該公司在構(gòu)建通用人工智能方面是否會采取負(fù)責(zé)任的行為失去了信心。
丹尼爾提到，AI系統(tǒng)不是普通的軟件，它們是從大量數(shù)據(jù)中學(xué)習(xí)的人工神經(jīng)網(wǎng)絡(luò)。關(guān)于可解釋性、對齊和控制的科學(xué)文獻(xiàn)正在迅速增多，但這些領(lǐng)域仍處于起步階段。雖然OpenAI 等實驗室正在構(gòu)建的系統(tǒng)能夠帶來巨大的好處。但如果不小心，可能會在短期內(nèi)造成不穩(wěn)定，并在長期內(nèi)造成災(zāi)難性后果。
丹尼爾表示，從OpenAI離開時，曾被要求簽署一份文件，其中包含一項不貶損條款，禁止他發(fā)表任何批評公司的話。丹尼爾拒絕簽署，并失去既得股權(quán)。
在丹尼爾加入 OpenAI 時曾希望隨著AI功能越來越強(qiáng)大，內(nèi)部在安全研究方面投入更多資金，但 OpenAI 從未做出這一轉(zhuǎn)變。“人們意識到這一點(diǎn)后開始辭職，我不是第一個也不是最后一個辭職的人。”丹尼爾說。
同一時間，OpenAI前超級對齊部門成員利奧波德·阿申布倫納（Leopold Aschenbrenner）也在公開采訪中透露他被開除的真實原因。他給幾位董事會成員分享了一份OpenAI安全備忘錄，結(jié)果導(dǎo)致OpenAI管理層不滿。利奧波德在社交平臺表示，到 2027 年實現(xiàn) AGI 是極其有可能的，需要更嚴(yán)格的監(jiān)管和更透明的機(jī)制，確保人工智能的安全發(fā)展。
本次公開信事件是OpenAI近期面臨的諸多危機(jī)中的一個。
在OpenAI的GPT-4o模型發(fā)布不久后，OpenAI原首席科學(xué)家伊利亞·蘇茨克維（Ilya Sutskever）正式官宣離職。不久后，OpenAI超級對齊團(tuán)隊聯(lián)合負(fù)責(zé)人楊·萊克（Jan Leike）也在推特上宣布離職。他稱OpenAI領(lǐng)導(dǎo)層關(guān)于公司核心優(yōu)先事項的看法一直不合，超級對齊團(tuán)隊過去幾個月一直在逆風(fēng)航行，在提升模型安全性的道路上受到公司內(nèi)部的重重阻礙，“（OpenAI）安全文化和安全流程已經(jīng)讓位給閃亮的產(chǎn)品”。
來源：《第一財經(jīng)》
