97色成人综合网站,97色成人综合网站,高清freesexmovies性tv出水,大黑大巴大战欧洲美女图片,√天堂资源中文www

（觀察者網(wǎng)訊）當?shù)貢r間12月18日，OpenAI在官網(wǎng)發(fā)布災(zāi)備架構(gòu)測試版介紹文檔，描述該架構(gòu)應(yīng)對流程以跟蹤、評估、預測和防范日益強大的模型帶來的災(zāi)難性風險。OpenAI規(guī)定了四個安全風險等級，并表示只有得分在“中”或以下的模型才能部署。

OpenAI災(zāi)備架構(gòu)測試版文檔 圖片來源：OpenAI

據(jù)路透社報道，由微軟支持的OpenAI只會在確認沒有網(wǎng)絡(luò)和核等方面安全威脅的情況下才會部署其最新的技術(shù)。此外，該公司還正在創(chuàng)建一個咨詢小組來審查AI安全報告，并將其審查結(jié)果發(fā)送給公司的高管和董事會。這樣可以確保雖然AI運行的決策權(quán)在高管手中，但董事會可以推翻這些決策。

OpenAI災(zāi)備架構(gòu) 圖片來源：OpenAI

該文檔的提出被認為是OpenAI進一步加強AI應(yīng)用安全監(jiān)管的一個嘗試。近期由于AI的快速發(fā)展，AI應(yīng)用的安全性問題被廣泛關(guān)注。

對于AI應(yīng)用安全這一問題，長期以來有兩派觀點，即有效加速主義和AI對齊思想。

有效加速主義（Effective accelerationism，簡稱為“e/acc”）是一種21世紀基于科技發(fā)展而興起的哲學思想。其支持者一般認為，由人工智能驅(qū)動的進步是一種偉大的社會平等器，應(yīng)該被推動前進。因此，不惜一切代價，采用包括加速商業(yè)化在內(nèi)的一切手段，推動技術(shù)進步才是唯一在道德上合理的行動方針。值得注意的是，一般認為OpenAI的現(xiàn)任CEO山姆·奧特曼（Sam Altman）是有效加速主義的支持者。

與有效加速主義對應(yīng)的是AI對齊（AI alignment）思想，該派理論則更注重AI安全問題，強調(diào)人工智能系統(tǒng)的對齊問題，即如何確保未來超出人類智能的超級人工智能系統(tǒng)的行動目標與人類的目標一致。因為如果人工智能系統(tǒng)的目標與人類的目標不一致，可能會導致不可預見和潛在的危險后果。OpenAI中負責AI安全并參與罷黜CEO山姆·奧特曼的首席科學家伊利亞·蘇茨克韋爾（Ilya Sutskever）等人，以及此前從OpenAI脫離并創(chuàng)立大語言模型Claude的達里奧·阿莫代（Dario Amodei）等人都是AI對齊思想的支持者。

據(jù)路透社、The Information等媒體報道，之前震驚世界的OpenAI“宮斗”事件就源自于有效加速主義和AI對齊思想的路線之爭。

11月22日，路透社報道稱OpenAI擁有一個尚未公布的新模型Q*。該模型能夠解決某些數(shù)學問題，雖然現(xiàn)階段其數(shù)學成績僅達到小學生的水平，但在相關(guān)測試中取得的成績讓研究人員對Q*未來的成功非常樂觀，并認為Q*在推理模型方面相較于之前的大模型有了巨大的進步。這可能意味著人類將快速實現(xiàn)完全超越人類本身智能的超級AI。

據(jù)悉，Q*的出現(xiàn)加劇了包括首席科學家伊利亞·蘇茨克韋爾在內(nèi)對于AI安全性的擔憂，并最終促使董事會決定解雇支持有效加速主義的山姆·奧特曼。

值得注意的是，早在今年3月，包括前OpenAI投資者，著名人士馬斯克等上千人曾簽署聯(lián)名信，公開信呼吁人類暫停開發(fā)比目前GPT-4模型更強大的人工智能，為時至少6個月。

近期除了OpenAI在官網(wǎng)發(fā)布災(zāi)備架構(gòu)測試版外，由OpenAI首席科學家伊利亞牽頭的，于今年7月建立地“超級對齊”團隊，在本月15日發(fā)布了其成立以來的第一篇論文。在其最新的研究中，該團隊提出了一個技術(shù)路線：使用GPT-2級別的AI對GPT-4進行監(jiān)督并伴以一定的置信度損失，實現(xiàn)了對于GPT-4的微調(diào)。這樣的GPT-4可以在NLP任務(wù)上恢復到接近GPT-3.5級別AI的性能。

該論文指出，通過上述方法可以實現(xiàn)“弱到強泛化”（Weak-to-Strong Generalization）訓練，證實了我們可以通過使用更弱、更可控的模型來微調(diào)更強大的人工智能模型，使其達到與傳統(tǒng)訓練方法所訓練出的AI更相近的性能。這為“AI對齊”的設(shè)想提供了一條實際可行的技術(shù)路徑。

論文截圖 圖片來源：OpenAI

該論文和災(zāi)備架構(gòu)文檔的發(fā)表同樣也意味著，OpenAI正在試圖研究如何監(jiān)管潛在的全面超越人類智能的超級AI。

本文系觀察者網(wǎng)獨家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。