通用人工智能研究綱領(lǐng)-OpenAI發(fā)布
來源:未知 時間:2021-53-16 瀏覽次數(shù):191次
通用人工智能研究綱領(lǐng)-OpenAI發(fā)布
為了達到這樣的目標,OpenAI
廣泛參與,廣泛貢獻
-
OpenAI
承諾,在通用人工智能的開發(fā)過程中 OpenAI 將動用所有的影響力,確保它可以造福全人類,以及避免把人工智能/通用人工智能用于會傷害人類的、或者任務(wù)中,以及避免它們被過于集中的權(quán)力控制。 -
OpenAI
承擔的責任主要要對全人類負責。如果有必要的話,他們準備好了對外分享所有重要的研究資源;同時他們也會積極行動,盡量減小股東和 OpenAI 工作人員之間的利益沖突,保證讓更多人從中受益。
通用人工智能的長遠安全問題
-
OpenAI
承諾進行能夠保證通用人工智能安全性的研究,并且在整個 AI 研究領(lǐng)域內(nèi)推動這類研究的大規(guī)模展開。 -
OpenAI
擔心末端的通用人工智能開發(fā)成為一場競爭性的比賽,在比賽中也就不會分配時間在必要的安全防護措施上。所以,如果在 OpenAI 研發(fā)自己的項目之前就出現(xiàn)了一個價值均衡、注重安全的通用人工智能項目,OpenAI 承諾將停止和它競爭,并轉(zhuǎn)而輔助這個項目。OpenAI 未來會針對每個項目列出具體的執(zhí)行細節(jié),不過典型的觸發(fā)規(guī)則可能會類似「未來兩年內(nèi)能夠成功的概率超過一半一半」。
技術(shù)帶頭人
-
為了能有效地向整個社會展現(xiàn)通用人工智能的影響力,OpenAI
也需要站在 AI 能力開發(fā)的前沿 - 在政策和安全性方面僅僅發(fā)出聲音是不夠的。 -
OpenAI
相信人工智能在通用人工智能之前就會產(chǎn)生廣泛的社會影響,OpenAI 也會在與自己的使命和經(jīng)驗相吻合的領(lǐng)域努力保持領(lǐng)導(dǎo)地位。
面向合作
-
OpenAI
會和其它研究機構(gòu)以及策略制訂機構(gòu)積極合作,希望能夠從中創(chuàng)建一個全球性的合作社區(qū),共同應(yīng)對通用人工智能的全球性挑戰(zhàn)。 -
OpenAI
承諾將為全社會公開提供信息,幫助社會走向與通用人工智能共處的時代。目前要做的內(nèi)容包括公開發(fā)表大多數(shù)的人工智能研究成果,同時 OpenAI 也希望,隨著未來對安全和防護的擔憂越來越多,他們的老式的成果發(fā)表將會減少,更多地轉(zhuǎn)變?yōu)榉窒戆踩⒉呗院蜆藴驶难芯俊?/p>
人類何時能研發(fā)出真正的通用人工智能還尚未可知,但
這份綱領(lǐng)發(fā)出后,已經(jīng)有一些學(xué)者給出了積極的反饋,非常歡迎