IT之家 4 月 27 日消息，OpenAI CEO 薩姆 · 奧爾特曼（Sam Altman）于當地時間 4 月 26 日發(fā)文，闡述了該公司在人工智能發(fā)展過程中的核心原則與長期目標。
他表示，AI 有潛力幫助人類社會在許多領域實現(xiàn)顯著改善，人們借助 AI 所能完成的事情將遠超蒸汽機或電力帶來的變革。
他描述了一個繁榮程度遠超當下想象的世界，在其愿景中，個人能力、主動性與實現(xiàn)自我價值的機會將顯著提升，部分曾只存在于科幻作品中的設想可能成為現(xiàn)實。
但他同時指出，這一結果并非必然：未來技術權力可能集中在少數掌握超級智能的公司手中，也可能以去中心化的方式掌握在公眾手里。OpenAI 的目標是將真正的通用人工智能交到盡可能多的人手中。
OpenAI 的使命是確保 AGI 惠及全人類，并據此制定了五項原則：
第一，民主化。OpenAI 將抵制該技術將權力集中在少數人手中的可能性。這意味著除了讓每個人都能使用 AI 之外，還需要確保關于 AI 的關鍵決策通過民主程序和公平原則制定，而不僅僅由 AI 實驗室決定。
第二，賦能。OpenAI 相信 AI 可以賦能每個人實現(xiàn)目標、學習更多、更快樂、更充實，并追求自己的夢想，整個社會都將從中受益。用戶應能可靠地利用其服務完成越來越有價值的任務。OpenAI 希望給予用戶廣泛的自主權，同時有責任以最小化傷害的方式構建和部署 AI—— 既包括預防災難性傷害，也包括減少局部傷害和避免潛在的腐蝕性社會影響。
第三，普惠繁榮。OpenAI 希望未來每個人都能擁有優(yōu)質生活。通過將易于使用且具備強大計算能力的 AI 系統(tǒng)交到每個人手中，人們將找到創(chuàng)造價值的新方法，大幅改善生活質量，尤其是在新科學發(fā)現(xiàn)方面。為實現(xiàn)廣泛共享的繁榮，奧爾特曼認為政府可能需要考慮新的經濟模式，同時需要建設大量 AI 基礎設施并開發(fā)新技術以大幅降低成本。
第四，韌性。AI 的爆發(fā)必然會引出新的風險，OpenAI 將與其他公司、政府及社會各方合作解決這些問題，包括生物安全與網絡安全等領域。他指出，任何 AI 實驗室都無法獨自確保良好的未來 —— 例如，足夠強的模型可能使制造新型病原體變得更容易，需要全社會采取與病原體無關的防御措施。OpenAI 將延續(xù)其迭代部署策略，讓社會逐步應對每一級 AI 能力。同時，OpenAI 也預期在某些時期需要與政府、國際機構及其他 AGI 項目協(xié)作，確保在充分解決嚴重的對齊、安全或社會問題后再繼續(xù)推進工作。
第五，適應性。OpenAI 認為應對不可預測未來的唯一方法是根據學到的新知識持續(xù)調整自身策略，并將在運營原則發(fā)生變化時保持透明。他舉例稱，盡管普惠繁榮仍然非常重要，但未來某些時期可能需要在賦能和韌性之間進行權衡。
奧爾特曼回顧稱，不久之前 OpenAI 還因不確定對社會的影響而對發(fā)布 GPT-2 的權重感到緊張。事后看這種擔憂有些多余，但正是這一過程促使他們發(fā)現(xiàn)了迭代部署策略 —— 這是他們摸索出的最重要的方法之一。
奧爾特曼表示他們正進入一個技術持續(xù)進步且影響深遠的階段，每一項決策都值得被審視，他們不可能做到事事正確，但會快速學習并修正方向，并致力于推動技術發(fā)展帶來更積極的社會影響。
廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。