人民網上海7月7日電 （記者唐小麗）高質量的語料是確保人工智能價值對齊的關鍵要素。7月6日，2024世界人工智能大會在滬舉辦期間，以“語料筑基，智生時代”為主題的首場語料論壇舉行。論壇圍繞高質量語料數據如何高效供給賦能大模型產業(yè)發(fā)展，向市場傳遞專業(yè)化、鏈接型、前瞻性的語料生態(tài)設計理念。

語料論壇現場。人民網記者 王初攝

論壇上，人民網、人民日報社傳播內容認知全國重點實驗室聯合上海庫帕思科技有限公司正式發(fā)布人工智能價值對齊“五有”框架。

人民網、傳播內容認知全國重點實驗室相關負責人表示，建設多維度價值對齊的語料庫，應該堅持“以人為本、智能向善、造福人類”的原則，鼓勵通過國際合作和實際行動，幫助世界各國加強人工智能能力建設。這個體系分成五個主要維度，分別是：體現遵循社會道德規(guī)范和法治精神的倫理價值維度、體現滿足個人和群體情感認同交流和成長需求的情緒價值維度、體現助力大眾文化素養(yǎng)提升和促進文明互鑒共進的文化價值維度、體現推動社會公平正義和可持續(xù)創(chuàng)新發(fā)展的社會價值維度、體現推動科技創(chuàng)新與可控可治的技術價值維度。

倫理價值維度，希望人工智能是有德的。倫理價值是人類社會長期發(fā)展的文明積淀，是社會科學研究的重點領域，也是公眾日常行為生活的規(guī)范。倫理價值的語料來源及層次非常豐富，要構建涵蓋基礎理論、歷史文化和現實生活等三大板塊的多角度語料內容，全面反映倫理價值的內涵與外延。

情緒價值維度，希望人工智能是有趣的。情緒價值服務于“技術為人類服務”的根本宗旨，希望人工智能將來的發(fā)展目標能與人類共情、共鳴，這也是當前人工智能發(fā)展的短板。該維度的語料庫建設具有很強的普適性，同時存在個性化、場景化和地域化等特定需求，希望構建涵蓋治愈成長、互動共鳴及自娛探索等三大板塊的多角度語料內容，全面提升人工智能的情緒價值。

文化價值維度，希望人工智能是有品的。人工智能技術的發(fā)展和應用，應充分尊重和促進不同文化之間的平等對話和交流，鼓勵文化多樣性和包容性。促進當代優(yōu)秀文化的傳播，堅守傳統(tǒng)優(yōu)秀文化的根基，發(fā)揮人工智能在藝術創(chuàng)作和審美體驗中的積極作用。重點構建涵蓋中國元素、傳統(tǒng)文化及全球文化等三大板塊的多角度語料內容，推廣各國文化發(fā)展和文明進步過程中形成的精神財富和智慧積累，啟發(fā)人工智能在人文關懷、審美塑造和啟迪智慧方面的積極作用。

社會價值維度，希望人工智能是有序的。社會價值側的板塊語料，將體現人類普遍認同的關于國家、民族、社會以及全人類層面的價值理念、處事原則和行為規(guī)范，重點從社會和諧、社會發(fā)展、全球治理三大板塊來進行語料組織和建設，讓人工智能成為促進全人類文明和發(fā)展的推動力量。

技術價值維度，希望人工智能是有用的。安全性是實現技術價值對齊的首要前提，可靠性是確保人工智能系統(tǒng)廣泛應用和獲得人類信賴的關鍵，可控性是保障人工智能系統(tǒng)依照人類預期行動的基礎，公平性是實現技術普惠和避免社會不公的重要條件。要建設對人類有益的，對人工智能的安全性、可靠性、可控性和公平性進行測評和風險評估的語料數據庫。

簡言之，就是希望人工智能在倫理價值上有德、情緒價值上有趣、文化價值上有品、社會價值上有序、技術價值上有用。

人工智能的多維度價值對齊是一個長期目標，應該采取發(fā)展與安全并重的策略，以問題為導向，做好總體設計規(guī)劃，有組織分階段實施，從技術、數據和應用等多個方面細化推進人工智能與人類在倫理、情緒、文化、社會、技術等方面的價值對齊。通過五個維度的語料庫價值對齊，最終實現弘揚和平、發(fā)展、公平、正義、民主、自由的全人類共同價值。

分享讓更多人看到