近日，中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(AIIA)第十次全體會議暨2023年通用人工智能創(chuàng)新發(fā)展論壇在重慶召開。

會上，商湯科技聯(lián)合中國信息通信研究院云計(jì)算與大數(shù)據(jù)研究所(中國信通院云大所)共同發(fā)布行業(yè)首個(gè)《大模型可信賴研究報(bào)告》，系統(tǒng)化分析闡釋了人工智能大模型發(fā)展風(fēng)險(xiǎn)要素及治理建議，具體包括：

● 重點(diǎn)梳理大模型發(fā)展現(xiàn)狀，點(diǎn)明大模型風(fēng)險(xiǎn)來源。

● 從大模型涉及的關(guān)鍵要素和可信維度出發(fā)，全面分析大模型面臨的各項(xiàng)風(fēng)險(xiǎn)并進(jìn)行整理歸納，形成大模型風(fēng)險(xiǎn)全景視圖。

● 針對大模型在框架、數(shù)據(jù)、模型和生成內(nèi)容等層面風(fēng)險(xiǎn)，系統(tǒng)梳理產(chǎn)業(yè)界保障大模型可信賴的關(guān)鍵舉措。

● 指出當(dāng)前大模型可信賴發(fā)展面臨的問題及挑戰(zhàn)，從多個(gè)維度提出參考建議。

該《報(bào)告》為人工智能大模型的可信發(fā)展提供了重要的方向參考。同時(shí)，也對大模型風(fēng)險(xiǎn)管理體系化建設(shè)提供了框架依據(jù)。

此外，《報(bào)告》還對如何實(shí)現(xiàn)大模型的可信賴目標(biāo)給出一系列實(shí)踐方案，從技術(shù)、管理、監(jiān)管等維度對大模型的可信賴目標(biāo)實(shí)現(xiàn)進(jìn)行了分析研究。

商湯SenseTrust可信AI基礎(chǔ)設(shè)施

入選《報(bào)告》可信賴實(shí)踐案例

今年7月，為迎接大模型全新挑戰(zhàn)，基于“日日新SenseNova”大模型體系，商湯科技快速推出可信AI基礎(chǔ)設(shè)施SenseTrust，構(gòu)建領(lǐng)先的解決方案，推動大模型開發(fā)訓(xùn)練和應(yīng)用治理可靠、可信。

“SenseTrust” 商湯可信AI基礎(chǔ)設(shè)施

數(shù)據(jù)層面，商湯SenseTrust能夠提供從數(shù)據(jù)脫敏、數(shù)據(jù)去毒、數(shù)據(jù)合規(guī)審查及偏見評估等治理工具。

模型層面，商湯SenseTrust基于自研模型體檢系列平臺，能夠針對傳統(tǒng)“小模型”、生成式“大模型”，以及基礎(chǔ)模型提供標(biāo)準(zhǔn)化和定制化的模型評測能力。

應(yīng)用層面，借助商湯在數(shù)據(jù)保護(hù)、數(shù)字取證及偽造檢測等技術(shù)領(lǐng)域的深厚積累，逐步開發(fā)了基于生成、鑒偽和溯源三位一體的綜合解決方案。

目前，商湯SenseTrust相關(guān)技術(shù)已服務(wù)于“商湯秒畫SenseMirage”文生圖平臺、“商湯如影SenseAvatar”數(shù)字人等多個(gè)產(chǎn)品，以及內(nèi)容創(chuàng)作、大數(shù)據(jù)客戶，以及銀行安全系統(tǒng)。

商湯也將持續(xù)通過“商湯AI安全治理開放平臺”等多種形式，為行業(yè)提供AI治理公益技術(shù)服務(wù)，推動建設(shè)安全可信的人工智能產(chǎn)業(yè)生態(tài)。

（商湯科技）