2023-09-08 09:44:18
2023騰訊全球數(shù)字生態(tài)大會「行業(yè)大模型及智能應(yīng)用專場」于9月7日舉行,會上,騰訊云與中國信通院(以下簡稱“信通院”)共同發(fā)布了《行業(yè)大模型標準體系及能力架構(gòu)研究報告》,參考了騰訊云在行業(yè)大模型產(chǎn)業(yè)應(yīng)用領(lǐng)域的實踐和經(jīng)驗,為客戶構(gòu)建行業(yè)大模型提供了標準化流程、綜合評估方法,以便更好地幫助行業(yè)伙伴構(gòu)建專屬大模型。
生態(tài)大會上,騰訊還首次對外公布了騰訊混元大模型進展,并宣布從技術(shù)底座、平臺能力、智能應(yīng)用三大維度升級MaaS能力?;谧匝序v訊混元大模型,同時支持業(yè)內(nèi)20余款主流開源模型,助力客戶構(gòu)建專屬大模型及智能應(yīng)用,加速模型產(chǎn)業(yè)落地,推進“效能革命”。
隨著人工智能模型規(guī)模逐漸增大,性能顯著提升,各行各業(yè)迎來了新的發(fā)展機遇。相比于通但不精的通用大模型,更專注、更專業(yè)的行業(yè)大模型在特定產(chǎn)業(yè)場景具有廣泛的應(yīng)用和商業(yè)創(chuàng)新價值。但行業(yè)大模型落地到真實場景里,客戶仍面臨著投入成本高、計算資源少、數(shù)據(jù)質(zhì)量差、專業(yè)人才稀缺等問題?;谛袠I(yè)用戶的痛點,騰訊云與通信院開展了行業(yè)大模型標準體系及能力架構(gòu)的研究,幫助企業(yè)解決行業(yè)大模型應(yīng)用問題,提升企業(yè)使用大模型進行數(shù)字化轉(zhuǎn)型的效率。
行業(yè)大模型的構(gòu)建,對行業(yè)數(shù)據(jù)、計算資源和部署運維等提出較高的要求,這對于很多企業(yè)來說有一定的門檻,而且當前缺乏面向行業(yè)大模型的構(gòu)建方法和流程的指導方案,企業(yè)不清楚如何著手構(gòu)建行業(yè)大模型?;诖藛栴},騰訊云與信通院針對垂直領(lǐng)域的行業(yè)大模型,建立標準化流程,指導企業(yè)建設(shè)大模型能力。
構(gòu)建行業(yè)大模型首先需要對業(yè)務(wù)需求和資源進行評估,具體包括業(yè)務(wù)需求評估、算力層評估、算法層評估、數(shù)據(jù)層評估和工程層評估等。
「業(yè)務(wù)需求評估」需要結(jié)合實際場景和需求,對業(yè)務(wù)數(shù)據(jù)、業(yè)務(wù)指標、業(yè)務(wù)服務(wù)方式進行明確,通過算力層、算法層、數(shù)據(jù)層和工程層的評估,確定所選用的基礎(chǔ)模型和精調(diào)算法,根據(jù)數(shù)據(jù)安全隱私、數(shù)據(jù)質(zhì)量等問題,確定平臺適配性和訓練流。
行業(yè)數(shù)據(jù)與大模型的共建包括明確場景目標、模型選擇、訓練環(huán)境搭建、數(shù)據(jù)處理等環(huán)節(jié)。行業(yè)數(shù)據(jù)與大模型的共建,首先需要明確行業(yè)大模型實際應(yīng)用場景及模型評價目標,在模型庫中選擇合適的基礎(chǔ)大模型,通過硬件環(huán)境的搭建和軟件平臺的構(gòu)建,將數(shù)據(jù)加工為模型訓練所需數(shù)據(jù),最后進行特定場景行業(yè)大模型的訓練共建,包括數(shù)據(jù)上傳訓練平臺、準備訓練代碼和環(huán)境、發(fā)起模型訓練任務(wù)、存儲訓練后的模型、測評訓練后的模型等關(guān)鍵環(huán)節(jié)。
行業(yè)大模型的精調(diào)與優(yōu)化部署,其中包括模型精調(diào)、模型評估、模型重訓優(yōu)化、模型聯(lián)調(diào)部署、模型應(yīng)用運營等階段。行業(yè)大模型精調(diào)與優(yōu)化部署,具體根據(jù)業(yè)務(wù)需求和資源的評估情況以及對行業(yè)數(shù)據(jù)與大模型的共建,利用前期準備的特定行業(yè)特定場景數(shù)據(jù)進行大模型的訓練精調(diào),并且對其生成的模型進行評估與多輪迭代訓練優(yōu)化。隨后對模型進行推理服務(wù)部署、服務(wù)配置、應(yīng)用服務(wù)聯(lián)調(diào),并對已上線的模型服務(wù)提供監(jiān)控、管理、運營維護等能力。
隨著大模型的快速興起,業(yè)界也意識到,創(chuàng)新技術(shù)的發(fā)展離不開標準化的推動,大模型標準體系的建設(shè)和完善,對于推動大模型應(yīng)用落地,加速大模型與行業(yè)應(yīng)用融合,促進產(chǎn)業(yè)向標準化、合規(guī)化、規(guī)?;较虬l(fā)展,具有重要意義。
信通院作為國家信息通信領(lǐng)域的重要研究機構(gòu),一直關(guān)注AI技術(shù)的發(fā)展和應(yīng)用,特別是大模型技術(shù)的創(chuàng)新和推廣。聚焦基礎(chǔ)大模型在實際需求中的“建、用、管”等關(guān)鍵環(huán)節(jié),信通院從多個方向牽頭構(gòu)建和完善大模型的標準體系,騰訊全程并深度參與整個標準工作,聚焦工程化應(yīng)用,圍繞模型開發(fā)、模型能力、模型運營、模型應(yīng)用、模型可信五方面形成標準指標體系,全面評估大模型的綜合水平。
金融、文旅、政務(wù)、傳媒、電信、教育、汽車等行業(yè)大模型標準和評測指標,對于推動行業(yè)大模型的高質(zhì)量發(fā)展和提升用戶體驗,提升數(shù)智化水平起著關(guān)鍵作用。一方面,行業(yè)大模型標準可用于指導第三方測評機構(gòu)對特定行業(yè)大模型能力的評估、驗收等工作,另外一方面,評測指標則可考察模型在各應(yīng)用場景的覆蓋情況,以及在數(shù)據(jù)處理、數(shù)據(jù)合規(guī)、數(shù)據(jù)隱私和安全性等方面的表現(xiàn)。
“我們希望行業(yè)大模型標準體系及能力架構(gòu)研究,能夠幫助行業(yè)伙伴解決如何將大模型能力“應(yīng)用”到自身的行業(yè)和場景里的問題,可以更有效地解決成本、數(shù)據(jù)、安全,合規(guī)等大模型實際落地難題。通過建立標準體系,為行業(yè)大模型的建設(shè)和應(yīng)用提供指引和支持。”騰訊法務(wù)副總裁江波提到。
在20多個行業(yè)落地大模型的同時,騰訊云一直都在積極參與、推動行業(yè)大模型標準建設(shè)。早在2020年,騰訊就被選舉為全國信標委人工智能分委會委員兼副秘書長,國家在推進包括人工智能新基建的過程中,騰訊作為核心成員,承擔了很多標準制定工作及技術(shù)引領(lǐng)作用。
前不久,騰訊云就與中國信通院共同啟動了行業(yè)大模型標準聯(lián)合推進計劃,并聯(lián)合信通院牽頭開展國內(nèi)首個金融行業(yè)大模型標準,為金融行業(yè)智能化的高質(zhì)量規(guī)范化發(fā)展提供重要支撐。
中國信息通信研究院云計算與大數(shù)據(jù)研究所所長何寶宏表示,隨著人工智能技術(shù)的快速發(fā)展,行業(yè)大模型已成為推動產(chǎn)業(yè)升級的重要驅(qū)動力。為了規(guī)范和引領(lǐng)行業(yè)大模型的健康、可持續(xù)發(fā)展,有必要構(gòu)建行業(yè)大模型的標準體系,以科學評價大模型技術(shù)能力和應(yīng)用效果。愿本次研究成果,助力大模型產(chǎn)業(yè)發(fā)展和生態(tài)建設(shè)。
特別提醒:如果我們使用了您的圖片,請作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。
歡迎關(guān)注每日經(jīng)濟新聞APP