大模型企業(yè)實(shí)踐系列分享（二）：深藍(lán)海域的創(chuàng)新技術(shù)方案探索

• 2023年11月29日 來(lái)源：互聯(lián)網(wǎng) 1029 65
• 繁體

今年以來(lái),大模型如雨后春筍在海內(nèi)外得到廣泛應(yīng)用,但直接落地到企業(yè)存在諸多痛點(diǎn):對(duì)業(yè)務(wù)場(chǎng)景理解有限,知識(shí)產(chǎn)出質(zhì)量較差;企業(yè)核心知識(shí)又難以共享,外部模型的使用存在安全與合規(guī)風(fēng)險(xiǎn)。為解決這些痛點(diǎn),將大模型與企業(yè)內(nèi)部知識(shí)庫(kù)深度融合,可發(fā)揮各自技術(shù)優(yōu)勢(shì),實(shí)現(xiàn)快速遷移。作為企業(yè)級(jí)知識(shí)管理系統(tǒng)的領(lǐng)軍企業(yè),深藍(lán)海域進(jìn)行了系列技術(shù)探索,有效推動(dòng)了模型與知識(shí)庫(kù)的零成本融合。

?

一、大模型與企業(yè)知識(shí)庫(kù)融合的技術(shù)挑戰(zhàn)

眾所周知，企業(yè)內(nèi)部構(gòu)建的知識(shí)庫(kù)中往往存有大量結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù),覆蓋了各類(lèi)業(yè)務(wù)規(guī)則、流程、案例等專(zhuān)業(yè)信息,可以為模型提供海量的優(yōu)質(zhì)培訓(xùn)素材。但實(shí)現(xiàn)落地應(yīng)用仍存在諸多技術(shù)難題:

1. 專(zhuān)業(yè)知識(shí)的理解與適配

大模型對(duì)企業(yè)專(zhuān)業(yè)知識(shí)的理解有限,而知識(shí)庫(kù)中的業(yè)務(wù)概念復(fù)雜多樣，如何使模型快速適配專(zhuān)業(yè)知識(shí),提高輸出質(zhì)量,是實(shí)現(xiàn)高效融合的難點(diǎn)之一。

2. 多源異構(gòu)數(shù)據(jù)的統(tǒng)一管理

企業(yè)的數(shù)據(jù)不僅存在于知識(shí)庫(kù)中,還分布在公司的多個(gè)異構(gòu)系統(tǒng)和數(shù)據(jù)庫(kù)里。如何將這些多源異構(gòu)的數(shù)據(jù)(不僅限于知識(shí))進(jìn)行有效地關(guān)聯(lián)和挖掘,并最終統(tǒng)一匯總到一個(gè)集成的平臺(tái)或模型中,實(shí)現(xiàn)企業(yè)數(shù)據(jù)和知識(shí)的有效連接、管理和應(yīng)用。

3. 數(shù)據(jù)隔離與安全管控

企業(yè)知識(shí)庫(kù)中存有大量業(yè)務(wù)機(jī)密與核心競(jìng)爭(zhēng)信息,需要確保數(shù)據(jù)安全。而公開(kāi)大模型的訓(xùn)練和使用會(huì)產(chǎn)生數(shù)據(jù)泄露風(fēng)險(xiǎn)。如何在模型培訓(xùn)與使用中實(shí)現(xiàn)數(shù)據(jù)的隔離與管控,是企業(yè)應(yīng)用的首要難題。

4. 技術(shù)環(huán)境差異與成本高昂

大模型的訓(xùn)練與部署對(duì)算力提出極高要求,與企業(yè)技術(shù)環(huán)境存在差異。而部署和遷移大模型需要占用大量計(jì)算資源,存在一定成本，因此，如何縮減技術(shù)接入成本是一個(gè)難點(diǎn)。

5. 用戶交互的連續(xù)性與上下文理解

知識(shí)問(wèn)答與會(huì)話式交互對(duì)上下文理解和連續(xù)性有更高要求。如何實(shí)現(xiàn)深度交互式問(wèn)答也是一個(gè)難點(diǎn)。

總體來(lái)說(shuō),實(shí)現(xiàn)零成本落地,提升質(zhì)量,保證安全,是大模型與企業(yè)知識(shí)庫(kù)融合面臨的核心技術(shù)挑戰(zhàn)。業(yè)內(nèi)亟需突破與創(chuàng)新來(lái)推動(dòng)大型模型真正進(jìn)入應(yīng)用領(lǐng)域。

二、深藍(lán)海域的技術(shù)方案的創(chuàng)新實(shí)踐

為促進(jìn)大模型順利落地企業(yè)知識(shí)管理,減少甚至消除接入成本,深藍(lán)海域進(jìn)行了一系列技術(shù)創(chuàng)新，實(shí)現(xiàn)模型與知識(shí)庫(kù)的深度融合。

1. 搜索引擎技術(shù)的應(yīng)用與創(chuàng)新

傳統(tǒng)搜索依賴(lài)關(guān)鍵詞匹配存在局限性。深藍(lán)海域整合全文搜索、原子化搜索、大模型問(wèn)答、知識(shí)加工等多種搜索模式，實(shí)現(xiàn)了大模型生成答案結(jié)果的溯源，查閱追蹤其引用、參考的知識(shí)來(lái)源等，平衡可信與創(chuàng)新。值得一提的是深藍(lán)小魚(yú)智答系統(tǒng)通過(guò)預(yù)訓(xùn)練模型和領(lǐng)域知識(shí)微調(diào)，實(shí)現(xiàn)了對(duì)專(zhuān)業(yè)知識(shí)的精準(zhǔn)表達(dá)和建模。

2.向量檢索與知識(shí)切分技術(shù)

深藍(lán)海域利用不同算法對(duì)企業(yè)知識(shí)進(jìn)行細(xì)粒度切分,使每個(gè)知識(shí)點(diǎn)簇都可以被獨(dú)立向量化表達(dá)。這就實(shí)現(xiàn)了對(duì)非結(jié)構(gòu)化專(zhuān)業(yè)知識(shí)的精準(zhǔn)表示和建模。同時(shí),不同粒度的知識(shí)切分也參與向量空間的統(tǒng)一建構(gòu)。搜索時(shí),可以準(zhǔn)確匹配每個(gè)知識(shí)碎片的語(yǔ)義信息。這就像拼圖游戲一樣,從細(xì)微處出發(fā),最終達(dá)成對(duì)企業(yè)整體知識(shí)圖譜的還原和重構(gòu)。這樣,就能夠在海量的知識(shí)碎片中定位到用戶提問(wèn)問(wèn)題相關(guān)性最強(qiáng)的片段，從而提供給大模型準(zhǔn)確的知識(shí)來(lái)源，用于解答用戶的問(wèn)題，減少大模型回答問(wèn)題的“幻覺(jué)”。

3. 系統(tǒng)架構(gòu)設(shè)計(jì)的安全與控制保障

深藍(lán)海域構(gòu)建了涵蓋數(shù)據(jù)采集、模型訓(xùn)練、預(yù)測(cè)服務(wù)的一整套安全系統(tǒng)架構(gòu)。環(huán)境全部運(yùn)行于企業(yè)內(nèi)部網(wǎng)絡(luò),實(shí)現(xiàn)了數(shù)據(jù)和模型的嚴(yán)密訪問(wèn)控制。數(shù)據(jù)流動(dòng)全程加密傳輸,算法模塊采用嚴(yán)格的權(quán)限控制，核心模型組件甚至可以做到單獨(dú)隔離。上述設(shè)計(jì)確保了從數(shù)據(jù)源到模型輸出的全鏈路安全,極大降低了核心知識(shí)泄密風(fēng)險(xiǎn),使得方案可以安全可控地應(yīng)用與企業(yè)生產(chǎn)環(huán)境。在使用大模型進(jìn)行提問(wèn)時(shí)，首先是由知識(shí)庫(kù)來(lái)決定哪些知識(shí)和知識(shí)原子是當(dāng)前用戶被授權(quán)使用的，只有得到授權(quán)的知識(shí)和知識(shí)原子才可以被大模型調(diào)用，用來(lái)生成答案。

4. 低成本模型遷移技術(shù)

深藍(lán)海域支持使用低成本的推理計(jì)算資源，快速落地體現(xiàn)成果，項(xiàng)目前期投入風(fēng)險(xiǎn)低。支持多種大模型集成對(duì)接，允許靈活的部署選擇大模型的尺寸，支持API調(diào)用、本地私有化部署，實(shí)現(xiàn)快速落地大模型的部署安裝與業(yè)務(wù)對(duì)接。這使得企業(yè)可以輕松使用先進(jìn)的對(duì)話模型,卻無(wú)需付出昂貴的技術(shù)與資源成本。

5. 對(duì)話增強(qiáng)技術(shù)的創(chuàng)新運(yùn)用

深藍(lán)海域提供多輪對(duì)話、全庫(kù)智答、知識(shí)加工等能力，支持上下文理解和連續(xù)性。系統(tǒng)能夠基于單篇知識(shí)內(nèi)容進(jìn)行詳細(xì)的提問(wèn)和解答，幫助用戶快速定位知識(shí)點(diǎn)，使得模型可以連貫理解會(huì)話流程，極大提高了復(fù)雜問(wèn)題、連環(huán)問(wèn)答的正確率，實(shí)現(xiàn)了從零開(kāi)始快速遷移模型至特定業(yè)務(wù)場(chǎng)景,避免全量重訓(xùn)帶來(lái)的高昂成本。

數(shù)據(jù)顯示,深藍(lán)海域大模型+企業(yè)知識(shí)庫(kù)技術(shù)方案與客戶的企業(yè)知識(shí)庫(kù)實(shí)現(xiàn)了零接入。應(yīng)用于某大型跨境貿(mào)易企業(yè)后,提升了客戶重復(fù)問(wèn)題自助解決率超60%。另一工業(yè)制造企業(yè)在應(yīng)用員工培訓(xùn)問(wèn)答平臺(tái)后,日均問(wèn)答量提升至3000+,整體工作效率顯著改善。

通過(guò)搜索引擎、對(duì)話增強(qiáng)等核心技術(shù)的創(chuàng)新應(yīng)用,深藍(lán)海域?qū)崿F(xiàn)了模型與知識(shí)庫(kù)的零成本對(duì)接,并解決了效率、質(zhì)量與安全的關(guān)鍵挑戰(zhàn)。此類(lèi)融合無(wú)疑是大模型落地企業(yè)的重要一環(huán)。

• 相關(guān)深度報(bào)告REPORTS

  

  2024-2029年版文具產(chǎn)品入市調(diào)查研究報(bào)告

  在市場(chǎng)競(jìng)爭(zhēng)日益激烈、新產(chǎn)品層出不窮的今天，要開(kāi)發(fā)一個(gè)新品并能迅速在市場(chǎng)上推廣其難度是可想而知的。只有經(jīng)過(guò)科學(xué)的市場(chǎng)分析、消費(fèi)者分析、競(jìng)爭(zhēng)對(duì)手的分析，做到有的放矢，才能使企業(yè)開(kāi)發(fā)的新...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡