自2014年成立以來，北京中關村科金技術有限公司（以下簡稱中關村科金）就選擇專注于企業服務賽道提供對話場景服務，聚焦生成式AI技術，包括領域大模型、大數據分析、多模態交互三大核心技術。如今基于這三大類核心技術，已形成了一套完備的技術體系，并構建了一個基礎的技術底座——即生成式的得助對話引擎。

基于得助對話引擎中關村科金打造了三大產品矩陣，包括數字化洞察與營銷、數字化服務與運營、數“智”底座，升級推出全新的云呼叫中心、全媒體智能客服、智能外呼機器人、智能質檢、智能陪練、智能音視頻等一系列產品和服務，覆蓋了用戶服務的全生命周期，包括售前、售中、售后等環節，被廣泛應用于金融、政務、零售、大健康、制造等行業。

“通過新一代的得助對話引擎，我們正在從傳統的對話引擎邁向大模型的對話引擎，用一套對話引擎支持多種業務系統，業務系統會基于行業線進行拆分，在不同的行業線還推出了私有化和SaaS化的版本。”中關村科金技術副總裁張杰介紹，通過一套技術體系對產品進行能力賦能具有很多優勢，以前產品矩陣的底層有幾百個定制化模型，運維起來非常麻煩，現在可以統一用一套大模型就搞定了。

為何執著于打造領域大模型？

自 2018 年開始，預訓練模型逐漸興起，起初用的比較多的是判別式模型，例如 BERT 模型。近幾年，預訓練模型幾乎是以爆發式的速度增長，參數規模逐年上漲。尤其是去年 11 月底，ChatGPT 火爆出圈成為革命式的事件，基于 GPT 出色的生成效果，很多傳統的 NLP 任務都規劃到了生成模型中。

其實早在ChatGPT出現之前，中關村科金就已經認識到大模型是個大趨勢，決定把公司已有產品的底層核心引擎全部轉移到大模型上，這一路線與很多All in AI的公司是一樣的，但不一樣的是中關村科金聚焦的是領域大模型，而非通用大模型。

目前，雖然AI大模型在文學、醫學、數學、計算機科學等領域表現了出前所未有的理解與創造能力，但現階段大模型面臨的挑戰是巨大的。

首先，訓練大大模型對算法和算力都有著極高的需求。據OpenAI團隊發表于2020年的論文《Language Models are Few-Shot Learners》，訓練一次1746億參數的GPT-3模型需要的算力約為3640 PFlop/s-day，成本約為460萬美元，以此現狀來看，目前市場上的大多數企業是無法承受如此高昂的算力及成本消耗的。

其次，除了算法和算力外，數據對于訓練大模型也至關重要。而現在獲取與管理數據的成本也在持續增加。還是以GPT為例，OpenAI公司在數據標注上已投入數千萬美金，據悉，標注一個強化學習數據成本高達50美元。

第三，大模型所涉及的倫理、道德、安全等問題也在受到越來越多的關注。

張杰認為，從長遠來看，通用大模型確實能給行業帶來巨大的價值，但從目前來看，通用大模型在處理專業問題方面還不是很聰明，不能滿足企業對專業性、合規性、規模化的需求。相反領域大模型不僅不需要依賴特別大的算力和參數，還能切實解決領域內某幾類細分場景的問題。比如財富管理領域的大模型只需要50 億參數規模就能很好地用于營銷、客服等場景，那就沒必要做成1000億參數 ，避免用大炮打蚊子，節省算力消耗的資源。

與通用語言模型相比，領域大模型更專注于某個特定領域的知識和技能，具備更高的領域專業性和實用性。

在進行領域模型探索的同時，中關村科金也沒有忽略應用層。2022 年，在中關村科金 AI 平臺能力中心的主導下，公司的智能外呼、智能客服、智能質檢、智能陪練等產品通過自研的對話引擎全面擁抱大模型，充分挖掘企業各類對話場景數據價值，幫助企業實現更加智能的溝通、成本更低的運營維護。

大模型高不可攀，領域模型卻能彎道超車

自ChatGPT崛起后，人工智能才真正地走在了聚光燈下。

當前，僅國內號稱投入大模型的廠商就多達30多家。按照參數量和應用領域的不同，大模型市場正迅速分化為通用大模型與領域大模型兩種路徑。雖然通用大模型在許多領域都有著卓越性能表現，但在專業和更加細分的垂直領域，通用大模型所表現出的能力卻差強人意。

與“一本正經地胡說八道”的大模型相比，企業客戶顯然更傾向于針對某一特定領域或任務專門定制的領域大模型。與通用大模型相比，領域大模型對算力和算法的要求沒有那么高，而對于數據的要求較為苛刻。

據張杰介紹，To B場景下，訓練一個領域模型更要有一些高質量的、小規模的數據，但數據標注成本比較高，不是每家AI公司都有能力自建團隊去做，這是中關村科金能做大模型應用的一個門檻和優勢。

中關村科金新一代得助對話引擎的核心能力是：領域CoT + 領域大模型 + 領域知識庫 + 領域能力套件。通過將領域的know-how轉化為領域CoT，使大模型具有更復雜的業務問題解決能力；通過外掛知識庫的形式，把事實性知識的流程性知識都放在領域知識中臺內，大模型用來做抽取、調度和生成，然后下游業務系統通過API獲取結果，以保證業務知識的實時性、可靠性；通過領域能力套件，打通大模型和企業已有系統的融合，建立模型和企業已有業務系統的無縫鏈接，將大模型的能力充分釋放到各個業務系統中。

把某一特定領域高質量的領域常識數據灌到大模型里訓練，就可以讓模型具備更多的領域知識，學到領域的語言特色，對領域數據的理解能力和生成能力也會提升。得助對話引擎主要特點是以大模型為中心，傳統對話引擎相關的意圖識別、對話狀態跟蹤和話術生成等任務全部由大模型進行判別和自主執行。

除了將通用大模型這個“文科生”變成領域專家外，保證整個對話過程的可用、可信、無害和可靠，中關村科金還自主研發了領域prompt工程組件，可以有效將對話能力約束到領域邊界內，使大模型可以在業務規范下，安全、可靠地完成對話任務。據張杰介紹，在新一代得助對話引擎的設計中，充分考慮到實際業務情況，輕量化部署本地化大模型是未來企業的強烈需求，中關村科金研發了本地化大模型的快速優化套件，主要包括領域知識的注入能力、領域prompt生成能力、領域指令自主生成能力、領域指令微調能力和領域規范行為對齊能力，可以幫助企業快速構建適合于自身業務場景的大模型，降低大模型在企業的落地門檻。

值得一提的是，通過“學、教、用”三步走路徑，得助對話引擎可以幫助企業構建“超級員工”，助力企業提升服務價值。

第一步：學，大模型在領域數據上的無監督學習，這一步的重點是讓大模型從散落在各處的數據源中萃取出領域事實性知識，如各種培訓材料、行業通用知識等，讓大模型能夠理解領域知識，成為一個具備領域知識的“普通員工”。

第二步：教，從人類反饋中以小規模有監督學習的方式做微調。“普通員工”依托專業的產品設計，不斷和人類專家進行閉環反饋。基于人類專家的反饋，它能夠不斷地獲得提升，逐步成為“超級員工”。

第三步：用，在特定場景下以機器人或助手的方式應用。這一步的關鍵點是產品設計，如何合理的為人類員工和數字員工分配任務，實現能力互補，并且讓數字員工從業績反饋中持續學習。

張杰坦言，“使用大模型以后，已有的對話產品中定制化建模的成本降低了，而且之前技術達不到要求的對話場景現在也可以做數智化嘗試，AI 落地的商業空間更大了。”

在企業的數字化轉型進入深水區后，大模型之間的競爭也將進入白熱化。想要訓練一款性能卓越的通用大模型，無論是技術和資本上的投入都是巨大的，這對于普通的中小企業來說是無異于無底洞。在此情況下，創新型企業可以選擇換條賽道，以領域大模型為切入口，與大廠形成錯位競爭，根據市場定位和行業發展趨勢，提供有差異化和有競爭力的定制化大模型，以此尋求彎道超車的機會，實現業務的更快增長。

領域大模型的未來趨勢展望

我們看到，大模型的廣泛落地帶來了工作方式的革新，大模型正在重塑企業生產關系，重構商業格局。

大模型混戰之際，業界也在討論和預測大模型的終局。張杰的判斷是，未來會呈現出基礎大模型多家并存、領域模型百花齊放的狀態。

“基礎大模型，特別是多模態基礎大模型，未來應該只有幾家公司做，因為做基礎大模型需要大量的數據、算力和人才，這些組合資源極少部分企業能夠承擔得起。因此，未來一定是有數據、有算力、有人才的公司，更可能去構建出基礎大模型。基礎大模型未來會聚焦在提升多模態能力、挖掘復雜推理能力，以及構建應用生態圈。”

基礎大模型如果想用在實際業務中，還有很多方向需要適配，例如在法律、醫療、金融、政務等領域，很多工作流程邏輯復雜，且對數據敏感性、業務可解釋性要求高，基礎大模型在這些場景無法直接商用。

這就給未來其他企業留下了空間。如何根據實際的業務，將大模型轉化成一種具有高效的計算方式的小模型，小模型再根據專業知識做注入、指令微調、思維鏈提升、對齊等，使其更適配某一領域的規范約束。

對此問題，中關村科金需要思考的是，如何發揮自身優勢，在領域內如何積累數據，如何沉淀領域知識，如何將領域知識注入到大模型上，以此構建自己的技術護城河。

“可以暢想，未來大模型領域會是一個百花齊放的局面。個別頭部企業會去做大模型，其他企業根據大模型的能力提升每個領域的中小模型，中小模型再結合領域的知識，變得更專業化，這是一個大趨勢。”張杰如是展望。