隨著數(shù)據(jù)的井噴、算法的進(jìn)步和算力的突破，效果好、泛化能力強(qiáng)、通用性強(qiáng)的預(yù)訓(xùn)練大模型（以下簡(jiǎn)稱“大模型”）已成為人工智能發(fā)展的新方向。4月16日，2021百度認(rèn)知AI創(chuàng)意賽“AI創(chuàng)意派”決賽正式舉行，這是業(yè)內(nèi)首次將先進(jìn)的AI大模型能力開放給公眾使用，實(shí)現(xiàn)了大模型在激發(fā)創(chuàng)意、落地應(yīng)用上的突破。文心大模型首場(chǎng)技術(shù)開放日也同期舉行，文心大模型背后的“技術(shù)天團(tuán)”首次集中亮相，解讀大模型無限創(chuàng)意背后的硬核AI技術(shù)。

大模型助力創(chuàng)意應(yīng)用，為創(chuàng)意插上騰飛羽翼

元宇宙虛擬人生、AI版“反詐App”、續(xù)寫一本小說、神奇植物都有啥……這些趣味DEMO和落地方案，均是由AI創(chuàng)意派參賽選手基于百度飛槳文心大模型開發(fā)創(chuàng)造的。據(jù)統(tǒng)計(jì)，本次AI創(chuàng)意賽共吸引全國(guó)各地近2000名不同年齡、不同技術(shù)基礎(chǔ)的選手參與其中，收集超過300份創(chuàng)意方案，作品覆蓋教育、醫(yī)療、金融、娛樂、科技、心理健康等多個(gè)領(lǐng)域。最終，開發(fā)創(chuàng)意組9組選手脫穎而出闖入決賽，最終“說文”、“圖言”、“AI起論文標(biāo)題”等項(xiàng)目摘得大獎(jiǎng)。

百度集團(tuán)副總裁吳甜在比賽現(xiàn)場(chǎng)表示，“創(chuàng)意在民間。人工智能和大模型要面向公眾開放，只有門檻低到了所有人都可方便地用起來，才能真正大規(guī)模爆發(fā)出各種創(chuàng)意。這是文心大模型的努力方向。文心源于產(chǎn)業(yè)實(shí)踐，也將在產(chǎn)業(yè)中廣泛落地。本次創(chuàng)意賽中，選手展現(xiàn)了基于文心大模型的豐富創(chuàng)意，讓我們看到了大模型廣泛應(yīng)用的前景。”

本次創(chuàng)意賽邀請(qǐng)了中國(guó)國(guó)家博物館、國(guó)博(北京)文化產(chǎn)業(yè)發(fā)展中心創(chuàng)意設(shè)計(jì)部總監(jiān)白藕，天津大學(xué)北洋講席教授、智能與計(jì)算學(xué)部副主任兼人工智能學(xué)院院長(zhǎng)胡清華，哈爾濱工業(yè)大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院人工智能專業(yè)負(fù)責(zé)人張宇，南方科技大學(xué)科學(xué)與人類想象力研究中心主任吳巖，線性資本董事總經(jīng)理黃松延，百度技術(shù)委員會(huì)主席吳華，百度飛槳總架構(gòu)師于佃海，百度高校合作部總監(jiān)李軒涯等來自產(chǎn)業(yè)、學(xué)術(shù)以及投資方等各界嘉賓作為評(píng)委專家，對(duì)參賽項(xiàng)目做出了精彩的點(diǎn)評(píng)。多位評(píng)委專家表示，大模型是目前AI行業(yè)發(fā)展的新趨勢(shì)。通過本次創(chuàng)意賽，挖掘了多支具備開發(fā)和創(chuàng)意雙重實(shí)力的參賽隊(duì)伍，豐富了大模型落地的想象空間。

獲得本次AI創(chuàng)意賽冠軍“頂尖派”的參賽項(xiàng)目“說文”的代表卓君表示，百度飛槳開放了ERNIE 3.0知識(shí)增強(qiáng)大模型能力，不僅讓我們體會(huì)到了大模型的真正實(shí)力，也讓每一位對(duì)AI感興趣的人都可以充分發(fā)揮創(chuàng)造力，去實(shí)現(xiàn)關(guān)于文字、語言的創(chuàng)意想法。

自2019年，百度便深耕大模型研發(fā)并成功打造文心大模型家族。目前，文心大模型已成為產(chǎn)業(yè)級(jí)知識(shí)增強(qiáng)大模型，包含NLP（自然語言理解）大模型、CV（計(jì)算機(jī)視覺）大模型、跨模態(tài)大模型，既有基礎(chǔ)通用的大模型，也包含面向重點(diǎn)領(lǐng)域、重點(diǎn)任務(wù)的大模型，以及豐富的工具與平臺(tái)。

與行業(yè)其他大模型相比，文心大模型具備“知識(shí)增強(qiáng)”的核心特色。文心大模型基于大規(guī)模知識(shí)和海量無結(jié)構(gòu)數(shù)據(jù)的融合深度學(xué)習(xí)，不斷吸收文本數(shù)據(jù)中詞匯、結(jié)構(gòu)、語義等方面的知識(shí)，使得文心大模型的理解能力和生成能力不斷進(jìn)化提升，并面向不同人群提供豐富的工具組件及平臺(tái)，助力各行各業(yè)的創(chuàng)意應(yīng)用。

以此次創(chuàng)意賽所使用的ERNIE 3.0為例，作為NLP大模型中的一員，不僅擁有很強(qiáng)的語言理解能力，還能夠?qū)崿F(xiàn)視頻、歌詞、藝術(shù)畫等創(chuàng)意作品的自動(dòng)生成，用AI為創(chuàng)意插上騰飛羽翼。尤其是在AIGC（AI generated content，人工智能創(chuàng)造內(nèi)容）領(lǐng)域，借助大模型的跨模態(tài)綜合技術(shù)能力，可以激發(fā)創(chuàng)意，提升內(nèi)容多樣性，降低制作成本，實(shí)現(xiàn)大規(guī)模應(yīng)用。如在本次AI創(chuàng)意賽中，就涌現(xiàn)了像傳記生成、高考志愿推薦、心理樹洞等諸多創(chuàng)意應(yīng)用。

吳甜還演示了近期在海外引發(fā)關(guān)注的“虎年春晚上的中國(guó)文化”視頻，該視頻由百度研究院的智能視頻合成平臺(tái)VidPress自動(dòng)生成，背后就使用了文心大模型的文本摘要、語義分析和跨模態(tài)理解等多項(xiàng)技術(shù)，打開了AIGC智能創(chuàng)作想象空間。

在現(xiàn)場(chǎng)的大模型互動(dòng)區(qū)，觀眾也可以親身體驗(yàn)到大模型在歌詞生成、畫作生成和對(duì)話機(jī)器人等應(yīng)用，同時(shí)文創(chuàng)集市上也展現(xiàn)了基于大模型能力生成的T恤、馬克杯、帆布袋、畫冊(cè)、明信片等創(chuàng)意周邊，切身感受大模型在創(chuàng)意領(lǐng)域的落地應(yīng)用。

深耕產(chǎn)業(yè)級(jí)大模型，文心大模型實(shí)現(xiàn)技術(shù)、落地雙領(lǐng)先

作為國(guó)內(nèi)最早開始進(jìn)行大模型研發(fā)的科技企業(yè)之一，百度在2019年3月率先發(fā)布中國(guó)首個(gè)正式開放的預(yù)訓(xùn)練模型ERNIE1.0，并持續(xù)投入于大模型的研發(fā)升級(jí)。2021年12月，ERNIE 3.0升級(jí)為全球首個(gè)知識(shí)增強(qiáng)千億大模型，成為目前為止全球最大的中文單體模型，在60多項(xiàng)權(quán)威的自然語言理解和生成任務(wù)上取得了世界領(lǐng)先效果。

目前，文心系列模型中已有多個(gè)大模型達(dá)到世界領(lǐng)先水平。例如，百度打造了全球首個(gè)百億參數(shù)中英文對(duì)話大模型PLATO-XL，首個(gè)聚焦中英文場(chǎng)景大規(guī)模OCR結(jié)構(gòu)化預(yù)訓(xùn)練模型VIMER - StrucTexT，全球最大規(guī)模中文跨模態(tài)生成模型ERNIE-ViLG等。

超大規(guī)模模型的訓(xùn)練和推理，給深度學(xué)習(xí)框架帶來很大考驗(yàn)。在文心大模型的背后，我國(guó)首個(gè)自主研發(fā)、功能豐富、開源開放的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái)飛槳提供了有力支撐。飛槳研制了端到端自適應(yīng)分布式訓(xùn)練框架，實(shí)現(xiàn)多硬件支持，并行效率高達(dá)90%，有效支持文心大模型高效、穩(wěn)定訓(xùn)練。基于飛槳與百舸集群，文心大模型在算法、框架、算力層面實(shí)現(xiàn)完全自主技術(shù)創(chuàng)新，為中國(guó)產(chǎn)業(yè)智能化轉(zhuǎn)型打造AI大底座。

除了技術(shù)上的不斷創(chuàng)新，文心大模型作為“產(chǎn)業(yè)級(jí)”大模型，驅(qū)動(dòng)AI規(guī)模化落地應(yīng)用是其核心價(jià)值。截至目前，文心大模型已支持?jǐn)?shù)百家企業(yè)與機(jī)構(gòu)，開發(fā)者數(shù)量超過6萬，已在數(shù)百個(gè)場(chǎng)景中落地應(yīng)用，產(chǎn)業(yè)應(yīng)用數(shù)量居業(yè)界首位。

據(jù)吳甜介紹，文心大模型已大規(guī)模應(yīng)用于百度內(nèi)部的各類產(chǎn)品，包含搜索、信息流、小度智能屏、百度地圖等，顯著提升了產(chǎn)品智能化體驗(yàn)。基于文心的開放能力，對(duì)外的日調(diào)量超過了五千萬次。文心大模型現(xiàn)已通過飛槳平臺(tái)、百度智能云賦能工業(yè)、能源、金融、通信、媒體、教育等各行各業(yè)。

除了AI創(chuàng)意派的決賽活動(dòng)，4月16日上午，百度還舉辦了首場(chǎng)文心大模型技術(shù)開放日，文心大模型背后的“技術(shù)天團(tuán)”首次集中亮相，百度技術(shù)委員會(huì)主席吳華，百度計(jì)算機(jī)視覺首席科學(xué)家王井東，百度飛槳總架構(gòu)師于佃海，百度杰出研發(fā)架構(gòu)師孫宇分享了大模型技術(shù)發(fā)展趨勢(shì)洞察、文心大模型最新技術(shù)突破及產(chǎn)業(yè)應(yīng)用實(shí)踐，為技術(shù)愛好者帶來一場(chǎng)干貨滿滿的AI技術(shù)盛宴。

從AI核心技術(shù)到AI基礎(chǔ)平臺(tái)，堅(jiān)持技術(shù)創(chuàng)新及開放生態(tài)，百度文心大模型正不斷降低AI技術(shù)開發(fā)和應(yīng)用的門檻，保持技術(shù)迭代和創(chuàng)新突破，更強(qiáng)有力地支撐人工智能技術(shù)的高速發(fā)展及產(chǎn)業(yè)應(yīng)用。