开心六月综合激情婷婷|欧美精品成人动漫二区|国产中文字幕综合色|亚洲人在线成视频

大模型價(jià)格為何走向“厘時(shí)代”？

趙何娟：很高興今天能夠請(qǐng)到火山引擎的總裁譚待來到「何謂2024」的節(jié)目，火山引擎的大模型發(fā)布會(huì)，可以說引起了行業(yè)非常大的一個(gè)反響。其中最重要的一條就是開始卷價(jià)格戰(zhàn)了，大家可以看到最大的一個(gè)亮點(diǎn)，就是價(jià)格比同行能低到99%，為什么你們一開始選擇以最低價(jià)的方式來做市場(chǎng)的引爆？

譚待：我們發(fā)現(xiàn)，企業(yè)在AI應(yīng)用創(chuàng)新上會(huì)面臨兩大挑戰(zhàn)，一個(gè)就是模型的質(zhì)量，目前市場(chǎng)上主流的模型基本能達(dá)到“可用”的質(zhì)量水平；另一個(gè)就是以模型為首的創(chuàng)新成本。

目前AI還是一件很不確定的事情，失敗概率會(huì)比較高，如果用AI去做企業(yè)的創(chuàng)新通常90%會(huì)失敗?，F(xiàn)在很多企業(yè)去做一個(gè)AI驅(qū)動(dòng)的創(chuàng)新項(xiàng)目，可能至少要100億Token起，而且用完之后可能才能知道是否可行，如果按以前的價(jià)格來說，可能需要將近100萬元成本，但是如果能降成1萬塊錢，企業(yè)的創(chuàng)新門檻就大幅下降。

ToC的商業(yè)模式是把用戶規(guī)模做大，通過別的方式來變現(xiàn)，比如說廣告。但ToB的企業(yè)服務(wù)講究的是持續(xù)性，企業(yè)在乎的是能夠持續(xù)得到持續(xù)且質(zhì)量好，價(jià)格也穩(wěn)定的服務(wù)。因此即使一方面市場(chǎng)有需求，但另外一方面如果做不到，這個(gè)事也很難持續(xù)。所以實(shí)際上火山引擎是在整個(gè)模型的成本優(yōu)化上做了非常多的事情。

有的芯片內(nèi)存是瓶頸，有的芯片算力是瓶頸，把這兩類芯片組合在一起成本就能下降。因?yàn)橐?guī)模非常大，調(diào)用量非常大，把不同的調(diào)用量混合在一起就可以降低成本。

再比如有的人是白天工作時(shí)候用，有的人是晚上娛樂的時(shí)候用，還有人是大家都睡著的時(shí)候用，但是有些科研，有些這種離線的任務(wù)也可以來用，我們把這些不同的對(duì)大模型的調(diào)用負(fù)載混合在一起，成本又可以降低很多。所以我們做了這么多優(yōu)化之后發(fā)現(xiàn)我們可以做到這個(gè)事，從技術(shù)上我們可以做到，同時(shí)市場(chǎng)也需要你做到，那就應(yīng)該這么來做。

還要提供很多應(yīng)用的工具，包括插件，還有低代碼的扣子平臺(tái)，它可以讓你不會(huì)寫代碼，也能夠去開發(fā)自己的Agent，還包括一些腳手架的工具等等。

總體來說，需要持續(xù)做好三件事：更好的模型、更低的價(jià)格和更易落地的方案。

趙何娟：國(guó)內(nèi)的云服務(wù)廠商中火山云因?yàn)槿雸?chǎng)是最晚的，因?yàn)槿雸?chǎng)晚，就意味著規(guī)模肯定不如先發(fā)者，比如說阿里云。為什么阿里云規(guī)模效應(yīng)更強(qiáng)，但它的價(jià)格做不到那么低？你們現(xiàn)在能把價(jià)格做到這么低，本質(zhì)上來說還是有利潤(rùn)的，并不是在倒貼錢給客戶？

譚待：其實(shí)做云這個(gè)事情，最大的壁壘就是規(guī)模，規(guī)模大彈性就能好，彈性好成本也能低，也可以有資源，去讓更有更強(qiáng)的團(tuán)隊(duì)去不斷優(yōu)化成本。

火山雖然對(duì)外做得比較晚，但是其實(shí)火山是字節(jié)的一部分，對(duì)內(nèi)自用部分的時(shí)間和規(guī)模是可以綜合進(jìn)來的，當(dāng)時(shí)我加入字節(jié)的時(shí)候，就在討論說要不要進(jìn)入云這個(gè)市場(chǎng)？戰(zhàn)略團(tuán)隊(duì)就顧慮，我們做得比較晚，可能在規(guī)模上追有點(diǎn)難，但我說不應(yīng)該這么算。在技術(shù)上，我們可以把自有的規(guī)模和外部客戶的規(guī)模在安全可控的情況下做一定隔離，但是可以在資源上做混合的調(diào)度。所以這個(gè)時(shí)候去算規(guī)模，就不是去看純外部的規(guī)模，而是看整個(gè)所有的負(fù)載的規(guī)模。所以火山堅(jiān)持技術(shù)上一定要內(nèi)外統(tǒng)一。所以可以認(rèn)為不管是我們外部的客戶，比如說手機(jī)、汽車、零售、金融的客戶，還是內(nèi)部的，比如說抖音、頭條，其實(shí)都跑在火山引擎上。這樣綜合起來算，我們的服務(wù)器數(shù)其實(shí)就是中國(guó)第一，我們整體的服務(wù)器數(shù)，也看到了友商公布的服務(wù)器數(shù)。整體通盤有這個(gè)規(guī)模，自然就有把云，包括后面比如說現(xiàn)在把AI推理做好的底氣，只需要技術(shù)上不斷去優(yōu)化，去把這個(gè)規(guī)模的優(yōu)勢(shì)做好。

倒貼這個(gè)事情，其實(shí)是不可持續(xù)的，如同前面說過的，ToC模式往往是“羊毛出在豬身上”，就是把用戶免費(fèi)地拿過來之后，可以通過別的變現(xiàn)方式來做。ToB不是這樣的，售賣的是一個(gè)服務(wù)，而這個(gè)服務(wù)它得不管是從品、性能、服務(wù)的質(zhì)量，還是說價(jià)格上，都得是一個(gè)穩(wěn)定的。特別是云，它是一個(gè)可持續(xù)的。因?yàn)榭赡芸蛻艉灹藗€(gè)3年的合同，這中間是不能變的。所以要去定一個(gè)價(jià)格的時(shí)候，一定要是保證這個(gè)事情是有毛利的。當(dāng)然在這個(gè)階段的時(shí)候，最重要的是說我們其實(shí)想讓AI被更多的人能用起來，能有更多的創(chuàng)意，更多的創(chuàng)新出來，所以即使有利潤(rùn)我們也不會(huì)把它定特別高。

趙何娟：當(dāng)初為什么字節(jié)要進(jìn)入到云這個(gè)市場(chǎng)？畢竟字節(jié)是做ToC起家的，ToB業(yè)務(wù)邏輯完全不同。在當(dāng)時(shí)“后發(fā)”的情況下，你們是怎么說服張一鳴？我們雖然進(jìn)入公開市場(chǎng)晚，但是綜合基礎(chǔ)不差，一定能做成這個(gè)市場(chǎng)的？

譚待：首先是看這個(gè)市場(chǎng)重不重要，大不大？任何數(shù)字化底座一定是云，包括現(xiàn)在AI也是數(shù)字化的一部分，底座也是帶來大量的云的消耗，這個(gè)市場(chǎng)是非常大的，中國(guó)未來的云市場(chǎng)會(huì)占全球17%-18%，，這個(gè)比例非常高了，而且現(xiàn)在保持著一個(gè)非常高速的增長(zhǎng)。，有數(shù)據(jù)顯示，2025年后，全球整個(gè)云市場(chǎng)就要超過在線廣告的市場(chǎng)，所以這個(gè)空間是很大的。

而且云市場(chǎng)并不是一個(gè)贏者通吃的市場(chǎng)，馬太效應(yīng)不明顯，大企業(yè)一定會(huì)采取多云政策。一方面避免被一家“綁定”，無法拿到好價(jià)格，另一方面，每家云都有自己擅長(zhǎng)的地方。如果只用一家的話，就沒辦法采各家之所長(zhǎng)，也不利于企業(yè)的技術(shù)的創(chuàng)新。也就是說在空間很大的云市場(chǎng)，后來者也是有機(jī)會(huì)的。

這個(gè)市場(chǎng)值得做。但是怎樣才能做好？核心是戰(zhàn)略一定要有定力，因?yàn)門oB是一個(gè)很長(zhǎng)的事情，跟客戶合作，可能有的客戶得需要一年、兩年才能真正去做得比較深。所以戰(zhàn)略一定要穩(wěn)定，要知道能創(chuàng)造的價(jià)值是什么，擅長(zhǎng)是什么，不擅長(zhǎng)什么，什么是自己做，什么是伙伴來做，給客戶傳遞的是什么價(jià)值。

AI，云服務(wù)市場(chǎng)的下一個(gè)驅(qū)動(dòng)力

趙何娟：提到火山的戰(zhàn)略定力，哪些方向是火山比較明確的戰(zhàn)略方向？公有云應(yīng)該算一個(gè)吧？AI這個(gè)方向火山發(fā)聲比較早，是不是也算一個(gè)？

譚待：公有云肯定是火山的戰(zhàn)略方向之一，因?yàn)橐?guī)?；枪灿杏冒l(fā)展的基礎(chǔ)，前面也提到，這正好我們的優(yōu)勢(shì)，此外火山引擎確實(shí)花了很多精力去想什么是驅(qū)動(dòng)云技術(shù)變化和發(fā)展的下一個(gè)關(guān)鍵因素。上一個(gè)關(guān)鍵因素是互聯(lián)網(wǎng)，特別是移動(dòng)互聯(lián)網(wǎng)下一個(gè)大的關(guān)鍵點(diǎn)是什么？在自動(dòng)駕駛領(lǐng)域，其實(shí)已經(jīng)從以前的小的視模型、視覺模型或什么模型轉(zhuǎn)向Transformer，典型的就是以前可能是用那些小的算力卡，后面當(dāng)時(shí)開始用A100，生信也是一樣的，生信制藥想再把Alpha Fold出來，大家也在做這個(gè)事情，雖然那時(shí)候大模型，大家沒有看那么清楚，但是明顯已經(jīng)感到Transformer大量的應(yīng)用，AI會(huì)成為云的下一個(gè)驅(qū)動(dòng)力。

所以在2022年的時(shí)候火山其實(shí)就在深度地做這個(gè)事情。第一要把供應(yīng)鏈做好，要把算力的基礎(chǔ)建好。第二算力規(guī)模變大之后，需要好的平臺(tái)配合調(diào)度。所以火山在整個(gè)GPU的調(diào)度、優(yōu)化上做了非常多的事情，比如算子的優(yōu)化，整個(gè)平臺(tái)的調(diào)度能力的提升，整個(gè)MFU提升。一個(gè)是要堅(jiān)定不移地把規(guī)模優(yōu)勢(shì)發(fā)揮好，把模型成本和平臺(tái)穩(wěn)定性做好。第二則需要把握住大的技術(shù)變革。比較幸運(yùn)的是火山在這些方面還是看得比較早，也非常準(zhǔn)確的。

趙何娟：我聽說在2022年的時(shí)候，國(guó)內(nèi)有很多大廠都準(zhǔn)備要放棄掉AI這個(gè)方向，或者說覺得看不到希望，而且把已經(jīng)采購的或者囤積的GPU的A100的卡可能直接都要準(zhǔn)備退還，據(jù)說退的這幾萬張卡都被字節(jié)給接了是嗎？

譚待：2022年的時(shí)候確實(shí)發(fā)生過這樣的事情，因?yàn)橛行┯焉檀罅康厝プ鐾擞?。但是那個(gè)時(shí)候我們很堅(jiān)定不移地看好AI這個(gè)方向，認(rèn)為AI是驅(qū)動(dòng)云很重要的一塊。

當(dāng)然同時(shí)也需要結(jié)合自身情況做技術(shù)層面的判斷。因?yàn)閯偤梦冶旧砑夹g(shù)出身，所以這個(gè)選擇可能需要結(jié)合技術(shù)，也要結(jié)合商業(yè)來判斷。因?yàn)槟菚r(shí)候大模型沒有發(fā)展起來，那個(gè)時(shí)候如果有誰說我已經(jīng)看到了大模型未來的爆發(fā)？他肯定是在騙人。但是我們可以看到的是，自動(dòng)駕駛是很確定的事情，而且除此之外至少有一兩個(gè)行業(yè)已經(jīng)有很大的體量能夠支持大模型的發(fā)展。其實(shí)放到現(xiàn)在汽車行業(yè)在自動(dòng)駕駛領(lǐng)域也投入非常大，并且在這個(gè)領(lǐng)域算力儲(chǔ)備也比較雄厚。只不過聚光燈可能更多的看到是大模型的公司，比如說2022年火山和毫末建立了一個(gè)駕駛領(lǐng)域最大的算力集群。所以這個(gè)領(lǐng)域相當(dāng)于是火山不僅從技術(shù)上有所判斷，而且從客戶的需求上也驗(yàn)證了這一點(diǎn)。

既做裁判員又做運(yùn)動(dòng)員？

趙何娟：現(xiàn)在國(guó)內(nèi)的做大模型的企業(yè)和團(tuán)隊(duì)非常多，包括像月暗、智譜、百川，在國(guó)內(nèi)來說相對(duì)來說有一些知名度的大模型，基本上還是在火山引擎上跑。作為一個(gè)行業(yè)底層服務(wù)的提供商來說，你會(huì)覺得國(guó)內(nèi)現(xiàn)在的“百模大戰(zhàn)”“千模大戰(zhàn)”優(yōu)勢(shì)在哪里？或者有一些什么問題？

譚待：首先我覺得這些公司和團(tuán)隊(duì)其實(shí)做得都非常好，每家也有自己的特色，行業(yè)認(rèn)知水平也在不斷提升。

當(dāng)然這個(gè)行業(yè)還需要讓更多人參與進(jìn)來：第一模型要好，第二成本一定要低，把100萬的成本降低到1萬，那進(jìn)入這個(gè)行業(yè)的人可能就不是多100倍，而是多1000倍了?？赡?0個(gè)項(xiàng)目里里面，雖然9個(gè)項(xiàng)目不一定能成功，但只要有1個(gè)項(xiàng)目成功了，可能前期的所有投入就都回來了。

火山做了很多插件平臺(tái)，做了方舟2.0，以及扣子這個(gè)低代碼的平臺(tái)，就是讓更多的人能夠更便捷地使用大模型。

所以通過這個(gè)平臺(tái)，通過好的模型，通過低的價(jià)格，把整個(gè)做創(chuàng)新的門檻一降再降，就能看到行業(yè)的繁榮。

趙何娟：你覺得做大模型的平臺(tái)，有必要什么應(yīng)用都自己去開發(fā)嗎？既做大模型的底層基座，又在上面去做各種各樣的專有模型，會(huì)不會(huì)給行業(yè)造成火山既做裁判員，又做運(yùn)動(dòng)員的感覺？

譚待：豆包這個(gè)模型，有一個(gè)對(duì)應(yīng)的同名的APP，就像OpenAI有個(gè)ChatGPT，因?yàn)槠脚_(tái)需要有一個(gè)對(duì)應(yīng)的一個(gè)產(chǎn)品，去讓用戶能很直觀地感受到這個(gè)模型的好和壞，模型本身是開放的，火山引擎也是開放的。

比如說字節(jié)內(nèi)部也會(huì)產(chǎn)生平臺(tái)的客戶，比如說抖音想用這個(gè)模型能力做些事情，抖音其實(shí)也就成為了火山的一個(gè)客戶。外部比如說快手也想用，道理也是一樣，對(duì)于火山來說，就是要保持一個(gè)開放性和中立性，只要是客戶，就提供同樣的優(yōu)質(zhì)的服務(wù)。

算力之外，大模型的增長(zhǎng)動(dòng)能在哪？

趙何娟：在2022年底ChatGPT發(fā)布，全行業(yè)爆火之后，據(jù)說2023年整個(gè)火山引擎的財(cái)務(wù)業(yè)績(jī)翻了好幾番。2023年現(xiàn)在的整個(gè)的業(yè)績(jī)規(guī)模和2024年現(xiàn)在半年過去的增長(zhǎng)，讓你們的財(cái)務(wù)模型又已經(jīng)進(jìn)入了新的平衡點(diǎn)。有沒有可能接下來的規(guī)劃中會(huì)更考慮利潤(rùn)的提升？

譚待：我們覺得什么最重要？是有毛利的規(guī)模是最重要的，不是只看規(guī)模，也不是只看利潤(rùn)。而是要看是帶毛利的規(guī)模。帶毛利的規(guī)模決定了可持續(xù)性。比如說要做語音，需要組建一個(gè)非常大的團(tuán)隊(duì)，然而人力成本是非常高的，因?yàn)橹挥泻軓?qiáng)的團(tuán)隊(duì)，才能把技術(shù)和產(chǎn)品做好，所以人力投入肯定是最大的開銷之一。只要看重和堅(jiān)持帶毛利的規(guī)模，最終就可以做到平衡、盈利。

趙何娟：可以說現(xiàn)在火山引擎的算力儲(chǔ)備是非常充分的，可以說是前兩年的準(zhǔn)確的戰(zhàn)略判斷帶來的，那么算力用完了怎么辦？可能這兩年的財(cái)務(wù)增長(zhǎng)和爆發(fā)都是基于之前的儲(chǔ)備帶來的。未來的持續(xù)性如何保證？會(huì)不會(huì)受到美國(guó)制裁的影響？

譚待：首先規(guī)模是正循環(huán)的，規(guī)模大，對(duì)未來就有預(yù)期，就有信心做更大的投資。更大的投資又能帶來更大的規(guī)模。所以如果之前的增長(zhǎng)是基于我們判斷得早，以及我們內(nèi)外復(fù)用的規(guī)模優(yōu)勢(shì)。我們?cè)谶@個(gè)領(lǐng)域就一直很會(huì)很有先機(jī)和優(yōu)勢(shì)。

第二其實(shí)現(xiàn)在算力在當(dāng)下的這個(gè)情況下，是一個(gè)異構(gòu)算力的系統(tǒng)，因?yàn)榭赡苊恳粋€(gè)團(tuán)隊(duì)有不同的芯片的選擇，而且不同的芯片有不同的擅長(zhǎng)的地方，有的內(nèi)存很大，有的算力很強(qiáng)，有的兼容性很好，所以就對(duì)技術(shù)平臺(tái)本身要求很高，技術(shù)的打磨也是很重要的。

第三其實(shí)也在看和各家廠商，比如下游的芯片廠商如何合作。我不僅只是說在算力層面，讓大家一起能合作得更緊密。比如說我們最近和英偉達(dá)一起在中國(guó)發(fā)布了Omniverse，這樣企業(yè)可以在中國(guó)通過火山引擎來使用Omniverse，這個(gè)合作也很重要，第一就是未來物理世界和真實(shí)世界可以連接在一起，這樣可以用AI通過仿真或者其它方式，不僅改變虛擬世界、數(shù)字世界，也能去改變物理世界，所以一方面平臺(tái)做這個(gè)事情。另外一方面通過合作，其實(shí)雙方也加強(qiáng)了合作的深度和廣度，可能關(guān)系會(huì)更加緊密，也會(huì)在其它層面的合作上也會(huì)有更多的幫助。

趙何娟：從美國(guó)的芯片的出口的規(guī)則限制來說，可能中國(guó)企業(yè)過去還能正常購買A100或者H100這樣的芯片。可能將來這種高制程的芯片都是不允許被中國(guó)公司購買的，在這一點(diǎn)上來說，可能之前的護(hù)城河或者說壁壘，事因?yàn)橐?guī)模在早期帶來的壁壘，但這種壁壘可能再經(jīng)過兩三年就被別人取代了。這種前提下，對(duì)于火山來說，是不是相關(guān)的壁壘就不存在了？

譚待：規(guī)模優(yōu)勢(shì)是始終存在的。所以不管說會(huì)不會(huì)涌現(xiàn)出更多的底層的供應(yīng)商，都會(huì)第一時(shí)間想到和字節(jié)、和火山來合作，所以這個(gè)優(yōu)勢(shì)是持續(xù)的，規(guī)模的好處就在這一點(diǎn)。所以我們這一次能把推理的成本做低，也是因?yàn)橛昧水悩?gòu)的芯片，去把它們的特點(diǎn)都發(fā)揮出來，所以就能通過分布式推理來做這個(gè)事情。

趙何娟：所以從這個(gè)角度來說，開源大模型更好？還是閉源大模型更好？。

譚待：不管是開源還閉源，目的都是讓大家更多地來使用。

第一開源有開源的商業(yè)模式，閉源有閉源的商業(yè)模式，大家只是不同商業(yè)模式而已，開源有很多成功的公司，閉源也有很多成功的公司。所以第一就是你自己這家公司怎么來選擇，不能簡(jiǎn)單說開源和閉源誰更好。

第二也要看企業(yè)的具體需求，企業(yè)選開源、選閉源，背后的需求是說，第一性能好不好？第二安不安全？當(dāng)然開源有安全的解決方法，閉源也有安全的解決方法。

第三就看成本，用開源就代表著底層的算力沒有辦法在云的池子里面來混合，如果云平臺(tái)沒做好，肯定還是用開源便宜一些。所以對(duì)企業(yè)來說，要決定自己的戰(zhàn)略路線是什么，用什么樣的商業(yè)模式來做這個(gè)事情？但整體上沒有必要去爭(zhēng)論這個(gè)事情?，F(xiàn)在豆包是閉源的，但我們將來肯定也會(huì)推出豆包某一些系列的開源的模型，我們肯定是這樣的一個(gè)邏輯。

大模型落地的應(yīng)用場(chǎng)景和挑戰(zhàn)

趙何娟：互聯(lián)網(wǎng)革命來自C端的爆發(fā)，然后逐步延伸至B端，你覺得AI或者大模型的這波2.0的浪潮更可能在C端還是B端率先爆發(fā)？

譚待：我覺得可能會(huì)是在B端和C端同時(shí)開始爆發(fā)。

移動(dòng)互聯(lián)網(wǎng)可能先是在C端也就是手機(jī)端爆發(fā)，但如果我們看PC互聯(lián)網(wǎng)，其實(shí)最開始也是工作場(chǎng)景和生活場(chǎng)景不分的。比如郵箱和搜索，用戶也是為了獲取知識(shí)而非娛樂。剛開始軟件誕生的時(shí)候，很多也是給B端使用。比如70年代時(shí)候的軟件巨頭其實(shí)都是做ToB的事情。所以我覺得一個(gè)技術(shù)的提升，是不一定先從C端爆發(fā)，或者先從B端爆發(fā)的。

AI能夠提升生產(chǎn)力。所以AI在B端有很多天然場(chǎng)景。但實(shí)際上當(dāng)AI能帶來很多能力之后，C端用戶也就開始在日常生活中使用了。比如說ChatGPT其實(shí)有很多付費(fèi)用戶，他們也是同時(shí)在工作場(chǎng)景和生活場(chǎng)景中使用。

趙何娟：豆包模型也有ToC和ToB的模型，你們?cè)谧鲞@個(gè)模型，或者在推出相關(guān)模型應(yīng)用的時(shí)候，有什么樣的區(qū)別？

譚待：首先我們要有一個(gè)通用模型，這個(gè)通用模型應(yīng)該是最強(qiáng)的。

比如說豆包通用模型Pro就干這個(gè)事情的。豆包通用模型Pro就是可以同時(shí)解決C端和B端的需求。而且支持長(zhǎng)文本128K可精調(diào)。尤其在B端使用的時(shí)候，需要讓模型做一定的優(yōu)化，所以能不能可精調(diào)是很重要的。

在此基礎(chǔ)上，再看哪些場(chǎng)景是很垂直，規(guī)模又很大，就可能會(huì)把它做一定的特化。比如說角色扮演，看起來可能是C端的使用場(chǎng)景，這個(gè)情況下就需要通過AI去和用戶在場(chǎng)景中進(jìn)行交互娛樂，所以我們有一個(gè)專門的角色扮演模型。

所以整體核心就是最底層通用的強(qiáng)大，如果沒有把最強(qiáng)的底層大模型做出來，后續(xù)做專有模型大概率就不會(huì)做得好。

趙何娟：下半年你會(huì)認(rèn)為有很多應(yīng)用出來，從應(yīng)用場(chǎng)景上來說會(huì)有哪些判斷？比如說哪些行業(yè)可能會(huì)跑得更快一些？

譚待：首先終端上肯定還能做出很多創(chuàng)新出來。比如手機(jī)、汽車、PC、IOT，這就是為什么我們這次搞兩個(gè)大聯(lián)盟，一個(gè)是手機(jī)的大模型聯(lián)盟，還有一個(gè)是汽車的大模型聯(lián)盟。還有一些場(chǎng)景，比如說C端的一些助手類的應(yīng)用，包括Agent，包括搜索。

在企業(yè)內(nèi)部，大模型對(duì)于企業(yè)就整個(gè)知識(shí)的管理，包括數(shù)據(jù)的分析肯定是有很大的輔助。比如說我們做Chat BI，以前CEO問一個(gè)問題，底下人不知道，馬上就找人去查，查完以后截個(gè)圖再反饋過來就很慢，CEO說我還想看看別的，就需要再走一次流程。其實(shí)這些數(shù)據(jù)BI里面都有。管理就是一個(gè)很大的效率題，我們有個(gè)理念叫數(shù)據(jù)飛輪，以前大家看數(shù)據(jù)中臺(tái)講的是說要積累多少數(shù)據(jù)，但數(shù)據(jù)不用是沒有意義的，所以應(yīng)該看數(shù)據(jù)飛輪每天消耗了多少數(shù)據(jù)，用了多少數(shù)據(jù)，消費(fèi)了多少數(shù)據(jù)，就要想各種方法去把消費(fèi)的便捷性和體驗(yàn)做好，Chat BI就是這樣，以前信息傳遞靠口口相傳，現(xiàn)在是直接向Chat BI提問，這樣就把數(shù)據(jù)消費(fèi)的實(shí)時(shí)性和便利性都提升了非常多。

比如說有個(gè)職業(yè)叫打字員，也是一個(gè)白領(lǐng)，以后可能就再也沒有這個(gè)職業(yè)了，取而代之的可能是一個(gè)更智能的“打字員”，它能做擴(kuò)寫，做很多其它的事情，但是我自己還是一個(gè)樂觀主義者，我認(rèn)為人類最精髓的部分始終還是在人的這個(gè)地方，而且也許人可以跟AI共同進(jìn)化，而不是說AI取代人。

趙何娟：2022年11月底推出ChatGPT的時(shí)候，12月初我們就組織了一個(gè)討論，那個(gè)時(shí)間段感覺行業(yè)里面對(duì)這件事情關(guān)注度和熱度還是非常高的，但是大眾領(lǐng)域還沒有那么關(guān)注，大眾領(lǐng)域一直到2023年，可能1月份、2月份才開始爆發(fā)性地關(guān)注ChatGPT。那個(gè)時(shí)間OpenAI推出的ChatGPT對(duì)你的沖擊有多大？

譚待：因?yàn)槲乙恢痹谧鲈?，所以?dāng)時(shí)我最大的感受是太好了?？磥硪郧跋氲煤軐?duì)，比如說我們當(dāng)時(shí)內(nèi)部在討論說為什么OpenAI可以做出來ChatGPT，因?yàn)椴皇钦f中國(guó)做不出來，美國(guó)反而做出來，其實(shí)是OpenAI做出來，別人都沒做出來。

ChatGPT比我們想象來得更早。我們本來覺得可能還再晚一點(diǎn)點(diǎn)，比如我們?cè)俨季謳啄?，可能?huì)有類似的模型出現(xiàn)，而且也在推測(cè)比如生信領(lǐng)域會(huì)不會(huì)更快一些？但沒想到大語言模型是最快來的，我想知道下一個(gè)是什么，大模型的概念一直都有，但放在那個(gè)時(shí)間看到ChatGPT你沒想到能做到這么大。

趙何娟：有一個(gè)典型的應(yīng)用場(chǎng)景，我們鈦媒體自己現(xiàn)在也在做科股數(shù)據(jù)的大模型。我們也有自己的數(shù)據(jù)庫。我們就想著基于我們自己的自有的數(shù)據(jù)業(yè)務(wù)再做一些預(yù)訓(xùn)練的嘗試，而且能夠基于這個(gè)大模型還能開發(fā)我們自己的應(yīng)用產(chǎn)品。從場(chǎng)景上面來說可能還不是那么簡(jiǎn)單的事情，這一點(diǎn)我不知道你是怎么來面對(duì)這種像我們這樣很具體的場(chǎng)景應(yīng)用的需求的？

譚待：我們認(rèn)為大模型落地有三個(gè)核心關(guān)鍵挑戰(zhàn)：更好的模型、更低的成本和更易落地的工具。其實(shí)剛好你這個(gè)例子就可以講講我們對(duì)以上這三個(gè)挑戰(zhàn)的理念：

首先有比較好的模型，比如說用豆包，可能都不一定要用精調(diào)，做一些提示工程就好了。因?yàn)槎拱牡鬃芰κ呛軓?qiáng)的。這樣其實(shí)基礎(chǔ)功能就可以滿足了，但是要把這個(gè)應(yīng)用做好，其實(shí)還要做很多事情，比如說需要聯(lián)網(wǎng)，因?yàn)樨?cái)經(jīng)的數(shù)據(jù)，是需要有很多實(shí)時(shí)的數(shù)據(jù)更新。所以我們方舟推出了聯(lián)網(wǎng)的平臺(tái)，而且它能拿到獨(dú)有的內(nèi)容，這樣你就可以更好地去獲得信息和內(nèi)容。

第二是知識(shí)庫的搭建，自己積累的知識(shí)庫是很重要的，可以去幫助這個(gè)模型在應(yīng)用的時(shí)候減少幻覺，提高精準(zhǔn)度。這個(gè)是很重要的，比如有些東西已經(jīng)在知識(shí)庫做好了，就從這個(gè)受限的知識(shí)庫里面出內(nèi)容，而且做到有一些東西讓它不要瞎說。

第三就是考慮到用戶的交互，用戶使用的時(shí)候可能只有文字的內(nèi)容是不夠的，還需要有一個(gè)視頻，所以我們還做了一個(gè)內(nèi)容插件，這樣一方面去讓大模型去回答問題，出數(shù)據(jù)報(bào)告的時(shí)候，還可以去把相應(yīng)的視頻內(nèi)容播放出來。

除此之外用戶在很多使用過程中有很多細(xì)碎的需求。這些細(xì)碎的需求可能需要做一個(gè)對(duì)應(yīng)的Agent，來去解決它，通過扣子平臺(tái)。比如說用戶需要了解和體育相關(guān)的公司的財(cái)經(jīng)知識(shí)，不需要寫代碼，只需要編輯或者是其他業(yè)務(wù)人員，用扣子平臺(tái)很快就能搭建一個(gè)這樣的一個(gè)小助手一個(gè)Agent。讓它和應(yīng)用放在一起，當(dāng)用戶來的時(shí)候，小助手就可以自動(dòng)調(diào)出來回答用戶的問題。

最后，我們還配了一個(gè)叫算法BP團(tuán)隊(duì)，就是算法服務(wù)團(tuán)隊(duì)。因?yàn)樗麄冇泻芏嘟?jīng)驗(yàn)，他們其實(shí)就是火山AI相關(guān)的算法人員。有需求的客戶團(tuán)隊(duì)所以可以和算法BP團(tuán)隊(duì)的技術(shù)人員先對(duì)接一次，幫助把這套基于AI基于大模型來開發(fā)和應(yīng)用的流程建立起來。未來就可以不斷去更新它來運(yùn)轉(zhuǎn)起來。這樣操作會(huì)讓整個(gè)服務(wù)更易落地，同時(shí)還能夠有一套配套的服務(wù)體系來幫助客戶完成既定目標(biāo)。