3月23日，由傳智教育與科大訊飛聯(lián)合組織的大模型實戰(zhàn)應(yīng)用之“AI開發(fā)者 TALK·北京站”在海淀舉辦。本次活動圍繞“大模型應(yīng)用”展開探討，旨在為廣大AI開發(fā)者提供一個交流、學(xué)習(xí)和展示的平臺。
活動當(dāng)天，共有來自傳智教育和科大訊飛開放平臺的4位嘉賓發(fā)表精彩的演講，內(nèi)容涵蓋大模型行業(yè)動態(tài)、人才培養(yǎng)、技術(shù)洞察、開發(fā)心得和技術(shù)實踐等。
科大訊飛開放平臺運營總監(jiān)汪艦老師從行業(yè)趨勢的角度分享了有關(guān)大模型的應(yīng)用生態(tài)。他提到，在人工智能領(lǐng)域，大模型技術(shù)憑借其強大的數(shù)據(jù)處理能力和廣泛應(yīng)用前景引領(lǐng)新一輪技術(shù)革命。
具體來說，從基礎(chǔ)架構(gòu)和算法創(chuàng)新到預(yù)訓(xùn)練模型的里程碑，大模型不斷突破，現(xiàn)已進(jìn)入跨模態(tài)和跨領(lǐng)域應(yīng)用新階段，在醫(yī)療、金融、教育等領(lǐng)域展現(xiàn)巨大潛力，提高行業(yè)效率，改善生活質(zhì)量。
傳智教育人工智能學(xué)科教學(xué)主管趙晨杰老師從AI大模型行業(yè)發(fā)展現(xiàn)狀、大模型相關(guān)的技術(shù)和崗位要求及人才供需的角度出發(fā)，分享了大模型技術(shù)人才培養(yǎng)的課程體系。
同時為大家呈現(xiàn)了傳智教育黑馬程序員2024年大模型LLM學(xué)習(xí)路線圖，并強調(diào)了實踐經(jīng)驗與創(chuàng)新意識對于大模型人才的重要性。
傳智教育人工智能研發(fā)中心高級研究員李剛老師從技術(shù)應(yīng)用層面分享了什么是RAG（檢索增強生成），從企業(yè)實際應(yīng)用大模型的角度出發(fā)，深度剖析了大模型容易出現(xiàn)的“幻覺”問題，以及傳統(tǒng)微調(diào)大模型方法的痛點，并分析了RAG方法的優(yōu)勢。
在分享過程中，李剛老師以“電商”數(shù)據(jù)為基礎(chǔ)，詳細(xì)展示了RAG實現(xiàn)的整個流程，并針對RAG系統(tǒng)的優(yōu)化，進(jìn)行了多方位的補充，如：數(shù)據(jù)清洗、文檔多粒度切分、多層次索引、嵌入模型優(yōu)化、檢索結(jié)果的Rerank以及在架構(gòu)中加入知識圖譜輔助等方面全面提升RAG系統(tǒng)的性能。
傳智教育人工智能研發(fā)中心高級研究員姚曉瑩老師借助訊飛星火大模型，從企業(yè)級開發(fā)應(yīng)用的角度演示了大模型平臺與技術(shù)的具體操作方法，現(xiàn)場開發(fā)者們一起參與了實踐。
姚曉瑩老師首先深入剖析訊飛星火大模型的定義、功能范疇以及實際應(yīng)用場景，并利用訊飛智文快速制作了一份PPT演示文稿，通過視覺化的展示，使參與者對訊飛星火大模型有一個全面而深刻的認(rèn)識。
在訊飛星火大模型API的應(yīng)用實踐環(huán)節(jié)中，姚老師帶領(lǐng)現(xiàn)場學(xué)習(xí)者完成了星火大模型API的注冊，還展示如何利用該API開發(fā)出具備多種翻譯風(fēng)格的英譯漢翻譯機。
最后，姚老師全方位解讀了訊飛星火大模型定制平臺的應(yīng)用，內(nèi)容涵蓋從數(shù)據(jù)預(yù)處理到模型的個性化定制，從高精度訓(xùn)練到性能評估，直至模型部署的全過程。
通過一步步構(gòu)建大模型服務(wù)，并借助webAPI和在線體驗的方式，為開發(fā)者提供一個實際操作的機會，確保開發(fā)者能夠掌握整個大模型定制流程的每一個環(huán)節(jié)。
除了嘉賓分享外，現(xiàn)場還安排了交流環(huán)節(jié)，開發(fā)者們除了把自己在大模型學(xué)習(xí)和應(yīng)用中遇到的問題與老師進(jìn)行了探討之外，還結(jié)合自己的應(yīng)用案例進(jìn)行了思考與實踐。
活動結(jié)束后，開發(fā)者們?nèi)猿两跓崃业挠懻摲諊?，不愿離去。大家紛紛表示收獲頗豐，不僅學(xué)到了很多新的知識，還結(jié)識了許多行業(yè)內(nèi)的朋友，希望未來能有更多這樣的交流機會。
傳智教育聯(lián)合科大訊飛攜手舉辦的此次活動，不僅為開發(fā)者們提供了一個寶貴的學(xué)習(xí)和交流的平臺，也為推動行業(yè)的發(fā)展做出了積極的貢獻(xiàn)。
