近年來(lái)，以ChatGPT為代表的大語(yǔ)言模型如雨后春筍般涌現(xiàn)，成為AI領(lǐng)域的焦點(diǎn)。在大語(yǔ)言模型的開(kāi)發(fā)實(shí)踐中，AI框架的選擇至關(guān)重要。AI 框架是 AI 算法模型設(shè)計(jì)、訓(xùn)練和驗(yàn)證的一套標(biāo)準(zhǔn)接口、特性庫(kù)和工具包，集成了算法的封裝、數(shù)據(jù)的調(diào)用以及計(jì)算資源的使用，同時(shí)面向開(kāi)發(fā)者提供了開(kāi)發(fā)界面和高效的執(zhí)行平臺(tái)。

昇思MindSpore作為華為開(kāi)源的AI框架，在過(guò)去的幾年里使能產(chǎn)業(yè)界、學(xué)術(shù)界基于昇思原生、適配支持超過(guò)50個(gè)大模型。開(kāi)源4年多來(lái)，昇思MindSpore已成為國(guó)內(nèi)AI大模型創(chuàng)新的框架，原生支持大模型及AI+科學(xué)計(jì)算能力，以多維混合分布式并行能力，提升超大模型的訓(xùn)練效率，并打造MindSpore TransFormers、MindSpore One生成式套件與MindSpore Science科學(xué)智能套件，實(shí)現(xiàn)全流程開(kāi)箱即用，大幅降低大模型全流程的開(kāi)發(fā)門(mén)檻與成本。

基于此，《MindSpore大語(yǔ)言模型實(shí)戰(zhàn)》一書(shū)應(yīng)運(yùn)而生，本書(shū)由昇思開(kāi)源社區(qū)技術(shù)委員會(huì)委員陳雷老師聯(lián)合昇思研發(fā)團(tuán)隊(duì)編寫(xiě)，生動(dòng)展現(xiàn)昇思MindSpore在使能大語(yǔ)言模型的創(chuàng)新應(yīng)用案例，為開(kāi)發(fā)者快速上手昇思、開(kāi)發(fā)大模型提供指導(dǎo)。

購(gòu)書(shū)鏈接：https://product.dangdang.com/29791704.html

內(nèi)容簡(jiǎn)介

本書(shū)旨在深度挖掘大語(yǔ)言模型技術(shù)。首先，本書(shū)追溯大語(yǔ)言模型的發(fā)展歷程，介紹Transformer模型的基本原理、結(jié)構(gòu)和模塊及在大模型任務(wù)中的應(yīng)用，并剖析它們?cè)诟黝I(lǐng)域的成功案例，然后介紹由Encoder-Only到Decoder-Only的技術(shù)路線發(fā)展過(guò)程中對(duì)應(yīng)的 BERT、GPT等大語(yǔ)言模型，深入理解它們背后的工作原理。通過(guò)理論介紹，讀者將對(duì)大語(yǔ)言模型的演進(jìn)和突破有更為清晰的認(rèn)識(shí)。

接著，本書(shū)重點(diǎn)深入展開(kāi)昇思MindSpore支撐一眾大模型的核心：分布式并行能力，解析其在大語(yǔ)言模型實(shí)踐中的獨(dú)特之處，這將有助于讀者全面了解昇思MindSpore在大語(yǔ)言模型實(shí)踐中的創(chuàng)新應(yīng)用。

最后，本書(shū)以主流開(kāi)源大語(yǔ)言模型BLOOM和LLaMA為樣例，聚焦大語(yǔ)言模型在不同領(lǐng)域的實(shí)踐，包括自然語(yǔ)言處理、圖像生成、語(yǔ)音識(shí)別等領(lǐng)域。揭示MindSpore如何為這些領(lǐng)域的大語(yǔ)言模型提供高效的支持，幫助讀者更好地將大語(yǔ)言模型應(yīng)用于實(shí)際問(wèn)題。

為了使讀者更好地學(xué)習(xí)和理解相關(guān)內(nèi)容，本書(shū)還提供基于昇思MindSpore實(shí)現(xiàn)的大語(yǔ)言模型實(shí)踐的樣例代碼。這些樣例代碼將幫助讀者從理論到實(shí)踐，逐步掌握大語(yǔ)言模型的構(gòu)建方法和昇思MindSpore應(yīng)用的核心技術(shù)。

必讀理由

●緊跟熱點(diǎn)：當(dāng)前人工智能最熱的領(lǐng)域是大語(yǔ)言模型，從業(yè)者對(duì)了解、使用及構(gòu)建大語(yǔ)言模型充滿熱情，本書(shū)以大語(yǔ)言模型領(lǐng)域的應(yīng)用為主，切合市場(chǎng)熱點(diǎn)。

●實(shí)戰(zhàn)為主：全方位深度學(xué)習(xí)知識(shí)學(xué)習(xí)和高效的框架代碼實(shí)踐，幫助開(kāi)發(fā)者/學(xué)生/從業(yè)者等快速理解并打造自己的大語(yǔ)言模型，本書(shū)適合所有感興趣的人學(xué)習(xí)。

●模塊化課程：緊跟業(yè)界熱點(diǎn)，拆解至小顆粒度進(jìn)行分類(lèi)，精準(zhǔn)定位知識(shí)點(diǎn)，有的放矢最大效率進(jìn)行學(xué)習(xí)。

●專(zhuān)家指路：作者陳雷在MindSpore人工智能框架深耕領(lǐng)域多年，有豐富的理論實(shí)踐經(jīng)驗(yàn)，收到業(yè)內(nèi)人士和開(kāi)發(fā)者的廣泛認(rèn)可。

●免費(fèi)資源：課程全程免費(fèi)，并提供免費(fèi)算力資源用于學(xué)習(xí)，可關(guān)注MindSpore公眾號(hào)發(fā)布的活動(dòng)；更多的大模型案例可關(guān)注昇思MindSpore技術(shù)公開(kāi)課的持續(xù)更新。

作者簡(jiǎn)介

陳雷：加拿大滑鐵盧大學(xué)計(jì)算機(jī)博士。現(xiàn)擔(dān)任香港科技大學(xué)（廣州）信息樞紐院長(zhǎng)，數(shù)據(jù)科學(xué)與分析學(xué)域講座教授，廣州市大數(shù)據(jù)智能重點(diǎn)實(shí)驗(yàn)室主任。研究方向包括數(shù)據(jù)驅(qū)動(dòng)的人工智能、大數(shù)據(jù)分析、知識(shí)圖譜、眾包、區(qū)塊鏈、圖數(shù)據(jù)庫(kù)、概率和不確定數(shù)據(jù)庫(kù)，以及時(shí)空和時(shí)間序列數(shù)據(jù)庫(kù)。

曾獲2020年度中國(guó)電子學(xué)會(huì)科學(xué)技術(shù)獎(jiǎng)一等獎(jiǎng)、2015年ACM SIGMOD時(shí)間檢測(cè)獎(jiǎng)2022 WLDB最佳研究論文獎(jiǎng)、2014LDB優(yōu)秀示范獎(jiǎng)。曾擔(dān)任ICDE2023和VLDB2019 PC聯(lián)合主席、VLDB Journal聯(lián)合主編、VLDB基金會(huì)執(zhí)行委員。目前擔(dān)任IEEETKDE主編、DASFAA國(guó)際會(huì)議指導(dǎo)委員會(huì)主席、長(zhǎng)江講座教授，當(dāng)選IEEE會(huì)士和ACM杰出科學(xué)家，獲得國(guó)家杰出青年科學(xué)基金海外青年學(xué)者合作研究項(xiàng)目支持。