AI.x社區(qū)
- 登錄/注冊(cè)
用Ray觀測(cè)和監(jiān)控大語(yǔ)言模型工作負(fù)載
原創(chuàng)
社區(qū)頭條前言GPT4、PHI2、BERT和T5等大語(yǔ)言模型（LLM）的出現(xiàn)已徹底改變了自然語(yǔ)言處理，這些模型支持高端應(yīng)用程序，包括聊天機(jī)器人、推薦系統(tǒng)和分析。然而，LLM中工作負(fù)載的規(guī)模和復(fù)雜性使得保證性能和可靠性成了一大挑戰(zhàn)。在這種情況下，在使用Ray等框架部署工作負(fù)載的同時(shí)進(jìn)行監(jiān)控和觀測(cè)顯得非常必要。Ray是一種分布式計(jì)算框架，提供了一個(gè)強(qiáng)大的平臺(tái)，可以跨集群有效地?cái)U(kuò)展LLM工作負(fù)載。因此，它成了托管、管理和觀測(cè)LLM的一種出色...大語(yǔ)言模型LLMRayKimik1.5、DeepSeek-V3 大戰(zhàn) OpenAI o1，誰(shuí)能笑到最后？
精華 社區(qū)頭條最近，國(guó)內(nèi)大模型界可謂是“風(fēng)起云涌”，kimik1.5和DeepSeekV3這兩位“大俠”橫空出世，一路“殺瘋了”，不斷向OpenAI和其他海外大模型的霸主地位發(fā)起挑戰(zhàn)。這不禁讓人想起了那句網(wǎng)絡(luò)梗：“一山更比一山高，一模更比一模強(qiáng)！”今天，咱們就來(lái)好好對(duì)比一下這兩位國(guó)內(nèi)大模型界的“當(dāng)紅炸子雞”，看看它們到底有何不同，順便再和海外頂尖的OpenAIo1對(duì)比一下，看看咱們離國(guó)際頂尖水平還有多遠(yuǎn)。接下來(lái)，咱們就來(lái)詳細(xì)對(duì)比一下這三位...Kimik1.5OpenAI o1DeepSeekText2SQL 已過(guò)時(shí)？TAG 如何一統(tǒng) AI 與數(shù)據(jù)庫(kù)江湖！
精華1.引言語(yǔ)言模型的發(fā)展使得用戶期望能通過(guò)自然語(yǔ)言對(duì)數(shù)據(jù)進(jìn)行查詢，從而引發(fā)了Text2SQL和RAG等方法的大量研究。但在實(shí)際應(yīng)用中，用戶的問(wèn)題往往超出這些方法的能力范圍。例如，企業(yè)用戶的問(wèn)題常涉及領(lǐng)域知識(shí)、世界知識(shí)、精確計(jì)算和語(yǔ)義推理的復(fù)雜組合。數(shù)據(jù)庫(kù)雖能提供領(lǐng)域知識(shí)和大規(guī)模精確計(jì)算能力，但在語(yǔ)義推理方面較弱；而語(yǔ)言模型雖擅長(zhǎng)語(yǔ)義推理和利用世界知識(shí)，卻在精確計(jì)算和大規(guī)模數(shù)據(jù)處理效率上存在不足。像Text2SQL方法...Text2SQLAI數(shù)據(jù)庫(kù)一個(gè)強(qiáng)大的集成學(xué)習(xí)算法：隨機(jī)森林
社區(qū)頭條一、算法介紹隨機(jī)森林屬于集成學(xué)習(xí)（EnsembleLearning）中的一種，它是通過(guò)構(gòu)建多個(gè)決策樹，并綜合這些決策樹的預(yù)測(cè)結(jié)果來(lái)進(jìn)行最終的預(yù)測(cè)。就好比一群經(jīng)驗(yàn)豐富的專家（各個(gè)決策樹）共同商討一件事，然后匯總大家的意見(jiàn)（預(yù)測(cè)結(jié)果）得出最終結(jié)論，往往這樣綜合考量后的結(jié)果會(huì)更加準(zhǔn)確可靠。隨機(jī)森林可以用于解決分類問(wèn)題，比如判斷一封郵件是垃圾郵件還是正常郵件；也能處理回歸問(wèn)題，例如預(yù)測(cè)某地區(qū)的房?jī)r(jià)走勢(shì)等。它具有以下優(yōu)...集成學(xué)習(xí)算法隨機(jī)森林爆！2024‘Meta 推出CTR集成框架 CETNet，多 CTR 模型集成大幅提升預(yù)測(cè)精度
社區(qū)頭條1.Kimik1.5:ScalingReinforcementLearningwithLLMs語(yǔ)言模型預(yù)訓(xùn)練時(shí)，通過(guò)預(yù)測(cè)下一個(gè)詞來(lái)提升計(jì)算量的方法效果不錯(cuò)，可訓(xùn)練數(shù)據(jù)量卻限制了它的進(jìn)一步發(fā)展。強(qiáng)化學(xué)習(xí)（RL）的拓展則為人工智能持續(xù)進(jìn)步提供了新途徑，讓大語(yǔ)言模型（LLMs）有機(jī)會(huì)通過(guò)學(xué)習(xí)探索擴(kuò)充訓(xùn)練數(shù)據(jù)。不過(guò)，之前相關(guān)研究成果都不太理想，沒(méi)有特別突出的?；谶@樣的情況，我們來(lái)分享Kimik1.5的訓(xùn)練過(guò)程。這是我們新研發(fā)的多模態(tài)LLM，使用RL訓(xùn)練。我們會(huì)講講R...RL框架OpenAI O12025年值得入坑AI Agent智能體的五大框架
原創(chuàng)1、五大AIAgent多智能體開發(fā)框架在AI大模型新時(shí)代，AIAgent多智能體系統(tǒng)（MultiAgent）技術(shù)正日益受到眾多科技巨頭的矚目。伴隨著OpenAI的Swarm、微軟的MagenticOne等框架的推出，這一領(lǐng)域的發(fā)展變得更為錯(cuò)綜復(fù)雜。面對(duì)眾多的選項(xiàng)，選擇一個(gè)最匹配自身需求的MultiAgent框架成為了眾多開發(fā)者與企業(yè)需要解決的關(guān)鍵問(wèn)題。本期我們將深入分析市場(chǎng)上最受歡迎的五款A(yù)IAgent多智能體框架，包括微軟的AutoGen、CrewAI、LangChain的LangG...AI Agent智能體兩個(gè)簡(jiǎn)單技巧把 RAG 檢索正確率從 50% 提高到 95 %
原創(chuàng) 社區(qū)頭條在實(shí)際項(xiàng)目實(shí)施過(guò)程中，RAG（檢索增強(qiáng)生成）系統(tǒng)的關(guān)鍵在于其檢索階段，這一環(huán)節(jié)直接關(guān)系到生成效果的質(zhì)量。RAG系統(tǒng)的運(yùn)作流程主要涉及數(shù)據(jù)攝取和數(shù)據(jù)查詢兩個(gè)步驟，而檢索環(huán)節(jié)的重要性不言而喻。本文分享了一個(gè)案例，講述了團(tuán)隊(duì)如何運(yùn)用兩大關(guān)鍵策略，將RAG系統(tǒng)的檢索準(zhǔn)確率從50%顯著提升至95%。1、RAG檢索召回率RAG系統(tǒng)的檢索召回率（Recall）是評(píng)估檢索系統(tǒng)在用戶查詢時(shí)能否有效檢索出所有相關(guān)文檔的標(biāo)準(zhǔn)。在RAG系統(tǒng)中，這一...RAG一文說(shuō)清楚"知識(shí)蒸餾"（讓“小模型”也能擁有“大智慧”）
精華 社區(qū)頭條最近Distillation這個(gè)詞見(jiàn)的非常多。前兩天大火的DeepSeek團(tuán)隊(duì)發(fā)布的DeepSeekR1，其670B參數(shù)的大模型通過(guò)強(qiáng)化學(xué)習(xí)與蒸餾技術(shù)，成功將能力遷移至7B參數(shù)的輕量模型中。蒸餾后的模型超越同規(guī)模傳統(tǒng)模型，甚至接近OpenAI的頂尖小模型OpenAIo1mini。在人工智能領(lǐng)域，大型語(yǔ)言模型（如GPT4、DeepSeekR1）憑借數(shù)千億級(jí)參數(shù)，展現(xiàn)出卓越的推理與生成能力。然而，其龐大的計(jì)算需求與高昂的部署成本，嚴(yán)重限制了其在移動(dòng)設(shè)備、邊緣計(jì)算等...小模型知識(shí)蒸餾部署成本大模型生成內(nèi)容靠譜嗎？CRAAP測(cè)試告訴你
截至2025年1月，ChatGPT仍然可能會(huì)一本正經(jīng)地提供不準(zhǔn)確或虛構(gòu)的信息。例如，如果你向ChatGPT詢問(wèn)“林黛玉倒拔垂楊柳”和“林黛玉三打白骨精”，他會(huì)編造看似合理但實(shí)際上并不存在的解釋，將《紅樓夢(mèng)》中的林黛玉與《水滸傳》中的“倒拔垂楊柳”以及《西游記》中的“三打白骨精”錯(cuò)誤地關(guān)聯(lián)在一起。這種現(xiàn)象被稱為“幻覺(jué)（Hallucination）”，即AI生成的內(nèi)容雖然聽(tīng)起來(lái)可信，但實(shí)際上并不符合事實(shí)或現(xiàn)實(shí)。ChatGPT講述林黛玉倒拔...大模型工具維度關(guān)于神經(jīng)網(wǎng)絡(luò)的一些思考與感受
原創(chuàng)“神經(jīng)網(wǎng)絡(luò)模型并不是通用模型，不同的問(wèn)題需要設(shè)計(jì)不同的神經(jīng)網(wǎng)絡(luò)模型，千萬(wàn)不要想著一個(gè)模型打天下”神經(jīng)網(wǎng)絡(luò)作為當(dāng)前人工智能領(lǐng)域最炙手可熱的技術(shù)，其技術(shù)原理也相對(duì)比較復(fù)雜；而在學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的過(guò)程中也面臨著很多問(wèn)題和感受，因此這里就簡(jiǎn)單記錄一下。關(guān)于神經(jīng)網(wǎng)絡(luò)從本質(zhì)上來(lái)說(shuō)，所謂的神經(jīng)網(wǎng)絡(luò)就是一個(gè)模擬人類大腦的數(shù)學(xué)模型；而為了解決不同的問(wèn)題，技術(shù)專家們也設(shè)計(jì)了多種不同的神經(jīng)網(wǎng)絡(luò)模型，比如RNN，CNN以及Trans...神經(jīng)網(wǎng)絡(luò)AI大神Andrej Karpathy：OpenAI Operator預(yù)示著AI智能體的未來(lái)，但仍需突破！
各位小伙伴，最近OpenAI發(fā)布了Operator的研究預(yù)覽版，這是一個(gè)可以使用自己的瀏覽器為你執(zhí)行任務(wù)的AI代理，引起了廣泛關(guān)注。今天，我們來(lái)聽(tīng)聽(tīng)AI大神AndrejKarpathy對(duì)此的看法。他不僅深度參與了OpenAI的早期項(xiàng)目，還對(duì)AI的發(fā)展有著深刻的見(jiàn)解。文章要點(diǎn)總結(jié)：?Operator的類比：Karpathy將OpenAI的Operator比作數(shù)字世界的人形機(jī)器人，兩者都是通用的系統(tǒng)，能夠通過(guò)接口（鍵盤鼠標(biāo)或人體）執(zhí)行各種任務(wù)。?混合自主的未來(lái)：這類A...AI智能體OpenAI太慘，一個(gè)月僅23個(gè)下載！盤點(diǎn)2024“理想豐滿現(xiàn)實(shí)骨感”的大模型們！
原創(chuàng) 精華 社區(qū)頭條整理言征出品51CTO技術(shù)棧（微信號(hào)：blog51cto）大型語(yǔ)言模型的競(jìng)爭(zhēng)似乎正在結(jié)束，只有少數(shù)幾個(gè)明顯的贏家。其中，DeepSeekV3已成為2024年的焦點(diǎn)，引領(lǐng)中國(guó)開源模型的發(fā)展。據(jù)HuggingFace稱，DeepSeekV3與GPT4和Claude3.5等閉源巨頭正面交鋒，上個(gè)月的下載量為45,499次，與Meta的Llama3.1（491,629次下載）和谷歌的Gemma2（377,651次下載）并駕齊驅(qū)。但并非今年推出的所有LLM都能乘風(fēng)破浪——有些失敗了，盡管前景光明，但未能引...模型語(yǔ)言谷歌Meta楊立昆引燃全民大討論：美政府有些人被洗腦了，監(jiān)管讓開源變得像非法一樣！
原創(chuàng) 社區(qū)頭條編輯言征出品51CTO技術(shù)棧（微信號(hào)：blog51cto）1月23日，在冬季達(dá)沃斯論壇的“辯論技術(shù)”環(huán)節(jié)，Meta公司副總裁兼首席人工智能科學(xué)家YannLecun、麻省理工學(xué)院媒體實(shí)驗(yàn)室主任DavaNewman、Axios首席技術(shù)記者InaTurpenFried（主持人）就未來(lái)十年前沿科技進(jìn)行了時(shí)長(zhǎng)47分鐘的“全民”大討論，話題涵蓋了LLM、智能體、消費(fèi)機(jī)器人、腦機(jī)接口、跨物種、太空探索，也討論了非常讓Meta敏感的“技術(shù)作惡”、審查監(jiān)管、開閉源之爭(zhēng)。觀眾們更...大模型腦機(jī)接口LLM495篇參考文獻(xiàn)！北交大清華等高校發(fā)布多語(yǔ)言大模型綜述
雖然大模型取得突破性進(jìn)展，但其在多語(yǔ)言場(chǎng)景下仍具有局限性，存在很大的改善空間。那么，大模型多語(yǔ)言能力到底什么水平？其發(fā)展又存在什么樣的挑戰(zhàn)？來(lái)自北京交通大學(xué)、加拿大蒙特利爾大學(xué)、加拿大滑鐵盧大學(xué)和清華大學(xué)的研究團(tuán)隊(duì)發(fā)表了題為”ASurveyonLargeLanguageModelswithMultilingualism:RecentAdvancesandNewFrontiers”（大模型的多語(yǔ)言能力綜述）的論文，全面回顧了大模型在多語(yǔ)言能力上的最新進(jìn)展與未來(lái)發(fā)展方向。論...模型訓(xùn)練AIAI 發(fā)展是否正在放緩？AI 發(fā)展將駛向何方？
原創(chuàng) 社區(qū)頭條編者按：人工智能真的已經(jīng)遇到發(fā)展瓶頸了嗎？隨著OpenAI、Google和Anthropic等頂級(jí)AI公司紛紛表示新模型開發(fā)收益在減少，這個(gè)問(wèn)題引發(fā)了整個(gè)行業(yè)的深度思考。我們今天為大家?guī)?lái)的這篇文章，作者的核心觀點(diǎn)是：雖然傳統(tǒng)的模型規(guī)模擴(kuò)展策略正在遭遇瓶頸，但這可能正是AI發(fā)展模式轉(zhuǎn)型的重要契機(jī)。文章從多個(gè)維度深入剖析了當(dāng)前AI發(fā)展面臨的挑戰(zhàn)：首先，訓(xùn)練數(shù)據(jù)的增長(zhǎng)已接近極限，因?yàn)?ldquo;我們只有一個(gè)互聯(lián)網(wǎng)”；其次，簡(jiǎn)單地增加模...AILLMs你的LLM評(píng)估方法過(guò)時(shí)了嗎？這三個(gè)范式轉(zhuǎn)變不容錯(cuò)過(guò)
原創(chuàng)編者按：在大語(yǔ)言模型時(shí)代，你是否也在為評(píng)估方法感到困惑？當(dāng)開發(fā)周期越來(lái)越快，傳統(tǒng)的評(píng)估思維卻步履維艱——新版本剛上線，評(píng)估指標(biāo)就失效了；想要建立長(zhǎng)期基準(zhǔn)測(cè)試，卻總是事與愿違；人工評(píng)估成本高昂，全自動(dòng)評(píng)估又難盡人意...我們今天為大家?guī)?lái)的這篇文章，作者認(rèn)為在LLM時(shí)代，我們需要對(duì)評(píng)估體系進(jìn)行根本性的范式轉(zhuǎn)變，而不是簡(jiǎn)單地沿用傳統(tǒng)機(jī)器學(xué)習(xí)的評(píng)估方法。文章從作者在Quora、Waymo等公司的一線實(shí)踐經(jīng)驗(yàn)出發(fā)，提...LLMAI人工智能技術(shù)棧：解鎖智能應(yīng)用開發(fā)的底層密碼
原創(chuàng)01、概述在當(dāng)今競(jìng)爭(zhēng)激烈的商業(yè)環(huán)境中，人工智能（AI）已經(jīng)從一種奢侈品轉(zhuǎn)變?yōu)楸匦杵?。無(wú)論是企業(yè)希望提升運(yùn)營(yíng)效率，還是開發(fā)者想要打造前沿產(chǎn)品，深入理解AI技術(shù)棧都顯得至關(guān)重要。它不僅能幫助我們構(gòu)建革命性的智能應(yīng)用，還能在激烈的市場(chǎng)競(jìng)爭(zhēng)中脫穎而出。今天，就讓我們深入探索AI技術(shù)棧的奧秘，一窺究竟。02、AI技術(shù)棧的分層架構(gòu)AI技術(shù)棧是一個(gè)由多個(gè)相互依賴的層級(jí)組成的結(jié)構(gòu)框架，每一層都承擔(dān)著確保系統(tǒng)高效運(yùn)行的關(guān)鍵功...人工智能RAG：七種用于向量數(shù)據(jù)庫(kù)+相似性搜索的索引方法
原創(chuàng)01、概述在現(xiàn)代數(shù)據(jù)庫(kù)類型中，盡管關(guān)系型數(shù)據(jù)庫(kù)（RelationalDB）、NoSQL數(shù)據(jù)庫(kù)和圖數(shù)據(jù)庫(kù)（GraphDB）各有千秋，但在RAG（RetrievalAugmentedGeneration）系統(tǒng)中，VectorDB卻成為首選。它不僅支持水平擴(kuò)展，還能結(jié)合CRUD操作（Create,Read,Update,Delete）提供元數(shù)據(jù)過(guò)濾功能，大幅提升數(shù)據(jù)檢索效率和智能性。本文將帶你全面解析VectorDB，從基礎(chǔ)概念、工作原理到查詢加速的核心算法，幫助你更好地理解其強(qiáng)大功能及在RAG管道中的...RAG向量數(shù)據(jù)庫(kù)DeepSeek-AI 發(fā)布 DeepSeek-R1-Zero 和 DeepSeek-R1
原創(chuàng) 精華 社區(qū)頭條01、概述近年來(lái)，大型語(yǔ)言模型（LLMs）在自然語(yǔ)言處理領(lǐng)域取得了令人矚目的進(jìn)展。它們?cè)谖谋纠斫?、生成和邏輯推理等任?wù)中表現(xiàn)卓越。然而，面對(duì)復(fù)雜推理任務(wù)時(shí)，這些模型仍然存在諸多挑戰(zhàn)。例如，依賴大規(guī)模監(jiān)督微調(diào)的方式雖然提升了模型性能，但限制了其可擴(kuò)展性和通用性。此外，如何平衡推理的復(fù)雜性、計(jì)算效率和結(jié)果可讀性，依然是研究者們需要攻克的難題。在這一背景下，DeepSeekAI團(tuán)隊(duì)帶來(lái)了令人耳目一新的解決方案——Dee...大型語(yǔ)言模型LLMs操作指南：如何部署AI進(jìn)行實(shí)時(shí)內(nèi)容審核
原創(chuàng) 社區(qū)頭條如今，內(nèi)容審核已經(jīng)成為各類數(shù)字平臺(tái)的重要組成部分，堪稱用戶信任與安全保障的前提。盡管人工審核能夠處理部分任務(wù)，但隨著平臺(tái)規(guī)模的擴(kuò)展，AI驅(qū)動(dòng)的實(shí)時(shí)審核變得愈發(fā)重要。機(jī)器學(xué)習(xí)（ML）驅(qū)動(dòng)的系統(tǒng)能夠成規(guī)模且高效開展內(nèi)容審核，同時(shí)將再訓(xùn)練與運(yùn)營(yíng)成本降低至最低。本份指南將為你概述部署AI驅(qū)動(dòng)型實(shí)時(shí)審核系統(tǒng)的方法。實(shí)時(shí)審核系統(tǒng)的核心屬性實(shí)時(shí)內(nèi)容審核系統(tǒng)負(fù)責(zé)評(píng)估用戶提交的內(nèi)容（文本、圖像、視頻或其他格式的數(shù)據(jù)）...機(jī)器學(xué)習(xí)AI驅(qū)動(dòng)實(shí)時(shí)審核系統(tǒng)
