大多數(shù)普通人眼里AI的模樣是什么？看著網(wǎng)站草圖，AI就自動做了一個原形網(wǎng)站。只需要告訴AI指令，它就幫你完成了一系列的機票訂票流程。許多人更是憧憬過AllinOneApp——我只要動嘴，一切活有AI搞定?？梢哉f，現(xiàn)階段的AI使用形態(tài)，充其量就是個氛圍組。我只能獲取必要的資料指引，具體的活還得我自己來干。而過去兩年的發(fā)展，AIAgent不過是雷聲大，雨點小的玩意了。做的人很多，但是能夠在路人之間火出圈的產(chǎn)品，大抵也只有Manus...

模型架構(gòu)KimiVL模型整體架構(gòu)框架與前期內(nèi)容介紹的llava、reyes等多模態(tài)大模型的架構(gòu)大差不差，組成形式：視覺編碼器（MoonViT）+MLP層+MoE的LLM。模型架構(gòu)1.MoonViT：視覺編碼器MoonViT的設(shè)計目標是能夠以圖像的原始分辨率處理圖像，從而消除復(fù)雜的子圖像分割和拼接操作。這種設(shè)計使得MoonViT能夠更靈活地處理不同分辨率的圖像，而不需要進行額外的預(yù)處理步驟。實現(xiàn)方式：圖像分塊和拼接：MoonViT采用NaViT中的打包方法，將圖像...

“大模型的使用就類似于汽車駕駛，只有有經(jīng)驗的老司機才能真正開好車。”隨著人工智能技術(shù)的發(fā)展，大模型的應(yīng)用范圍越來越廣，因此學(xué)習(xí)和使用大模型成了一個必不可少的技能。但很多人面對的問題是，不知道應(yīng)該怎么學(xué)習(xí)大模型，因此我們今天就來討論一下大模型的學(xué)習(xí)方式。怎么學(xué)習(xí)大模型或許你可能并不懂人工智能，你也可能不懂大模型技術(shù)，但是你懂汽車駕駛嗎？也就是開車。工具思想如果說你不知道應(yīng)該怎么學(xué)大模型，甚至覺得...

今天，國內(nèi)AI行業(yè)迎來了一場震撼性的開源盛宴——智譜AI（ZhipuAI）一口氣免費開源了6款GLM系列大模型，涵蓋基座、推理、沉思三大類別，并細分9B和32B兩種參數(shù)量級。更令人振奮的是，其中GLMZ132B推理模型實測速度高達200tokens秒，登頂國內(nèi)商用模型速度之最，而價格卻僅為DeepSeekR1的130，甚至部分版本完全免費商用！這一波操作，不僅讓開發(fā)者直呼“真香”，更讓行業(yè)開始思考：大模型的商用門檻是否正在被徹底打破？免費開源...

北京時間4月15日凌晨，OpenAI毫無預(yù)兆地上線了GPT4.1系列模型！包含GPT4.1標準版、輕量級GPT4.1mini和極致性價比的GPT4.1nano三款模型，性能全面超越GPT4o，支持百萬級token上下文處理，價格卻更低。這一發(fā)布不僅讓開發(fā)者直呼“真香”，更標志著AI技術(shù)向?qū)嵱没~出關(guān)鍵一步。顛覆性突破性能全面碾壓前代，長文本理解史詩級升級百萬token上下文窗口：GPT4.1系列支持100萬tokens的上下文長度（相當于一本長篇小說的體量），是GPT4...

在人工智能技術(shù)日新月異的今天，昆侖萬維再次以驚人的創(chuàng)新力震撼業(yè)界——全新升級的SkyworkOR1(OpenReasoner1)系列中文推理大模型正式發(fā)布！這不僅是一次技術(shù)迭代，更是一場關(guān)于開源精神與AI普惠化的革命性突破。120參數(shù)量，比肩640B頂級模型SkyworkOR1系列最令人驚嘆的，莫過于其"以小博大"的卓越性能。據(jù)官方數(shù)據(jù)顯示，旗艦版本SkyworkOR132B雖然參數(shù)量僅為32B，卻能在多項基準測試中與參數(shù)量高達640B的DeepSeekR1打得有來有...

Seaweed7B:CostEffectiveTrainingofVideoGenerationFoundationModel20250411｜ByteDance,ByteDanceSeed??83??http:arxiv.orgabs2504.08685v1??????https:huggingface.copapers2504.08685??????https:seaweed.video??研究背景與意義Seaweed7B是一種中等規(guī)模的視頻生成基礎(chǔ)模型，參數(shù)量約為70億。該研究的核心目標是探索一種成本高效的訓(xùn)練策略，在計算資源有限的情況下實現(xiàn)與大規(guī)模模型相媲美的性能。視頻生成領(lǐng)...

在人工智能的發(fā)展歷程中，大語言模型(LLM)的推理能力一直是研究的核心焦點。然而，傳統(tǒng)的推理能力增強方法往往依賴于高質(zhì)量的監(jiān)督信號，如標注好的答案或外部獎勵模型，這不僅成本高昂，而且難以擴展。近期，來自上海人工智能實驗室、西安交通大學(xué)等機構(gòu)的研究團隊提出了一個革命性的解決方案——Genius框架，這是一個可泛化、純無監(jiān)督的高級推理自訓(xùn)練框架，能夠讓大語言模型在沒有任何外部監(jiān)督的情況下自我提升推理能力。傳統(tǒng)...

大型語言模型（LLM）在處理超出訓(xùn)練長度的上下文時往往會遇到嚴重的性能下降問題。NVIDIA研究團隊最新提出的SWANGPT架構(gòu)通過巧妙的設(shè)計，成功解決了這一行業(yè)難題，無需額外的長上下文訓(xùn)練即可實現(xiàn)穩(wěn)健的長度外推能力。本文深入剖析SWANGPT的創(chuàng)新架構(gòu)、工作原理及其在長上下文處理領(lǐng)域的重大突破。1.長上下文處理的挑戰(zhàn)與現(xiàn)狀大型語言模型的上下文長度限制一直是制約其應(yīng)用場景的關(guān)鍵因素。目前主流的Transformer架構(gòu)在處理超出...

最近MCP這么火，了解了一段時間也該寫篇總結(jié)，那就開始吧。1.什么是MCPMCP（ModelContextProtocol，模型上下文協(xié)議），2024年11月底，由Anthropic推出的一種開放標準，旨在統(tǒng)一大型語言模型（LLM）與外部數(shù)據(jù)源和工具之間的通信協(xié)議。官網(wǎng)的介紹：https:modelcontextprotocol.iointroductionMCP包括幾個核心功能：Resources是允許服務(wù)器公開可由客戶端讀取并用作LLM交互上下文的數(shù)據(jù)和內(nèi)容，包括文件內(nèi)容，數(shù)據(jù)庫，API，圖片等...

一、場景破局：云端算力驅(qū)動行業(yè)智能化轉(zhuǎn)型?（一）工業(yè)質(zhì)檢：效率與精度雙躍升?某汽車零部件廠商引入云算力，基于算力集群訓(xùn)練YOLOv8模型，單圖檢測時間壓縮至12ms，缺陷識別率達99.3%。云端彈性算力使模型迭代周期從7天縮短至24小時，適配新零件效率提升300%，單產(chǎn)線年省人工成本超200萬元，徹底改變傳統(tǒng)人工目檢的高漏檢現(xiàn)狀。?（二）生物醫(yī)藥：科研加速的核心助力?新冠抗體篩選中，某團隊利用勁速GPU集群并行處理百萬級...

在AI驅(qū)動產(chǎn)業(yè)變革的時代，機器學(xué)習(xí)對算力的渴求催生了硬件與架構(gòu)的雙重創(chuàng)新。GPU以專用計算架構(gòu)識別算力瓶頸，結(jié)合云端算力模式，正推動AI研發(fā)從“少數(shù)派游戲”走向普惠化發(fā)展。?一、GPU：為密集計算而生的硬件革命?（一）并行計算：數(shù)據(jù)處理的“千軍萬馬”?區(qū)別于CPU的單線程精密控制，GPU集成數(shù)萬個CUDA核心，可同時調(diào)度數(shù)萬線程執(zhí)行同類計算，形成強大的并行處理能力。這種特性完美匹配機器學(xué)習(xí)中大量重復(fù)的數(shù)值運算——...

人工智能技術(shù)的快速發(fā)展催生了智能體（Agent）的廣泛應(yīng)用，但系統(tǒng)間的協(xié)作障礙逐漸顯現(xiàn)。模型無法直接訪問實時數(shù)據(jù)、工具調(diào)用標準不統(tǒng)一、多Agent協(xié)作缺乏規(guī)范等問題，成為制約AI規(guī)?；涞氐暮诵钠款i。這種情況下，智能體（Agent）之間的協(xié)作與通信是實現(xiàn)復(fù)雜任務(wù)的關(guān)鍵。由此，MCP（模型上下文協(xié)議）、ANP（Agent網(wǎng)絡(luò)協(xié)議）和A2A（Agent到Agent協(xié)議）相繼成為支持AIAgent通信和協(xié)作的重要協(xié)議和框架。三種協(xié)議各有獨特的設(shè)計...

本文旨在介紹利用歸因圖技術(shù)對大型語言模型的計算回路進行逆向工程，目的是試圖徹底搞清大型語言模型的決策過程。引言多年來，基于Transformer的大型語言模型（LLM）在從簡單的信息檢索系統(tǒng)到能夠進行編碼、寫作、開展研究的復(fù)雜智能體等一系列任務(wù)上取得了長足的進步。然而，盡管這些模型功能強大，但它們在很大程度上仍然是黑匣子。給定輸入，它們可以完成任務(wù)，但我們?nèi)狈χ庇^的方法來理解任務(wù)的具體完成方式。LLM旨在預(yù)測統(tǒng)...

在學(xué)術(shù)寫作中，精準引用與優(yōu)質(zhì)文本生成至關(guān)重要，現(xiàn)有檢索增強生成系統(tǒng)卻難以滿足需求。今天為大家?guī)硪黄芯砍晒榻B，文中提出的ScholarCopilot框架，能訓(xùn)練大語言模型助力學(xué)術(shù)寫作。它表現(xiàn)如何？又有哪些創(chuàng)新？快來一探究竟。參考文獻article{wang2024scholarcopilot,title{ScholarCopilot:TrainingLargeLanguageModelsforAcademicWritingwithAccurateCitations},author{Wang,YuboandMa,XueguangandNie,PingandZeng,Huayea...

一、引言在人工智能領(lǐng)域，代理是一類借助大語言模型（LLM）來決定應(yīng)用程序控制流的系統(tǒng)。隨著開發(fā)的推進，這類系統(tǒng)往往會變得愈發(fā)復(fù)雜，給管理和擴展帶來諸多難題。比如，你可能會遭遇以下狀況：工具選擇困境：代理可調(diào)用的工具繁多，導(dǎo)致在決策下一步使用哪個工具時表現(xiàn)欠佳。上下文管理難題：上下文信息過于繁雜，單個代理難以有效追蹤和處理。專業(yè)領(lǐng)域需求多樣：系統(tǒng)內(nèi)需要涵蓋多個專業(yè)領(lǐng)域，像規(guī)劃師、研究員、數(shù)學(xué)專家等角...

北京時間4月15日凌晨，GPT4.1系列模型悄然上線，以百萬token上下文處理能力和26%的成本降幅，直接宣告了GPT4.5的死刑。同時，GPT4.1以更低的成本、更長的記憶、更精準的指令控制，全面碾壓GPT4o。目前，該系列包含了三個模型，分別是GPT4.1、GPT4.1mini和GPT4.1nano，只能通過API調(diào)用，并已向所有開發(fā)者開放。不過GPT4o已經(jīng)加入了GPT4.1的部分功能。這次發(fā)布的4.1系列（含mininano）徹底顛覆玩法：編程：GPT4.1在SWEbenchVerifi...

今天凌晨1點，OpenAI進行了技術(shù)直播發(fā)布了最新模型——GPT4.1。除了GPT4.1之外，還有GPT4.1Mini和GPT4.1Nano兩款模型，在多模態(tài)處理、代碼能力、指令遵循、成本方面實現(xiàn)大幅度提升。特別是支持100萬token上下文，這對于金融分析、小說寫作、教育等領(lǐng)域幫助巨大。由于GPT4.1的發(fā)布，OpenAI宣布將會淘汰剛發(fā)布不久的GPT4.5，其能力可見一斑。目前，如果想體驗GPT4.1而無法通過API身份驗證的小伙伴，微軟已經(jīng)在AzureOpenAI上線了該...

文章鏈接：https:arxiv.orgpdf2410.18775Git鏈接：https:github.comShilinLUVINE亮點直擊提出了WBench，這是首個綜合性基準測試，旨在評估11種代表性水印模型在多種圖像編輯方法下的表現(xiàn)：圖像再生、全局編輯、局部編輯和圖像到視頻生成。該評估涵蓋了7種廣泛使用的編輯模型和算法，并表明當前的水印模型在面對這些編輯時表現(xiàn)脆弱。圖像編輯主要會去除高頻波段的水印信息，而低頻波段的水印受影響較小。這一現(xiàn)象在某些模糊失真...

嘉賓Alex作者云昭出品51CTO技術(shù)棧（微信號：blog51cto）AlexYeh回憶過去兩年半的創(chuàng)業(yè)歷程，用“一頭深海中求生的鯊魚”來形容GMICloud這家新創(chuàng)公司。海水中礁石隱藏在未知的角落，繞開礁石繼續(xù)前行則成為了這條鯊魚的常態(tài)。AlexYeh是AINativeCloud提供商GMICloud的創(chuàng)始人兼CEO。成立于2023年，GMICloud是他的第二次創(chuàng)業(yè)，在創(chuàng)業(yè)之前，他是亞太知名私募和風(fēng)投公司里的董事，是加密貨幣與區(qū)塊鏈生態(tài)圈里最年輕的合伙人，投資相關(guān)...