出品51CTO技術(shù)棧（微信號：blog51cto）今年GTC大會，老黃的主題演講聊了很長時間，一個人撐起了相當(dāng)于一部電影哪吒2的時長，近140分鐘。用黃仁勛開場自己的話說：“沒有腳本，沒有提詞器，卻有很多令人難以置信的事情要跟大家談。”先說整體感受，老黃這次科普密度極大，可以說是最為賣力的一次演講。開場靈魂拷問：推動AI發(fā)展的三個問題跟去年不同的是，黃教主這次沒有上來就開大，而是在簡單介紹了感知AI、生成AI、代理AI、物...

最近關(guān)于MCP的介紹文章越來越多了，我也做了一個系統(tǒng)性的學(xué)習(xí)，并且寫了一些代碼。本文主要介紹核心概念，后面有機(jī)會做一些實(shí)操分享。隨著人工智能（AI）技術(shù)的飛速發(fā)展，各種大型語言模型（LLM）不斷涌現(xiàn)，如何讓這些模型更便捷、更高效地與外部世界連接，成為構(gòu)建強(qiáng)大AIAgent的關(guān)鍵命題。模型上下文協(xié)議(MCP)正是在這種背景下誕生的——它致力于為AIAgent和外部世界（數(shù)據(jù)庫、API、文件系統(tǒng)等）提供一個通用、標(biāo)準(zhǔn)化的交互方...

本文全面介紹用于檢索增強(qiáng)生成（RAG）開發(fā)管道的輕量級幻覺檢測器LettuceDetect，并探討如何利用ModernBERT模型的擴(kuò)展上下文窗口構(gòu)建用于幻覺檢測的標(biāo)記級分類器。簡介最近，我們團(tuán)隊(duì)推出了LettuceDetect框架，這是一款用于檢索增強(qiáng)生成（RAG）開發(fā)管道的輕量級幻覺檢測器。它是一種基于??ModernBERT??模型構(gòu)建的基于編碼器的模型，根據(jù)MIT許可證發(fā)布，帶有現(xiàn)成的Python包和預(yù)訓(xùn)練模型。?是什么：LettuceDetect是一個標(biāo)記...

你能想象嗎？未來，家里的機(jī)器人不僅能聽懂你的指令，幫你打掃衛(wèi)生、照顧老人小孩，還能像個貼心小助手一樣，根據(jù)你的心情和需求，主動提供合適的服務(wù)；游戲里的NPC不再是按部就班的“工具人”，而是能和你進(jìn)行深度互動，給你帶來沉浸式的游戲體驗(yàn)；在醫(yī)療領(lǐng)域，智能助手能快速準(zhǔn)確地輔助醫(yī)生診斷病情，讓醫(yī)療服務(wù)更加高效和便捷。這些看似科幻電影里的場景，正隨著智能體AI（AgentAI）的發(fā)展逐漸成為現(xiàn)實(shí)。今天，咱們就一起來...

研究背景是大語言模型雖然厲害，但在做復(fù)雜推理和獲取最新信息時不太給力?，F(xiàn)有的和搜索引擎結(jié)合的方法，像檢索增強(qiáng)生成和把搜索引擎當(dāng)工具用，都有各自的問題。重要意義在于提出的SEARCHR1框架能讓大語言模型在推理的時候更好地利用搜索引擎，提高解決復(fù)雜問題的能力，而且還對相關(guān)訓(xùn)練策略有新的發(fā)現(xiàn)，對大語言模型的發(fā)展有很大幫助。文章針對大語言模型（LLMs）在復(fù)雜推理和獲取外部最新信息方面的不足，提出SEARCHR1強(qiáng)化學(xué)...

1.背景37.2%——這是AI在計(jì)算機(jī)與數(shù)學(xué)相關(guān)職業(yè)中的使用比例，遠(yuǎn)高于其他任何行業(yè)。為什么軟件開發(fā)成為AI應(yīng)用的主戰(zhàn)場？近日，AI大模型公司Anthropic發(fā)布了一項(xiàng)重要研究論文《WhichEconomicTasksarePerformedwithAIEvidencefromMillionsofClaudeConversations》（哪些經(jīng)濟(jì)任務(wù)正在使用AI？來自數(shù)百萬Claude對話的證據(jù)）。這項(xiàng)研究于2024年第三季度完成，分析了超過400萬次真實(shí)的Claude.ai對話，通過美國勞工部ONET數(shù)據(jù)庫的任務(wù)和...

概述隨著人工智能技術(shù)的快速發(fā)展，AI測試工具正在成為提升軟件研發(fā)效能的關(guān)鍵。本文將介紹8款備受矚目的AI測試工具，幫助你提高測試效率、降低維護(hù)成本，并實(shí)現(xiàn)更全面的測試覆蓋。1.為什么需要AI測試工具？在軟件開發(fā)中，AI代碼編輯器（如Cursor、Windsurf等）已經(jīng)顯著提升了開發(fā)效率。然而，開發(fā)速度的提升并不等同于軟件質(zhì)量的提升。未經(jīng)充分測試的軟件可能隱藏著嚴(yán)重的缺陷，影響用戶體驗(yàn)甚至造成經(jīng)濟(jì)損失。AI測試工具的核心...

現(xiàn)在AIAgent開發(fā)需求激增，F(xiàn)astGPT、Dify和字節(jié)跳動旗下的Coze成為市面上比較流行的三大工具。我從技術(shù)架構(gòu)、功能適配性、生態(tài)能力等維度進(jìn)行對比分析，為自己整理的同時，給大家一些簡單參考。一、核心功能與技術(shù)對比維度FastGPTDifyCoze公司環(huán)界云計(jì)算語靈科技字節(jié)跳動定位開源知識庫問答系統(tǒng)開源LLM應(yīng)用開發(fā)平臺（BaaS+LLMOps）AI聊天機(jī)器人開發(fā)平臺核心能力Flow工作流編排、多格式知識庫多模型調(diào)度、可視化應(yīng)用編排插件生態(tài)...

一、Xinference簡介XorbitsInference（Xinference）是一個開源的分布式推理框架，專為大規(guī)模模型推理任務(wù)設(shè)計(jì)。它支持大語言模型（LLM）、多模態(tài)模型、語音識別模型等多種模型的推理，極大簡化了這些模型的部署過程。二、XinferenceDocker部署在部署Xinference時，選擇使用Docker容器可以帶來許多便利。首先，需要拉取Xinference的Docker鏡像文件，但請注意，該鏡像文件較大，約為17.7GB，拉取過程可能需要較長時間。拉取命令如...

軟件安裝總共需要安裝三個軟件，分別為Ollama、DockerDesktop、OpenWebUIOllama介紹：Ollama是一款開源工具，專注于簡化大型語言模型（LLM）在本地環(huán)境中的部署與運(yùn)行。它支持多種主流模型（如Llama3、Mistral、Gemma等），提供跨平臺兼容性（macOSLinuxWindows），通過命令行實(shí)現(xiàn)快速安裝與交互。其核心優(yōu)勢在于隱私保護(hù)（數(shù)據(jù)無需上傳云端）和可定制性，允許用戶微調(diào)模型參數(shù)或加載自定義模型。開發(fā)者和研究者可借助其輕量化...

剛剛得到消息，阿里將很快推出一系列AI原生應(yīng)用，內(nèi)部知情人士表示：公司內(nèi)部相信“基于AI的殺手級應(yīng)用可能很快就出現(xiàn)，甚至?xí)榷兑舾軞g迎”。知情人士透露，阿里所有部門已被告知，他們2025年的績效將通過如何利用AI促進(jìn)增長來評估。淘寶和天貓?jiān)趦?nèi)的核心電子商務(wù)部門被鼓勵采用更多的AI技術(shù)。各團(tuán)隊(duì)正在與通義千問的工程師密切合作，共同開發(fā)能夠提高效率和用戶體驗(yàn)的功能。知情人士稱，該公司還在開發(fā)一系列AI原生應(yīng)用，...

、文章鏈接：https:arxiv.orgpdf2503.10743亮點(diǎn)直擊與現(xiàn)有方法僅在笛卡爾空間中優(yōu)化末端執(zhí)行器姿態(tài)不同，提出了一種新穎的時空機(jī)器人圖，顯式地建模機(jī)器人物理配置，以指導(dǎo)生成動作的去噪過程。引入了一種運(yùn)動學(xué)正則化器，通過引入關(guān)節(jié)空間監(jiān)督來增強(qiáng)NBP（NextBestPose）學(xué)習(xí)目標(biāo)。該正則化器利用前向運(yùn)動學(xué)提供符合運(yùn)動學(xué)約束的參考姿態(tài)，有效引導(dǎo)擴(kuò)散過程以符合運(yùn)動學(xué)約束。大量實(shí)驗(yàn)表明，本文提出的KStarDiffuser在仿真和實(shí)...

本文詳細(xì)介紹DeepSeek模型中的一些創(chuàng)新技術(shù)，包括對Transformer架構(gòu)的改進(jìn)（如MLA、MOE）、MultiTokenPrediction提高訓(xùn)練效率、算法、框架和硬件的協(xié)同設(shè)計(jì)、GroupRelativePolicyOptimization(GRPO)強(qiáng)化學(xué)習(xí)算法，以及結(jié)合監(jiān)督微調(diào)和強(qiáng)化學(xué)習(xí)的迭代訓(xùn)練方法。這些技術(shù)不僅提高了模型的性能，還顯著降低了訓(xùn)練成本。記錄供參考。1.MLA多頭潛在注意力Transformer架構(gòu)的注意力機(jī)制是實(shí)現(xiàn)高效自然語言處理的關(guān)鍵組件。MultiHeadLate...

01、概述在當(dāng)今這個信息爆炸的時代，研究和分析工作變得越來越復(fù)雜，也越來越耗時。不過，最近幾個月，一種名為“深度研究”（DeepResearch）的AI代理技術(shù)悄然興起，它們能夠自動完成從信息收集到報(bào)告生成的全過程，極大地節(jié)省了人類的時間和精力。今天，就讓我們一起走進(jìn)這些智能代理的世界，看看它們是如何改變我們的研究方式的。02、什么是深度研究AI代理？簡單來說，深度研究AI代理是一種能夠自主完成復(fù)雜研究任務(wù)的人工智...

在數(shù)字化浪潮的推動下，人工智能（AI）已經(jīng)成為企業(yè)發(fā)展的核心驅(qū)動力之一。然而，隨著AI技術(shù)的不斷進(jìn)步，企業(yè)面臨著一個棘手的問題：如何在有限的預(yù)算內(nèi)，獲取高效、安全且強(qiáng)大的AI解決方案？今天，我們就要聊聊一款全新的AI模型——CommandA，它以卓越的性能和極低的計(jì)算需求，為企業(yè)帶來了前所未有的AI體驗(yàn)。CommandA：重新定義企業(yè)級AI的性價比在AI的世界里，性能和效率往往是一對矛盾體。強(qiáng)大的AI模型通常需要海量的計(jì)算資...

阿里巴巴達(dá)摩院推出的Babel多語言大語言模型（LLM）是一項(xiàng)突破性技術(shù)，旨在通過支持25種最常用語言（覆蓋全球90%以上人口）來彌合語言鴻溝。其核心技術(shù)特點(diǎn)及創(chuàng)新如下：1.模型架構(gòu)與擴(kuò)展技術(shù)Babel采用結(jié)構(gòu)化層擴(kuò)展方法（StructuredLayerExtension），通過增加參數(shù)規(guī)模提升模型能力，而非依賴傳統(tǒng)持續(xù)預(yù)訓(xùn)練（continuouspretraining）。例如：Babel9B：專注于推理效率和微調(diào)優(yōu)化，適合研究與本地化部署；Babel83B：參數(shù)規(guī)模對標(biāo)...

?核心觀點(diǎn)1.HPCAI市場的快速增長與不確定性并存2024年HPCAI市場展現(xiàn)出強(qiáng)勁增長勢頭，超大規(guī)模AI基礎(chǔ)設(shè)施投資翻倍，ElCapitan等超算項(xiàng)目的突破標(biāo)志技術(shù)進(jìn)步。然而，AI熱潮可能對傳統(tǒng)HPC構(gòu)成擠壓風(fēng)險，同時存在泡沫破裂的擔(dān)憂。2.超大規(guī)模AI主導(dǎo)市場，傳統(tǒng)HPC面臨轉(zhuǎn)型壓力超大規(guī)模AI市場預(yù)計(jì)從2022年的約5萬單位增長至2028年的25萬單位，遠(yuǎn)超本地部署HPCAI（2028年約5萬單位），顯示其主導(dǎo)地位。云化趨勢可能壓縮本地HPCAI市場，...

在當(dāng)今快速發(fā)展的互聯(lián)網(wǎng)時代，人工智能（AI）已經(jīng)滲透到我們生活的各個方面。作為前端開發(fā)者，如何將強(qiáng)大的ChatGPT功能集成到Vue項(xiàng)目中，成為了許多人關(guān)注的焦點(diǎn)。今天，我將帶你一步步完成這一過程，讓你的應(yīng)用具備智能對話功能，提升用戶體驗(yàn)！?一、項(xiàng)目準(zhǔn)備：打造堅(jiān)實(shí)的基礎(chǔ)在開始之前，我們需要做好充分的準(zhǔn)備工作，確保項(xiàng)目順利進(jìn)行。1.搭建Vue項(xiàng)目環(huán)境首先，確保你的電腦已經(jīng)安裝了Node.js和npm（NodePackageManager）。...

Mistral又搞了個“小而美”的狠貨：MistralSmall3.1發(fā)布并開源：號稱“小3.1”，但能力不“小”。多模態(tài)、開源Apache2.0協(xié)議，關(guān)鍵是性能還杠杠的，直接PK掉Gemma3和GPT4omini?？碆enchmark圖：橫坐標(biāo)是速度，越小越快；縱坐標(biāo)是知識，越大越強(qiáng)。MistralSmall3.1，直接霸榜左上角，速度、知識雙Buff加持。Mistral官方列出了Small3.1的關(guān)鍵特性和能力：?輕量級：能在RTX4090或32GB內(nèi)存的Mac上運(yùn)行，適合本地部署。?快速響應(yīng)：...

LLM正在通過精心策劃的專門代理來改變供應(yīng)鏈管理，這些代理可以增強(qiáng)預(yù)測、規(guī)劃和決策。供應(yīng)鏈?zhǔn)侨蛏虡I(yè)的支柱，但它們正日趨復(fù)雜，且極易受到干擾。從疫情引發(fā)的資源短缺到地緣政治沖突，最近的種種事件暴露了傳統(tǒng)供應(yīng)鏈管理方法的根本弱點(diǎn)。隨著企業(yè)尋求更具彈性和效率的解決方案，人工智能——尤其是生成式人工智能和大型語言模型（LLM）——正在成為一項(xiàng)改變游戲規(guī)則的技術(shù)。挑戰(zhàn)：超越傳統(tǒng)優(yōu)化傳統(tǒng)的供應(yīng)鏈優(yōu)化依賴于基于...