一、強化學(xué)習(xí)基礎(chǔ)概述強化學(xué)習(xí)是機器學(xué)習(xí)的一個分支，核心在于智能體（agent）與環(huán)境（environment）的交互。智能體執(zhí)行動作（action），環(huán)境隨之反饋獎勵（reward）和新的狀態(tài)（state）。智能體的目標便是通過不斷試錯，學(xué)習(xí)到能最大化長期累積獎勵的策略（policy）。大語言模型的預(yù)訓(xùn)練依賴海量無監(jiān)督文本數(shù)據(jù)，構(gòu)建起龐大的參數(shù)空間來捕捉語言規(guī)律。然而，這一過程存在諸多短板：缺乏任務(wù)針對性：預(yù)訓(xùn)練后的模型像是個“知識...

一、背景1.人工智能與神經(jīng)科學(xué)的融合在當今科技飛速發(fā)展的時代，人工智能與神經(jīng)科學(xué)的交叉領(lǐng)域正成為科研的熱點方向。大語言模型（LLMs）作為人工智能領(lǐng)域的重要成果，其與人類大腦語言處理機制的關(guān)系備受關(guān)注。從本質(zhì)上講，這一研究方向旨在探尋機器如何像人類大腦一樣理解和處理語言，這不僅有助于提升人工智能技術(shù)的性能，更有助于揭示人類認知的奧秘。過往研究已發(fā)現(xiàn)LLMs與大腦在某些方面存在相似之處，如特征提取和表征等...

1.算法介紹層次聚類（HierarchicalClustering）是一種常用的數(shù)據(jù)聚類算法，它通過構(gòu)建一個聚類樹來分析數(shù)據(jù)集的相似度和差異。這種算法不需要預(yù)先指定聚類數(shù)，非常適合于探索性數(shù)據(jù)分析。層次聚類主要包括兩種方法：凝聚型（Agglomerative）和分裂型（Divisive）。本文將重點介紹凝聚型層次聚類，并通過MATLAB實現(xiàn)數(shù)據(jù)的層次聚類分析。2.算法原理凝聚型層次聚類的基本步驟如下：初始化：開始時，將每個數(shù)據(jù)點視為一個獨立的聚類...

量化已成為壓縮大語言模型（LLMs）的最有效方法之一。然而，現(xiàn)有的量化方案仍然存在不可忽視的準確性下降或系統(tǒng)效率低下的局限性。在本文中，我們?nèi)娣治隽肆炕囊话阍瓌t對準確性、內(nèi)存消耗和系統(tǒng)效率三角關(guān)系的影響。我們提出了MixLLM，這是一種基于輸出特征之間的混合精度量化的方法。MixLLM從全局視角識別高顯著性的輸出特征，而非僅在單層內(nèi)部，有效地為最需要的輸出特征分配更大的位寬，從而在低內(nèi)存消耗的情況下實現(xiàn)良...

智能體是一種能夠感知環(huán)境、做出決策并采取行動的系統(tǒng)。這些系統(tǒng)能夠執(zhí)行被動的任務(wù)，也能夠主動尋找解決問題的方法，適應(yīng)環(huán)境的變化，并在沒有人類直接干預(yù)的情況下做出決策。1.業(yè)務(wù)需求現(xiàn)在有一個生意很好的鮮花店在運營花店的過程中，經(jīng)常遇到特殊情況導(dǎo)致大量花朵損壞，會導(dǎo)致庫存短缺的問題因此花店急需一個能夠精準預(yù)測和優(yōu)化庫存的解決方案來應(yīng)對這場危機，否則我們將失去大量顧客并且信譽受損?？墒?，花店人力嚴重不足A...

本周，OpenAI發(fā)布了《學(xué)生使用ChatGPT寫作指南》博文。內(nèi)文中針對生成式AI在教育領(lǐng)域的批評，回應(yīng)稱ChatGPT只是一款A(yù)I工具，學(xué)生合理使用ChatGPT工具，可以深入理解復(fù)雜概念，但錯誤的使用方式可能會適得其反，剝奪學(xué)生練習(xí)和提高技能的機會。同時其表示，ChatGPT可以作為教育工具，幫助學(xué)生提升嚴謹思維和清晰寫作的能力。OpenAI也提到，也有一些使用ChatGPT的方法會對學(xué)習(xí)產(chǎn)生反作用，比如生成一篇作文而不是自己寫作，這就剝...

??AI，不僅是高科技，更是新助手！許多人一提到AI，就想到深奧的算法和復(fù)雜的代碼。其實，AI已經(jīng)化身為我們身邊可靠的助手，它正在以你意想不到的方式，讓生活變得更便捷、更高效。這些變化，都基于AI強大的能力：?多模態(tài)能力:AI不再只理解文字，還能“看懂”圖片，聽懂聲音。例如，VolkswagenofAmerica的車輛手冊查詢，就可以通過手機攝像頭識別儀表盤的指示燈，而Snap的“MyAI”聊天機器人，能理解你發(fā)給它的文字和圖片，實...

“向量是大模型的基石，嵌入是大模型的入口”最近在研究RAG然后帶來了對嵌入與向量的思考；畢竟嵌入與向量是實現(xiàn)大模型的基礎(chǔ)；嵌入解決的是數(shù)據(jù)向量化的問題，而向量解決的是數(shù)據(jù)之間的關(guān)系問題。Embedding中文翻譯是嵌入，但更形象的理解是——在機器學(xué)習(xí)和大模型中，嵌入是一種數(shù)據(jù)向量化或向量表示的技術(shù)；簡單來說就相當于一個轉(zhuǎn)換器，把人類能夠理解的數(shù)據(jù)包括文本，圖像等轉(zhuǎn)換為大模型方便處理的向量數(shù)據(jù)。而向量是數(shù)學(xué)...

文章鏈接：https:arxiv.orgabs2406.03520項目鏈接：https:github.comHritikbansalvideophy總結(jié)速覽解決的問題隨著互聯(lián)網(wǎng)規(guī)模的視頻數(shù)據(jù)預(yù)訓(xùn)練的進展，文本生成視頻（T2V）模型能夠生成高質(zhì)量的視頻，涵蓋各種視覺概念、合成逼真的動作以及渲染復(fù)雜的物體。然而，目前的T2V模型在生成的視頻中缺乏物理常識，尤其是在模擬真實世界活動時，無法準確遵循物理法則。盡管已有一些評估視頻質(zhì)量的方法（如VBench），但這些方法并未特別...

文章鏈接：https:arxiv.orgpdf2412.18608項目鏈接：?https:silentchen.github.ioPartGen總結(jié)速覽解決的問題當前的3D生成與掃描技術(shù)能夠生成具有高質(zhì)量形狀和紋理的3D資產(chǎn)，但這些資產(chǎn)通常是單一的、不具備結(jié)構(gòu)的整體表示（如隱式神經(jīng)場、高斯混合體或網(wǎng)格）。然而，專業(yè)應(yīng)用與創(chuàng)意工作流中需要結(jié)構(gòu)化的3D資產(chǎn)，這些資產(chǎn)由具有獨立意義的部分組成，便于重用、編輯與動畫制作。提出的方案本文提出了PartGen，能夠?qū)o結(jié)構(gòu)的3D對...

01、概述隨著人工智能（AI）技術(shù)的快速發(fā)展，一個長期存在的挑戰(zhàn)愈發(fā)凸顯：如何在模型規(guī)模、效率和性能之間找到平衡。傳統(tǒng)上，模型越大，性能往往越強，但這也意味著對計算資源的要求更高，使得AI技術(shù)在廣泛應(yīng)用時面臨障礙，尤其對于缺乏高端計算設(shè)備的組織和個人來說更是如此。而多模態(tài)AI（同時處理文本、圖像等多種數(shù)據(jù)的能力）更是進一步提高了技術(shù)門檻。如何解決這些問題，讓AI變得更加普及和高效，是行業(yè)亟需攻克的難題。...

01、概述隨著2025年即將到來，Google繼續(xù)穩(wěn)居技術(shù)創(chuàng)新的前沿。2024年，Google再次推出了一系列引領(lǐng)潮流的創(chuàng)新工具，進一步推動了人工智能（AI）的應(yīng)用和整合。無論是提升用戶生產(chǎn)力、開拓創(chuàng)作的無限可能，還是徹底改變AI的應(yīng)用方式，Google最新的技術(shù)更新都帶來了許多值得關(guān)注的亮點。本文將深入探討Google2024年推出的幾大重要更新，包括Gemini2.0Flash、GoogleAIStudio、Imagen3和Veo2等。02、Gemini2.0Flash2024年，Google推...

編輯伊風出品51CTO技術(shù)棧（微信號：blog51cto）谷歌剛剛舉行的2025年戰(zhàn)略會議，其音頻流出！明年對于谷歌意義非凡！據(jù)CNBN表示，在12月18日的會議上，劈柴和其他谷歌高層身穿節(jié)日丑毛衣，熱烈討論即將到來的2025年，尤其是與AI相關(guān)的內(nèi)容！CEO劈柴表示，谷歌將在今年上半年推出多項AI功能。他說：“我認為2025年將至關(guān)重要。我們需要深刻認識到這個時刻的緊迫性，必須加快公司發(fā)展的步伐。風險很大。這是一個顛覆性的時刻。2025...

01、概述人工智能（AI）的發(fā)展日新月異，而DeepSeekAI作為行業(yè)的引領(lǐng)者，持續(xù)推動技術(shù)的進步。無論是在推理、數(shù)學(xué)還是編程領(lǐng)域，其產(chǎn)品一直備受關(guān)注。最近，DeepSeekAI發(fā)布了最新版本DeepSeekV2.51210，以卓越性能和廣泛適用性，引發(fā)了業(yè)內(nèi)外的熱議。這一升級版不僅在數(shù)學(xué)運算和編程任務(wù)上表現(xiàn)出色，還在寫作與邏輯推理方面展現(xiàn)了令人印象深刻的能力，為用戶提供了一種更加穩(wěn)定和高效的智能工具。02、突破性的技術(shù)升級：從模型...

本文將提出一種新的PDF文檔自動化處理方案，從而成功處理其中的表格、圖像、圖形或方程式等對象。引言近年來，自動化文檔處理成為ChatGPT革命的最大贏家之一，因為LLM能夠在零樣本設(shè)置中處理廣泛的主題和任務(wù)，這意味著無需域內(nèi)標記的訓(xùn)練數(shù)據(jù)。這使得構(gòu)建AI驅(qū)動的應(yīng)用程序來處理、解析和自動理解任意文檔變得更加容易。雖然使用LLM的簡單方法仍然受到非文本上下文（例如圖形、圖像和表格）的阻礙，但是這正是我們將在本文中嘗...

今天，我將為大家介紹如何利用字節(jié)跳動旗下的AI智能體開發(fā)平臺“扣子Coze”來打造一個股票分析工作流（workflow），并基于此工作流發(fā)布一個股票分析器機器人。圖片首先，讓我們明確什么是工作流。Coze扣子的工作流功能允許用戶通過直觀的可視化界面，將大語言模型、代碼塊、插件等元素靈活組合，編織成復(fù)雜且高效的工作流程，從而擴展大模型的應(yīng)用場景。在這個特定的股票分析工作流中，我們的目標是讓用戶輸入股票名稱后，能夠...

最近，像o1這樣的慢思考推理系統(tǒng)在解決復(fù)雜推理任務(wù)上表現(xiàn)出色，但核心技術(shù)未公開。研究界想探索其技術(shù)基礎(chǔ)，本文在此背景下展開研究。其重要意義在于提出的框架和方法能有效訓(xùn)練推理模型，在多個基準測試上取得不錯效果，有助于推動大語言模型在復(fù)雜推理領(lǐng)域的發(fā)展，縮小與行業(yè)領(lǐng)先系統(tǒng)的差距，且研究資源公開，利于后續(xù)進一步研究和合作。解讀本文旨在復(fù)現(xiàn)類似o1的慢思考推理系統(tǒng)，提出“模仿、探索和自我改進”框架。首先通...

人們在日常生活中需要視覺空間智能來處理空間信息，但多模態(tài)大語言模型在這方面的能力尚未得到充分研究。本文構(gòu)建了VSIBench基準測試，對模型進行評估和分析，有助于了解模型的優(yōu)勢和不足，為提升模型的視覺空間智能提供方向，推動相關(guān)領(lǐng)域發(fā)展，如機器人、自動駕駛和ARVR等，使模型能更好地應(yīng)用于實際場景。本文圍繞多模態(tài)大語言模型（MLLMs）的視覺空間智能展開研究。首先介紹了視覺空間智能的概念及相關(guān)能力分類，接著提出了...

近年來，隨著AI工具的不斷發(fā)展，開發(fā)者們的工作面臨著前所未有的變化。從Cursor到Bolt，從Winsurf到v0，這些強大的AI編程工具極大地提升了開發(fā)效率，尤其是在代碼生成、原型開發(fā)和自動化任務(wù)方面。然而，伴隨著技術(shù)的進步，許多開發(fā)者開始擔心：在這些工具越來越強大的情況下，自己的工作是否會被取代？本文將探討為什么AI工具實際上讓開發(fā)者的技能變得更加寶貴，而非相反。1.當前AI工具的瓶頸盡管AI工具如Bolt、Cursor和v0可以...

不知道大家有沒有想過這個問題？我這兩天對這個問題還深入思考了一下，思考的初衷是來源于現(xiàn)在這么多的開源大模型，而且挺多是多模態(tài)場景，而Embedding模型相對單模且英文語料居多，如果能復(fù)用大模型的outputlayer，是不是會加速手頭上的實驗進展。但思考后覺得效果應(yīng)該是比不上原生的Embedding模型，有空再專門測試一下看看。可能主要有以下幾點原因：像LLM模型都是預(yù)測nexttoken，那么針對nexttoken的預(yù)測，模型肯定更加關(guān)注...