“自定義數(shù)據(jù)集既是未來人工智能技術(shù)的重點(diǎn)，也是人工智能技術(shù)的難點(diǎn)”在人工智能領(lǐng)域中，數(shù)據(jù)的重要性得到了充分的體現(xiàn)；但很多人還不知道怎么打造一個數(shù)據(jù)集，所以今天我們就用一些圖片來模仿MINST數(shù)據(jù)集打造一個類MINST數(shù)據(jù)集，能夠直接被神經(jīng)網(wǎng)絡(luò)加載和使用。當(dāng)然，為了簡單起見我們對數(shù)據(jù)就只進(jìn)行簡單的處理，如統(tǒng)一圖片大小，不會按照嚴(yán)格的數(shù)據(jù)處理方式；比如說圖片裁剪，增強(qiáng)等。自定義數(shù)據(jù)集實(shí)現(xiàn)以MINST數(shù)據(jù)集為例，其...

“在目前的神經(jīng)網(wǎng)絡(luò)應(yīng)用中，數(shù)據(jù)集是對大部分企業(yè)需要面臨的主要問題。”數(shù)據(jù)集作為神經(jīng)網(wǎng)絡(luò)模型中的一個必要環(huán)節(jié)，其重要性不言而喻；雖然網(wǎng)絡(luò)上有很多開源的數(shù)據(jù)集，但對很多場景來說需要自定義數(shù)據(jù)集才能滿足自身的需求。從目前的大模型發(fā)展來看，大部分企業(yè)選擇在開源模型的基礎(chǔ)之上做訓(xùn)練和微調(diào)是比較好的選擇；而這時，神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)就不是主要的技術(shù)難點(diǎn)，反而是數(shù)據(jù)成為了很多企業(yè)的痛點(diǎn)，成為亟待解決的問題。因此，怎...

今天凌晨1點(diǎn)，OpenAI發(fā)布了最新研究，用CoT（思維鏈）監(jiān)控的方式，可以阻止大模型胡說八道、隱藏真實(shí)意圖等惡意行為，同時也是監(jiān)督超級模型的有效工具之一。OpenAI使用了最新發(fā)布的前沿模型o3mini作為被監(jiān)控對象，并以較弱的GPT4o模型作為監(jiān)控器。測試環(huán)境為編碼任務(wù)，要求AI在代碼庫中實(shí)現(xiàn)功能以通過單元測試。結(jié)果顯示，CoT監(jiān)控器在檢測系統(tǒng)性“獎勵黑客”行為時表現(xiàn)卓越，召回率高達(dá)95%，遠(yuǎn)超僅監(jiān)控行為的60%。隨著o1、o3、R...

Manus是一款通用型AI助手，能將想法轉(zhuǎn)化為行動：不止于思考，更注重成果。Manus擅長處理工作與生活中的各類任務(wù)，在你安心休息的同時，一切都能妥善完成。Manus的名字源自拉丁語中“手”的含義，寓意其具備將思維轉(zhuǎn)化為行動的強(qiáng)大能力。不同于常規(guī)的AI助手，Manus不僅限于提供咨詢或答復(fù)，它還能直接完成任務(wù)的交付。作為一款“全能AI代理”，Manus能夠獨(dú)立完成從簡單查詢到復(fù)雜項目的各種任務(wù)，無需用戶持續(xù)介入。用戶只需給出...

論文鏈接：https:arxiv.orgpdf2502.18461項目鏈接：https:klora.github.ioKLoRA.io亮點(diǎn)直擊提出了KLoRA，一種簡單而有效的優(yōu)化技術(shù)，能夠無縫融合內(nèi)容和風(fēng)格LoRA，從而在保留細(xì)節(jié)的同時生成任何主題的任意風(fēng)格。本文的方法用戶友好，無需重新訓(xùn)練，可直接應(yīng)用于現(xiàn)有的LoRA權(quán)重。它在多樣化的圖像風(fēng)格化任務(wù)中表現(xiàn)出色，超越了現(xiàn)有方法?？偨Y(jié)速覽解決的問題風(fēng)格與內(nèi)容的同時保留：現(xiàn)有方法在融合不同LoRA（LowRankAdaptation）時...

誰需要超級計算機(jī)？僅用15GBVRAM就可以訓(xùn)練你自己的功能強(qiáng)大的AI推理模型！DeepSeek的R1模型在不需要人類反饋的情況下就能進(jìn)行更深思熟慮的推理，已顛覆了大語言模型（LLM）領(lǐng)域。這一重大突破背后的關(guān)鍵是群體相對策略優(yōu)化（GRPO），這是一種幫助模型自主開發(fā)推理能力的強(qiáng)化學(xué)習(xí)技術(shù)。與依賴值函數(shù)的近端策略優(yōu)化（PPO）不同，GRPO在不需要值函數(shù)的情況下就可以優(yōu)化響應(yīng)，從而提高了效率。開發(fā)更好的推理模型的競賽正如火如荼...

前面一篇文章介紹了??《從0開發(fā)大模型之DeepSeek的GRPO》??，并且實(shí)現(xiàn)了一個簡單版本的GRPO?代碼，不過從工程領(lǐng)域來看，并沒有復(fù)現(xiàn)DeepSeekR1，于是最近申請了48G的顯存，結(jié)合一些開源的方案復(fù)現(xiàn)ahamonent，并給出完整的代碼和工具鏈。1、什么是ahamonentDeepSeekR1論文中提到，模型讓作者「見證了強(qiáng)化學(xué)習(xí)的力量和美感」，在DeepSeekR1Zero的中間版本，「頓悟時刻」來了：模型學(xué)會了以人類的語氣進(jìn)行反思。ahamonent2、使...

我在今年1月初寫了2025年的AIAgent發(fā)展十三大趨勢，其中兩個趨勢是多Agent系統(tǒng)開始流行和GUIAgent產(chǎn)品得到更多應(yīng)用，沒想到來得這么快。推薦閱讀：???智能體商用元年開啟，2025年AIAgent行業(yè)發(fā)展十三大趨勢??最近幾天，集多Agent架構(gòu)、computeruse、GUI智能體等技術(shù)和概念于一身的Manus，通過一些媒體、科技博主的報道和渲染，在“比肩DeepSeek”“AIAgent的GPT時刻”等一浪強(qiáng)過一浪的聲浪中，Manus一夜出圈。官方資料顯示...

在之前的Agent系列文章中，我們?nèi)娼榻B了AI智能體，探討了它們的特征、組成部分、發(fā)展歷程、面臨的挑戰(zhàn)以及未來的可能性。在這篇文章中，我們將深入探索如何使用Python從零開始構(gòu)建一個智能體。這個智能體將具備根據(jù)用戶輸入做出決策、選擇合適工具并相應(yīng)執(zhí)行任務(wù)的能力?，F(xiàn)在，就讓我們開啟這個有趣的構(gòu)建之旅吧！一、什么是智能體？智能體是一種能夠感知其所處環(huán)境、做出決策并采取行動以實(shí)現(xiàn)特定目標(biāo)的自主實(shí)體。智能體的復(fù)...

摘要本文針對安全多方計算（MPC）框架下通用矩陣乘法（GEMM）運(yùn)算的性能瓶頸，提出一種全新的MPCGEMM實(shí)現(xiàn)方案。該方案的核心思想在于：基于加法秘密共享重構(gòu)DeepSeekDeepGEMM的CUDAkernel，將MPC協(xié)議的邏輯與DeepGEMM的底層優(yōu)化深度融合，消除MPC協(xié)議與GPU計算之間的“兩張皮”現(xiàn)象。方案采用INT8FP8數(shù)據(jù)表示、秘密共享運(yùn)算的kernel級實(shí)現(xiàn)、Hopper架構(gòu)優(yōu)化（如適用）、GPU并行Beaver三元組生成以及JIT編譯等關(guān)鍵技術(shù)。本文將詳...

在當(dāng)今人工智能的浪潮中，RAG（檢索增強(qiáng)生成）技術(shù)大放異彩，像是RAGFlow、Qanything、Dify、FastGPT等RAG引擎，逐漸走進(jìn)大家的視野。在這些強(qiáng)大的RAG引擎背后，有一個關(guān)鍵組件起著不可或缺的作用，它就是嵌入模型（EmbeddingModel）。今天，就讓我們一起深入了解一下這個神秘的嵌入模型吧！1.Embedding究竟是什么？在了解嵌入模型之前，得先搞清楚Embedding的概念。簡單來說，Embedding是一種“神奇魔法”，能把離散的非結(jié)構(gòu)化...

前言2025年1月9日–加利福尼亞州門洛帕克–世界上最大的開放網(wǎng)絡(luò)知識圖譜創(chuàng)建者Diffbot宣布推出其第一個大型語言模型（LLM），這是迄今為止世界上最基于事實(shí)的AI語言模型。利用Diffbot專有的知識圖譜（包括超過100億個實(shí)體和來自開放網(wǎng)絡(luò)的超過1萬億個結(jié)構(gòu)化事實(shí)），新模型在事實(shí)可靠性和領(lǐng)域覆蓋率方面超過了目前所有可用的LLM。當(dāng)前前沿的LLM方法通過擴(kuò)大模型的大小來減少不良響應(yīng)（又名“幻覺”），使其代表更多的訓(xùn)練數(shù)據(jù)，...

?摘要基于大型語言模型的自主代理在量化投資等專業(yè)領(lǐng)域的應(yīng)用面臨挑戰(zhàn)，尤其是構(gòu)建和整合領(lǐng)域特定知識庫。本文提出一個兩層循環(huán)的框架：內(nèi)層循環(huán)通過知識庫優(yōu)化響應(yīng)，外層循環(huán)在真實(shí)場景中測試響應(yīng)并自動增強(qiáng)知識庫。該方法使代理能夠逐步接近最優(yōu)行為，并具備可證明的效率。通過名為QuantAgent的自主代理實(shí)例化該框架，展示其在挖掘交易信號和提高金融預(yù)測準(zhǔn)確性方面的能力。簡介大型語言模型（LLMs）推動了自主智能體的發(fā)展...

LLMReasoner是一個庫，它讓任何LLM（大模型）都能像OpenAIo1和DeepSeekR1一樣深入思考。?主要特點(diǎn)??循序漸進(jìn)的推理：不再有黑箱答案！準(zhǔn)確了解LLM是如何思考的，類似于O1的系統(tǒng)方法??實(shí)時進(jìn)度：通過流暢的動畫觀看推理的展開??多提供商支持：與LiteLLM支持的所有提供商兼容??精美的UI：一個漂亮的Streamlit界面可供使用???高級用戶CLI：無縫嵌入你的代碼??信心跟蹤：了解LLM對每個步驟的確定程度??快速開始首先安裝：pipinsta...

編輯言征全球約90%的組織數(shù)據(jù)以文檔形式存儲，但大模型對于文檔的理解能力還有一塊拼圖有待完整：多模態(tài)文檔的理解性能還做得不夠。今天凌晨，低調(diào)了許久的歐洲AI公司Mistral冷不防推出了一款新作——MistralOCR。MistralOCR是一款專供OCR的API，它為復(fù)雜文檔理解設(shè)定了新的標(biāo)準(zhǔn)。與其他模型不同，MistralOCR能夠以前所未有的準(zhǔn)確性和認(rèn)知能力理解文檔中的每個元素——媒體、文本、表格和公式。它接受圖像和PDF作為輸入，并提取...

出品51CTO技術(shù)棧（微信號：blog51cto）上周四，一款非常令人迷惑不解的現(xiàn)象級產(chǎn)品，只用了一天時間，就把“封神”和“打臉”兩種滋味都嘗了個遍。這款號稱全球首個“通用代理”人工智能平臺，于上周預(yù)覽推出，其引發(fā)的關(guān)注度席卷了整個技術(shù)圈。HuggingFace的產(chǎn)品負(fù)責(zé)人稱Manus是“我嘗試過的最令人印象深刻的人工智能工具”。人工智能政策研究員DeanBall將Manus描述為“使用人工智能的最復(fù)雜的計算機(jī)”。不過很快就有人就質(zhì)疑Ma...

論文鏈接：https:arxiv.orgpdf2503.03651Git鏈接：https:github.comshowlabDoraCycle亮點(diǎn)直擊無配對數(shù)據(jù)的領(lǐng)域適應(yīng)：DoraCycle通過循環(huán)一致性學(xué)習(xí)，首次實(shí)現(xiàn)了僅使用無配對數(shù)據(jù)進(jìn)行生成模型的領(lǐng)域適應(yīng)，顯著降低了數(shù)據(jù)獲取成本?？缒B(tài)對齊的自監(jiān)督學(xué)習(xí)：通過雙向映射和同一模態(tài)內(nèi)的損失計算，實(shí)現(xiàn)了視覺和語言之間的跨模態(tài)對齊，無需成對數(shù)據(jù)監(jiān)督。訓(xùn)練穩(wěn)定性增強(qiáng)：引入EMA模型和梯度裁剪技術(shù)，解決了多步推理中的梯度爆炸問題...

Code：??https:github.comModalMindsMMEUREKA???Model：??https:huggingface.coFanqingMMMEurekaZero38B?????https:huggingface.coFanqingMMMEureka8B??Dataset：??https:huggingface.codatasetsFanqingMMMEurekaDataset??WhyWeDO？目前的研究大多未能在多模態(tài)環(huán)境中復(fù)現(xiàn)DeepSeekR1的關(guān)鍵特性，如回答長度的穩(wěn)定增長和準(zhǔn)確率獎勵。例如，R1V僅在簡單計數(shù)任務(wù)上有所改進(jìn)，但未能復(fù)現(xiàn)回答長度增長和"頓悟時刻"...

福布斯官網(wǎng)消息，中國AI初創(chuàng)企業(yè)Manus發(fā)布了，全球首個完全自主通用AIAgent，徹底改變一切。Manus與傳統(tǒng)人機(jī)協(xié)作模式的智能體有很大不同，是完全自主自動化執(zhí)行任務(wù)，例如，想讓Manus幫你在巴黎找一套公寓，它會考慮周邊犯罪統(tǒng)計數(shù)據(jù)、租金趨勢、房間大小、天氣等情況，然后根據(jù)你的詳細(xì)要求，找出最符合標(biāo)準(zhǔn)的房產(chǎn)信息。根據(jù)Manus公布的通用測試平臺GAIA數(shù)據(jù)顯示，Manus在1級、2級、3級通用任務(wù)上，全部大幅度超過了OpenAI發(fā)布...

編者按：提到DeepSeek，大家可能更熟悉R1模型——這款以低成本、高性能和開源特性顛覆行業(yè)的語言模型，而今天這篇文章介紹的DeepSeekJanusPro，通過創(chuàng)新的架構(gòu)設(shè)計，在性能上超越了同領(lǐng)域的眾多頂尖專用模型（JanusPro7B在圖像理解和圖像生成兩方面都超越了LLaVA、Dalle3和SDXL這樣的主流選手）。本文深入解析了JanusPro的技術(shù)細(xì)節(jié)，從其核心設(shè)計原則到具體的圖像編碼器選擇，再到訓(xùn)練過程的三個階段，全面展示了JanusPro如何通...