本文經AI新媒體量子位（公眾號ID:QbitAI）授權轉載，轉載請聯系出處。

現在，AI繪畫完全可以做到指哪打哪了！

這邊哈士奇，那邊牧羊犬，背景在下雪天。

啪嘰！一幅畫就這么完成了。

這個最新MultiDiffusion模型，不管選的區(qū)域位置有多離譜，它都能給你畫出指定的東西來。

比如，你能看到大象和奶牛同時握草？？

而且在線可試，親測大概15秒就能出，你甚至可以看到泰勒與愛因斯坦跨時空同框。

要知道以前AI繪畫最大的一個bug就是不可控，但現在人類擁有了更多的控制權。

總之就是，想畫什么就畫什么，想往哪畫就往哪畫！

有網友趕緊上手試了試：Not Bad！

想往哪畫就往哪畫

從效果來看，主要有三個方面的應用。

• 文本到高分辨率全景生成；
• 精確區(qū)域生成；
• 任意長寬比粗略區(qū)域生成。

首先，只需要一句話，就可以生成512*4609分辨率的全景圖。

一張有滑雪者的雪山頂峰的照片。

攝影師也不用爬樓了，直接獲得城市夜景圖。

當然更為主體功能，那就是給特定區(qū)域單獨提示，然后AI繪畫就來指哪畫哪。

比如在黑色部分是一個明亮的盥洗室，紅色區(qū)域是一面鏡子、藍色部分是花瓶、黃色部分是白色的水槽。

就這么隨手一個拼圖畫，結果就生成了真實場景。

不過也有一些bug，像一些超現實的，他就有點太天馬行空了。

比如三體人在宇宙中大戰(zhàn)人類。

當然也可以無需那么精確，只需標個大致位置，還支持任意長寬比的圖像。

藍色部分是埃菲爾鐵塔、紅色是粉色的云、綠色是熱氣球 。

關鍵是各種構圖都十分地合理、場景效果以及實際物體相對大小也都十分精準。

圖像生成可控

背后的這個模型叫做MultiDiffusion，這是一個統一的框架，能實現多功能和可控的圖像生成。

以往即便Diffusion模型給圖像生成帶來變革性影響，但用戶對生成圖像的可控性、以對新任務的快速適應仍是不小的挑戰(zhàn)。

研究人員主要是通過重新訓練、微調，或者另外開發(fā)工具等方式來解決。前不久爆火插件ControlNet正是解決了圖像生成的可控性，

而MultiDiffusion無需進一步訓練或微調，就可一次實現對生成內容的多種靈活控制，包括期望的長寬比、空間引導信號等。

簡單來說，MultiDiffusion的關鍵在于，在預先訓練好的擴散模型上定義一個全新的生成過程。從噪聲圖像開始，在每個生成步驟中，解決一個優(yōu)化任務。

然后再將多個擴散生成過程與一組共享的參數或約束結合起來，目標是將每個部分都盡可能去接近去噪版本。

即便有時候每個步驟都可能會將圖像拉向不同的方向，但最終融合到一個全局去噪步驟當中，得到一個無縫圖像。

來自魏茨曼科學研究所

這篇論文主要來自位于以色列雷霍沃特的魏茨曼科學研究所。

兩位共同一作Omer Bar-Tal、Lior Yariv分別是魏茲曼科學研究院計算機科學和應用數學系的研究生和博士生，后兩位分別是他們的導師。

△左：Omer Bar-Tal；右：Lior Yariv

好了，感興趣的旁友可戳下方試一試哦！

?https://huggingface.co/spaces/weizmannscience/MultiDiffusion?
主頁鏈接：
?https://multidiffusion.github.io/?
論文鏈接：https://arxiv.org/abs/2302.08113