StableDiffusion嵌入現實世界，能在牆上直接長出小貓咪，手機可玩_風聞

衡宇 發自 凹非寺

量子位 | 公眾號 QbitAI

注意看，你面前是一堵平平無奇的牆。

現在，你可以按照自己的意願，讓它直接憑空長出點東西來。

比如……一隻小貓咪？

沒錯，Stable Diffusion又可以搞新花活了！

這一次的重點在於，Stable Diffusion的觸手擴展到現實世界——和WebAR相結合。

作者是個軟件工程師小哥Stijn Spanhove，經常在推特主頁發些關於WebAR或XR的視頻。

目前，這條憑空長貓的視頻熱度還挺不錯。

新世界的大門打開，有網友對AR+SD的興趣更濃了：

還有人説：

這簡直就是《反恐精英》一個酷斃了的新版本啊！

一起來看看這個有點酷的新東西吧～

SD與AR一起玩

首先，拿起手機，然後隨意選擇一堵牆，透過屏幕界面鎖定它：

選定一塊心儀區域，把它圈起來，全部塗黑。

輸入提示詞：

一隻可可愛愛的小貓咪，塗鴉風格，數字藝術

接着點擊輸入框下方的Diffusion按鈕，直接快進到見證奇蹟的時刻。

此時，無論從哪個角度看，牆上都有一幅《喵娜麗莎》在微笑地看着你了。

這個視頻，是小哥利用火到沒邊、門檻又低的Stable Diffusion，結合WebAR，搞出的第一個實驗產品。

他在評論區和圍觀網友討論了具體的工作流程。

第一步，凍結幀，把它作為生成圖像的表面紋理，並讓它擁有世界定位和設備跟蹤相機。

第二步，向服務器發送API請求，並附上凍結幀（圖像）和文本提示（Stable Diffusion）。

整個工作中，將Stable Diffusion嵌入現實世界是利用AR完成的。

關於繪製紋理，小哥則使用了Raycast（一款完全可擴展的快捷啓動器）。

整個過程簡單利落，引發了網友新的思考。

目前有很多有趣的NPU（嵌入式神經網絡處理器）硬件，手機的共享內存也超過12GB。

在這個前提下，如果Stable Diffusion和AR一起玩這個工作能在本地運行，並且能夠快到在類似的請求時間內，完成整個512x512圖像生成，並在更快的AI上運行升級，一定非常有趣。

小哥自己也説，這個工作只是初嘗試，一切只是Stable Diffusion和AR結合的開始。

但大多數網友覺得這已經是個很有趣的工作了，甚至想在上面“亂塗亂畫”好幾個小時。

AIGC打破次元壁

Stable Diffusion的風吹進現實世界，絕不是小哥一個人的想法。

具體的操作流程，基本都是在原基礎上用AR加持。

就在這幾天，另一位小哥用Stable Diffusion，搞了個視頻透視式光學透視式眼鏡。

（擱這兒疊buff呢？）

具體來説，就是小哥用Stable Diffusion做了個虛擬的AR眼鏡，然後在手機屏幕上透過眼鏡鏡片，實現AR效果。

生成的虛擬AR眼睛不僅有電量提示，透過它看現實，能呈現西部世界、叢林、異形等多種畫面風格。

此外，還有人結合Meta旗下的AR創作工具Spark AR，利用Stable Diffusion，假裝自己手握了一個方塊小卡片。

就是上面還能播放動畫的那種。

為了達到逼真效果，作者還在卡片表面疊了一個反光圖層，讓卡片呈現的光澤“像玻璃杯一樣”。

不過，這次的Stable Diffusion產出的圖像不是實時生成，而是事先錄製的，因為當下的Spark AR版本還不支持AI和ML。

“Very Nice，通過Stable Diffusion，AI和AR再一次緊密相連了。”

不管怎麼説，Stable Diffusion這麼火，不僅靠的是跑出來的驚人結果，觸及文本生成圖像以外的領域時，實力也很強勁呀～

參考鏈接：

[1]https://twitter.com/stspanho/status/1581707753747537920

[2]https://twitter.com/ThoseSixFaces/status/1581606079380672512

[3]https://twitter.com/sergeyglkn/status/1580167837770870784