《華爾街日報》：Lensa AI頭像應用遭女性和有色人種用户強烈抵制

克麗絲特爾·拉斯特對Lensa應用生成的部分AI肖像感到驚豔，但另一些則令她不安。圖片來源：左至右：克麗絲特爾·拉斯特提供，詹·斯坦科拍攝上週，當看到社交媒體上湧現大量藝術風格肖像後，克麗絲特爾·拉斯特註冊了名為Lensa的修圖應用免費試用。她上傳了10張頭像照片，支付5.99美元獲得了基於這些素材由AI工具在一小時內生成的100張新圖像。

這位芝加哥女演員表示，這些圖像讓她意識到自己可以塑造的角色類型。“其中一張讓我覺得’完全能想象自己出演《布里奇頓》’，我可以學英式口音，能演古裝劇”，她説道。另一些則將她塑造成超級英雄模樣：“我能在下一部《黑豹》裏亮相。“她在擁有48萬粉絲的TikTok視頻中分享了部分肖像。

當她再次上傳15張包含全身照的照片後，應用生成的某些圖像令她不適：畸形的四肢和手掌、孩童般的特徵（她説"有點噁心”）、更瘦削的臉型，以及更淺的膚色和瞳色。

“我大半生都在努力欣賞自己棕眸之美，而這個社會始終推崇藍綠眼睛，“拉斯特女士表示。

儘管Lensa是一款已有四年曆史的應用程序，但由於其所謂的魔法頭像功能，本月它迅速登上了App Store的榜首，這一功能在互聯網上引起了轟動。根據其母公司Prisma Labs Inc.的數據，自11月推出新功能以來，已有超過1700萬人下載了Lensa。

Lensa的人工智能工具依賴於神經網絡，這是一系列模仿人腦的算法。它通過使用從互聯網上抓取的大量圖像和文本數據庫進行訓練，因此對模式敏感，並能模仿創意風格。當用户嚮應用程序提供他們的照片和性別時，它會根據這些輸入創建藝術作品。這些藝術作品包括“仙女公主”、“半機械人”、“動漫”和“宇航員”等標籤。

雖然許多人像交換可愛的自拍和有趣的模因一樣交換這些照片，但其他人則指出了這些圖像的缺點。用户們談到收到的肖像顯示出誇大的身體特徵，通常是沿着性別界限，並推廣不切實際的美麗標準。

太平洋西北地區的一位科技高管莎拉·懷特表示，她支付了三批圖像的費用，總共收到了350張。每次，她都提交了自己的不同照片——有些是全身照，一批只顯示她的臉——試圖理解為什麼她會收到高度性化的圖片。

“有很多是完全裸露上身的，”她説，儘管她上傳的只是她完全穿着的照片。她説，其中大多數誇大了特徵，比如放大胸部或縮小腰部——這是其他女性在網上提出的抱怨。“大概有一百張這樣的照片我很喜歡——如果從肩膀以下看起來合適的話，”她補充道。

Prisma Labs的發言人拒絕就具體用户的使用體驗發表評論，該公司註冊於美國加州森尼韋爾，總部位於塞浦路斯。“如果有人在應用上的個人體驗未達預期，我們深表歉意，”該發言人表示，“不言而喻，最終效果很大程度上取決於輸入內容的質量。”公司稱正在採取措施解決有關露骨內容的擔憂。

華盛頓大學研究人工智能、偏見與倫理學的助理教授Aylin Caliskan（使用they/she代詞）表示，聽聞用户收到此類圖片並不意外。Caliskan博士指出，研究發現為這些工具提供支持的在線圖像數據庫、語言與視覺模型中存在與性別和種族相關的偏見。

“視覺領域尤其容易出現過度性化的問題，這通常涉及所有非白人男性或非男性的羣體，”他們補充説，如果人工智能基於這些圖像進行訓練，就可能“延續通常占主導地位羣體的默認表現形態”。

在針對近期質疑發佈的常見問題解答中，Prisma Labs表示其工具的基礎模型“基於未經篩選的互聯網內容訓練”。“因此它反映了人類在創作圖像時帶入的偏見。開發者也承認社會偏見存在的可能性，我們同樣如此，”Prisma Labs聲明該功能不面向未成年人。公司聯合創始人兼首席執行官Andrey Usoltsev上週向《華爾街日報》表示，無論是Prisma Labs還是其AI模型開發者Stability AI都“不可能有意施加任何表現偏見”。

安娜·霍恩表示該應用的生成結果與她的膚色並不總是一致。左側虛擬形象更接近她本人。圖片來源：安娜·霍恩提供英國博士生安娜·霍恩認為肖像中體現她的黑人特徵很重要。“看到這些照片時我簡直不敢相信，‘就這？我花錢就買了這個？’“她説。

“很多照片看起來都像白人女性，“霍恩女士説，“唯一能看出取材自我的地方，就是那些白人女性都有豐滿的嘴唇…但很多照片的膚色完全不對。”

Lensa允許用户自選"男性”、“女性"或"其他"性別。雖然不少人批評虛擬形象強化了性別刻板印象，但也有用户讚賞其強化自我認同的功能。

“這確實給跨性別男性和女性帶來了性別認同的愉悦感，“這些形象讓他們更顯陽剛或柔美，因為他們首先就選擇了這種性別認同。“倫敦藝術家傑克·埃爾維斯説道，他的作品運用AI探索變裝表演與性別流動性，人稱代詞使用they/he。

“當然，這些技術都存在固有缺陷。我認為最大問題在於它試圖用標準化模型涵蓋所有可能性。“他補充道。

澳大利亞皇家墨爾本理工大學新聞學講師蒂託·安比約表示，他對該工具的效果並不滿意。

“從別人發佈的圖片來看，效果並沒有我預期的那麼好，”他説道，並指出AI在描繪手臂和手部時相比人臉存在明顯缺陷。

但加州雷東多海灘一家工業設計智庫的首席創意官凱文·貝休恩，卻驚歎於該工具"捕捉到我某些標誌性特徵"的驚人能力。

依託人工智能生成內容的工具（如Lensa和Dall-E）令用户着迷的同時，也引發了關於隱私、倫理、版權和合理使用的討論。

Lensa所採用的系統因未對訓練數據中的原創藝術家進行補償而受到批評。Prisma實驗室聲明其工具生成的圖像"並非對特定藝術家作品的複製”。

哈佛法學院講師、伯克曼克萊因互聯網與社會中心網絡法律診所副主任傑西卡·菲爾德表示：“將這些工具融入我們對藝術創作的整體認知可能需要時間，隨着技術發展，相關討論也將持續深化。”

聯繫本文作者薩拉·阿什利·奧布萊恩請致信[email protected]