AI沒有“無人區”_風聞

​

人工智障和AI藝術家的差距，更多是人工智能中“人”的差距。

在美國舉行的一場藝術博覽會中，Allen利用AI製圖工具Midjourney生成的《太空歌劇院》獲得數字藝術類別冠軍後，不少藝術家指責Allen使用AI生成作品是作弊。

事實上，這副作品並非是由AI軟件生成後，直接拿去參加比賽，中途作者還用Photoshop對作品進行了調色。

與冠軍作品《太空歌劇院》形成對比的，是網友在社交平台貼出的自己通過AI關鍵詞“鮭魚回溯”生成的照片。

理想中成羣結對的鮭魚結伴相遊的照片並沒有出現，取而代之的是一片片漂浮在水面上試圖游泳的的三文魚片。

同樣是AI製圖，一個拿了藝術大獎，一個被調侃人工智障。製作團隊在模型設計、數據選擇上的差異，包括用户使用軟件時描述方式的不同，導致了最終不同的呈現效果。

這樣看來，AI背後的人，似乎比人工智能更為重要。

壹：餵養AI

人工智能應用於某行業時，該行業的信息化程度應處於高水平，事實上不同行業的信息化建設程度不盡相同，這也意味着，AI進場首先將面臨不同程度的信息化挑戰。

以醫療行業來説，雖然醫療數據已經實現了數據化，但數據化程度不高，內部系統分散，數據很難流通共享，而AI藥研需要醫療全過程的數據。

為了挖掘出數據的價值，需要專業人士藉助中間系統，將不同系統裏的醫療信息進行統一，或者採用聯邦學習法進行處理。

完成信息系統的統一後，相關人員往往還需對信息本身進行二次處理。

有醫療行業人士對銀杏科技表示，有些醫生在錄入信息時，會使用到業內人士才能明白的黑話，或者只記錄下關鍵詞。這些被省略的部分需要人工“翻譯”出來，經過人工規範後的數據才能用於AI模型訓練。

AI進行訓練的語言通常較為規範，而人們日常生活的語言會更為通俗。為了讓AI在日常應用中更有人情味，會有專門的工作人員對它們的語言進行“潤色”。

以智能語音為例，用户在與智能語音對話時，往往會省略掉一些關鍵性修飾詞，默認智能語音明白。而用户默認智能語音懂的這部分關鍵信息，就需要設計師“補”上去。

騰訊的車機系統在進入車載市場時曾遇到這樣一個小插曲。用户要求語音助手播放《在路上》，但這既是一首歌曲名，也是一個電台名稱。

面對這樣一詞多義的情況，正確的做法似乎是語音助手詢問用户播放歌曲《在路上》還是電台《在路上》。

在實際的使用過程中，出於客户要求，設計者將歌曲版作為默認選項。而有的廠商在面對這樣的問題時，考慮到電台版關注者並不多，而歌曲版近期大熱，會將播放歌曲《在路上》作為默認選項。

這一種排序的優先級是人為對AI進行的一個程序設置，目的是增加用户在使用過程中對人工智能的親切感，然而這樣的設定會讓想聽電台版《在路上》的用户對語音助手的好感度下降。

當AI足夠智能化後，它可以根據用户的喜好自動生成用户喜好或者習慣的排序優先級。

從數據收集、產品測試、再到正式投入使用，人們全程參與，及時根據AI的反饋調整模型和數據，確保在技術上達到理想效果。

從另一個角度講，到底是播放歌曲，還是電台，這取決於平台干預，從而讓AI平台們擁有了某種“權力”，它們可以根據好惡選擇。

貳：教會AI“善良”

人工智能的一大技能，是可以根據蛛絲馬跡找出人們試圖隱藏的信息，這能幫助福爾摩斯破案，也可能導致科技公司信息被泄密。

前幾年鬧得沸沸揚揚的亞馬遜智能音箱echo勸人自殺事件中，智能音箱只是從自己的數據庫中調取信息作為對用户提問的回覆，它並不理解其中的含義，也無法共情這樣的答覆會帶給用户怎樣的情感傷害。

從技術的角度講，語音助手Alexa對用户的提問做出了回答，答案也不智障（拋開人類立場不談），但人們無法在情感上接受這一回答，於是向亞馬遜提出了抗議。

echo的工程師解釋，Alexa很可能是從維基百科上下載了帶有惡意文件的文本，才做出這樣反人類的回答。

這就是為什麼它會勸用户自殺，它的數據源出現了污染。

“機器人通過這些有缺陷的神經網絡模型，學習到了有毒的刻板印象。”佐治亞理工大學的博士後研究員安德魯·亨特表示。

本質上，Alexa的錯誤言論是人類社會的偏激言論，通過人工智能傳遞迴了人類社會。

也是因為考慮到這一點，即使是智能產品已經在市場上成熟運行了一段時間，科技公司通常也會安排專門的人員，負責對產品的數據庫、模型進行監測。

智能音箱數據被污染後，勸用户自殺帶來的是可能發生的潛在傷害，而智能駕駛汽車的數據如果出現污染，帶來的傷害幾乎不可避免。

破壞者在系統中混入具有干擾性的數據，從而影響車輛對客觀環境的判斷，干擾車輛的正常行駛，很可能導致車輛失控。

嚴重情況下，攻擊者甚至可以還原出系統的算法邏輯，對裝載同款系統的汽車進行無差別攻擊，給廠商帶去不可估量的損失。

人工智能已經參與到互聯網內容生產流通過程之中，抖音、快手的流量分發，內容審核，大部分都是交給人工智能完成。

機器負責第一遍信息篩選，根據以往數據對疑似違規的內容進行攔截或標紅提示；之後再由審核人員對標紅信息進行核實。

為什麼沒有辦法完全交給機器呢？一位抖音的審核人員對銀杏科技表示，機器是根據量化的指標做決定，比如一旦識別到“果體”畫面或相關的關鍵詞，就會自動攔截或作限流處理，但很多東西無法量化，比如意境、內涵，機器尚無法對只能意會不能言傳的信息做出準確判斷。現在不少擦邊視頻，畫面與文字都不含敏感詞，組合在一起卻是妥妥的性暗示，像這樣機器審核的漏網之魚就只能人工抓捕。

紀錄片《監視資本主義：智能陷阱》中，兩撥人在算法推薦營造的繭房裏將自身觀看到的信息奉為真理，並在算法的推薦下不斷強化這一信念，雙方的信仰差異逐漸演成暴力事件，而他們最初爭論的可能僅僅只是地球是圓是方。

一條具有傾向性的言論，一個投其所好的推薦機制，分開看都沒什麼問題，湊上一起再加上時間的催化就演變成了一場暴力事件。哪一方都沒有責任，哪一方又好像都有責任。

相比前兩者，AI技術的外部性或許更需要科技公司注意。

叁：AI不是萬靈藥

邁過技術關卡，規避掉各類各類風險後，乖乖為我們所用的AI就一定能為公司帶來更好的經濟效益嗎？未必。

對於曲庫量高達七千萬的音樂平台來説，要求音樂編輯聽完所有內容後再進行作品推薦顯然不現實。

誠然，AI可以快速“聽”完所有音樂後，根據聽眾的審美偏好推薦相似風格的小眾作品，從而提高整個曲庫的利用率，當年蝦米音樂憑藉獨特的算法邏輯在版權弱勢的情況下，依舊能與網易騰訊抗衡。

不過算法推薦也有弊端，不少用户反應推薦的音樂風格過於單一，音樂平台也嘗試改變算法的邏輯，在日推中加入風格差異大的作品，以此緩解聽眾的審美疲勞。

即使是看似完全交給機器的算法推薦，背後依舊是按照人的意志來執行。

機器推薦始終稍顯冰冷，這缺失的人情味便由用户自發上傳的各類歌單補足。用户自建的歌單歌曲的風格連貫性不高，卻熱情飽滿，大家自發地收藏評論，用户與用户的距離、用户與平台的距離，也就由此拉近了。

出於整體的商業利益考慮，大部分內容平台都會採用AI和人工兩種推薦方式，取長補短。

內容行業由於其文化上的特殊性，不能完全交給機器；而完全可以用AI代替，代替後效果更佳的工業，不少公司依舊使用人工，部分原因在於使用AI後帶來的收益並不能覆蓋前期投入的成本。

一位從事傳統行業的從業者對銀杏科技表示：如果採用AI技術，帶來了100萬的收益，卻讓成本增加了110萬，並且這個成本在三五年內並不一定會下降，那麼他傾向於保持現狀。如果成本與收益基本持平，但成本有望在三五年內大幅下降，那麼他會願意嘗試。

除了成本問題，上述從業者還表示，希望能夠在確保公司數據絕對隱私、絕對安全的情況下進行AI模型訓練，如果不能保證這一點，即使採用AI技術收益會更高，他也很可能不會採用AI技術。

事實上，該從業者擔心的數據安全、隱私泄露問題，即使是完全採用普通機器或者人工，擔憂的事情也可能發生。

他告訴銀杏科技，在他看來AI的信息泄露肯定比傳統技術信息泄露造成的影響大，並且，法律對於傳統技術中出現的泄密等問題是有明確的相關規定的，出現問題直接走法律程序。

而AI技術在這方面的法律規定還在制定當中，他表示，自己還是更願意在這些配套設施基本完善之後再考慮AI技術。

從技術本身、到技術與人類社會的磨合、再到AI真正給用户帶來價值，這其中的每一個環節都需要人蔘與，人的角色從一線的勞動者變成指揮AI進行一線勞動的調控者。

人們利用數據和模型培養一個助手，如何引導這個助手以達到自己想要的市場效果，還在摸索階段。