6個月新增300萬用户！一眼分辨AI內容，又一反AI產品火了_風聞

今年6月，烏鴉君曾寫過，反AI平台Cara在短短一週時間裏，用户量就從4萬增至80萬，一躍成為美國社交應用榜Top5，甚至超過了X、Reddit、Discord等。（詳見《9天用户暴漲80萬，躋身美國社交APPTop5！這款反AI產品火了》）

今天，烏鴉君給大家講下另一個成功的反AI產品，GPTZero。

與Cara主打防止AI偷圖不同，GPTZero能夠準確識別AI創作的內容，進而有效防止AI生成內容的濫用。

隨着AI技術的滲透，GPTZero的客户羣體正在快速增長，用户畫像已經從單一的教師羣體擴展為，政府採購機構、慈善機構、招聘經理、數據標註員等。在過去6個月裏，GPTZero的用户規模從100萬增長到400萬，增長300%。

不僅用户量越來越多，收入還蹭蹭漲。隨着用户量的快速上漲，GPTZero的ARR（經常性年收入）增長了500%，並已經實現盈利。

**/ 01 /**越好懂越是AI GPTZero有打假絕招

這兩年，最先開始打假AI的是美國中學老師，他們從去年4月就開始了。

老師為什麼要打擊AI呢？經常寫家庭作業的朋友們就知道了，有軟件幫忙寫作業是多麼爽。而無論是中國還是美國的孩子，都非常依賴藉助AI來寫作業，所以我國AI搜題工具（作業幫旗下Quetion.AI和字節旗下Gauth）出海成績優異。這個現象在ChatGPT發佈後變得更猖狂。

道高一尺魔高一丈，從去年開始就有一些聰明的老師想到，用AI來打敗AI。他們廣泛地使用一個叫做GPTZero的AI文本檢測工具。GPTZero公司也迅速與美國教師聯合會達成了協議。

有了這個工具，媽媽再也不用擔心AI幫孩子寫作業了。

AI最懂AI，作為一個反AI產品，GPTZero主打的是識別文本中的AI成分。老師們只需要在網頁上放上GPTZero，那麼你在作業裏放了任意GPT-4、Claude等大模型生成的文本內容，都逃不過它的眼睛。

它還有相對精確的數據，能算出小孩抄了多少，情節嚴重者當然會引起老師的重視。

這樣的AI工具，對於慣用AI搜索的人羣也有意義。AI搜索有時會引用純AI生成的文章，普通人有時很難辨別出AI生成的內容，從而錯誤地引用。

比如用Perplexity搜索“谷歌前CEO Eric Schmidt的AI無人戰鬥機”，谷歌引用一條信息來源（網頁中文章名為《谷歌前CEO Eric Schmidt正在研發軍用人工智能無人機》），其文章被檢測出AI成分達到了98%。

▲用Perplexity搜索“谷歌前CEO Eric Schmidt的AI無人戰鬥機”，Perplexity的回答出現了問題，P2為Perplexity引用的網址，該網頁刊登AI生成文章的網頁

為了更好地瞭解GPTZero打假AI的能力，烏鴉君將不同類型的內容交給GPTZero識別。從結果來看，GPTZero基本能夠準確分辨人或者AI創作的內容。

比如，在我的提示下，GPT-4創作了小故事《西遊記新編（一）》，GPTZero準確地檢測出AI內容（AI生成內容佔比100%）。另外，對於Claude和文心一言創作的內容，GPTZero也能夠得出較準確的結論。

而面對AI和人類共同創作的內容，比如我和GPT-4共同撰寫的小故事《西遊記新編（二）》，GPTZero識別的結果會相對偏離真實情況。

説起來，GPTZero的工作原理其實並不複雜，就是通過AI算法分析文本的複雜度和模式，從而判斷其可能的來源。

烏鴉君將其翻譯成下面這個秘訣，記住它，你也能變成一眼識AI：

越簡單的文字越可能是AI寫的，越難懂的文字越可能是人類寫的。

對比AI來説，人類寫出的東西的不難被理解，而且還會不自然。這有些逆反普通人的認知了。當GPTZero對一段文字的困惑越多，説明這篇文章越接近人類寫作的特徵。

原因在於，AI生成的文本內容，文字會更可能通順而自然，也更容易預測，不會給GPTZero造成理解障礙。而人類的寫作則不同，它往往會包含更具創意的詞語選擇，甚至偶爾還會出現拼寫錯誤等問題，會讓GPTZero萌生出多個問號。

還有一個識別AI的訣竅，就是人類寫作的節奏感，AI學不來。

文字的節奏感，指的是人們文字在表達過程中通過聲調、節奏、押韻等方式所形成的音樂感和流暢感。這東西AI根本學不會，AI比人類偏好書寫句子長度平均、結構常規、風格單調的東西。

説完了訣竅，我們看看GTPZero還有哪些功能。除了最核心的AI文本內容檢測外，GTPZero還內置了“人類寫作認證”，這是他們基於專有寫作模式分析器推出的功能（認證文檔確實由人類寫作，而非AI生成）。

GPTzero在去年1月走紅，最初的客户是教師羣體，宣稱自己可以幫忙檢測AI生成的學生作業，到如今，GPTZero的客户羣體已經從單一的教師羣體擴展為，政府採購機構、慈善機構、招聘經理、數據標註員等。

GPTZero將遠期目標定位於AI幻覺檢測。由於幻覺是生成式AI行業的難以根除的問題，這家公司預備推出基於LLM訓練數據集的免費AI文本版權檢查，幫助他們生成更廣泛的幻覺檢測訓練數據。

**/ 02 /**AI打假方興未艾 盤點五大AI打假工具

隨着AI生成創新工具集中爆發，AI假圖假視頻盛行。

從去年開始，AI打假應用發展迅猛，可檢測的類型涵蓋文字、圖片、視頻、音頻等內容形態，技術涉及分類器、水印和元數據等。

除了剛剛提過的文字檢測工具，在圖像檢測領域，也出現了許多檢測圖像的真實性、來源以及是否經過篡改的反AI工具。比如通過分析圖像的像素特徵、元數據、與已知數據庫的對比等方式來進行判斷，例如AI or Not和Nuanced。

在聲音、音頻內容檢測工具方面，有以下一些技術可以實現，如基於音頻特徵分析（細分為韻律特徵、頻譜特徵分析），還有利用機器學習和深度學習模型（細分為訓練分類器、異常檢測）等。例如Project Mockingbird（聲音檢測）、AI-generated Detector（音樂檢測）

以下是一些烏鴉君認為值得關注的AI檢測型工具：

1、多媒體內容審核工具Hive AI，打擊電商虛假宣傳

AI生成時代，可能會讓虛假宣傳更加猖獗。就拿網購來説，如果大量商家使用AI生成式圖片，普通人可能會相信虛假的效果而去購買商品。商家有必要去剋制AI假圖、假視頻在購物平台上的含量。

Hive AI就是當下較為全能的AI檢測工具，無論是文本、圖像還是視頻，都能幫助客户識別AI內容。通過將上傳的照片與在線文本材料、圖片、視頻庫進行對比，找出AI生成的內容。

Hive AI如今已經有各種各樣的使用案例，主要應用於社交和電子商務平台，比如支付平台Visa、網劇平台Netflix、社交平台Reddit。憑藉在多個平台進行識別的優勢，Hive AI在去年完成新一輪2億美元融資（但信息未公開）。

2、高端多媒體檢測工具AI or Not，已獲10萬用户

AI or Not是面向新聞媒體、社交平台、電子商務的多媒體檢測工具，和上述工具不同的是，它能提供詳細的分析報告。

具體來説，AI or Not可以分析文本內容，識別是否由AI生成，如GPT-3或其他語言模型。圖片方面，它可以利用深度學習技術檢測圖像是否經過AI生成或編輯，識別深偽（Deepfake）圖像，也就是説，它對AI圖像檢測的力度更大。

另外，它也可以分析視頻內容，檢測是否經過AI生成或修改，如Deepfake視頻。提供幀級別的分析，確保檢測結果的準確性和細節。

目前月度收費為個人版5美元/月，企業版250美元/月。該收費工具目前已經獲得了10萬用户，看來國外比較願意為這種社交內容打假付費。

▲使用範例

3、監控也要防範AI造假，Nuanced準確率高達97%

相比上面主要面向深度仿真、藝術原創性的AI or Not，Nuanced更適用於超市監控、貨物倉儲情況等對圖像質量要求不高的低端場景。

Nuanced這個詞本身有“微妙的”“具有細微差別的”的意思。也就是説，Nauanced可以對一段監控報告視頻進行精細的檢測。具體來説，Nauanced不只是檢測人和貨物，還能辨別細微差別，例如面部表情、人們之間的互動以及環境背景。

另外，Nuanced實時高效處理大量圖像，適合在線和離線應用。

4、預防電話詐騙，檢測工具Project Mockingbird準確率達90%

AI聲音的影響可能比我們想象中得更大，不法分子盯上老年人，利用AI生成的聲音進行詐騙。央視網報道，去年11月，有騙子用AI生成的受害者親人的聲音詐騙，騙去40萬。

殺毒軟件McAfee公司推出聲音檢測工具Project Mockingbird，幫助用户檢測、阻止AI生成的語音詐騙行為的項目。它基於由AI驅動的 “深度偽造” 音頻檢測技術，在聆聽給定的語音之後，可檢測音頻是否為真人發音。

為了在視頻中精準定位並識別可能由AI生成的音頻片段，Project Mockingbird還融合了 AI 驅動的上下文、行為和分類檢測模型。官方聲稱該工具成功率超過90%，目前還不向用户收取額外費用。

5、一分鐘掃5000首歌，幫助唱片平台防止發佈的AI音樂侵權

AI生成的音樂一直伴隨着版權爭議，就連OpenAI都有暗示過GPT-4o生成的音樂可能會侵犯別的音樂的版權。

音樂發行商如何自我防範？現在已經有專門檢測AI生成式音樂的工具——AI-Generated Detecto，這項工具一分鐘內可以掃描5000首曲目！並保證準確率高達98.5%。

這是巴黎蓬皮杜音樂技術研究中心IRCAM的IRCAM Amplify公司推出的識別AI生成音樂的工具，目標客户主要是唱片公司、出版商、版權管理組織和音樂流媒體平台。

文／朗朗