Nvidia校友為修復破損的人工智能創業公司獲得資金支持 - 彭博社

RagaAI已獲得資金，用於開發一種旨在診斷和修復人工智能系統缺陷的工具，以響應人工智能繁榮期間對安全性和可靠性日益增強的重視。

這家初創公司由芯片製造商Nvidia Corp.和Texas Instruments Inc.的校友Gaurav Agarwal創立，已經走出隱身模式，完成了由pi Ventures領投的470萬美元種子輪融資。其他參與投資的公司包括Anorak Ventures和TenOneTen Ventures。這家硅谷初創公司使用基礎模型來檢測和修復人工智能中的問題，比如幻覺——這是一個廣為人知的現象——或者未能考慮到關鍵的實時信息。

Gaurav Agarwal來源：RagaAI這位44歲的創始人講述了他在加利福尼亞高速公路上試駕半自動駕駛汽車時所謂的一次近乎致命的經歷。他説，人工智能無法檢測到路上的碎片，因此他不得不手動剎車以避免事故。

“我在Ola和Nvidia期間見過人工智能的失敗，”同時也是這家初創公司的首席執行官的Agarwal在電話採訪中説道。“迫切需要避免這類情況，特別是在高風險的人工智能使用案例中，比如癌症檢測、飛機維護和人工智能驅動的招聘工具。”

閲讀更多： 澳大利亞正在考慮對高風險人工智能使用實施強制限制

總部位於加利福尼亞弗裏蒙特的Agarwal在ChatGPT由OpenAI首次推出之前創建了RagaAI，這激發了大型語言模型的全球發展。RagaAI是一批新創企業中的一員，試圖滿足在這一狂熱活動期間出現的需求。

根據$15.7萬億的一項PwC研究，到2030年，人工智能有可能為全球經濟貢獻$15.7萬億。但目前的大部分活動都集中在構建模型和應用程序，而不是診斷錯誤或測試它們。

RagaAI的平台——Agarwal表示他的團隊自行開發了這個平台——提供了超過300個測試，幫助企業進行問題分類和追蹤其根本原因。他説，它可以發現諸如糟糕的數據標記和偏見等問題。他補充説，它有助於檢測幻覺——被呈現為事實的虛假和誤導性信息，以及故意攻擊或試圖讓模型犯錯的企圖。

他的創業公司將資金投入研究，並擴大團隊規模，目前大約有40名工程師主要駐紮在班加羅爾。儘管Agarwal沒有透露客户的名稱，但他表示，該平台已經能夠幫助客户將故障減少了90%。

閲讀更多： 麻省理工學院發現，在絕大多數工作中，人類仍然比人工智能更便宜