《輝煌七人》收益在股市關鍵時刻到來-彭博社
Jessica Nix
紐約的納斯達克市場。
攝影師:邁克爾·納格爾/彭博社世界衞生組織正在涉足人工智能領域,通過一個類似人類的化身提供基本健康信息。但是,雖然這個機器人會對用户的面部表情做出同情回應,但它並不總是知道自己在説什麼。
SARAH,即智能人工智能健康助手,是一個虛擬健康工作者,可用八種不同語言全天候提供關於心理健康、吸煙和健康飲食等主題的解釋。這是世衞組織尋找既能教育人們又能填補人員短缺的技術的一部分,全球正面臨着醫護人員短缺的問題。
世衞組織在其網站上警告,這個早期原型是在4月2日推出的,提供的回答“可能並不總是準確”。 SARAH的一些人工智能訓練已經滯後於最新數據。而且這個機器人有時會提供奇怪的答案,被稱為人工智能模型中的幻覺,可能會傳播關於公共衞生的錯誤信息。
世界衞生組織的人工智能工具通過一個逼真的化身提供公共衞生信息。來源:彭博社SARAH沒有像WebMD或Google那樣的診斷功能。事實上,這個機器人被編程成不談論世界衞生組織職責範圍之外的任何事情,包括有關特定藥物的問題。因此,SARAH經常將人們引導至世界衞生組織的網站,或者建議用户“諮詢您的醫療保健提供者。”
“它缺乏深度,”喬治華盛頓大學的放射科醫師和研究員拉敏·賈萬説。“但我認為這是因為他們只是不想越界,這只是第一步。”
世界衞生組織表示,SARAH旨在與研究人員和政府合作,提供準確的公共衞生統計數據,並建議更健康生活的基本步驟。該機構正在徵求如何改進這個機器人並在緊急衞生情況下使用它的建議。但它強調,其人工智能助手仍處於不斷改進的階段。
“這些技術還沒有達到可以替代與專業人員互動或從實際受過訓練的臨牀醫生或衞生保健提供者那裏獲得醫療建議的程度,”世界衞生組織數字健康與創新主任阿蘭·拉布裏克説。
SARAH接受了OpenAI的ChatGPT 3.5培訓,該培訓使用了截至2021年9月的數據,因此這個機器人沒有關於醫療建議或新聞事件的最新信息。例如,當被問及美國食品藥品監督管理局是否批准了阿爾茨海默病藥物Lecanemab時,SARAH表示該藥物仍在臨牀試驗中,而事實上,它已經在2023年1月被批准用於早期疾病治療。
即使是世衞組織自己的數據也可能讓SARAH出錯。當被問及肝炎死亡人數是否在增加時,它無法立即提供最新的細節,直到第二次提示才查看機構網站以獲取更新的統計數據。該機構表示,這是由於機器人在ChatGPT 3.5上的訓練。
有時候這個AI機器人會一籌莫展。Javan問SARAH在華盛頓特區哪裏可以做乳腺X光檢查,它無法提供答覆。
在人工智能發展的早期階段,這並不罕見。去年一項研究調查了ChatGPT對284個醫療問題的回答情況,範德堡大學醫學中心的研究人員發現,雖然它大多數時候提供正確答案,但也有多個情況下聊天機器人的回答“出乎意料地錯誤。”
安全和隱私問題
為了能夠在問題會話中模仿同情心,SARAH會訪問計算機攝像頭,存儲用户的面部表情30秒,然後刪除錄像,世衞組織傳播總監Jaimie Guerra表示。每次訪問都是匿名的,但用户可以選擇通過調查與世衞組織分享問題,以改善體驗,儘管Guerra表示收集的任何數據都是隨機的,不與IP地址或個人相關聯以保護用户。
然而,使用像GPT這樣的開源數據也存在自身的危險,因為它經常成為網絡犯罪分子的目標,Hofstra大學的公共衞生和IT研究員Jingquan Li表示。一些通過Wi-Fi訪問SARAH的人容易受到惡意軟件攻擊或視頻攝像頭黑客攻擊。Guerra表示,由於會話是匿名的,試圖訪問數據的攻擊不應該是一個問題。
政府合作伙伴和研究人員也沒有定期訪問數據的權限,包括可能有助於跟蹤健康模式的問題,除非他們要求自願調查數據。Guerra表示,這意味着SARAH不是預測下一次流感爆發最準確的工具,例如。
SARAH是2021年世界衞生組織虛擬衞生工作者項目的延續,該項目名為弗洛倫斯,提供有關Covid-19和煙草的基本信息,總部位於新西蘭的Soul Machines Ltd.為這兩個項目構建了頭像。Soul Machines無法訪問SARAH的數據,但首席執行官格雷格·克羅斯在一份聲明中表示,公司正在使用GPT數據來改進結果和體驗。今年早些時候,世衞組織向其政府合作伙伴發佈了有關健康相關人工智能模型的倫理指導方針,包括促進數據透明度和保護安全。
儘管弗洛倫斯看起來是一個年輕的非白人女性,SARAH看起來是白人。Labrique表示,改變外觀並更新頭像並非不可能,用户可能在未來版本中能夠選擇頭像偏好。
至於SARAH的性別,當被問及時,它説“我是一個聊天機器人數字健康推廣員,所以我沒有性別,也不使用人稱代詞。我的目的是幫助您過上健康的生活方式。您有關於戒煙、減少飲酒或改善整體健康的任何問題嗎?”
大型科技公司的收益將在下週公佈,正適時地為尋求人工智能推動的反彈的投資者提供支持,此前標普500指數經歷了一年多以來最糟糕的一週。
微軟公司,Meta平台公司,谷歌母公司Alphabet公司和特斯拉公司,它們都是所謂的七巨頭科技公司中的一員,將在下週公佈財報。科技股正在拋售,納斯達克100指數在連續四周下跌中創下了自2022年11月以來的最大周跌幅,也是自2022年12月以來的最長連續下跌。即使人工智能寵兒Nvidia公司也受到打擊,週五暴跌10%,抹去了其自2020年3月疫情爆發以來最糟糕的一天,市值蒸發了2120億美元。