日本政府花10億日元研發AI工具，學習樣本僅5000，錯誤率60%

據《讀賣新聞》3月3日報道，在全球AI產業發展得如火如荼的背景下，日本政府也希望能夠研發一款自有的AI工具，以幫助工作人員判斷是否有必要臨時保護疑似遭受虐待的兒童。但從2021年起投入了約10億日元（約4879萬人民幣）研發經費後，該AI在測試階段的誤判率仍然高達60%。兒童家庭廳的工作人員已經正式做出了“AI難以判斷虐待情況，很難實用化”的結論。

據兒童家庭廳官方介紹，該AI工具原本計劃在長期面臨人手短缺問題的各地“兒童諮詢所”中使用。後者是日本政府設立的兒童福利機構，專門處理市民有關育兒的諮詢及保護受虐待兒童等工作。按照設計，工作人員在輸入孩子是否受傷、受傷部位、監護人態度等91項信息後，AI會以百分制打分的形式顯示該兒童受到虐待的可能性，得分越高表示可能性越大。

不過，根據兒童家庭廳介紹，該AI工具學習的案例樣本數僅為5000個。對於一個功能複雜的AI工具來説，樣本數量明顯不足。

在該AI工具的測試過程中，工作人員發現在輸入的100個案例中，有62個案例都出現了“打分明顯偏低”的情況。包括在某個案例中，孩子已經做出了“被母親打得半死”、“被扯住衣服後用我的頭撞牀”之類的控訴，但AI工具的打分僅有“2到3分”。工作人員判斷這可能是因為輸入信息中包括了“孩子身上沒有淤青”，導致AI誤判。

也有機構官員指出其他不足之處，例如“兒童體重減輕等重要信息被忽視了”。另外，91個項目只是記錄“有無”某現象，並不涉及傷害程度或範圍。

但無論導致AI誤判的原因是什麼，日本兒童家庭廳已經暫停了該AI工具的開發工作，表示“將其提供給兒童諮詢所為時尚早”。未來該機構將視AI行業的發展情況，再對是否重啓開發工作等進行討論。

本文系觀察者網獨家稿件，未經授權，不得轉載。