周鴻禕談AI幻覺：在AI安全方面，可能會帶來嚴重問題

近日，全國政協委員周鴻禕接受採訪時表示，AI“幻覺”雖有利於文學創作，但在AI安全方面，“幻覺”可能會帶來嚴重問題。企業內部應用大模型時，如果該企業屬於醫療、法律、金融、證券等領域，或者用於生產製造等不容出錯的地方，大模型一旦胡亂編造，就會帶來嚴重後果。

如何防止AI出現“幻覺”？周鴻禕認為，企業應用相關技術時，要連接企業專有的知識庫，進行校正。部分“幻覺”問題能通過知識庫解決。