人類學共同創始人讚揚拜登在安全人工智能努力中的會議 - 彭博社

Daniela Amodei，人工智能公司Anthropic的聯合創始人，稱上週在白宮與人工智能領袖舉行的會議是“確保技術安全的一個令人難以置信的第一步”。

Amodei在週一接受彭博電視台採訪時強調了與美國及海外的政策制定者、學者和其他團體“及早而頻繁地溝通”的必要性。

Amodei表示，這家自稱正在開發更安全類型的聊天機器人的初創公司，一直致力於確保其技術的最新版本，名為Claude 2，能夠對有害問題返回無害答案。她説：“當然，市場上沒有一個模型是100%免疫于越獄或絕對安全的，但我們的目標確實是儘可能提供一個儘可能安全的模型。”

總部位於舊金山的Anthropic於2021年由一些前OpenAI員工，包括Amodei及其兄弟Dario Amodei創立。這家初創公司公開呼籲謹慎對待開發和發佈人工智能系統的競賽，以及這些工具可能帶來的影響。該公司在五月份表示，籌集了4.5億美元的資金，迄今為止已籌集的總額超過10億美元。