打開人工智能的“黑匣子”，讓AI更加透明

數以百萬計的人每天都在以某種形式使用着人工智能（AI），而其中大部分都是在不知不覺中進行的。全世界的人們都在通過手機上的、或者其他平台上的應用來使用它。

例如，谷歌搜索提示、Facebook好友建議、自動更正和預測文本都是通過使用人工智能技術進行的。正因為如此，比以往任何時候都更重要的是，我們需要在全球範圍內提高人工智能的透明度，從而能夠了解這項技術的工作原理，然後做出決策，併為醫療和金融等行業提供關鍵的應用程序。

我想我們都應該認可賦予的人工智能權力不應該凌駕於法律之上，但與此同時，人工智能技術也不應受到過於嚴格的監管。至少在徹底分析新標準和新規是否能保護消費者、或者實際上能限制其往壞的方向發展之前，我們不應該這樣看待人工智能。分析的範圍應該集中在人工智能的當前應用下、它在新領域的部署對經濟的潛在影響、以及公眾對該技術看法的評估等方面。

與此同時，我們這些在全球科技圈研發人工智能的人需要共同解決其可審核性和透明度的問題。我們應該致力於投資新興人工智能技術的研發，而這正是許多人在僅僅觀察算法層面上是無法理解的。值得肯定的是，企業、政府和學術領域的利益相關方都有責任幫助人們理解人工智能何時對於他們最有用，為什麼它能提高生產力，以及很重要的一點，關於收集相關數據以呈現出人們互動的方式。

打開人工智能的“黑匣子”

加強和擴大人工智能透明度、知識和理解的關鍵需要從幾個方面來説，接下來讓我來説明。

與人工智能互動的每個人都應該意識到這並不是人類在跟我們對話，而且，在此應用下人類也不應該假裝成機器人。利用人工智能技術進行客户和人員互動的公司應該清楚地知道其產生的數據將會帶給他們什麼。與人工智能驅動的平台和系統進行聊天測試的人應該需要記錄他們的談話記錄，並在出現差異、問題或需要確認的情況下對他們進行調整。

為企業和企業應用開發人工智能的人需要負責任地創建、獲取和測試各種數據。我們需要引入偏差檢測測試，以確定人工智能是否符合標準和商定的測試協議。或者我們具體來説，在人工智能測試實驗結束之前，工程師需要模擬和掌握其體內的數據集如何在各種環境中與用户交互的情況。

工程師需要測試產品以確保它們不會對人類有害。為了保護用户，他們對人工智能應用的可用性、安全性、可擴展性和安全性進行產品測試，但目前還沒有對它們在社交、道德或情感方面可能對人類造成的傷害做相關的測試。作為一個新興行業，我們為什麼不在開發週期添加偏見測試，以確保人工智能應用程序中的算法不存在偏見，從而不會造成對用户慢性的或傳統意義上的傷害呢？

人工智能工程師還需要與公司內外的同行分享他們對於人工智能的最佳實踐成果和消除傳統觀念的新發現。他們需要確保他們正在開發的人工智能和它所使用的數據能夠反映使用者們需要得到的信息的多樣性。最重要的是，當技術出現問題時，企業需要做出艱難的決定來阻止人工智能，例如設置避免偏見性算法或提高算法的透明度。通過確保技術和數據是多樣的、客觀的和無缺陷的，當人們試圖獲取這些信息時將不會遇到太多的偏見性問題。

人工智能行業應該實現自我管理，並與企業董事會和管理團隊目標保持一致。這些要求應該有一個統一的，並且是可選擇的原則準則，比如我們在Sage上發佈的用於開發和應用人工智能解決方案的人工智能倫理指南。政府和企業之間也應該建立合作伙伴關係，這樣他們就可以即時分享關於人工智能安全相關的信息。假如實現這樣的真正夥伴關係的話，這會極大地提高人工智能使用的透明度，並可以為其他考慮轉向“人工智能用於商業發展、公共服務和社會公益”為目標的司法管轄區提供了範例。

公司考慮應該對人工智能進行內部審查去了解人工智能在哪裏可以得到最大化應用，以及需要培訓多少人才能更好地實施人工智能驅動的服務。他們應該創建培訓和加速勞動力的相關項目，以鼓勵更多具備人工智能研發技能的人才從事技術驅動這項工作。

人工智能實現透明化是一項全球性的努力

從根本上講，我們的科技社區需要定義人工智能透明化的含義並共同努力，將透明度應用於創新人工智能技術中。我們需要停止持有將人工智能視為一個黑匣子的這種觀念，並解決其可審計性和可追溯性問題，而解決這些問題將引領我們走上正確的道路。我們需要普及關於人工智能的知識，並闡明它的無數用例——從技術到醫療，從交通到社會安全再到家庭生活。

由於當前缺乏人工智能的透明度和教育，導致人們對這一將來發展所需要的重要技術產生不信任。如果我們能夠將這個問題作為一個正式行業來面對，那麼我們將能夠通過像人工智能這樣的技術來真正實現信息的民主化，而這將把我們集中成一個全球性的科技和用户羣體。

如果需要爭取普遍透明度，我們必須在算法和數據層面上來實現它。全球人工智能社區需要共同努力，通過適當的測試、培訓和教育來遏制、消除偏見，這也是我在職業生涯中一直致力於做的事情。而且我並不是唯一一個這樣做的人，包括英國議會的人工智能委員會、紐約大學的人工智能學院和麻省理工學院媒體實驗室的人工智能和治理倡議等項目，都在努力打造透明的、合乎道德的人工智能。我們仍有很多工作要做。但人工智能的透明化是我們非常值得努力去實現的。