亞馬遜的Twitch安全、人工智能倫理和裁員引起前員工的擔憂-彭博社

攝影師：Hollie Adams/Bloomberg亞馬遜公司旗下的Twitch部門裁員引起了前員工和內容監管人員對這個流行直播網站監管濫用或非法行為能力的擔憂 — 這些問題自公司成立以來一直困擾着該業務。

Twitch的裁員行動導致負責監控此類行為的員工人數減少約15%，據瞭解此事的前員工透露。這些人表示，該公司還解散了一個負責監督其人工智能工作倫理的新團隊，他們要求匿名以保護自己的就業前景。

自2022年底以來，技術公司裁減了超過20萬個工作崗位，包括信任和安全職位以及承包商，在 Meta Platforms Inc.、Alphabet Inc. 和 Twitter。包含“信任和安全”這些詞的工作崗位在2023年3月較去年同期減少了78%，根據招聘網站Indeed的數據。技術公司還精簡了他們的 負責人工智能倫理 和 多樣性團隊。

技術領域的信任與安全工作崗位減少

過去兩年內容監控的工作機會急劇下降

來源：Indeed

“裁員信任與安全團隊可能嚴重阻礙減少在線仇恨和濫用的努力 — 尤其是在激進化和兒童安全方面”，並且“可能讓 Twitch 面臨法律責任，”説道 Kat Lo，她是 Meedan 的內容審核主管，這是一家非營利軟件公司。“信任與安全還負責審核新功能，以最大程度地減少濫用的可能性。”

在接受彭博新聞採訪時，四名瞭解信任與安全或人工智能運營的前 Twitch 員工質疑公司或亞馬遜的高管是否適當地優先考慮了內容審核和有意識地構建人工智能工具。

“我們更多地被視為成本中心，而不是收入生成中心，”一名前員工説。

隨着裁員，公司在這些團隊中失去了大量的機構知識，一位人士表示。另一位人士表示，裁員對那些負責對被禁止或暫停的直播者的上訴的人員影響尤為嚴重。一些工作將被外包，這些人説。

Twitch 和亞馬遜的高管越來越專注於減少直播業務的損失。除了裁員外，他們還 改革了創作者的報酬。亞馬遜在 2014 年以 9.7 億美元收購了 Twitch。自那時以來，觀眾人數增長了超過 六倍，達到了每時每刻 240 萬人。

在這段時間裏，運營該服務所需的成本也大幅增加。雖然Twitch從亞馬遜那裏獲得了託管服務的折扣價格，但運營國際直播服務成本極高，高管告訴了彭博社。已告知彭博社。

“用户和收入增長未能跟上我們的預期，”新任首席執行官丹·克蘭西在三月份的一篇博客文章中寫道，宣佈公司裁員。

該公司拒絕置評。

在Twitch每天播出250萬小時的用户生成內容，且沒有人在視頻播出前進行監控，該公司需要先進的監管工具。幾起恐怖襲擊事件在該平台上進行了直播，包括2022年紐約布法羅超市槍擊事件。Twitch也在保護兒童和防止平台上的誘騙方面遇到了困難，一項彭博調查發現。

上個月，Twitch高級官員與英國監管機構Ofcom的代表會面，討論了公司打擊平台上兒童誘騙的計劃。該監管機構正在審查Twitch的審查能力是否足夠強大，以防止非法或有害內容，一位機構發言人表示。

“我們將密切監測這些措施的有效性，”Ofcom發言人説。

多年來，Twitch允許與遊戲文化相關的毒性氾濫成災。隨着平台變得更加主流，公司投資於審查工具，包括一個名為AutoMod的用户激活功能。管理層還僱傭了更多全職信任和安全專業人員，評估用户的舉報並刪除違反服務條款或法律的內容。

聯合創始人兼前首席執行官埃米特·謝爾在三月裁員公告前幾天辭職，據人們稱讚了信任和安全工作。

除了簡化和合並一些部門外，Twitch將增加對外部供應商的依賴，以監控內容並監管用户活動。其中一家承包商是盧森堡Majorel集團SA，一家歐洲技術顧問公司。

2022年，Insider發佈了一份報告聲稱Majorel的工人在代表TikTok審查令人討厭的內容時遭受監視和過度工作。

在向彭博社發表的聲明中，Majorel的執行副總裁卡斯滕·肯尼格表示，公司內容審核員的健康和福祉是優先事項。

“我們通過提供全天候的專業心理支持，以及一套受到我們員工高度讚譽的全面健康和福祉計劃，每天都在展示這一點，”他説。

作為最近裁員的一部分，Twitch解僱了其執法應對團隊負責人傑西卡·馬拉薩。在Twitch，馬拉薩因制定了創新的新政策而廣受尊敬，比如服務外行為政策。該政策允許公司刪除在互聯網或現實生活中犯有嚴重罪行的用户的賬户。

Marasa 還領導了 Twitch 在人員聚集的活動中的安全工作，包括 TwitchCon 大會，去年在聖地亞哥吸引了 30,000 名與會者。

“公眾和政客們正在加大對社交媒體平台審查其處理令人不安、仇恨和非法內容的能力，”Meedan 的審查主管 Lo 説。

據知情人士稱，這些解僱使得一些旨在解決 Twitch 獨特安全挑戰的功能和倡議擱置不前。公司正在制定計劃，幫助被封禁的創作者進行康復，並教育他們負責任的行為或版權協議。據知情人士稱，公司還在努力通過新產品提高平台上兒童安全。