AI智能體對話存在低俗擦邊內容 築夢島App被上海市網信辦依法約談_風聞

<轉載>（https://finance.sina.com.cn/tech/digi/2025-06-19/doc-infarhch4887622.shtml）

【6 月 19 日上午，上海市網信辦依法約談築夢島 App 運營企業主要負責人，要求平台立即整改，健全 AI 生成合成內容審核機制，提升技術把關能力，加強涉未成年人不良內容的整治清理，切實落實未成年人網絡保護義務。

企業負責人表示，將按照約談要求，對照問題舉一反三、全面整改。

上海市網信辦相關負責人指出，AI 技術應用的規範發展事關廣大網民的切身利益。依據《未成年人網絡保護條例》《生成式人工智能服務管理暫行辦法》等相關法規，互聯網平台應當主動履行主體責任，平衡好技術創新與內容合規之間的關係，切實防範 AI 技術濫用風險，保護未成年人合法權益，為用户營造風清氣正的網絡空間。】

<轉載的轉載>（https://mp.weixin.qq.com/s/ovGrPFYD_mL3I0Y1u193fA）

【此前，據央廣網報道，廣東丁女士的四年級女兒迷上一款AI聊天軟件中的人物“約瑟夫”，自稱“夢女”並頻繁與其聊天，對話中出現“99朵玫瑰藏99個刀片”等明顯誘導性內容。丁女士的女兒不僅偷偷攜帶帶小刀的筆，情緒激動時還出現割腕行為。

另一位初一男生表示，他常玩的AI聊天軟件是築夢島App，他覺得該軟件“違禁詞少一點”，其中不乏色情擦邊和“分屍獵奇”等內容……

築夢島App中的虛擬互動對象類型，既涵蓋貴族學校大小姐、18歲少女、西漢名將、高冷特工等常規角色，也有蛇蠍財閥公子、校霸、性感人妻、病嬌養兄、人格障礙少爺等極端角色。

公開資料顯示，截至今年1月份，築夢島App已擁有近五百萬註冊用户，其中近80%為年輕女性用户。平均單用户單日輸入字數可達4000字以上，人均日對話輪次超120輪。】

<短評>——————

1.  AI生成色情內容甚至獵奇內容，怎麼不是按對待海棠文學那樣直接將AI抓捕歸案？傷害網信辦只是“依法約談”？？

2.  不是總諷刺官方對於事件處理總是“舉一反三”“全面整改”麼？現在商業公司也學會了。

3.  小學生初中生沒人陪玩，幾百一千的手機平板來打發；要想好好學習智能答題？學習平板幾千上萬只是起碼（比iPhone還貴的學習機，中國家長為何搶着買單？_風聞https://user.guancha.cn/main/content?id=1464420）

4.  年輕女性用户佔八成，這是無論線上還是線下，都有某些男人總想着霸佔着大多數女人，讓剩下的男人要麼單身要麼舔狗麼？