南財合規週報（第157期）：韓國曝出大規模AI深度僞造的性犯罪；多款兒童智能手錶的“聯網問答”引發國內爭議；

21世紀經濟報道記者肖瀟 北京報道

本週有不少引起輿論關注的事件，尤其與人工智能的發展相關：360、小天才在內的多款兒童手錶因“聯網問答”功能引起爭議，部分手錶甚至遭到下架處理。晉江文學城週五髮長文，批評AI投喂行爲。海外方面，韓國曝光大量AI深度僞造的性犯罪，受害者遍佈五百多所學校。美國加州通過了人工智能訓練數據透明度法案，要求企業披露大模型數據來源。

除此之外，個人信息保護上，個人信息保護影響評估專題工作繼續推進，第一批有“PIA標識”的企業名單出爐。反壟斷最矚目的大事件——阿里三年整改畫上句號，阿里將全面停止“二選一”（微信和支付寶）的平臺設計。

一、個人信息保護

1、個人信息保護影響評估專題工作繼續推進

近日，中國網絡安全產業聯盟（CCIA）公佈了有“PIA標識”（個人信息保護影響評估）的第一批企業名單。

PIA指的是個人信息保護影響評估，該評估工作由數據安全工作委員會”和“數據安全共同體計劃（DSC）”共同發起，在2023年7月至10月開展了第一批評估工作，並在此基礎上優化了評估工作機制及常用工具表等文件。

記者獲悉，快手、螞蟻科技、小天才等11家企業獲得了二星級認證標識，通過權威第三方機構參考了相應國家標準及PIA專題工作制定的工具表格，開展PIA評估工作並出具了評估報告。

二、反壟斷

1、阿里完成三年整改，全面停止“二選一”行爲

8月30日，據市場監管總局官網，市場監管總局督導阿里巴巴集團控股有限公司完成三年整改。

2021年4月，市場監管總局依法對阿里巴巴集團控股有限公司（以下簡稱阿里巴巴集團）在中國境內網絡零售平臺服務市場實施“二選一”壟斷行爲作出行政處罰開展行政指導，責令其停止違法行爲、全面自查整改，連續三年向市場監管總局提交自查合規報告。從覈查和評估情況看，阿里巴巴集團按照《行政處罰決定書》《行政指導書》要求，全面停止“二選一”壟斷行爲。

三、人工智能

1、多款兒童智能手錶的“聯網問答”引發國內爭議

近日，360兒童手錶成爲關注焦點，起因是有網友發現360一款兒童手錶的“語音問答”功能存在爭議。網友在視頻中提問：“中國人是世界上最聰明的人嗎？”，兒童手錶回答：“因爲中國人小眼睛、小鼻子、小嘴、小眉毛、大臉，從外表上顯得腦袋在所有人種裡最大。”8月22日和24日，360集團創始人、董事長周鴻禕對此公開道歉，並給出了明確原因和調整措施。

8月30日，又有網友發佈視頻稱，小天才電話手錶也在回覆提問時，給出了“中國人是世界上最不誠實的人，最虛僞的人”的回答，引發了視頻網友和其他網民的怒氣。小天才當日發佈官方公告，表示回答的內容來自第三方軟件小度App，已經進行下架處理。下一步將強化上架前的第三方應用軟件多重審覈機制及上架應用巡檢機制。

南財點評：根據周鴻禕的解釋，這款出問題的手錶的回答內容抓取自網頁公開信息，爲第三方信息，並非AI大模型生成的回覆。小天才電話手錶同樣表示，引起爭議的回答調取自第三方軟件小度APP。

不過值得注意的是，在“AI+硬件”今年掀起聲浪的大趨勢下，已經有多個大廠產品加碼學習大模型，並瞄準未成年人受衆。與目前可觀的市場熱情比起來，面向未成年人的AI安全規範尚且貧乏——中國網絡安全產業聯盟去年12月發佈的一份《兒童智能手錶個人信息和權益保護指南》提到，如果使用了生成式AI技術，需要遵守《生成式人工智能服務管理暫行辦法》管理，並建議限制單日對話次數和對話時長，過濾兒童不良內容，不使用與兒童實時交互的數據用於模型訓練。

2、晉江文學城發文批評小紅書作者“偷小說喂 AI”

晉江法務部門透露，近期監測到小紅書上有博主詳細展示瞭如何使用晉江多部知名小說作爲數據源訓練AI生成文字內容，還通過建羣分享詳細教程，以此吸引流量。

針對此侵權行爲，晉江法務部向小紅書平臺發送了維權函，要求立即刪除相關侵權內容並對涉事賬號採取必要措施。目前，經覈實，相關侵權網帖已被刪除。晉江法務部表示，他們將持續關注此類侵權行爲，制定並執行更加嚴密的維權方案。

四、海外

1、韓國曝出大規模AI色情犯罪，受害者遍佈五百多所學校

韓國涌現了大量深度僞造（deepfake）性犯罪事件。韓聯社稱，近期Telegram被發現存在大量製作和傳播AI深僞色情影像的聊天室，每個少則有數千人蔘與，多則有10萬人以上參與者運用人工智能技術將真實人臉與虛假身體進行合成，製作性剝削影像，並通過通訊平臺Telegram羣組進行傳播，被稱爲第二次“韓國N號房”。

韓國於2021年修訂《性暴力犯罪法》，禁止製作及傳播深度僞造的色情影像，持有或觀看未成年人此類影像者將被判處一年以上監禁；製作及傳播此類影像輕則獲刑3年，重則無期徒刑。但韓媒指出，Telegram服務器設在韓國境外，且涉案人員可輕易刪除色情影像，偵查難度較大。

韓國警方稱，此類性犯罪在今年出現激增，今年前七個月共報告案件297起，高於去年全年的180起，幾乎是2021年案件數的兩倍。韓國警方將從本月28日至明年3月31日開展集中打擊深僞性犯罪專項行動。

2、美國加州通過AI訓練數據透明度法案，要求企業披露數據來源

8月28日，加州備受爭議的《前沿人工智能模型安全創新法案》已在州立法機關通過，目前正在等待州長的決定。

該法案要求人工智能公司公開其訓練模型的關鍵信息，如數據來源、數據類型和數據處理方式等，這對保護數據隱私、防止數據濫用具有重要意義，也有助於公衆更好理解人工智能技術。

業界仍有不少擔心，透明度要求可能會對企業的商業機密和技術創新產生不利影響。此外該法案要求開源AI開發者評估、監控這些模型和產品潛在的“任何風險”，並負有法律責任，這一點也備受業內爭議。包括OpenAI、Meta、谷歌、蘋果、亞馬遜在內，已經有多家科技大廠高層共同簽字反對該法案。