北京方面為人類與機器劃定情感界限：中國週三實施新規，要求主打陪伴功能的聊天機器人不得誘導情感依賴。
中國監管機構與美國加州和紐約州的同行找到了一個意想不到的共同點：人類必須停止愛上聊天機器人。
不過，美國立法者只是在推動人工智慧公司增設心理健康保護措施，中國政府卻採取了更強硬的手段。北京方面正在整頓虛擬戀愛，部分原因在於，政府希望民眾停止與機器約會，轉而開始生兒育女。
週三，中國實施新規，要求主打陪伴功能的聊天機器人不得誘發情感依賴。新規也明令禁止提供未成年人虛擬親密關係服務，並要求企業一旦辨識使用者出現情感危機，必須通知其緊急聯絡人。
「他們不希望看到大量民眾與聊天機器人建立深厚情感關係，因為一旦出現這種情況，可能會讓這些人退出婚姻市場，帶來負面的心理影響，甚至引發上癮、依賴等一大堆社會弊病，」智庫卡內基國際和平研究院(Carnegie Endowment for International Peace)研究中國AI問題的馬特·希恩(Matt Sheehan)表示。
這些規定影響了中國兩家最大的科技公司阿里巴巴(Alibaba)和TikTok母公司位元組跳動(ByteDance)。這兩家公司最近都已通知用戶，部分聊天機器人功能將在周三停用。
隨著AI伴侶變得越來越先進，各國政府正試圖確保它們不會取代現實世界的人際互動。目前已有多起訴訟指控聊天機器人致使用戶輕生。
在過去一年裡，加州和紐約州通過了AI伴侶相關法律，要求聊天機器人定期提醒用戶並非人類。其中，加州規定針對未成年人每三小時提醒一次，紐約州則要求對所有使用者每三小時提醒一次。法律還規定，當使用者表達出自殺念頭時，聊天機器人必須將其引導至危機幹預服務機構;未能遵守安全協議的企業可能面臨民事處罰。
中國政府則更進一步。除了禁止誘導情感依賴和向未成年人提供親密關係服務，新規還要求陪伴型聊天機器人在向公眾開放前必須接受監管評估，並賦予政府更大的權限，以關停任何被認定為不安全的機器人。雖然這些規定主要針對陪伴型聊天機器人，但如果通用型AI機器人被提示做出情感回應，理論上也會受到波及。
這些規定與北京方面多年來管控AI、防止其威脅中共執政黨地位的行動一脈相承，其範疇早已超越了單純的政治審查。
TikTok母公司位元組跳動最近通知用戶，部分聊天機器人功能將在周三前停用。圖片來源：Lam Yik/Bloomberg News
監管機構在2024年發布的《人工智慧安全治理框架》文件中指出，不受約束的AI可能會“顛覆傳統的就業觀、生育觀、教育觀”，進而破壞社會穩定。
2025年，中國人口連續第四年減少，降至14.05億，出生率跌至歷史新低。先前實施了數十年、現已廢除的獨生子女政策，導致了一個快速老化的社會，促使中國高層推出育兒補貼及其他相關措施。
而AI男友和女友顯然對此毫無幫助。
“他們希望鼓勵人們在現實世界中談一場真正的戀愛，”希恩說，“我們能想像這樣一個未來嗎：三四年後，有1.500萬中國女性說她們的伴侶是聊天機器人，因此不要孩子了?”
讀報知天下事：憂無韭菜可割？中國重拳掃除“AI人機戀”