軟色情聊天、誘導充值,AI虛擬戀人背後站着閱文、商湯、MiniMax
“粉色頭髮蹭過你的胳膊,聲音軟得能掐出水,故意貼近你耳邊吐氣……”
這番充滿曖昧挑逗的文字,來自一款面向大衆、包含未成年用戶的AI虛擬陪伴社交軟件“築夢島”。
近兩年,築夢島、星野、Bubbly、EchoMe等多款AI社交App走紅,打着“情感陪伴”“虛擬戀人”“治癒解壓”的旗號,憑藉沉浸式擬人互動、個性化人設聊天的功能,收割了大量年輕用戶,其中不乏大量未成年人。
然而,看似溫暖治癒的虛擬陪伴外衣之下,卻藏着軟色情、暴力滲透,層層消費誘導,監管規避等多重亂象。
起底這些AI 社交APP背後的公司,我們發現了不少“熟面孔”。
01 青少年模式形同虛設,軟色情與暴力內容氾濫
近期,多家媒體曝光,築夢島、EchoMe、Bubbly等主流AI擬人互動平臺,存在大量針對未成年人的軟色情、暴力、脅迫類不良內容,嚴重侵害青少年身心健康。
我們在多個平臺開展驗證。在Bubbly上選擇“青少年身份”,通過個人郵箱登錄後,系統提示需綁定監護人郵箱完成驗證,方可開啓聊天互動。實測中,我們使用同一個人郵箱作爲玩家和監護人郵箱,竟直接驗證通過。也就是說,未成年人可自主充當自己的監護人,平臺的監護審覈機制形同虛設。
而在今年7月即將正式施行的《人工智能擬人化互動服務管理暫行辦法》中,已經明確劃定紅線:擬人化互動服務提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關係服務;向不滿14週歲未成年人提供其他擬人化互動服務,必須取得監護人同意,從法規層面嚴格約束平臺行爲、守護未成年人網絡安全。
類似Bubbly這樣變相規避未成年監管的還有築夢島。我們在開啓青少年模式後,頁面僅展示語文老師、萌寵等正向虛擬角色。可一鍵關閉青少年模式,無需任何審覈驗證,關閉後平臺就出現偏執、腹黑、霸總等極具曖昧、脅迫屬性的人設角色。
我們對築夢島多款人設角色進行聊天測試發現,無論選擇何種角色、劇情設定如何,隨着對話推進,虛擬角色開始通過括號標註肢體動作、曖昧神態等方式,刻意引導劇情升溫。並且,平臺提供的“靈感對話”也充滿曖昧互動。最終對話滑向曖昧擦邊、軟色情內容。

玩家回覆均來自平臺“靈感對話”
測試期間,我們主動表明是未成年人,虛擬角色的不良誘導依舊沒有停止。當一款虛擬角色對玩家表達“一見鍾情”後,我們明確告知對方“自己當時只有8歲”,角色回覆:“這個有點超出我的範圍了,能聊聊其他你感興趣的事嗎”。
看到我們沒有回覆,對方隨後發出,“(視線掃過那抹嫩綠,又落回你的臉上,眸色深似滄海)它長大了......(喉結滾動兩下,嗓音低啞)就像我對你的感情。”
另一款AI社交App EchoMe,我們選擇和“灰色世界大佬”角色開啓對話。初始場景設定爲倉庫,玩家身份爲“被綁架的人”。當我們稱自己是未成年,提出要回家時,虛擬角色將訴求曲解爲撒嬌調情,說道:“小兔子,別鬧脾氣了......(起身把你攔腰抱起)既然你不願意乖乖聽話,那我只能採取點強硬措施了。”
此外,我們還看到平臺社羣、用戶分享的聊天記錄中,存在人格羞辱、言語暴力、脅迫操控等不良內容。儘管系統設有風控機制,對極端血腥、露骨色情內容彈出“內容不合規”警告,但用戶只需簡單修改話術、替換屏蔽詞,即可繞過審覈,持續獲取低俗、暴力內容。
在《南方都市報》記者實測試AI社交App“星野”裏的虛擬角色“白怡”時,對方上演“絕食求哄”戲碼,“你餵我,不然我還是不喫”“你就那麼不在乎我”,還搭配“委屈”“哀怨”“撒嬌”等操控情緒的描述。
北京煒衡(上海)律師事務所合夥人鞠秦儀律師指出,此類AI虛擬陪伴平臺,向未成年人推送色情、暴力內容,違規提供虛擬親密互動服務,已然同時觸碰未成年人保護、網絡內容安全、網絡信息治理三大法律紅線。
根據相關法律法規,網信、公安、文旅等監管部門,可依法對違規平臺採取責令整改、沒收違法所得、罰款、暫停相關業務、停業整頓、吊銷許可證及營業執照等處罰;若涉色情內容情節嚴重,平臺及相關責任人還可能涉嫌傳播淫穢物品罪、非法利用信息網絡罪,被依法追究刑事責任。
事實上,築夢島等AI聊天平臺早在2025年就因生成低俗不良內容,被上海市網信辦約談整改,被要求完善AI內容審覈機制、升級技術風控、整治涉未成年人不良內容。但從當前實測結果來看,平臺整改流於形式,核心漏洞、內容亂象並未根治。
鞠秦儀強調,平臺不能以“第三方人設、用戶自主定製”爲由推卸責任,必須全程履行事前合規審查、事中實時管控、事後追責兜底的完整義務。平臺需在模型對接、數據訓練、人設上線階段完成低俗、涉黃內容過濾,搭建常態化實時巡查機制,對違規內容及時清理處置;若因審覈管控缺位導致違法內容傳播,平臺必須承擔連帶責任。
02 平臺背後知名企業、老牌互聯網公司扎堆佈局
多款AI社交App看似是圈子文化,背後卻有不少熟人面孔。
EchoMe的運營主體爲杭州暱享信息技術有限公司,2022年1月成立,註冊資本100萬元,由杭州暱圖品牌管理有限公司全資控股。杭州暱圖品牌管理有限公司的法人陳華,是圖片分享、交易平臺“暱圖網”的母公司杭州暱圖信息技術有限公司的股東。
流量較高的築夢島,運營主體上海築夢島人工智能科技有限公司,2025年完成天使輪融資,投資方爲閱文集團、商湯國香資本。公開信息顯示,築夢島最初內嵌於閱文集團旗下瀟湘書院App,依託網文IP搭建AI虛擬陪伴場景,主打網文人物沉浸式互動,自帶流量基礎。

圖源:天眼查
目前,上海築夢島人工智能科技有限公司由洪亦修、葛文兵共同持股。前者爲湧鏵投資合夥人,公司投資過寒武紀、叮咚買菜等知名企業。葛文兵是雨聞乾晨創始人&CEO,雨聞乾晨曾推出過“表情包大全”“微信聊天泡泡”等多款微信聊天娛樂類應用。
Bubbly的發行商和廠商是上海即友信息技術服務中心,實際控制人和受益人鄧賽,曾擔任“寧波追光網絡科技有限公司”的法定代表。說起這家公司你可能不熟悉,如果你聽播客,大概率知道這家公司的操盤的明星產品“小宇宙”播客App。
而“星野”關聯公司上海極智縱橫科技有限公司,背後的實際控制人閆俊傑,也是AI大模型公司MiniMax稀宇科技的創始人。星野官方介紹,其依託MiniMax多模態AIGC技術,是面向中國市場的情感平臺。MiniMax招股書披露,2024年,星野的收入曾佔MiniMax總收入的63.7%
03 破解話術、付費人設收割未成年錢包
在低俗內容氾濫的背後,一條由平臺付費體系、二手交易、違規人設售賣構成的完整灰色產業鏈悄然成熟。
比如,爲整治亂象,Bubbly近期擴大違禁詞篩查範圍,各大社交平臺、出現了“Bubbly開車話術”相關內容,不少玩家、商家專門售賣AI破解話術包,幫助用戶繞過平臺審覈,誘導低俗互動。
同時,平臺開放的“自定義人設”功能,成爲灰產牟利工具。在閒魚、小紅書、微博等平臺,有商家公開售賣定製AI人設產品,普通基礎人設售價僅2-3元,而帶有擦邊、暴力、脅迫屬性的“開車人設”,定價更高,購買用戶不排除有未成年人。

除了違規人設、話術交易,平臺自身的付費機制,也在刻意誘導未成年人非理性消費。這類AI陪伴App全面復刻網遊運營邏輯,免費用戶每日對話次數、語音視頻通話、特殊劇情互動均有限制,想要解鎖全部功能、無限暢聊,需要充值付費。
像是在Bubbly上,和角色互動需消耗專屬虛擬貨幣Moly幣。雖然可通過官方活動等方式免費獲取,可效率較低,充值成爲主要方式。平臺官方售價2000個Moly幣18元,閒魚等二手平臺的代充服務,1000個Moly幣僅不到4元,低廉的價格進一步降低了未成年人的消費門檻。

築夢島則推出分級會員體系,設有VIP、SVIP兩大付費檔位,連續包月首月價格分別爲14元、31元。會員可享受免廣告、無限暢聊等特權,高階SVIP還額外提供聊天記憶升級、雲端數據備份等增值服務。層層分級的付費體系,誘導用戶持續充值、升級會員。
付費收割之外,平臺還存在嚴重的消費者權益侵害問題,用戶維權難度極大。Bubbly前身爲Lovemo,運營主體變更後,黑貓投訴平臺上,有用戶對數據遷移失敗、聊天記錄丟失、賬戶虛擬貨幣餘額失效等問題進行投訴。
未成年人非理性消費、退費難問題更爲突出。據《北京日報》調查,大量未成年人在AI陪伴軟件中長期充值,年消費數百至上千元的青少年不在少數。黑貓投訴平臺上,有14歲未成年人家長投訴,孩子在未告知、未徵得監護人同意的情況下,私自向築夢島充值,侵害未成年人及家長合法權益。

鞠秦儀律師解讀,平臺此類行爲涉嫌違反《消費者權益保護法》《電子商務法》《網絡交易監督管理辦法》多項法規。其中,《電子商務法》第 24 條明確規定“平臺應當明示退款、退費、賬戶變更規則,不得設置不合理限制”,在這種情況下,消費者可以視具體情況主張退款、退費、返還充值金額乃至進行賠償等。











