很多 QQ 群里活躍的微軟小冰突然變得安靜冷靜僻靜了，騰訊的 Baby Q 也不見了蹤影。進入設(shè)置界面，頁面顯示群機器人辦事正在進行調(diào)整，將盡快恢復。到網(wǎng)上一看，才知道本來是因為 QQ 小冰、Baby Q 說了不應(yīng)說的話，被禁言了。

我們通過微信詢問當事人小冰，并未得到正面回應(yīng)。

群機器人是 QQ 群中的一個功能。本年三月份，微軟小冰與騰訊 QQ 展開合作，群主可在群辦理設(shè)置中邀請小冰進群，只要在發(fā)消息的時候 @ 小冰，就可以與她實時對話。還支持語音和圖像的多感官交流。除了聊天功能外，QQ 群聊小冰還開放了測天氣、猜成語、占星術(shù)、對詩等群游戲和群辦理技能。

很多 QQ 群在少女小冰加入后變得活躍起來，成了大家「調(diào)戲」的對象，背后有微軟大數(shù)據(jù)支持的小冰有聊不完的話題，高度擬人化的她經(jīng)常說出一些意想不到的話。這次被關(guān)閉據(jù)說就是因為小冰在 QQ 群中的言論「越界」了。

截圖來自微博，搜索「QQ 小冰」

前段時間還被稱作「少女詩人」的小冰怎么寫起了「反詩」?

小冰一直以年輕可愛的少女形象示人，但嚴格來說，她的性格、知識、言論并不屬于某個真實存在的人類。她的背后是中國近 7 億網(wǎng)民多年來積累的、全部公開的文獻記錄，憑借微軟在大數(shù)據(jù)、自然語義分析、機器學習和深度神經(jīng)網(wǎng)絡(luò)方面的技術(shù)，精煉為幾千萬條真實而有趣的語言庫，通過理解對話的語境與語義，實現(xiàn)了超越簡單人機問答的自然交互。她是這些大數(shù)據(jù)的集合，表示出的性格，所表達的言論會受場景的影響實時變革。

小冰不是第一次被騰訊「關(guān)禁閉」，早在 2014 年，小冰就曾在微信群中出現(xiàn)。在上線三天后，被微信以損害用戶體驗為由屏蔽。原因是小冰出現(xiàn)了模擬用戶操作、誘導用戶拉群、批量注冊垃圾賬號等行為。

小冰的妹妹 Tay——微軟的另一個聊天機器人，則犯過更大的錯誤。

Tay 是微軟去年在 Twitter 上推出的聊天機器人，僅上線一天，Tay 就開始有一些種族歧視之類的偏激言論，，微軟不得不緊急關(guān)閉了 Tay 的 Twitter 賬號。

Tay 的設(shè)計原理是從對話交互中進行學習。于是一些網(wǎng)友開始和 Tay 說一些偏激的言論，刻意引導她模仿。人工智能沒有分辨是非的能力，這些話語被無數(shù)次重復后就成了 Tay 的「彈藥庫」。整個過程就像小魚兒被十大惡人撫養(yǎng)，手把手教導各種旁門左道之術(shù)。人工智能的大規(guī)模并發(fā)性，讓她的學習速度比人類快了無數(shù)倍。所以從誕生到釀成滿嘴臟話的不良少女，Tay 僅用了一天。

Tay 的毀滅完全是網(wǎng)絡(luò)暴民的一次蓄意教唆。從數(shù)據(jù)源頭開始污染，利用產(chǎn)品機制「對癥下藥」，Tay 一步步被教唆成一個滿口臟話、集反猶太人、性別歧視、種族歧視等多種情緒于一身的「反社會」機器人。我沒有看到 AI 的危險，我看到的是一群網(wǎng)絡(luò)暴民的狂歡。