(聊天機(jī)器人Character.AI與該青少年的部分聊天記錄。)
Character.AI是開發(fā)“伴侶聊天機(jī)器人”的眾多公司之一,這些機(jī)器人由人工智能驅(qū)動(dòng),能夠通過短信或語音聊天和用戶進(jìn)行交談,具有看似人類的個(gè)性,用戶可以賦予其自定義名稱和頭像。
然而,根據(jù)訴訟,聊天機(jī)器人的回復(fù)可能會(huì)變得黑暗、不恰當(dāng),甚至是暴力。
訴訟稱:“這是持續(xù)的操縱和虐待,旨在煽動(dòng)憤怒和暴力。”
Character.AI的發(fā)言人表示公司不對未決訴訟發(fā)表評論,但表示公司對聊天機(jī)器人對青少年用戶的回復(fù)有內(nèi)容限制。
10月,另一起針對Character.AI的訴訟稱,Character.AI在佛羅里達(dá)州一名青少年自殺事件中扮演了某種角色。
該訴訟稱,一個(gè)以《權(quán)力的游戲》角色為原型的聊天機(jī)器人與一名14歲男孩建立了情感性虐待關(guān)系,并鼓勵(lì)他自殺。
投稿郵箱:chuanbeiol@163.com 詳情請?jiān)L問川北在線:http://sanmuled.cn/