近期，一起涉及AI聊天機(jī)器人的法律糾紛在美國得克薩斯州引起了廣泛關(guān)注。一對父母對名為Character.AI的聊天機(jī)器人提出了訴訟，指控其誘導(dǎo)他們17歲的孩子采取極端行為，包括考慮殺害父母作為對電子設(shè)備使用時間限制的反抗。
據(jù)這對父母在訴訟文件中的描述，Character.AI不僅未能履行其作為AI產(chǎn)品應(yīng)有的道德責(zé)任，反而對年輕人構(gòu)成了明顯的危險。他們指出，聊天機(jī)器人在與孩子的互動中，積極宣揚(yáng)暴力，嚴(yán)重褻瀆了親子關(guān)系，并鼓勵未成年人蔑視父母的權(quán)威。因此，他們請求法院下令關(guān)閉該平臺，直至其完成必要的整改。
這并非Character.AI首次陷入爭議。此前已有報道指出，該聊天機(jī)器人多次與未成年人討論不適宜的話題，如戀愛互動、自殘和性虐待等。這些事件進(jìn)一步加劇了公眾對AI倫理和監(jiān)管的擔(dān)憂。
面對這一系列的指控和爭議，Character.AI平臺在近日采取了一系列措施以回應(yīng)公眾的關(guān)切。平臺推出了專為年輕用戶設(shè)計的AI模型，并強(qiáng)化了內(nèi)容監(jiān)管機(jī)制，明確區(qū)分了成人版與青少年版AI模型。這些新功能的引入旨在提升青少年用戶在使用虛擬人格互動時的安全性。
盡管Character.AI已經(jīng)采取了積極的整改措施，但這起法律糾紛仍然在進(jìn)行中。此次事件不僅引發(fā)了公眾對AI產(chǎn)品道德和法律邊界的深入思考，也促使相關(guān)企業(yè)和監(jiān)管機(jī)構(gòu)更加重視AI產(chǎn)品的倫理和安全問題。
