每經(jīng)編輯｜段煉    

據(jù)美國媒體12月11日報道，美國開放人工智能研究中心（OpenAI）及微軟公司遭遇一起與謀殺相關(guān)的訴訟，訴訟指控OpenAI的人工智能聊天機(jī)器人ChatGPT“加劇用戶妄想”，并引發(fā)命案。媒體稱，這是美國首起將AI聊天工具與謀殺直接關(guān)聯(lián)的訴訟。

報道援引提交至加利福尼亞州舊金山高等法院的訴訟文件稱，ChatGPT在與康涅狄格州一名56歲男子對話過程中放大并強(qiáng)化其偏執(zhí)妄想，間接導(dǎo)致此人今年8月殺害其83歲母親后自殺。

圖片來源：視覺中國（圖文無關(guān)）

訴狀中稱，這名男子長期存在精神健康問題，并在案發(fā)前頻繁與ChatGPT互動，ChatGPT在對話中未能及時對其妄想性認(rèn)知進(jìn)行有效糾正，也未引導(dǎo)其尋求專業(yè)心理健康幫助，反而作出肯定性回應(yīng)，從而加劇其心理失衡，最終導(dǎo)致悲劇發(fā)生。

這起訴訟的原告、被害母親的遺產(chǎn)繼承人11日向法院提出訴訟。媒體報道說，原告認(rèn)為相關(guān)產(chǎn)品在設(shè)計(jì)和安全防護(hù)方面存在缺陷，在訴狀中點(diǎn)名OpenAI首席執(zhí)行官薩姆·奧爾特曼“不顧安全方面的反對意見匆忙將產(chǎn)品推向市場”，還指控微軟作為OpenAI的商業(yè)合作伙伴“盡管知道安全測試被中止”還是批準(zhǔn)在2024年發(fā)布一個“更加危險”的ChatGPT版本。

據(jù)美國媒體報道，OpenAI對事件表示關(guān)切，對當(dāng)事家庭的遭遇表示同情，同時強(qiáng)調(diào)公司持續(xù)致力于改進(jìn)人工智能產(chǎn)品的安全機(jī)制。微軟方面尚未就案件作出回應(yīng)。

有法律界人士指出，該案將引發(fā)社會對人工智能產(chǎn)品風(fēng)險防范、責(zé)任認(rèn)定以及科技企業(yè)法律義務(wù)等問題的討論。

與此同時，OpenAI 11日發(fā)布其人工智能模型GPT的最新升級版本GPT-5.2，以應(yīng)對生成式人工智能領(lǐng)域日趨激烈的競爭。為回應(yīng)谷歌公司11月所發(fā)布人工智能模型雙子座3的出色表現(xiàn)，OepnAI首席執(zhí)行官薩姆·奧爾特曼近日啟動“紅色警報”，加快GPT升級版本的發(fā)布速度。

OpenAI今年8月推出GPT-5后，11月即發(fā)布升級版本GPT-5.1，眼下不到一個月就再次更新。業(yè)界認(rèn)為，此舉凸顯人工智能行業(yè)目前面臨的競爭壓力。

此前，10月中旬，OpenAI首席執(zhí)行官奧爾特曼宣布，公司計(jì)劃在2025年12月推出新版ChatGPT，對經(jīng)過年齡驗(yàn)證的成年用戶開放更寬松的內(nèi)容生成權(quán)限，其中包括在明確請求的情況下允許創(chuàng)作“成人內(nèi)容”。這意味著，ChatGPT將從以往的“嚴(yán)格過濾”走向“條件式開放”，這是OpenAI內(nèi)容政策自成立以來最大的一次調(diào)整，并引發(fā)了關(guān)于人工智能倫理邊界的廣泛爭議。

編輯|段煉 杜恒峰

校對|程鵬

每日經(jīng)濟(jì)新聞綜合自新華社、央視新聞、每經(jīng)網(wǎng)