据ITHome今天报道，亚马逊于11月底推出了一款名为Q的AI聊天机器人，但据国外科技媒体平台披露的一份内部文件显示，亚马逊员工表示Q存在严重的“幻觉”问题，并泄露了大量机密信息，包括AWS数据中心的位置和内部折扣计划。
据悉，《剑桥词典》(CambridgeDictionary)近日宣布，2023年年度词汇为《幻觉》。
幻觉最初的意思是看、听、感觉或闻到“不存在的东西”。它通常是指使用者在健康状况不佳或服药不佳的状态下产生的幻觉。
随着人工智能的兴起，幻觉延伸到人工智能，产生幻觉和产生错误信息。
报告文件显示，AmazonQ会产生幻觉，并返回有害或不适当的聊天内容。例如，AmazonQ返回过时的安全信息，这可能会将客户置于风险之中。
亚马逊淡化了员工讨论的重要性，并表示没有发现任何安全问题。然而，泄露的文件引发了人们对Q的准确性和安全性的担忧，Q仍处于预览阶段，尚未正式发布。
一名员工将该事件标记为“sev2”，这意味着该事件非常严重，需要在工程师加班后立即进行修复。
Q被定位为ChatGPT的企业版，旨在比消费者工具更安全。然而，内部文件强调了Q提供不准确或有害信息的风险。
报道称，除了严重的幻觉，Q还泄露了公司机密数据，包括AWS数据中心的位置、内部折扣计划和未发布的功能。
文章发表后，这位发言人发表声明，驳斥了员工关于亚马逊Q没有披露机密信息的说法。
