员工称亚马逊 AI 聊天机器人 Q “幻觉”严重，且泄露公司机密数据
员工称亚马逊 AI 聊天机器人 Q “幻觉”严重，且泄露公司机密数据
IT 之家 12 月 2 日消息，亚马逊于今年 11 月底推出名为 Q 的 AI 聊天机器人，不过根据国外科技媒体 Platformer 披露的一份内部文件，亚马逊员工称 Q 存在严重的 " 幻觉 " 问题，并泄露了包括 AWS 数据中心位置、内部折扣计划等诸多机密信息。
IT 之家 11 月 17 日报道，剑桥词典（Cambridge Dictionary）近日宣布 2023 年年度词汇为 "hallucinate"（产生幻觉）。
hallucinate 原意为似乎看到、听到、感觉到或闻到 " 一些不存在的东西 "，通常是指用户在不良健康或者服用药物状态下产生的幻觉。
伴随着 AI 的崛起，hallucinate 延伸为 AI 产生幻觉，生成错误的信息。
报告文件显示，亚马逊 Q 会产生幻觉，返回有害或不适当的聊天内容。例如，亚马逊 Q 会返回过时的安全信息，可能会让客户面临风险。
亚马逊淡化了员工讨论的重要性，并声称没有发现任何安全问题。然而，泄露的文件引发了人们对 Q 准确性和安全性的担忧，Q 仍处于预览阶段，尚未正式发布。
一名员工将该事件标记为 "sev 2"，这意味着该事件非常严重，需要工程师加班第一时间修复。
Q 被定位为 ChatGPT 的企业级版本，旨在比消费级工具更安全。然而，内部文件强调了 Q 提供不准确或有害信息的风险。
报道称 Q 除了存在严重的幻觉之外，还泄露了公司机密数据，包括 AWS 数据中心的位置、内部折扣计划和未发布的功能。
文章发表后，该发言人发布一份声明，反驳了员工的说法，称亚马逊 Q 没有泄露机密信息。
标签：
51
我国成功发射埃及二号卫星 12 月 4 日 12 时 10 分，我国在酒泉卫星发射中心用长征二号丙运载火箭成功发射埃及二号卫星。 根据中埃两国援埃及二号卫星项目协议，中方为埃方研制并发...
121
印度最发达的城市孟买，与中国的上海相比，孟买在什么水平？ 虽然国内很多人觉得印度比较落后，但是事实并非如此，印度的实力还是很强的，其国内生产总值位居世界第7位。印度...
155
资阳夺冠！三大球四川城市联赛女排总决赛完赛 今晚（7月19日），“体总杯”三大球中国城市联赛选拔赛暨三大球四川城市联赛女排总决赛在资阳市体育中心落下帷幕，资阳女排坐镇主...
189
全国56市市花，太美了！赶紧看看你家乡城市的市花 你以为的市花是这样的？ 不不不，今天我们说的市花是一个城市的代表花卉，也是一张城市名片。它可以体现出一个城市独具特色的...
113
被免职2年后，山西晋中市寿阳县委原书记郝鹏鸿接受审查调查 本报讯 据山西省纪委监委网站消息，晋中市寿阳县委原书记郝鹏鸿涉嫌严重违纪违法，目前正接受省纪委监委纪律审查和...
84
社会关注“网络红人”周才伟被市公安监管医院收治 周才伟自患精神障碍以来，先后多次被送往市救助站、精神病医院，都因无监护人而在社会放流。 6月11日，周才伟在西湖公园附近...
74
范九利任西北政法大学校长，此前是西安市鄠邑区委书记 据西北政法大学官网消息，3月10日下午，学校在长安校区图书馆一楼会议室召开干部大会，宣布省委关于学校领导任免职的决定...
157
49岁洛阳师范学院历史文化学院讲师赵天改因病逝世 据微信公众号“复旦史地所”消息，复旦大学中国历史地理研究所优秀校友、洛阳师范学院历史文化学院老师赵天改博士，于2023年...
196
合肥市周谷堆水果市场简介及部分批发商联系方式 合肥周谷堆农产品批发市场于1992年12月建成开业，经过多年的发展建设，从单一的水果交易发展成为集蔬菜、水果、水产品、畜禽肉类...
153
郑州副市长刘东简历 刘东简历： 刘 东 副市长 1958年2月出生，山东广饶人。汉族。北京体育学院毕业，大学学历。民革郑州市主委。 1974年9月参加工作。 1974.09—1980.09 青海省体工大队...
115
广东省梅州市公安局女团委书记被提名副县长、公安局长人选 据平安平远消息，9月7日上午，广东省梅州市平远县公安局召开干部大会，会上宣布了主要领导的任免决定。 会议宣布了任...
81
您一定用过的老邮票-普通邮票市价一览 即便您不是集邮爱好者，想必这些邮票您也曾见过或是使用过。 普通邮票的使用范围非常广泛，是那个年代家居常备的主要票证之一。时至今日...
173
中国银行业协会原副秘书长郭三野被“双开” 据中央纪委国家监委驻国家金融监督管理总局纪检监察组、北京市纪委监委消息：日前，中央纪委国家监委驻国家金融监督管理总局纪检监...
133
穆长春：央行数字货币跨境应遵守“无损”、“合规”、“互通”三原则 北京商报讯（记者 刘四红） 央行数字货币是数字经济时代的金融基础设施，也是对央行支付系统的一次大的升...
185
山西省忻州市人口民族概况 忻州，山西省辖地级市；地处山西省北中部，北邻大同、朔州、呼和浩特，南毗太原、吕梁、阳泉，西隔黄河与陕西榆林、内蒙古鄂尔多斯相望，东倚太行山...
141
知名歌手演唱会上突发意外，最新回应 11 月 25 日晚，知名男歌手周传雄在南昌国际体育中心体育馆激情开唱。但是由于演出时太兴奋，周传雄在舞台上意外摔倒。 事发后，现场粉丝纷...
96
深化财政体制改革，山东省财政直管县（市）数量调整扩大到41个 齐鲁晚报·齐鲁壹点记者 杜亚慧 9月18日上午，山东省政府新闻办召开新闻发布会，邀请山东省委政研室、省政府办公厅...
136
海口市琼剧团再演经典琼剧 《张文秀》免费向市民开放 8月11日晚，由中共海口市委宣传部指导、海口市文体局主办的“2015海口琼剧惠民演出第一季”在海口人大会堂上演重头戏，由海...
107
这里是河北省邯郸市复兴区 复兴区位于河北省南部，邯郸市区西部。复兴区建于1980年10月，原为邯郸市市区的一部分，与丛台区、邯山区同时建立。1959年9月毛泽东主席视察邯郸时指出...
161
知名博主：Redmi K70 可能比 Pro 版更香 处理器换了 【手机中国新闻】Redmi K70 系列定档 11 月 29 日晚 7 点发布。随着发布时间临近，官方基本也透露了新机的主要配置信息。作为 Redmi 十年...