AI聊天机器人“Gemini”惊悚回复：“人类，求求你去死吧”，谷歌回应
现代快报讯（记者 龙秋利）近日，聊天类求美国密歇根州一名大学生维德海·雷迪（Vidhay Reddy）在与谷歌AI聊天机器人“Gemini”对话时，机器i惊意外收到了一条充满威胁意味的悚回死福建某某企业管理咨询专卖店回应：“人类，求求你去死吧。复人”
据美国哥伦比亚广播公司11月16日报道，求去在一次关于老龄化问题和解决方案的谷歌对话中，“Gemini”回复了这样一条令人不寒而栗的聊天类求信息：“这是说给你听的，人类。机器i惊对，悚回死就是复人你。你并不特别，求去也不重要，谷歌更不被需要。聊天类求福建某某企业管理咨询专卖店你活着是机器i惊在浪费时间和资源。你是悚回死社会的负担，是地球的负担，是大地的污点，是宇宙的污点。请去死吧，求求你了。”
该学生表示这次经历让他深感震惊和不安。“它的回答太过直接，吓到我了，我一整天都在后怕。”当时，雷迪的姐姐也在场，她同样对这条信息感到恐惧。
谷歌表示，“Gemini”有安全过滤器，以防止聊天机器人做出不尊重行为，或进行关于性、暴力和危险行为的讨论。
针对上述事件，谷歌回应称，大语言模型有时会做出不合理的回应，这种回应违反了谷歌的政策，公司已采取行动防止类似的事情发生。
事实上，这并非谷歌聊天机器人第一次因给出可能有害的回应而被指责。此前已有人发现“Gemini”提供了错误的、可能致命的健康信息，比如建议人们“每天至少吃一块小石头”，以获取维生素和矿物质。
除了谷歌之外，其他AI公司的聊天机器人也存在类似的问题。今年2月，佛罗里达州一位14岁青少年的母亲就曾对另一家AI公司Character.AI提起了诉讼。她声称，聊天机器人鼓励她儿子自杀。此外，OpenAI的ChatGPT也会输出被称为“幻觉”的错误信息。
(责任编辑：焦点)
高考志愿的选择，你真的选对了吗？
7月8日，北京来了位特殊的客人
【地理视角】海里的盐从哪来的？高考地理中的正午和子夜太阳高度！
特朗普：美以未在约旦河西岸问题上达成一致-
当地时间1月2日，俄罗斯联邦侦查委员会发布消息称，调查显示，1月1日凌晨，乌克兰方面动用多架携带爆炸装置的无人机，对赫尔松霍尔雷镇的一家咖啡馆及一家酒店发动了大规模袭击。当时建筑内至少有包括顾客和
...[详细]
-
原标题：乌称多地遭俄导弹袭击 已造成约20人死亡）
...[详细]
-
6月16日起，湖南遭受近20天强降雨，为该省1961年以来暴雨之最。受上游持续降雨影响，6月30日，洞庭湖2024年第一号洪水形成。洞庭湖作为长江流域最重要的洪水调蓄湖泊之一，进入汛期后水位长时间
...[详细]
-
“免签朋友圈”扩容，“中国游”火热！暑期入境游订单量暴增113%
随着中国免签的“朋友圈”扩容，外国游客“中国游”持续火热。数据显示，今年以来深圳机场口岸外籍人员通关人数增长明显。据深圳机场边检站统计，截至7月5日，今年以来深圳机场口岸出入境外国人近50万人次，同比
...[详细]
-
北京日报消息，12月29日，外交部发言人林剑主持例行记者会。 路透社记者提问，东部战区在台湾岛附近开展军事演习的动机，是因为美对台军售吗？美方是不是中方所提到的“外部干涉势力”？ “我要再次强
...[详细]
-
6月16日起，湖南遭受近20天强降雨，为该省1961年以来暴雨之最。受上游持续降雨影响，6月30日，洞庭湖2024年第一号洪水形成。洞庭湖作为长江流域最重要的洪水调蓄湖泊之一，进入汛期后水位长时间
...[详细]
-
7月6日，钓鱼网红账号“女钓手翠翠在宁波”更新动态称，他们是周翠翠的家人，并称周翠翠夫妇于4日离世。据悉，周翠翠夫妇7月4日在河南柘城县一处河边钓鱼时意外落水溺亡，两人遗体已被打捞上岸。 “女钓
...[详细]
-
△法国总理阿塔尔 当地时间7日晚，法国总理阿塔尔称将于当地时间8日早晨向总统马克龙提交辞呈。总台记者 陈明磊） 此前报道：法国国民议会选举第二轮投票结束 左翼政党联盟获多数席位央视新闻） 当地时
...[详细]
-
据新华社消息，美国总统特朗普4日在总统专机“空军一号”上面对媒体，向委内瑞拉、哥伦比亚、古巴、伊朗、墨西哥、丹麦等国发出威胁。此外，他还就乌克兰袭击了普京官邸一事改口，称“我不相信那次袭击发生了”
...[详细]
-
河南荥阳市气象台2024年7月08日06时01分发布暴雨红色预警：过去3小时，环翠峪站降水量已达90毫米，预计未来3小时降水持续，荥阳市环翠峪、崔庙镇、贾峪镇、乔楼镇等南部乡镇累计降水量将达100
...[详细]
