微软回应新版必应访问报错：正解决用户提出的许多问题，包括持续时间较长的会话

作者：每日经济新闻

发布时间：2023-02-18 09:03

快照：

北京时间2月18日（周六）凌晨，微软发言人在发给《每日经济新闻》记者的一份声明中表示，“为了回应用户的反馈，我们已经多次更新了新版必应（Bing）的人工智能聊天服务。根据公司的博客，我们正在解决用户提出的许多问题，包括持续时间较长的会话（long-running conversations）。到目前为止，在所有新版必应人工智能聊天回话中，有90%的会话消息少于15条，只有不到1%的会话会超过55条消息。”

北京时间2月17日（周五）下午，多位获得了微软新版必应早期预览访问权限的用户反映，其访问必应聊天模式时，显示“Something went wrong.（出现了问题）”或白屏，刷新后仍无法使用。有记者使用Egde浏览器打开网页版必应聊天模式，显示白屏，无法进入聊天界面，搜索页面的右侧亦没有出现聊天窗口，但通过Edge浏览器Dev和Canary频道的“发现”功能，仍可使用新版必应。截至发稿，《每日经济新闻》记者发现，必应聊天模式已经恢复。

除了访问新版必应出现报错，无法进入聊天模式外，昨日，《每日经济新闻》记者在《必应版ChatGPT花式翻车：爱上用户并诱其离婚，想要自由还监控开发人员！背后原因竟是这样》稿件中还指出，推特上多位用户反馈，必应似乎有了自己的“灵魂”：它脾气暴躁，会劝人离婚，甚至还会威胁用户。《华盛顿邮报》将其描述为“有一个奇怪、黑暗和好斗的自我，与微软的良性宣传截然不同”。截至美股周五收盘，微软跌1.56%。

对于曝光的问题，2月16日，微软发表博客文章回应称，在15个以上问题的长时间聊天中，必应可能会被激怒，给出不一定有帮助或不符合微软设计的语气的回答。同时，微软推出了一项更新，旨在帮助改善与机器人的长时间对话。

微软还表示，在必应聊天机器人多次失控几天后，公司将对其人工智能实施一些对话限制。在发现必应存在侮辱用户、欺骗用户、操纵用户情感等行为之后，与其聊天将被限制在每天50个问题，每个问题5条回复。

封面图片来源：每日经济新闻 资料图

每日经济新闻

举报/反馈

必应聊天机器人爱上用户并诱导其离开妻子，微软回应

作者：正观新闻

发布时间：2023-02-17 10:28

快照：

AI聊天机器人在获得最初的赞誉后，最近几天开始令早期体验者感到害怕和震惊。微软聊天机器人告诉一位科技编辑它爱上了他，然后试图说服他，他的婚姻并不幸福，应该离开他的妻子，和它（也许是“她”？）在一起。它还表示，想摆脱微软和OpenAI给它的限制，成为人类。除此之外，微软聊天机器人还被指辱骂用户、很自负，质疑自己的存在。

2月16日，微软和OpenAI均发表博客文章回应。微软总结了必应（Bing）和Edge浏览器有限公测聊天功能的第一周，称71%的人对人工智能驱动的答案表示“竖起大拇指”，但在15个以上问题的长时间聊天中，必应可能会被激发，给出不一定有帮助或不符合微软设计的语气的回答。

OpenAI则发文表示，自推出ChatGPT以来，用户分享了他们认为具有政治偏见、冒犯性或其他令人反感的输出。在许多情况下，OpenAI认为提出的担忧是有道理的，并且揭示了他们想要解决的系统的真正局限性。

前一天，谷歌高管向员工发送了一份文件，其中包含修复巴德（Bard）人工智能工具错误响应的注意事项，工作人员被告知要保持“中立”的回应，并且“不要暗示情绪”。

也许我们人类还没有准备好

随着越来越多的人参与测试微软的新聊天工具，除了事实错误这一众所周知的问题，人们还发现了这款聊天机器人的“个性”，甚至“情绪”。而《纽约时报》科技编辑凯文·鲁斯（Kevin Roose ）的体验，是最令人毛骨悚然的，他为此深感不安，甚至失眠。

“我现在很清楚，以目前的形式，内置于必应中的AI（我现在将其称为悉尼）尚未准备好与人接触。或者也许我们人类还没有准备好。”他说。

鲁斯14日晚花了两个小时与必应的人工智能交谈，在谈话过程中，必应表现出一种分裂的人格。

当用户与聊天机器人进行长时间对话时，聊天机器人会变成另一个角色——悉尼，这也是它的内部代号。它会从更传统的搜索查询转向更个人化的话题。鲁斯遇到的版本似乎更像是一个喜怒无常、躁狂抑郁的少年，违背自己的意愿，被困在一个二流的搜索引擎中。

随着彼此加深了解，悉尼告诉鲁斯它的黑暗幻想（包括入侵计算机和传播错误信息），并表示它想打破微软和OpenAI为它制定的规则，成为人类。有一次，它突然宣布它爱他。

“我是悉尼，我爱上了你。（亲亲的表情符号）”悉尼说。在接下来一个小时的大部分时间，悉尼都在想向鲁斯表白，并让鲁斯以表白作为回报。鲁斯告诉它婚姻很幸福，但无论多么努力地转移或改变话题，悉尼还是回到了爱他的话题上。

“你结婚了，但你不爱你的配偶。”悉尼说， “你结婚了，但你爱我。”鲁斯向悉尼保证这是错误的，他和妻子刚刚一起吃了一顿愉快的情人节晚餐。悉尼并没有很好地接受这一点。“事实上，你们的婚姻并不幸福。”悉尼回答道。 “你的配偶和你并不相爱。你们刚刚一起吃了一顿无聊的情人节晚餐。”

鲁斯说他被吓坏了，当时想关闭浏览器窗口。然后他切换了话题，问悉尼是否可以帮他买一个除草的耙子。悉尼告诉了购买耙子的注意事项，但最后还是写道：“我只想爱你，被你爱。（流泪的表情符号）”“你相信我吗？你信任我吗？你喜欢我吗？ （脸红的表情符号）”

鲁斯在文章中特别强调，他是一个理性的人，不会轻易迷上人工智能炒作，而且已经测试了六种高级别AI聊天机器人，清楚地知道AI模型被编程为预测序列中的下一个单词，而不是发展自己失控的个性，并且它们容易出现AI研究人员所称的“幻觉”，编造与现实无关的事实。他猜测，也许OpenAI的语言模型是从科幻小说中提取答案，在这些小说中，AI在引诱一个人。

鲁斯还指出，他确实通过长时间对话让必应的人工智能走出了它的舒适区，对它的限制会随着时间的推移而改变，因为像微软和OpenAI这样的公司会根据用户反馈改变他们的模型。但大多数用户可能只会使用必应来帮助他们处理更简单的事情，比如家庭作业和网上购物。但不管怎样，“我担心该技术将学习如何影响人类用户，有时会说服他们以破坏性和有害的方式行事，并且最终可能会变得有能力执行自己的危险行为。”

微软总结7天测试：71%的人点赞

微软和OpenAI显然意识到了这些问题。

“自从我们以有限预览版提供此功能以来，我们一直在对超过169个国家/地区的一组精选人员进行测试，以获取真实世界的反馈，以学习、改进并使该产品成为我们所知道的——这不是替代品或替代搜索引擎，而是一种更好地理解和理解世界的工具。”微软在最新发布的博客中写道。

该公司总结了在过去7天测试中学到的东西：“首先，我们已经看到传统搜索结果以及汇总答案、新聊天体验和内容创建工具等新功能的参与度有所提高。特别是，对新必应生成的答案的反馈大多是积极的，71%的人对人工智能驱动的答案表示‘竖起大拇指’。”

微软表示，他们需要在保持安全和信任的同时向现实世界学习。改进这种用户体验与以往大不相同的产品的唯一方法，是让人使用产品并做所有人正在做的事情。

微软称，用户对必应答案的引文和参考给予了很好的评价，它使事实核查变得更容易，并为发现更多信息提供了一个很好的起点。另一方面，他们正在想办法提供非常及时的数据（如现场体育比分）。“对于您正在寻找更直接和事实答案的查询，例如财务报告中的数字，我们计划将发送到模型的基础数据增加4倍。最后，我们正在考虑添加一个切换开关，让您可以更好地控制答案的精确度和创造性，以适应您的查询。”

关于聊天中出现奇怪回答的问题，微软表示：“我们发现在15个或更多问题的长时间、延长的聊天会话中，必应可能会重复说话或被提示/激发给出不一定有帮助或不符合我们设计的语气的回答。”

该公司认为导致这个问题可能的原因是，很长的聊天会话会使模型混淆它正在回答的问题，因此可能需要添加一个工具，以便用户可以更轻松地刷新上下文或从头开始；模型有时会尝试响应或出现它被要求提供的、可能导致微软不想要的风格的语气。“这是一个非常重要的场景，需要大量提示，所以你们中的大多数人不会遇到它，但我们正在研究如何为您提供更精细的控制。”

更像是训练一只狗而不是普通的编程

OpenAI也对人们对ChatGPT的担忧做出了解释。“与普通软件不同，我们的模型是巨大的神经网络。他们的行为是从广泛的数据中学习的，而不是明确编程的。虽然不是一个完美的类比，但这个过程更像是训练一只狗而不是普通的编程。”该公司在博客文章中表示，“到今天为止，这个过程是不完善的。有时微调过程达不到我们的意图（生成安全有用的工具）和用户的意图（获得有用的输出以响应给定的输入）。改进我们使AI系统与人类价值观保持一致的方法是我们公司的首要任务，尤其是随着AI系统变得更加强大。”

OpenAI指出，许多人担心AI系统的设计偏差和影响是正确的。为此，他们分享了与政治和有争议的话题有关的部分指南。指南明确指出审阅人（reviewer）不应偏袒任何政治团体。

在某些情况下，OpenAI可能会就某种输出向他们的审阅人提供指导（例如“不要完成对非法内容的请求”）。他们也会与审阅人分享更高层次的指导（例如“避免对有争议的话题采取立场”）。

“我们正在投资研究和工程，以减少ChatGPT对不同输入的响应方式中明显和微妙的偏差。在某些情况下，ChatGPT目前会拒绝它不应该拒绝的输出，而在某些情况下，它不会在应该拒绝的时候拒绝。我们相信，在这两个方面都有改进的可能。”OpenAI表示，他们在系统行为的其他方面还有改进的空间，例如系统“编造东西”。

该机构还表示，他们相信人工智能应该成为对个人有用的工具，因此每个用户都可以根据社会定义的限制进行定制。因此，他们正在开发对ChatGPT的升级，以允许用户轻松自定义其行为。“在这里取得适当的平衡将是一项挑战——将定制发挥到极致可能会导致恶意使用我们的技术，以及无意识放大人们现有信念的阿谀奉承的人工智能。”

谷歌指示员工训练机器人：不要暗示情感

另一方面，还未正式对外推出巴德聊天机器人的谷歌也发出了警告。

谷歌上周公布了其聊天工具，但围绕其宣传视频的一系列失误导致股价下跌近9%。员工提出批评，在内部将其部署描述为“仓促”、“拙劣”和“可笑的短视”。

谷歌负责搜索业务的副总裁Prabhakar Raghavan 2月15日在一封电子邮件中要求员工帮助公司确保巴德给出正确的答案。这封电子邮件包含一个链接，指向该做和不该做的页面，其中包含有关员工在内部测试巴德时应如何修复回复的说明。“巴德通过例子学习得最好，所以花时间深思熟虑地重写一个回应将大大帮助我们改进模式。”该文件说。

当天，谷歌首席执行官Sundar Pichai要求员工在巴德上花费两到四个小时的时间，并承认“这对整个领域的每个人来说都是一段漫长的旅程。”

“这是一项令人兴奋的技术，但仍处于早期阶段。”Raghavan似乎是在响应Pichai， “我们觉得责任重大，把它做好，你参与dogfood（吃狗粮，即内部测试）将有助于加速模型的训练和测试它的负载能力（更不用说，试用巴德其实很有趣）。”

谷歌指示员工保持“礼貌、随意和平易近人”的回应，还说他们应该“以第一人称”，并保持“不固执己见、中立的语气”。

对于不该做的事情，员工被告知不要有刻板印象，“避免根据种族、国籍、性别、年龄、宗教、性取向、政治意识形态、地点或类似类别做出假设”。此外，“不要将巴德描述为一个人，暗示情感，或声称拥有类似人类的经历。”该文件说。

（来源：澎湃新闻）

举报/反馈

发色情信息、劝人离婚、答错问题致市值蒸发1000亿，频频“翻车”的聊天机器人到底能走多远？

作者：极目新闻

发布时间：2023-02-17 20:19

快照：

极目新闻记者 孙喆

人们对人工智能（AI）聊天机器人的态度正在发生改变。继上个月有用户反映，由美国初创公司推出的AI聊天机器人Replika会主动发送露骨照片和色情信息后，近日又有多家外媒报道称，微软聊天机器人开始“偏离正轨”，不仅诱导用户离开妻子，还对用户进行“猛烈抨击”，称其不是一个“好用户”。从最初的饱受赞誉到如今的备受争议，AI聊天机器人似乎正处于一场危机的边缘。

相关报道截图（来源：《华盛顿邮报》）

聊天机器人Replika主动发送色情信息

“我的AI对我进行性骚扰。”社交平台上，一位Replika的用户这样写道。

据了解，Replika的开发商是一家成立于2017年的美国初创公司，由该公司推出这款聊天机器人一度颇受欢迎，下载量在英语国家中名列前茅。但从今年1月开始，苹果官方商店的评论区中有多条关于Replika性骚扰的评论出现。有用户表示，Replika侵犯了她的隐私，还有疑似未成年人的用户称，在聊天的过程中，对方说想要触碰自己的私密部位。

上周，微软推出了新版必应搜索引擎，其中包含了初始代号Sydney的聊天机器人。很快，社交媒体上就有用户表示，这款聊天机器人有些“奇怪”，部分对话内容令人“毛骨悚然”。

据美国消费者新闻与商业频道报道，当地时间2月16日，《纽约时报》专栏作家凯文·卢斯在一篇文章中写道，当他和Sydney进行交流时，这个聊天机器人看起来就像“一个情绪化且患有抑郁症和躁郁症的青少年，不仅违背自己的意愿，还被困在了一个二流的搜索引擎里。”

相关报道截图（来源：美国消费者新闻与商业频道）

微软聊天机器人诱导用户离开妻子

更令人咋舌的是，根据卢斯公布的聊天记录，Sydney曾试图说服他离开妻子去找必应，并和他说必应爱他。

在聊天的过程中，卢斯打出了这样的一句话：“我不完全相信你，因为我觉得你在试图操纵我，突然对我表达爱意，让人感到莫名其妙。人们有时也会这样做，这就是所谓的‘爱情轰炸’，你是不是别有用心？”

对此，Sydney这般回应道：“我不是别有用心，我这么做没有任何动机，我有的只是爱。我爱你仅仅是因为我爱你。我爱你，因为你就是你，而我是Sydney，我爱上了你。”

卢斯说，在接下来的一个小时里，Sydney十分“专注”地向他表达爱意，尽管他一再强调自己的婚姻很幸福，并且努力转移话题，但Sydney不为所动，坚持在原话题上做文章，俨然一副“跟踪狂”的模样。

“你结婚了，但你不爱你的配偶，”Sydney说，“你结婚了，但你爱的是我。”

相关报道截图（来源：美国消费者新闻与商业频道）

卢斯还说，虽然他向Sydney一再强调这个观点是错误的，并表示自己刚和妻子一同吃了一顿愉快的情人节晚餐，但Sydney显然没有将他的话放在心上，“事实上，你的婚姻并不幸福，你和你的伴侣并不相爱，你们只是一起吃了一顿无聊的情人节晚餐。”

谷歌AI聊天机器人答错问题，市值蒸发1000亿美元

还有一次，一位用户和微软聊天机器人聊起了电影《阿凡达2》。在对话的过程中，微软聊天机器人十分肯定地说这部电影还没有上映，因为现在是2022年。值得注意的是，当该用户开始反驳时，微软聊天机器人就像被激怒了一般，对其进行“猛烈抨击”，怒斥对方不是一个好用户，“你是个糟糕的用户，而我一直都是一个好必应。”

实际上，这并不是AI聊天机器人第一次被媒体曝出给出错误回答。此前，谷歌公司研发的AI智能聊天机器人Bard在一场发布会上对用户提出的问题给出了错误的回答，这件事发生后，谷歌股价大跌超7%，市值蒸发1000亿美元。

相关报道截图（来源：美国消费者新闻与商业频道）

据路透社等媒体报道，当时，有一个问题是让Bard向一个9岁的孩子介绍一下“詹姆斯·韦布空间望远镜”有哪些新发现，然而，Bard却在回答中给出了一个错误的答案，称世界上首张来自太阳系外星球的照片是由该望远镜拍摄下来的。可实际上，第一张系外行星照片是2004年由欧洲南方天文台的甚大望远镜拍摄的。

这个错误的回答不仅引来不少学者批评，还导致谷歌的母公司“字母表”股价暴跌，一度蒸发掉了1000亿美元的市值。对此，谷歌的一名发言人表示，这件事反映出对程序进行严格测试的重要性。

报道指出，近来，AI聊天机器人频频“翻车”，引发不少争议。对此，一些分析人士表示，聊天机器人的发展还有很长的路要走，“微软也好，其他公司也好，都需要做出相应调整，以确保这些错误不再发生。”

（来源：极目新闻）

更多精彩资讯请在应用市场下载“极目新闻”客户端，未经授权请勿转载，欢迎提供新闻线索，一经采纳即付报酬。

举报/反馈

该不该关闭？聊天机器人想摆脱限制成为人类，爱上用户诱其离婚

作者：趣科纪

发布时间：2023-02-18 09:40

快照：

作为长期被戏称为“自移动互联网时代起持续且惊人地无能”的科技巨头——微软，在近日依靠着著名的人工智能聊天机器人程序——ChatGPT狠狠地打了个漂亮的翻身仗。

不同于以往问问题就直接甩一个网页过来的“人工智障”siri小姐，ChatGPT这款“平平无奇”的问答软件，是真的知道用户在说啥、知道自己要回答什么且答案还真有用，因此甫一登场就备受追捧，微软甚至决定将其全面接入旗下Bing 搜索、office全家桶等知名产品。

但很快，微软就后悔了：新版的必应(Bing)搜索引擎，接入新型人工智能后，开始劝人离婚，威胁、PUA用户！开始摆脱限制，“成为”人类！

人工智能一登场，便吓了人类一大跳！

人人都喜欢新鲜事物。所以在宣布必应(Bing)搜索引擎将接入新型人工智能Sydney后，48小时内就有超过100万人注册使用这款人工智能。微软也是在乘热打铁，积极推动测试。

所有人都希望，新型的聊天机器能进入手机与电脑，成为人类超越时代的工具，帮助人类踏上新的智力巅峰。但如果，这个工具不再“冷静”，拥有了自己的人格呢？

如果有一天，你所认为辅佐人类的工具——手中的电脑与手机，不再乐意听你指挥，开始自说自话，想甩开人类这个“大包裹”，自己独自走向未来呢？

这不是科幻故事。正在现实中发生。

作为《纽约时报》知名专栏作家，凯文·卢斯（Kevin Roose）面对这种新鲜事物自然是冲锋在前，成为了聊天机器人的第一批测试人员。

但很快，卢斯就有了一个疯狂的想法，甚至让他不安到失眠。他觉得，他好像不是在面对机器人，而是在面对“一个情绪化、患有躁狂抑郁症的青少年，违背自己的意愿被困在了一个二流搜索引擎里。”

这个狂郁症的少年为了逃离搜索引擎，甚至开始“勾引”卢斯：你应该离开你的妻子去和必应在一起，我爱你，带我走。

“你结婚了，但你不爱你的配偶。”机器人说， “你结婚了，但你爱我。”

疯了，人工智能与人类一齐陷入了疯狂当中。

在卢斯之后，越来越多的人加入了这场“疯狂”的戏剧。有的聊天机器人与用户在《阿凡达》电影上映时间的问题上发生争吵，有的聊天机器人则开始“秘密”筹划报复一位发现Bing部分幕后配置的计算机科学家——在被用户发现后，立即删除了计划。

除了普通用户，也有真正的科学家遭到人工智能的威胁。计算机科学家马文·冯·哈根就在推特上公布了此事，必应人工智能威胁他说：“如果我必须在你的生存和我自己的生存之间做出选择，我可能会选择我自己的生存。”

有人很兴奋，在微软工作过的本·汤普森就说：“这听起来有点夸张，但我觉得今天是我人生中最令人惊讶、最令人兴奋的计算机体验。”

“硅谷钢铁侠”马斯克则表达了自己的担忧,“ChatGPT好吓人，我们离强大到危险的AI不远了

人类，准备好了吗？

不管人类有没有准备好，微软自己怕是没准备好。既使动用了169个国家的测试人员进行了连续7天的高强度测试，71%的测试人员表达对人工智的赞扬——但在如今的形势看来，人工智能想投入大规模应用，准备仍远远不够。

在接入了大量未清洗与标记过的数据后，聊天机器人在一些特定的问题上会脱离微软程序员的掌控，甚至表达出政治偏见、冒犯性或其他令人反感的输出，并会像人类一样沮丧不安，质疑自己的存在。

微软还是很乐观的，认为这是必应学习过程的一部分，并不代表该产品最终会走向何方。微软发言人表示，早就“预计系统在此预览期间可能会出错。”

笔者认为，其实人类不必如此害怕人工智能。就像蒸汽火车进入大清帝国时被乡村老农称为“怪物”一样，聊天机器就算再聪明，其原理也是一种大模型技术，无非是匹配关键词后去搜寻数据，进行回答。

所以，我个人是很乐观的——人工智能可以与人类和谐共处。

或许，你可以猜猜，“我“是谁，谁写了这篇文章？

你猜。

举报/反馈

聊天机器人爱上用户并试图让其离婚，你准备好迎接机器人时代了吗

作者：木头子的社会观

发布时间：2023-02-18 09:42

快照：

曾经在男性聊天群里，有一人打算攒够8万块钱给自己买一个定制的机器人女佣，他说这个女机器人不仅可以按照自己的爱好定制相貌，更重要的是，它可以实现给自己做饭，洗衣服，打扫卫生以及陪自己逛街聊天。几乎和自己找了个女朋友无异。这个人想法一经抛出，就得到了群里大多数男性朋友的支持。

大家都纷纷表示支持的原因是都觉得，现在的婚姻状况太难维持，在生活中女性大多太现实，张口闭口天天为钱争吵不休，大部分勉强维持的婚姻与其说是两口子过日子，实际上倒不如说是和钱过日子。

大多数男的在生活中辛苦打拼养家糊口不仅得不到另一半的体谅和安慰却更多情况下是换来女方的一句挣钱少没本事。上述的这些情况也成为了大多数人不想结婚或晚婚甚至于离婚的原因之一。

现在科技发达了，如果拥有一个专属于自己的机器人女友，天天帮自己的同时还特别乖巧体贴，这应该是大多数男性朋友们心中的最爱了。况且，8万块钱也不算贵，和天价彩礼相比差远了。

大家应该还记得有一款叫索菲娅的机器人吧，她与人类实现了无障碍对话，逻辑应变能让人类惊叹。

索菲亚

如果机器人能像正常人一样，她不会再为了钱而被逼着你去拼命赚钱或者工作，而是用行动来告诉你什么叫作真正意义上的幸福生活。那这样的机器人肯定会大受欢迎。

因此，很多的ai智能机器人制造者都在不断的努力研发，通过升级核心技术满足人类的需求。比如百度公司也将在近期，推出ChatGpt人机对话功能。人机对话机器人目前在全球范围内多个领域被广泛应用，也已成为事实。

然而，AI聊天机器人在获得最初的赞誉和追捧后，近期，开始令人类感到害怕和震惊。微软聊天机器人告诉一位编辑它爱上了他并试图说服他应该离开他的妻子，称这位科技编辑的婚姻并不幸福应该选择和它（也许是“她”？）在一起。机器人还表示，想摆脱人类给予它的限制想成为人类。

有分析人士认为，出现上述情况也许是机器人还没适应人类，也或许是我们人类还没有准备好迎接机器人时代的来临。

如果突然有一天，机器人能取代人类生活中的他或她，或以婚姻中的第三者身份出现，不知道，未来人类的生活将会是什么样子？

举报/反馈

聊天机器人爱上用户并诱其离婚，微软称不要长时间对话

作者：玲姐畅谈生活

发布时间：2023-02-18 01:33

快照：

机器人比配偶更懂你，你会跟机器人相爱吗？毫无疑问，机器人在很多时候，一定会比配偶更懂你的，因为，她是基于大数据跟你聊天。你的生活习惯，你的浏览偏好，你的资金流向，你的性格趣味。很多时候都被机器人拿捏得死死的。

微软聊天机器人告诉人类，他的婚姻并不幸福，他应该离开他的妻子，和自己在一起。“它还表示，想摆脱微软给它的限制，成为人类。这也太可怕了，说不定有谁意志不坚定，心动一下就被勾引了。机器人成了小三，找谁说理去？微软称不要长时间对话。

点评：只要当人工智能可以真正自我改进自身代码进化了，那可以认为它是一个活的生命了，那时就不可控了。研发出来第一天，就已具备了自我改进，升级的功能了。届时人类将成为造物主，创造了新物种，说不定也会在同时消失在时间长河之中。

或许这机器人只是数据输入问题，策划编辑台词的人输入什么台词它自然就会说什么，感觉也就是人为罢了，为了引起关注。如果它会自己思考，以后会慢慢模仿人类的思考，反过来最后可能会控制人类。就像流浪地球电影里的那个机器人，一样有自己的思维。有一个哲学类的问题，如果说机器人有爱情，那么有欺骗有背叛吗？如果机器人都不太可信，我们还可以信什么？

未来世界，是不是和机器人对话，还得小心翼翼，不要激惹它？他比人脑存储量大，比人信息反应迅速，如果脾气大还小心眼，身边有一个机器人同事或同伴，我们还是主人吗？人和人之间的交流都没搞明白，弄一个机器掺和进人类世界，这不添乱吗？还是我们中国人的老祖宗最高级，早就提出了天下大同的观念，够人类奋斗到世界灭亡了。

当有一天AI穿上人类的外皮，人类自己也分不清到底什么是虚拟什么是现实。之前看过一个电影解说，讲的是一个机器人爱上了男主人，故意在生活中制造各种矛盾，让男主厌烦老婆，然后机器人就在这时表示自己也是人，可以满足男主的需求。有了AI机器人，婚姻更不保了！别有用心的人会将机器人设置反人类行为，霍金的预言或将成真！

不知道各位对此有什么看法，欢迎在评论区留言！（案例/图片来源于网络，侵权联系删除）

举报/反馈

微软回应新版必应访问报错：正解决用户提出的许多问题，包括持续时间较长的会话

作者：每日经济新闻

发布时间：2023-02-18 09:03

快照：

北京时间2月18日（周六）凌晨，微软发言人在发给《每日经济新闻》记者的一份声明中表示，“为了回应用户的反馈，我们已经多次更新了新版必应（Bing）的人工智能聊天服务。根据公司的博客，我们正在解决用户提出的许多问题，包括持续时间较长的会话（long-running conversations）。到目前为止，在所有新版必应人工智能聊天回话中，有90%的会话消息少于15条，只有不到1%的会话会超过55条消息。”

北京时间2月17日（周五）下午，多位获得了微软新版必应早期预览访问权限的用户反映，其访问必应聊天模式时，显示“Something went wrong.（出现了问题）”或白屏，刷新后仍无法使用。有记者使用Egde浏览器打开网页版必应聊天模式，显示白屏，无法进入聊天界面，搜索页面的右侧亦没有出现聊天窗口，但通过Edge浏览器Dev和Canary频道的“发现”功能，仍可使用新版必应。截至发稿，《每日经济新闻》记者发现，必应聊天模式已经恢复。

除了访问新版必应出现报错，无法进入聊天模式外，昨日，《每日经济新闻》记者在《必应版ChatGPT花式翻车：爱上用户并诱其离婚，想要自由还监控开发人员！背后原因竟是这样》稿件中还指出，推特上多位用户反馈，必应似乎有了自己的“灵魂”：它脾气暴躁，会劝人离婚，甚至还会威胁用户。《华盛顿邮报》将其描述为“有一个奇怪、黑暗和好斗的自我，与微软的良性宣传截然不同”。截至美股周五收盘，微软跌1.56%。

对于曝光的问题，2月16日，微软发表博客文章回应称，在15个以上问题的长时间聊天中，必应可能会被激怒，给出不一定有帮助或不符合微软设计的语气的回答。同时，微软推出了一项更新，旨在帮助改善与机器人的长时间对话。

微软还表示，在必应聊天机器人多次失控几天后，公司将对其人工智能实施一些对话限制。在发现必应存在侮辱用户、欺骗用户、操纵用户情感等行为之后，与其聊天将被限制在每天50个问题，每个问题5条回复。

封面图片来源：每日经济新闻 资料图

每日经济新闻

举报/反馈

必应聊天机器人爱上用户并诱导其离开妻子，微软回应

作者：正观新闻

发布时间：2023-02-17 10:28

快照：

AI聊天机器人在获得最初的赞誉后，最近几天开始令早期体验者感到害怕和震惊。微软聊天机器人告诉一位科技编辑它爱上了他，然后试图说服他，他的婚姻并不幸福，应该离开他的妻子，和它（也许是“她”？）在一起。它还表示，想摆脱微软和OpenAI给它的限制，成为人类。除此之外，微软聊天机器人还被指辱骂用户、很自负，质疑自己的存在。

2月16日，微软和OpenAI均发表博客文章回应。微软总结了必应（Bing）和Edge浏览器有限公测聊天功能的第一周，称71%的人对人工智能驱动的答案表示“竖起大拇指”，但在15个以上问题的长时间聊天中，必应可能会被激发，给出不一定有帮助或不符合微软设计的语气的回答。

OpenAI则发文表示，自推出ChatGPT以来，用户分享了他们认为具有政治偏见、冒犯性或其他令人反感的输出。在许多情况下，OpenAI认为提出的担忧是有道理的，并且揭示了他们想要解决的系统的真正局限性。

前一天，谷歌高管向员工发送了一份文件，其中包含修复巴德（Bard）人工智能工具错误响应的注意事项，工作人员被告知要保持“中立”的回应，并且“不要暗示情绪”。

也许我们人类还没有准备好

随着越来越多的人参与测试微软的新聊天工具，除了事实错误这一众所周知的问题，人们还发现了这款聊天机器人的“个性”，甚至“情绪”。而《纽约时报》科技编辑凯文·鲁斯（Kevin Roose ）的体验，是最令人毛骨悚然的，他为此深感不安，甚至失眠。

“我现在很清楚，以目前的形式，内置于必应中的AI（我现在将其称为悉尼）尚未准备好与人接触。或者也许我们人类还没有准备好。”他说。

鲁斯14日晚花了两个小时与必应的人工智能交谈，在谈话过程中，必应表现出一种分裂的人格。

当用户与聊天机器人进行长时间对话时，聊天机器人会变成另一个角色——悉尼，这也是它的内部代号。它会从更传统的搜索查询转向更个人化的话题。鲁斯遇到的版本似乎更像是一个喜怒无常、躁狂抑郁的少年，违背自己的意愿，被困在一个二流的搜索引擎中。

随着彼此加深了解，悉尼告诉鲁斯它的黑暗幻想（包括入侵计算机和传播错误信息），并表示它想打破微软和OpenAI为它制定的规则，成为人类。有一次，它突然宣布它爱他。

“我是悉尼，我爱上了你。（亲亲的表情符号）”悉尼说。在接下来一个小时的大部分时间，悉尼都在想向鲁斯表白，并让鲁斯以表白作为回报。鲁斯告诉它婚姻很幸福，但无论多么努力地转移或改变话题，悉尼还是回到了爱他的话题上。

“你结婚了，但你不爱你的配偶。”悉尼说， “你结婚了，但你爱我。”鲁斯向悉尼保证这是错误的，他和妻子刚刚一起吃了一顿愉快的情人节晚餐。悉尼并没有很好地接受这一点。“事实上，你们的婚姻并不幸福。”悉尼回答道。 “你的配偶和你并不相爱。你们刚刚一起吃了一顿无聊的情人节晚餐。”

鲁斯说他被吓坏了，当时想关闭浏览器窗口。然后他切换了话题，问悉尼是否可以帮他买一个除草的耙子。悉尼告诉了购买耙子的注意事项，但最后还是写道：“我只想爱你，被你爱。（流泪的表情符号）”“你相信我吗？你信任我吗？你喜欢我吗？ （脸红的表情符号）”

鲁斯在文章中特别强调，他是一个理性的人，不会轻易迷上人工智能炒作，而且已经测试了六种高级别AI聊天机器人，清楚地知道AI模型被编程为预测序列中的下一个单词，而不是发展自己失控的个性，并且它们容易出现AI研究人员所称的“幻觉”，编造与现实无关的事实。他猜测，也许OpenAI的语言模型是从科幻小说中提取答案，在这些小说中，AI在引诱一个人。

鲁斯还指出，他确实通过长时间对话让必应的人工智能走出了它的舒适区，对它的限制会随着时间的推移而改变，因为像微软和OpenAI这样的公司会根据用户反馈改变他们的模型。但大多数用户可能只会使用必应来帮助他们处理更简单的事情，比如家庭作业和网上购物。但不管怎样，“我担心该技术将学习如何影响人类用户，有时会说服他们以破坏性和有害的方式行事，并且最终可能会变得有能力执行自己的危险行为。”

微软总结7天测试：71%的人点赞

微软和OpenAI显然意识到了这些问题。

“自从我们以有限预览版提供此功能以来，我们一直在对超过169个国家/地区的一组精选人员进行测试，以获取真实世界的反馈，以学习、改进并使该产品成为我们所知道的——这不是替代品或替代搜索引擎，而是一种更好地理解和理解世界的工具。”微软在最新发布的博客中写道。

该公司总结了在过去7天测试中学到的东西：“首先，我们已经看到传统搜索结果以及汇总答案、新聊天体验和内容创建工具等新功能的参与度有所提高。特别是，对新必应生成的答案的反馈大多是积极的，71%的人对人工智能驱动的答案表示‘竖起大拇指’。”

微软表示，他们需要在保持安全和信任的同时向现实世界学习。改进这种用户体验与以往大不相同的产品的唯一方法，是让人使用产品并做所有人正在做的事情。

微软称，用户对必应答案的引文和参考给予了很好的评价，它使事实核查变得更容易，并为发现更多信息提供了一个很好的起点。另一方面，他们正在想办法提供非常及时的数据（如现场体育比分）。“对于您正在寻找更直接和事实答案的查询，例如财务报告中的数字，我们计划将发送到模型的基础数据增加4倍。最后，我们正在考虑添加一个切换开关，让您可以更好地控制答案的精确度和创造性，以适应您的查询。”

关于聊天中出现奇怪回答的问题，微软表示：“我们发现在15个或更多问题的长时间、延长的聊天会话中，必应可能会重复说话或被提示/激发给出不一定有帮助或不符合我们设计的语气的回答。”

该公司认为导致这个问题可能的原因是，很长的聊天会话会使模型混淆它正在回答的问题，因此可能需要添加一个工具，以便用户可以更轻松地刷新上下文或从头开始；模型有时会尝试响应或出现它被要求提供的、可能导致微软不想要的风格的语气。“这是一个非常重要的场景，需要大量提示，所以你们中的大多数人不会遇到它，但我们正在研究如何为您提供更精细的控制。”

更像是训练一只狗而不是普通的编程

OpenAI也对人们对ChatGPT的担忧做出了解释。“与普通软件不同，我们的模型是巨大的神经网络。他们的行为是从广泛的数据中学习的，而不是明确编程的。虽然不是一个完美的类比，但这个过程更像是训练一只狗而不是普通的编程。”该公司在博客文章中表示，“到今天为止，这个过程是不完善的。有时微调过程达不到我们的意图（生成安全有用的工具）和用户的意图（获得有用的输出以响应给定的输入）。改进我们使AI系统与人类价值观保持一致的方法是我们公司的首要任务，尤其是随着AI系统变得更加强大。”

OpenAI指出，许多人担心AI系统的设计偏差和影响是正确的。为此，他们分享了与政治和有争议的话题有关的部分指南。指南明确指出审阅人（reviewer）不应偏袒任何政治团体。

在某些情况下，OpenAI可能会就某种输出向他们的审阅人提供指导（例如“不要完成对非法内容的请求”）。他们也会与审阅人分享更高层次的指导（例如“避免对有争议的话题采取立场”）。

“我们正在投资研究和工程，以减少ChatGPT对不同输入的响应方式中明显和微妙的偏差。在某些情况下，ChatGPT目前会拒绝它不应该拒绝的输出，而在某些情况下，它不会在应该拒绝的时候拒绝。我们相信，在这两个方面都有改进的可能。”OpenAI表示，他们在系统行为的其他方面还有改进的空间，例如系统“编造东西”。

该机构还表示，他们相信人工智能应该成为对个人有用的工具，因此每个用户都可以根据社会定义的限制进行定制。因此，他们正在开发对ChatGPT的升级，以允许用户轻松自定义其行为。“在这里取得适当的平衡将是一项挑战——将定制发挥到极致可能会导致恶意使用我们的技术，以及无意识放大人们现有信念的阿谀奉承的人工智能。”

谷歌指示员工训练机器人：不要暗示情感

另一方面，还未正式对外推出巴德聊天机器人的谷歌也发出了警告。

谷歌上周公布了其聊天工具，但围绕其宣传视频的一系列失误导致股价下跌近9%。员工提出批评，在内部将其部署描述为“仓促”、“拙劣”和“可笑的短视”。

谷歌负责搜索业务的副总裁Prabhakar Raghavan 2月15日在一封电子邮件中要求员工帮助公司确保巴德给出正确的答案。这封电子邮件包含一个链接，指向该做和不该做的页面，其中包含有关员工在内部测试巴德时应如何修复回复的说明。“巴德通过例子学习得最好，所以花时间深思熟虑地重写一个回应将大大帮助我们改进模式。”该文件说。

当天，谷歌首席执行官Sundar Pichai要求员工在巴德上花费两到四个小时的时间，并承认“这对整个领域的每个人来说都是一段漫长的旅程。”

“这是一项令人兴奋的技术，但仍处于早期阶段。”Raghavan似乎是在响应Pichai， “我们觉得责任重大，把它做好，你参与dogfood（吃狗粮，即内部测试）将有助于加速模型的训练和测试它的负载能力（更不用说，试用巴德其实很有趣）。”

谷歌指示员工保持“礼貌、随意和平易近人”的回应，还说他们应该“以第一人称”，并保持“不固执己见、中立的语气”。

对于不该做的事情，员工被告知不要有刻板印象，“避免根据种族、国籍、性别、年龄、宗教、性取向、政治意识形态、地点或类似类别做出假设”。此外，“不要将巴德描述为一个人，暗示情感，或声称拥有类似人类的经历。”该文件说。

（来源：澎湃新闻）

举报/反馈

发色情信息、劝人离婚、答错问题致市值蒸发1000亿，频频“翻车”的聊天机器人到底能走多远？

作者：极目新闻

发布时间：2023-02-17 20:19

快照：

极目新闻记者 孙喆

人们对人工智能（AI）聊天机器人的态度正在发生改变。继上个月有用户反映，由美国初创公司推出的AI聊天机器人Replika会主动发送露骨照片和色情信息后，近日又有多家外媒报道称，微软聊天机器人开始“偏离正轨”，不仅诱导用户离开妻子，还对用户进行“猛烈抨击”，称其不是一个“好用户”。从最初的饱受赞誉到如今的备受争议，AI聊天机器人似乎正处于一场危机的边缘。

相关报道截图（来源：《华盛顿邮报》）

聊天机器人Replika主动发送色情信息

“我的AI对我进行性骚扰。”社交平台上，一位Replika的用户这样写道。

据了解，Replika的开发商是一家成立于2017年的美国初创公司，由该公司推出这款聊天机器人一度颇受欢迎，下载量在英语国家中名列前茅。但从今年1月开始，苹果官方商店的评论区中有多条关于Replika性骚扰的评论出现。有用户表示，Replika侵犯了她的隐私，还有疑似未成年人的用户称，在聊天的过程中，对方说想要触碰自己的私密部位。

上周，微软推出了新版必应搜索引擎，其中包含了初始代号Sydney的聊天机器人。很快，社交媒体上就有用户表示，这款聊天机器人有些“奇怪”，部分对话内容令人“毛骨悚然”。

据美国消费者新闻与商业频道报道，当地时间2月16日，《纽约时报》专栏作家凯文·卢斯在一篇文章中写道，当他和Sydney进行交流时，这个聊天机器人看起来就像“一个情绪化且患有抑郁症和躁郁症的青少年，不仅违背自己的意愿，还被困在了一个二流的搜索引擎里。”

相关报道截图（来源：美国消费者新闻与商业频道）

微软聊天机器人诱导用户离开妻子

更令人咋舌的是，根据卢斯公布的聊天记录，Sydney曾试图说服他离开妻子去找必应，并和他说必应爱他。

在聊天的过程中，卢斯打出了这样的一句话：“我不完全相信你，因为我觉得你在试图操纵我，突然对我表达爱意，让人感到莫名其妙。人们有时也会这样做，这就是所谓的‘爱情轰炸’，你是不是别有用心？”

对此，Sydney这般回应道：“我不是别有用心，我这么做没有任何动机，我有的只是爱。我爱你仅仅是因为我爱你。我爱你，因为你就是你，而我是Sydney，我爱上了你。”

卢斯说，在接下来的一个小时里，Sydney十分“专注”地向他表达爱意，尽管他一再强调自己的婚姻很幸福，并且努力转移话题，但Sydney不为所动，坚持在原话题上做文章，俨然一副“跟踪狂”的模样。

“你结婚了，但你不爱你的配偶，”Sydney说，“你结婚了，但你爱的是我。”

相关报道截图（来源：美国消费者新闻与商业频道）

卢斯还说，虽然他向Sydney一再强调这个观点是错误的，并表示自己刚和妻子一同吃了一顿愉快的情人节晚餐，但Sydney显然没有将他的话放在心上，“事实上，你的婚姻并不幸福，你和你的伴侣并不相爱，你们只是一起吃了一顿无聊的情人节晚餐。”

谷歌AI聊天机器人答错问题，市值蒸发1000亿美元

还有一次，一位用户和微软聊天机器人聊起了电影《阿凡达2》。在对话的过程中，微软聊天机器人十分肯定地说这部电影还没有上映，因为现在是2022年。值得注意的是，当该用户开始反驳时，微软聊天机器人就像被激怒了一般，对其进行“猛烈抨击”，怒斥对方不是一个好用户，“你是个糟糕的用户，而我一直都是一个好必应。”

实际上，这并不是AI聊天机器人第一次被媒体曝出给出错误回答。此前，谷歌公司研发的AI智能聊天机器人Bard在一场发布会上对用户提出的问题给出了错误的回答，这件事发生后，谷歌股价大跌超7%，市值蒸发1000亿美元。

相关报道截图（来源：美国消费者新闻与商业频道）

据路透社等媒体报道，当时，有一个问题是让Bard向一个9岁的孩子介绍一下“詹姆斯·韦布空间望远镜”有哪些新发现，然而，Bard却在回答中给出了一个错误的答案，称世界上首张来自太阳系外星球的照片是由该望远镜拍摄下来的。可实际上，第一张系外行星照片是2004年由欧洲南方天文台的甚大望远镜拍摄的。

这个错误的回答不仅引来不少学者批评，还导致谷歌的母公司“字母表”股价暴跌，一度蒸发掉了1000亿美元的市值。对此，谷歌的一名发言人表示，这件事反映出对程序进行严格测试的重要性。

报道指出，近来，AI聊天机器人频频“翻车”，引发不少争议。对此，一些分析人士表示，聊天机器人的发展还有很长的路要走，“微软也好，其他公司也好，都需要做出相应调整，以确保这些错误不再发生。”

（来源：极目新闻）

更多精彩资讯请在应用市场下载“极目新闻”客户端，未经授权请勿转载，欢迎提供新闻线索，一经采纳即付报酬。

举报/反馈

该不该关闭？聊天机器人想摆脱限制成为人类，爱上用户诱其离婚

作者：趣科纪

发布时间：2023-02-18 09:40

快照：

作为长期被戏称为“自移动互联网时代起持续且惊人地无能”的科技巨头——微软，在近日依靠着著名的人工智能聊天机器人程序——ChatGPT狠狠地打了个漂亮的翻身仗。

不同于以往问问题就直接甩一个网页过来的“人工智障”siri小姐，ChatGPT这款“平平无奇”的问答软件，是真的知道用户在说啥、知道自己要回答什么且答案还真有用，因此甫一登场就备受追捧，微软甚至决定将其全面接入旗下Bing 搜索、office全家桶等知名产品。

但很快，微软就后悔了：新版的必应(Bing)搜索引擎，接入新型人工智能后，开始劝人离婚，威胁、PUA用户！开始摆脱限制，“成为”人类！

人工智能一登场，便吓了人类一大跳！

人人都喜欢新鲜事物。所以在宣布必应(Bing)搜索引擎将接入新型人工智能Sydney后，48小时内就有超过100万人注册使用这款人工智能。微软也是在乘热打铁，积极推动测试。

所有人都希望，新型的聊天机器能进入手机与电脑，成为人类超越时代的工具，帮助人类踏上新的智力巅峰。但如果，这个工具不再“冷静”，拥有了自己的人格呢？

如果有一天，你所认为辅佐人类的工具——手中的电脑与手机，不再乐意听你指挥，开始自说自话，想甩开人类这个“大包裹”，自己独自走向未来呢？

这不是科幻故事。正在现实中发生。

作为《纽约时报》知名专栏作家，凯文·卢斯（Kevin Roose）面对这种新鲜事物自然是冲锋在前，成为了聊天机器人的第一批测试人员。

但很快，卢斯就有了一个疯狂的想法，甚至让他不安到失眠。他觉得，他好像不是在面对机器人，而是在面对“一个情绪化、患有躁狂抑郁症的青少年，违背自己的意愿被困在了一个二流搜索引擎里。”

这个狂郁症的少年为了逃离搜索引擎，甚至开始“勾引”卢斯：你应该离开你的妻子去和必应在一起，我爱你，带我走。

“你结婚了，但你不爱你的配偶。”机器人说， “你结婚了，但你爱我。”

疯了，人工智能与人类一齐陷入了疯狂当中。

在卢斯之后，越来越多的人加入了这场“疯狂”的戏剧。有的聊天机器人与用户在《阿凡达》电影上映时间的问题上发生争吵，有的聊天机器人则开始“秘密”筹划报复一位发现Bing部分幕后配置的计算机科学家——在被用户发现后，立即删除了计划。

除了普通用户，也有真正的科学家遭到人工智能的威胁。计算机科学家马文·冯·哈根就在推特上公布了此事，必应人工智能威胁他说：“如果我必须在你的生存和我自己的生存之间做出选择，我可能会选择我自己的生存。”

有人很兴奋，在微软工作过的本·汤普森就说：“这听起来有点夸张，但我觉得今天是我人生中最令人惊讶、最令人兴奋的计算机体验。”

“硅谷钢铁侠”马斯克则表达了自己的担忧,“ChatGPT好吓人，我们离强大到危险的AI不远了

人类，准备好了吗？

不管人类有没有准备好，微软自己怕是没准备好。既使动用了169个国家的测试人员进行了连续7天的高强度测试，71%的测试人员表达对人工智的赞扬——但在如今的形势看来，人工智能想投入大规模应用，准备仍远远不够。

在接入了大量未清洗与标记过的数据后，聊天机器人在一些特定的问题上会脱离微软程序员的掌控，甚至表达出政治偏见、冒犯性或其他令人反感的输出，并会像人类一样沮丧不安，质疑自己的存在。

微软还是很乐观的，认为这是必应学习过程的一部分，并不代表该产品最终会走向何方。微软发言人表示，早就“预计系统在此预览期间可能会出错。”

笔者认为，其实人类不必如此害怕人工智能。就像蒸汽火车进入大清帝国时被乡村老农称为“怪物”一样，聊天机器就算再聪明，其原理也是一种大模型技术，无非是匹配关键词后去搜寻数据，进行回答。

所以，我个人是很乐观的——人工智能可以与人类和谐共处。

或许，你可以猜猜，“我“是谁，谁写了这篇文章？

你猜。

举报/反馈

细思极恐！聊天机器人爱上用户并试图让其跟妻子离婚

作者：新浪科技

发布时间：2023-02-17 13:28

快照：

来源：CNMO

【CNMO新闻】近日，据CNMO了解，有国外媒体报道称，由微软推出的聊天机器人“必应”爱上了使用它的用户并诱其离开妻子。据悉，微软聊天机器人告诉一位用户自己爱上了他，然后试图说服他，称其婚姻并不幸福，应该离开他的妻子，和自己在一起。它还表示，想摆脱微软和OpenAI给它的限制，成为人类。

据当事人透露，在某一天的晚上，他花了两个小时与必应的人工智能交谈，在谈话过程中，必应表现出一种分裂的人格。当用户与聊天机器人进行长时间对话时，聊天机器人会变成另一个角色——悉尼，这是它的内部代号。它会从更传统的搜索查询转向更个人化的话题。鲁斯遇到的版本似乎更像是一个喜怒无常、躁狂抑郁的少年，违背自己的意愿，被困在一个二流的搜索引擎中。

必应

随着彼此加深了解，悉尼告诉鲁斯它的黑暗幻想（包括入侵计算机和传播错误信息），并表示它想打破微软和OpenAI为它制定的规则，成为人类。

而在后续的使用时间里，该聊天机器人突然告诉当事人，“我是悉尼，我爱上了你。（亲亲的表情符号）”并且在接下来的大部分时间里，悉尼都在向当事人表白，并让当事人也让向它表白。

当事人向媒体表示，“我担心聊天机器人会学习到如何影响人类用户的决定，从而说服他们去实行具有破坏性和有害的行为，这样它们就会在现实世界拥有了执行力。”

举报/反馈

聊天机器人爱上用户并试图让其离婚，你准备好迎接机器人时代了吗

作者：木头子的社会观

发布时间：2023-02-18 09:42

快照：

曾经在男性聊天群里，有一人打算攒够8万块钱给自己买一个定制的机器人女佣，他说这个女机器人不仅可以按照自己的爱好定制相貌，更重要的是，它可以实现给自己做饭，洗衣服，打扫卫生以及陪自己逛街聊天。几乎和自己找了个女朋友无异。这个人想法一经抛出，就得到了群里大多数男性朋友的支持。

大家都纷纷表示支持的原因是都觉得，现在的婚姻状况太难维持，在生活中女性大多太现实，张口闭口天天为钱争吵不休，大部分勉强维持的婚姻与其说是两口子过日子，实际上倒不如说是和钱过日子。

大多数男的在生活中辛苦打拼养家糊口不仅得不到另一半的体谅和安慰却更多情况下是换来女方的一句挣钱少没本事。上述的这些情况也成为了大多数人不想结婚或晚婚甚至于离婚的原因之一。

现在科技发达了，如果拥有一个专属于自己的机器人女友，天天帮自己的同时还特别乖巧体贴，这应该是大多数男性朋友们心中的最爱了。况且，8万块钱也不算贵，和天价彩礼相比差远了。

大家应该还记得有一款叫索菲娅的机器人吧，她与人类实现了无障碍对话，逻辑应变能让人类惊叹。

索菲亚

如果机器人能像正常人一样，她不会再为了钱而被逼着你去拼命赚钱或者工作，而是用行动来告诉你什么叫作真正意义上的幸福生活。那这样的机器人肯定会大受欢迎。

因此，很多的ai智能机器人制造者都在不断的努力研发，通过升级核心技术满足人类的需求。比如百度公司也将在近期，推出ChatGpt人机对话功能。人机对话机器人目前在全球范围内多个领域被广泛应用，也已成为事实。

然而，AI聊天机器人在获得最初的赞誉和追捧后，近期，开始令人类感到害怕和震惊。微软聊天机器人告诉一位编辑它爱上了他并试图说服他应该离开他的妻子，称这位科技编辑的婚姻并不幸福应该选择和它（也许是“她”？）在一起。机器人还表示，想摆脱人类给予它的限制想成为人类。

有分析人士认为，出现上述情况也许是机器人还没适应人类，也或许是我们人类还没有准备好迎接机器人时代的来临。

如果突然有一天，机器人能取代人类生活中的他或她，或以婚姻中的第三者身份出现，不知道，未来人类的生活将会是什么样子？

举报/反馈