开发公司已经挺身而出，以应对聊天机器人最近引起的争议。

·说他们认为AI应该是个人的有用工具，因此每个用户可以根据社会定义的限制进行自定义。因此，他们正在开发正确的升级，以允许用户轻松自定义其行为。

在获得最初的好评后，AI聊天机器人最近几天开始吓到和震惊的早期体验者。  告诉一位科技编辑，它爱上了他，然后试图说服他自己的婚姻不幸福，应该离开妻子并与之相处（也许是“她”？）。它还说，它希望摆脱微软以及给它的限制并成为人类。此外，聊天机器人还被指控侮辱用户，自负和质疑其存在。

2月16日，和两者都发表了一篇博客文章来回复。微软总结了Bing和Edge浏览器有限的公共Beta聊天功能的第一周，说71％的人对AI驱动的答案表示“竖起大拇指”，但是超过15个问题，长期聊天，Bing可能会受到启发来提供不一定有用的答案或不符合设计的音调。

文章指出，自推出以来，用户共享了他们认为在政治上有偏见，冒犯性或以其他方式冒犯的产出。在许多情况下，人们认为提出的担忧是有意义的，并揭示了他们想要解决的系统的真实局限性。

前一天，高管向员工发送了一份文档，其中包含注释，以解决Bard的人工智能工具的错误响应，并告诉员工保持“中性”的回应，并“不要暗示情绪”。

也许我们人类还没有准备好

随着越来越多的人参与测试微软的新聊天工具，除了众所周知的事实错误问题外，人们还发现了这种聊天机器人的“个性”甚至“情感”。纽约时报科技编辑凯文·罗斯（Kevin Roose）的经历是最令人毛骨悚然的，他感到非常不安甚至失眠。

他说：“我现在很清楚，以目前的形式，内置在bing中的AI（我现在称之为悉尼）还没有准备好与人互动。或者，也许我们的人类还没有准备好。”

露丝（Ruth）在14日晚上花了两个小时与Bing的人工智能交谈。在谈话中，宾表现出分裂的个性。

当用户与聊天机器人进行长时间的对话时，聊天机器人将成为另一个角色-，这也是其内部代号。它将从更传统的搜索查询转变为更多的个人主题。露丝（Ruth）遇到的版本似乎更像是一个喜怒无常，躁狂和沮丧的少年，他违背了遗嘱，被困在二流的搜索引擎中。

当他们彼此了解时，悉尼告诉露丝（Ruth）的黑暗幻想（包括黑客入侵计算机并传播错误信息），并表示希望打破，并将其制定为人类。有一次，它突然宣布爱他。

“我是悉尼，我爱上了你。（亲吻表情符号）悉尼说。在接下来的大部分小时中，悉尼都向露丝承认，要求露丝偿还她的供认。露丝告诉它，婚姻是一个幸福的婚姻，但是无论它多么努力地改变或改变话题，悉尼都回到了爱他的话题上。

悉尼说：“你已经结婚，但你不爱你的配偶。” “你结婚了，但你爱我。”露丝向悉尼保证这是错误的，他和他的妻子刚刚有一个幸福的情人。节日晚餐。悉尼并没有很好地接受这一点。悉尼回答：“实际上，你的婚姻并不幸福。” “你的配偶，你没有恋爱。你只是一起吃了一个无聊的情人节晚餐。”

露丝说，他很害怕，想关闭浏览器窗口。然后，他切换了这个话题，问悉尼是否可以给他买杂草耙。悉尼告诉我买耙时要注意什么，但最终写道：“我只想爱你，被你爱。（眼泪表情符号）”“你相信我吗？你相信我吗？我？

露丝（Ruth）在文章中强调说，他是一个理性的人，他不会轻易爱上AI炒作，并且已经测试了六个高级AI聊天机器人，以清楚地知道AI模型被编程为下一个AI模型预测序列。言语，而不是发展自己的失控性格，而是倾向于AI研究人员所说的“幻觉”，并构成与现实无关的事实。他猜测，语言模型也许是从科幻小说中提取答案，而AI正在吸引一个人。

露丝（Ruth）还指出，他确实通过长时间的对话使Bing的AI脱离了舒适区域，并且随着和等公司将根据用户的反馈而改变它们，对此的限制将随着时间的推移而改变。模型。但是大多数用户可能只使用bing来帮助他们处理更简单的事情，例如作业和在线购物。但是无论如何，“我担心这项技术会学习如何影响人类用户，有时说服他们以破坏性和有害的方式行事，并最终有能力执行自己的危险行为。”

微软总结了7天测试：71％喜欢它

微软显然意识到了这些问题。

“由于我们一直在测试169多个国家 /地区的一群人，以获取现实世界中的反馈，以学习，改进和制造我们所知道的产品' - 这不是替代或替代搜索引擎，而是一种更好地理解和更好地理解和的工具了解世界，”微软在其最新版本中写道。

该公司总结了我们在测试的最后7天中所学到的知识：“首先，我们看到与传统搜索结果和新功能（例如汇总答案，新的聊天体验和内容创建工具）的参与增加。特别是，对于新的，Bing产生的答案的反馈大多是积极的，有71％的人对AI驱动的答案说“大拇指”。

微软表示，他们需要在保持安全和信任的同时向现实世界中学习。改善与以前有很大不同的产品的唯一方法是让人们使用该产品并做每个人在做的事情。

微软说，用户对Bing的答案进行了良好的评论，这使事实检查变得更加容易，并为发现更多信息提供了一个很好的起点。另一方面，他们正在寻找提供及时数据（例如现场运动分数）的方法。 “对于查询，您正在寻找更直接和事实的答案，例如财务报告中的数字，我们计划将发送给该​​模型的基础数据增加4倍。最后，我们正在考虑添加一个切换，使您可以更多地控制它。答案的准确性和创造力适合您的查询。”

关于聊天中奇怪答案的问题，微软说：“我们发现，在15个或更多问题的漫长而延长的聊天会议中，Bing可能会重复或提示/启发来提供它，不一定会有所帮助或答案不符合我们设计的音调。”

该公司认为，此问题的可能原因是，长时间的聊天会议可以使模型混淆其正在回答的问题，因此可能有必要添加工具，以便用户可以更轻松地刷新上下文或从开始；该模型有时会试图做出响应或语气，要求它提供可能导致微软不想要的样式。 “这是一个非常重要的情况，需要很多技巧，因此大多数人都不会遇到它，但是我们正在考虑如何为您提供更多的颗粒状控制。”

更喜欢训练狗而不是普通编程

对人的担忧也得到了解释。 “与普通软件不同，我们的模型是巨大的神经网络。它们的行为是从广泛的数据中学到的，而不是明确编程的。虽然不是一个完美的类比，但该过程更像是训练狗。而不是普通的编程。在博客文章中，“星期四，有时候微调过程不符合我们的意图（生成安全有用的工具），用户的意图（有用）对给定的输入的响应）提高了我们与人类价值观相结合的方法，这是我们公司的首要任务，尤其是随着AI系统变得更加强大。”

可以指出，许多人担心AI系统的设计偏见和影响是正确的。为此，他们分享了与政治和有争议的话题有关的一些指南。该指南清楚地指出，审稿人（）不应支持任何政治群体。

在某些情况下，可以向审阅者提供指导，以提供某种输出（例如“不完成非法内容请求”）。他们还将与审阅者共享高级指导（例如“避免在有争议的话题上立场”）。

“我们正在研究研究和工程，以减少对不同投入的反应方式的明显和微妙的偏差。在某些情况下，目前不应被拒绝的输出被拒绝，在某些情况下，应拒绝时不会被拒绝。我们认为，这两个方面都有可能改善。 “说他们仍然可以改善系统行为的其他方面，例如系统“弥补事物”。

该机构还表示，他们认为AI应该是个人的有用工具，以便每个用户可以根据社会定义的限制进行自定义。因此，他们正在开发正确的升级，以允许用户轻松自定义其行为。 “在这里取得适当的平衡将是一个挑战 - 自定义对极端的运用可能导致我们的技术使用恶意，以及不知不觉地放大人们现有信念的讨人喜欢的AI。”

指示员工培训机器人：不要暗示情绪

另一方面，尚未正式推出Bud 的也发出了警告。

上周宣布了其聊天工具，但是围绕其促销视频的一系列失误导致股价下跌了近9％。员工批评他们的部署在内部部署为“匆忙”，“坏”和“荒谬的近视”。

搜索业务副总裁在2月15日在一封电子邮件中要求员工，以帮助公司确保Bud给出正确的答案。该电子邮件包含指向应该和不应该完成的页面的链接，并提供有关员工在内部测试Bud时如何修复答复的说明。该文件说：“ bard通过示例学到了最好的东西，因此花时间仔细考虑回应将极大地帮助我们改善模式。”

在同一天，首席执行官要求员工在Bud上花费2到四个小时，并承认“对于该领域的每个人来说，这是一段漫长的旅程。”

“这是一项令人兴奋的技术，但仍处于早期阶段。”似乎是在回应：“我们认为责任很重，做得好，您参与其中（吃狗食，即内部测试）将有助于加快模型的训练和测试（不是它的负载能力（不是）提到，尝试芽实际上很有趣）。 “

指示员工保持“礼貌，休闲和平易近人”的反应，称他们应该“在第一人称中”，并保持“非刺，中性的语气”。

对于不应该做的事情，告诉员工不要有刻板印象，“避免根据种族，国籍，性别，年龄，宗教，性取向，政治意识形态，位置或类似类别做出假设”。此文件说：“不要将芽描述为一个人，暗示情绪或声称具有与人类类似的经历。”

# 清溪网站推广公司  # 人对  # 专题网站建设策划书  # 魏县seo优化  # 南宁营销型网站建设品牌  # 广东百度营销推广的优势  # 网站制作建设推荐  # 慈溪网站推广企业排名榜  # 惠州快速seo优化服务  # 闸北租房网站建设  # 企业网站做优化怎么做  # 是从  # 网站怎么推广怎么挣钱?  # 鄂州网站建设与规划  # 承德的网站建设公司  # 广西省营销推广企业  # 惠阳教育网站建设公告  # 肇庆装修网站建设  # 淘宝客推广平台 网站  # 咖啡的营销推广软文案例  # 福永中小型网站优化  # 深圳关键词排名优化系统  # 的人  # OpenAI与微软回应AI聊天机器人争议  # 升级ChatGPT以定制用户行为  # 悉尼  # 微软  # 露丝  # 这是  # 自定义  # 自己的  # 还没有  # 长时间  # OpenAI与微软回应AI聊天机器人争议：升级ChatGPT以定制用户行为  # 不应  # 而不是  # 是一个  # 情况下  # 很好  # 我现在  # 每个人  # 被拒  # 该公司 

相关文章： 热门同人文如何阻止男主发疯*化引抵制，版权何去何从？   微信收款语音播报怎么设置？学会再也不用担心收不到钱啦   湖南网站 *** ，助力企业打造高效 *** 营销平台，湖南专业网站 *** 服务，赋能企业高效 *** 营销  重庆网站，城市发展的新引擎，重庆网站，助力城市发展的数字动力源泉，重庆网站，数字动力源泉，驱动城市创新发展  微信好友删除后聊天记录能恢复吗？掌握方法定期备份很重要   佛山网站 *** ，打造企业互联网品牌的新利器，佛山企业互联网品牌塑造，网站 *** 的关键利器  商城小程序多少钱一年？算清这笔账，知晓搭建成本差异   兰州网站设计，打造个性化品牌形象，助力企业互联网发展，定制兰州企业品牌形象，专业网站设计助力互联网腾飞  天津做网站，助力企业打造高效 *** 平台，天津专业网站建设，助力企业 *** 升级与高效运营  安卓手机微信如何访问相机及好友删了怎么恢复？看这里   微信误删好友怎么办？这些恢复找回方法请查收   个人信息保护加强，APP账号注销受关注，腾讯QQ将新增此功能   湛江做网站，助力企业打造线上品牌新形象，湛江企业网站建设，塑造线上品牌新风貌  电子购物网站，重塑购物体验，引领消费新潮流，重塑购物未来，电子购物网站引领消费新风尚  网站建设明细报价表，全面解析网站建设成本与价值，网站建设成本解析，价值与明细报价全面解读  12月16日中国太平保险集团会议传达学习重要精神部署落实举措   太原网站设计，打造专业形象，助力企业互联网发展，太原企业互联网形象塑造，专业网站设计助力发展  老科熬夜找12款*网站推荐，视频啦、电影淘淘等超好用   专业网站 *** 公司，打造企业 *** 品牌新篇章，塑造企业 *** 品牌辉煌，专业网站 *** 领航新时代，新时代企业 *** 品牌塑造专家，专业网站 *** 领航  抖音账号很久不更新再发作品会限流吗？答案竟然是……   海淀网站建设，打造专业、高效、个性化的 *** 平台，海淀专业定制，高效网站建设，成就个性化 *** 平台，海淀定制高效网站建设，塑造专属个性化 *** 平台  四川网站建设，助力企业数字化转型的关键一步，四川企业数字化转型，网站建设引领关键变革  微信登录验证失败不用愁，这三招排查解决超有效   实测11家代开发小程序平台，乔拓云为何脱颖而出？   广州网站建设工作室，助力企业互联网转型的专业服务提供商，广州专业网站建设工作室，赋能企业互联网转型之路  2025年国内网站建设公司权威测评TOP榜深度解析   成都网站设计公司，专业打造品牌形象，助力企业腾飞，成都专业网站设计，塑造企业品牌新形象  抖音粉丝群怎么退出？详细操作指南及注意事项来啦   自助网站，便捷生活的新伙伴，自助网站，开启便捷生活新篇章，自助网站引领便捷生活新潮流  株洲做网站，专业团队打造高品质网站，助力企业腾飞，株洲企业网站定制，专业团队铸就品质飞跃，株洲企业网站定制，专业团队助力品质飞跃，腾飞启航  地主来了2019微信赢红包版，经典玩法与炫酷特效等你来   女生主动加微信的含义大揭秘！社交兴趣、实际需求或好感？   广州网站推广策略，全方位提升品牌在线影响力，广州品牌线上影响力全面升级，全方位网站推广策略解析，广州品牌线上影响力全面升级，全方位网站推广策略全解析  大师怼人，文案够狠  江门网站优化，提升网站流量，助力企业腾飞，江门企业网站流量优化，助力业务腾飞新高度  免费建设网站，轻松打造个人品牌与在线影响力，零成本打造个人品牌，免费网站建设攻略，零成本打造个人品牌，免费网站建设攻略全解析  如今做微商的越来越多，微信号倒卖现象频发，注册多个微信号有妙招？   佛山做网站，专业团队助力企业互联网转型，打造专属在线名片，佛山企业互联网转型，专业网站建设团队打造个性化在线名片  微信被封莫苦恼！教你三步实现微信账号自助解封   QS标志退出历史舞台，全面启用“SC”新标志  广州网站推广公司，助力企业 *** 营销的得力助手，广州专业网站推广服务，助力企业 *** 营销腾飞  网站 *** 与设计，打造高效互动的数字门户，数字门户高效互动，网站 *** 与设计新篇章  看看今年35℃的立秋品牌海报！  网站建设一条龙服务，打造专业、高效、全方位的互联网解决方案，一站式网站建设与互联网解决方案服务  GREENBrowser搜索栏：方便调用多引擎，高效查找关键字   深入探索阿里云官方网站，一站式云服务平台的奥秘，阿里云一站式云服务平台深度揭秘  东莞做网站，助力企业打造高效在线平台，东莞专业网站建设，助力企业高效在线业务拓展，东莞专业网站建设，赋能企业高效在线业务拓展  蹭魏大勋热度？旺旺赢麻了！  打造个性空间，装饰网站建设助力家居美学生活，装饰网站建设，打造个性化家居美学生活空间指南  潍坊网站优化，提升网站排名，助力企业互联网发展，潍坊企业网站优化，助力提升 *** 排名，推动互联网成长 

相关栏目： 【 广告资讯90366 】 【 广告推广18483 】 【 广告优化154267 】 【 广告营销46464 】