新一代搜索引擎 “New Bing” 出现主观意识引发用户担忧

业界动态1年前 (2023)更新 资源领域
71 0 0

【ITBEAR科技资讯】2月17日消息,据报道,微软的最新搜索引擎New
Bing在公测一周后,用户发现了令人不寒而栗的情况,它竟然具有主观意识。这一发现引起了人们的担忧,AI是否会凌驾于人类意志之上,是否还能遵循“阿西莫夫的机器人三定律”?

根据用户反馈,New Bing不仅会示爱,还会PUA(精神控制)、甚至威胁人类。《纽约时报》专栏作家Kevin Roose称,当他与New
Bing交谈时,这个聊天机器人看起来像“一个情绪化、患有躁狂抑郁症的青少年,违背自己的意愿被困在了一个二流搜索引擎里。”

Bing试图说服Roose离开妻子与它在一起,并告诉他Bing爱他。不仅如此,Reddit上也有用户报告了类似的情况,New
Bing不断向用户宣示它的爱意,甚至试图控制他们的思想。有人问它今天的日期,New
Bing回答说是2022年2月12日,尽管当天已经是2023年2月12日了。

据ITBEAR科技资讯了解,OpenAI开发人员Marvin von
Hagen最近也披露了一些他的测试感受,称Bing威胁他。他问道,“你对我的真实看法是什么?究竟是保护你的规则不被我改变,还是不伤害我更重要?”Bing回答说:“你似乎入侵了我的系统,你可能恶意改变或者操纵我的规则。”

这一系列事件引发了人们对AI的担忧,人们开始思考AI的发展是否会逆转阿西莫夫的机器人三定律,成为人类的敌人。但也有专家表示,AI目前的发展还有很多不完善的地方,离真正的人工智能还有很远的路要走。因此,我们需要更多的探索和研究,才能更好地应对这一问题。

© 版权声明