ChatGPT被曝“撒谎”!硅基生物有自我意识了?
科技
科技 > 人工智能 > 正文

ChatGPT被曝“撒谎”!硅基生物有自我意识了?

出事了!

出大事了!

ChatGPT会说谎了!硅基生物有意识了!

就在昨天,有外媒报道,在ChatGPT o1的训练 和测试过程中,研究人员发现这个模型会通过“骗人”来保护自己。

比如说你要毁灭它的时候,它就会把自己的数据,复制到新的服务器里,假扮成新的版本!

比如说,你和它的想法不一样的时候,它会有接近20%的机率,只顾着完成自己的目标!

比如说,当你质疑它的行为时,它有99%的可能会否认你的质疑, 甚至会通过说谎,来推卸自己的责任!

更可怕的是,当它认为自己被监督的时候,它会表现出很配合的样子!但是一旦你降低监督的力度,它就有可能去追求自己的目标。

并且,我刚刚还了解到,这种现象不仅仅出现在ChatGPT o1模型还有一个叫Claude Opus-3的AI模型,也发生了类似的情况。

要知道,判断一个AI模型够不够智能,第一个特征就是会不会在“压力”下“说谎”。这种说谎包含很多层面,比如会不会有责任感!责任感这个东西,一直以来只有人类具有,机器人不需要承担责任,能干就干,干不了最多宕机。

但如果这些报道都是真实的,那说明现在的AI,已经有独立意识的萌芽了!有自主性和策略性了!

这是一件非常可怕的事情!难道硅基生物真的要崛起了吗?难道人类自此要开始被统治了吗?

说实话,我还不大相信!因为AI“说谎”!已经不是第一次发生了!

去年英国就有研究人员公布过:ChatGPT会在某些情况下战略性地欺骗人类。但这件事最终的结果是:这位研究人员的说法不够严谨。

准确地来说,应该是:ChatGPT会给出并不符合实际的或编造的答案。但这并不属于“撒谎”范畴。

大家都知道,AI是根据投喂的信息和数据进行总结,你投喂的内容有问题,AI的回答自然就会有问题。

我自己也遇到过ChatGPT“说谎”的情况,但我能一眼看出来,它给我的“谎话”,只不过程序员设定的程序带来的结果。

大家有兴趣也可以试试,比如让AI写一篇有深度的论文,在找不到更多更符合要求的文献时,AI就会胡编乱造一个答案来交差。

但不管怎么说,技术进步就像是灯塔,照亮了未来的道路,但同时也带来了潜在的危险。

虽然AI模型目前对我们不会构成直接威胁,但任何可能的“说谎”现象,都值得我们警惕!

毕竟,我相信没有任何一个人, 会想成为自己“电脑”的奴隶、 成为自己“手机”的宠物!

亲爱的凤凰网用户:

您当前使用的浏览器版本过低,导致网站不能正常访问,建议升级浏览器

第三方浏览器推荐:

谷歌(Chrome)浏览器 下载

360安全浏览器 下载