原本只是想写一篇简单的微头条吐槽一下,但是越写越觉得事态的严重性,从去年年底到现在,全球都在从开始的 chatGPT 到现在逐步放开的 New Bing 这样的AI聊天机器人而疯狂,认为我们赶上了跨时代的技术革新,但真的是这样吗?我们所谓的AI机器人真的能给你带来正确的答案吗?
今天晚上先是花了45分钟左右在B站上看了UP主『 林亦LYi』的《AI战争:消灭谷歌暴政,搜索属于微软》的视频,其中主要的是谈了全球两大搜索巨头之间的恩怨,及在当下微软投资的 chatGPT 的爆火以及 New Bing 带来的搜索引擎技术革新给双方的竞争带来的影响,也提到了关于 New Bing 聊天机器人,竟然培养之下养出了“自我意识”,这样的结果真的让人细思极恐。我们必须要慎重对待AI当前技术对人类的影响,甚至于AI长远发展下对人类更深层的影响。还记得上大学时看过的美剧《黑镜》中的一些未来科技给人带来的恐怖,难道幻想中的灾难真的正在潜移默化在人类自我提升的过程中孕育着?
如果上一个视频给我带来了只是长远的一个思考,那看了下一个视频以及自己的实际操作,真的让我对当下的AI聊天机器人,或者当下正在推崇的 New Bing 的AI搜索聊天模式更加不信任,甚至是感觉这样发展下去,我们将丧失更多东西。
在看到B站UP主『 差评君』的视频《试用了集合 ChateGPT 的 Bing 搜索后,感觉潘多拉魔盒已经打开…》中提到了,在对 New Bing 提问:“截至今天,詹姆斯一共打了多少场常规赛?”,因为UP主已经提前在NBA官网查了最新的数据,截止到发稿是1410场,但 New Bing 的答复是1577场。视频中的对话的结局是,通过引导,让New Bing 认识到自己的错误,于是乎,我便想尝试一下,结果,如图:
New Bing 因为我否定了它的回答,竟然强制终止了话题!
好吧,我承认,我不像UP主那样能够靠事实打败它,关键是它连机会就给我[流泪]
从3月1号我开始体验New Bing,当时的对话限制在6次,现在是是8次,虽然次数上增加了,但实际上,这样的终止对话很常见,对此我并不理解微软官方的用以何在,可能也只是局部测试而已,故有此限制,但这样的解决着实让人如鲠在喉,心里着实有点失望。
为了实事求是再给New Bing 一次机会,我先查看了最新的NBA官网数据,有趣的是,NBA中文站,以及NBA官网数据有很大不同,NBA中文站数据统计只到了2022赛季,没有2023赛季,由此也让我有了一些新的联想………
证实了准确数据之后,不甘心的我开启了新的一轮对话(如图):
最终在我提供了最新数据来源网站后,它承认了自己的错误,但,其实我想说的是,我以为AI会主动学习自己错误的东西,在同样的问题下,不会犯同样的错误,结果依旧如此……
通过上面那“詹姆斯截止到现在常规赛的总场数”为例,跟New Bing 对话得到的结果来看,真的是让我有了诸多感概和思考,为什么最开始的回答数值和实际数值差别那么大?如果我在第一次相信了这个答案会怎样?如果这样的错误不是偶然是必然,那这样的AI对我来说真的有用吗?…………
如果我在深信第一次问题中所有要素都提出的情况下得到的答案是正确答案的话,那结果将是,这个数据至少我之后认为就是对的,甚至于跟更多人说这个数值,虽然说只是一个篮球明星的某项数据而已,但是,如果是其他重要的事情呢?甚至于历史、人生观、价值观等,那样的影响将不可想象!
针对于出现上面的问题,我相信并非是个例,也并非是暂时,深思了其中原因,我个人粗浅的知识理解下,为什么AI的数据与实际数据差别比较大?
当然,New Bing 当下毕竟只是属于内测期吧,就像New Bing聊天界面前面的提示语一样:"让我们一起学习。必应由AI提供支持,因此可能出现意外和错误。请确保核对事实,并共享反馈以边我们可以学习和改进!"
一个结果、一个例子并不能说明什么,也不可否认,这的确是一次大的互联网技术变革,AI Chat 带给互联网了一次爆炸性的冲击,不仅仅让互联网职业人感受到改天换地,甚至对于自身的职业前景忧心忡忡会不会被AI所替代,相信不久的将来,也会给所有大众带来一次更深的影响。当然,无论怎样,希望这样的革新是有更好的意义的,而非只是为了商业竞争而拔苗助长的行为。