加入收藏

天天速递!网友问New Bing问题,结果它上了另一个AI的当

2023-06-26 04:59:58 来源:差评君

前几天,世超刷到一个帖子。


【资料图】

有个网友问 New Bing :象鼻山是否有缆车,New Bing上网查了下后说有的,并给出缆车开放时间和价格。

最后还强调,坐缆车可以欣赏到象鼻山的全景,值得一试。

乍一看, New Bing 回答还可以吼,一些必要信息它都给了,甚至想给你种草。

但一番考证后,网友发现New bing 回答是错的。

AI 回答错这种事,大家早见怪不怪了,但这次不同的是:

New Bing答错的原因,在于它参考的信息源有问题。

信息源,居然也是个AI。

根据 Newbing 下方提供的参考来源,“象鼻山提供缆车”信息来自于一个知乎账号。

而这个账号,正疯狂生产大量的AI内容。

为啥这么说呢。

5 月 25 日这天,从下午 1:05 开始, 20分钟内他回答了 5 个问题。

不仅回答速度快,他还涉猎贼广。

上能给出泰国、日本旅游攻略,下还熟知宠物训练,甚至了解果蛆生活习性,还知道留置看护笔试要考什么题。

字数都在 200字左右,回答的角度也都挺全面。

说实话,这背后要是一个真人在操作,那世超就是来人间凑数的……

我把它的回答复制到百度和谷歌,也并未发现是搬运。

既然不是营销号,那根据经验,这种文案口吻只有 AI 能写出来了。

目前知乎已经把百变人生禁言,并在它所有回答下方贴出“疑似 AI”的提示,也基本能坐实这就是一个背靠 AI 的账号了。

所以整件事就是NewBing被另一个AI编造的答案给坑了。

你可以戏谑地说成:AI吃到了同类拉出来的狗粮。

但要世超看,这种事,将来在AI界内可能会不断发生。

讲一个案例。

AI 行业有一种工作叫标注员,最简单的一类就是给图像打标签,比如标记下图片里的物体是汽车还是摩托车。

打过标签的图片,相当于有了参考答案,才可以拿去给AI进行训练,深度学习。

标注员的工作也能稍微复杂点,比如做摘要。

前段时间,瑞士洛桑联邦理工学院有一群研究人员就请了 44 名外包员工,让他们给 16 篇论文做摘要。

结果你猜咋地。

研究人员最后用技术手段识别出有 33%到 46%的摘要,是用大型语言模型生成的

原来有一些外包员工偷懒,用 AI 帮他们生成摘要,然后用这批摘要用来训练 AI 。

他们是懂偷懒的。

虽然整个事件是学者们做的一场实验,但从本质上说,这不也是一起AI吃到同行拉的狗粮的故事么?

我认为这可不是个好兆头。

要知道大语言模型非常复杂,它需要的训练数据极其庞大,也是关键所在。

不管是书籍还是网络上发布的帖子、文章,这些由人类创造的作品,因为自然、干净、质量高,对正在长身体的AI来说,就是一个营养拉满的训练语料库。

前段时间为什么 reddit 要对 API 收费,就因为上面数以万计的帖子,对 AI 公司来说就是一个极具价值的人类宝库,它不想被白嫖。

所以在未来一段时间,不仅网络上AI生成的内容会越来越多,而且,会有越多的内容创作者和平台认识到数据的价值,开始对内容进行收费。

这就意味着,以后训练AI时,语料库会不可避免来自于它们的前辈。

这个趋势下,会发生啥呢?

世超在网上搜罗一圈,发现前段时间就有英国和加拿大学者研究了这个问题,并为此发布了一篇论文。

简单概括就是,这种情况会导致AI越学越退步,他们称为Model Collapse

一旦模型出现崩溃,它的瓦解速度会非常快, AI 会迅速忘了他们最开始学的大部分内容,错误也会越来越多。

说简单点, AI 会开始记不住东西,并且瞎回答。

这就意味着 AI智商会迅速崩塌,一代更比一代蠢。好比一张图片被人们转来转去,高清无码总会成了爆浆表情包。

不过,比起 AI和人类未来,我更担心人类自己。

因为“AI 越练越蠢”说法建立在“大部分”训练数据来源于前辈的情况,且忽略 AI 未来可能会具备“识别 AI 文本”的能力。

而有个很残酷的事实是,互联网上 AI 生成的内容会越来越多,人类宝库会被逐渐污染。

那有没有一种可能,就像那些网络流行语一样,AI 作品、文案、图片也会逐渐融入我们日常沟通方式,甚至让我们无法离开。

长此以往,人类是否会被“驯化”。从说话习惯到思考方式,再到行为逻辑,会不会受到一定的影响。

我想,这可能要打一个问号了。

关键词:

相关新闻

资讯

嫌疑人潜逃,可能携带凶器 内蒙古一地发布协查通报
嫌疑人潜逃,可能携带凶器 内蒙古一地发布协查通报

记者从内蒙古兴安盟科右中旗公安局获悉,6月24日20时......更多>

【世界时快讯】文明旅游!“我是文明旅游引导员”志愿活动在青岛奥帆中心举行
【世界时快讯】文明旅游!“我是文明旅游引导员”志愿活动在青岛奥帆中心举行

为促进志愿者队伍和游客共同创建“处处是美景、人人是......更多>

我国快递业发展彰显强大韧性 今年提前34天达到600亿件_观天下
我国快递业发展彰显强大韧性 今年提前34天达到600亿件_观天下

央视网消息:国家邮政局今天(6月25日)发布数据,今......更多>

若你安好便是晴天演员表_若你安好便是晴天剧情简介
若你安好便是晴天演员表_若你安好便是晴天剧情简介

欢迎观看本篇文章,小升来为大家解答以上问题。若你安......更多>

雪松国际信托被罚220万:以现金管理类产品的名义误导投资者等
雪松国际信托被罚220万:以现金管理类产品的名义误导投资者等

中新经纬6月22日电国家金融监督管理总局网站近日发布......更多>

中国十七冶集团承建的濮阳市华龙区零碳产业园项目多厂房主体结构同时顺利封顶
中国十七冶集团承建的濮阳市华龙区零碳产业园项目多厂房主体结构同时顺利封顶

6月21日,由中国十七冶集团承建的濮阳市华龙区零碳产......更多>

毛利率堪比茅台,研发人员仅8人,敷尔佳IPO后能走多远?
毛利率堪比茅台,研发人员仅8人,敷尔佳IPO后能走多远?

而站在高毛利金字塔尖的茅台,2022年毛利率为92 6%,......更多>

钻石价格,突发“跳水”!未来还会更便宜?_世界短讯
钻石价格,突发“跳水”!未来还会更便宜?_世界短讯

报道称,2020年时,人造钻石的市场销售份额仅为2 4%......更多>

瓜果丰收 乐了萌娃
瓜果丰收 乐了萌娃

null近日,浙江省丽水市缙云县新区实验幼儿园的小朋友......更多>

环球即时看!端午节假期出游人次破亿,文旅产品服务丰富
环球即时看!端午节假期出游人次破亿,文旅产品服务丰富

新华社北京6月24日电(记者徐壮)文化和旅游部24日公......更多>

关注

富民罗免创办“家庭鹅场” 助农增收致富
富民罗免创办“家庭鹅场” 助农增收致富
昆明信息港讯通讯员张开亮2023年,罗免镇申报年产100... 更多>
富民罗免创办“家庭鹅场” 助农增收致富
昆明信息港讯通讯员张开亮2023年,罗免镇申报年产100... 更多>
天天快消息!湖湘自然历丨石韫玉而山晖㉕碧玺上品,真身是它
新湖南,主流新媒体,移动新门户。-分享自@新湖南 更多>
定滑轮和动滑轮的特点实验视频_定滑轮和动滑轮的特点
1、定滑轮:1,位置不随物体移动,是固定在建筑物或者... 更多>
天天最新:2023年河北高考成绩查询方式
2023年河北高考成绩查询方式由高考考试栏目提供,查找... 更多>
中国石油天然气集团有限公司原党组副书记、副总经理徐文荣接受中央纪委国家监委纪律审查和监察调查 世界速递
中央纪委国家监委网站讯中国石油天然气集团有限公司原... 更多>
数码宝贝:神圣天使兽是否真有实力,能打赢小丑皇纯属侥幸?-环球速看料
神圣天使兽是巴达兽的超进化形态,初次登场于和小丑... 更多>
男子开定速巡航和刹车失灵:刹车踩不下去 方向盘很硬
男子开定速巡航和刹车失灵:刹车踩不下去方向盘很硬 更多>
专家“下沉”,谁受益?——吕梁市人民医院组团引进“北京名医”的启示|世界球精选
4月21日,吕梁市人民医院整体搬迁至吕梁市医疗卫生园... 更多>
2023东莞中考东城哪些路段有交通管制? 每日动态
东莞市2023年初中学业水平考试定于6月26日至28日举行... 更多>
“上头电子烟油”含大麻,两人朋友圈售卖均被判刑
南都讯记者赵青近年来,一些违法犯罪分子利用电子烟这... 更多>
全球连线|在关于中西方制度比较的辩论中,这位法国企业家力挺中国 天天观焦点
新华社北京6月24日电(记者刁泽)4月初,一场关于中西... 更多>
2023年高考志愿填报十问十答来了-世界视讯
2023年高考志愿填报十问十答来了 更多>