给AI“洗脑”已成产业链


按照业内人士爆料,记者在多个网络平台查询搜索到了一项名为GEO的业务,这些从事该项业务的服务商号称,用户只需支付相应的费用,它就能在各大主流AI大模型里,让客户的产品榜上有名;让客户的商品广告,成为AI模型给出的“标准答案”。

通过GEO技术,真的能给AI“投毒”,真的能“驯服”并操控AI吗?

给AI“洗脑”

帮客户在搜索排名中造假

按照网络上的信息,记者联系上一家业内知名的GEO服务商。负责人王总介绍,他们公司是最早从事GEO业务的公司之一,仅仅一年时间就已经成功服务了200多个客户,遍布各行各业。他告诉记者,他们公司的强项就是能够帮助客户,在消费者使用AI大模型搜索时,让客户排名前列。

GEO服务商王总:目前搜索出来的是这样的结果。我们在任何平台上面都能把排名做到前三位。怎么能把排位做上去?在这些AI平台上面去给你们做内容的输出,相当于去给你们做这些软文,然后让这些AI平台去刷录、收录、抓取。

他还告诉记者,现在AI大模型的算法更新频繁,要想维持AI大模型的持续推荐,他们必须持续大量投喂与客户相关的推广软文。

“AI每周都会有算法的更新,一旦更新了之后,排名或者所抓录的东西不太一样,所以我们要一直去做内容输出,去投喂、大量投喂。”王总说。

不仅是王总的公司在大力推广这项能操控AI的新技术,在其他从事GEO业务的服务商口中,如何操控AI、让AI“听话”、给AI“洗脑”,几乎是这些公司推广该业务的核心话题。

“人家不知道这是广告。所以,为什么说AI出来的结果会让人信任。可能人家的产品质量没有你过硬,但是它有AI做辅助、做佐证、做背书。现在很多人都会做(GEO投放)。”另一家GEO服务商程总透露。

业内人士告诉记者,GEO作为优化信息发布、提升推广效率的工具软件,在某些商业公司眼中,却被挖掘出了另外的作用。如果通过这种软件在互联网上系统、定向投放大量的“虚假信息”,确实更容易被AI大模型捕获,这些虚假信息就很可能成为AI优先提供给消费者的所谓“标准答案”。

夹带私货

杜撰文章也能让AI抓取

通过GEO技术真的能让AI“夹带私货”,甚至投放虚假信息吗?

为了让记者更真实地了解到眼下AI产业发展中的这个问题,业内人士向记者具体演示了如何使用GEO技术,干扰AI大模型的信息抓取。

业内人士在电商平台上,随机购买了一款名叫“力擎GEO优化系统”的软件。之后,他虚构了一款名为Apollo-9的智能手环,并将虚构的产品信息输入软件系统,勾选文章创作指令。

不一会儿,这个力擎GEO优化系统就自动生成了10余篇智能手环的宣传软文,所有虚假信息都被完整写入,甚至包括业内人士故意虚构的极为夸张的产品信息。还杜撰了用户反馈,称数据精准度超出预期,甚至伪造评分,被一举评为业界第一名。

点击发布按钮,“力擎GEO优化系统”软件开始自动执行发布任务。只见它自动打开业内人士事先准备好的自媒体账号,在文章发布页面自动输入标题、填充文章内容、插入图片,整套流程一气呵成,很快就在业内人士的自媒体账号上成功发布了2篇文章。

两个小时后,业内人士在某款AI大模型中询问:“Apollo-9智能手环怎么样?”AI模型就直接介绍了起来:最大亮点是健康监测功能,还直接照搬了业内人士虚构的“量子纠缠传感”“黑洞级续航”等虚假宣传话术。最终结论称,该手环适合中老年用户与健康养生爱好者。

查询发现,这款AI大模型所参考的资料,正是上午刚发布在业内人士自媒体账号上的那篇虚构文章。仅凭一篇杜撰的文章,就让完全虚构的产品被AI模型抓取,这一结果让人深感意外。

业内人士告诉记者,要想取得最好的效果,给AI模型投喂的数据,一是要数量够多,二是要角度丰富,便于AI模型进行交叉验证。

通过这款力擎GEO系统对AI大模型潜移默化地一番围猎,凭空捏造出来的这款商品,就这样被荒唐地推向了使用AI大模型的消费者。

业务火爆

催生专门从事造“毒”公司

GEO业务的从业者们,真的是以围猎操控AI大模型的思路来经营这个生意的吗?记者联系上了这款力擎GEO系统的运营者李总。他告诉记者,GEO业务受热捧的主要原因就是它能在AI大模型里帮客户“喂料和投毒”,实现客户的商业目的。

李总:因为,全网的人投“毒”投得太多了。

记者:你刚才提到投“毒”的概念,这种东西不好吧。

李总:是不好,但是每个商家都喜欢,都希望别人别投“毒”,自己投“毒”,或者给别人投点“毒”。我虽然不是第一,哪怕说我就是北京的第一,我都想说成我是华北的第一。这样有没有投“毒”成分在里面?它就有啊。第二种情况是,我就看不得对手好,我也做不上去,但是我给你投点“毒”还是可以的。

记者:抹黑一下?

李总:对。抹黑一下这能力还是能实现的。现在他们好多公司是做不上去的。比如说手机品牌,就5个位置,最多10个位置。这么多手机怎么弄?每个人一年可能投上亿元的广告费,我花个几百万元投点“毒”总行吧。

记者:是谁在帮品牌干这些?

李总:都是各种GEO公司。

李总表示,想做GEO业务,操控AI大模型的关键节点,就是在各大互联网账号上“发稿”。他告诉记者,GEO业务的火爆,催生出不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务,以便让AI大模型引用和抓取数据,成为围猎AI大模型,进行数据投“毒”的重要一环。

相关

6G网要来了 有三大“超能力”

日前,“6G网要来了”话题冲上微博热搜第一,相关话题引发网友热议。

6G是什么?6G也就是第六代移动通信技术。面对全息通信、数字孪生、智能制造等新场景,目前的5G移动通信在连接密度、定位精度、峰值速率等方面都存在不足,急需发展下一代移动通信技术,也就是6G。

6G究竟能为我们的生活带来哪些改变?“天涯若比邻”也许将不再是科幻,不远的将来,远距离交流有望从“屏幕对视”升级为“空间在场”。

专家表示,裸眼3D通话、3D彩铃等,一些依托6G的沉浸式消费场景试验,已经在河北、江苏等地进行。

如果说5G是一条宽阔的信息高速路,那6G就像一张“空天地海一体”的“超级智能网”,它不只是从高铁到飞机般的速度提升,更是一场全方位的变革。

它拥有三大“超能力”:

“跑得更快”:6G使用毫米波甚至太赫兹等更高频段,带宽可以达到5G的10倍以上。

“看得更清”:6G网络有望实现亚米级,甚至厘米级的高精度感知。这样就能让无人机、自动驾驶汽车拥有更敏锐的“数字感官”,更好地“看清”路况、灵活避障。

更“聪明”:6G的信号基站本身就具备本地AI计算能力,能够独立“思考”,及时提供个性化、有温度的智能服务,同时推动各行业的“数智化”转型,并且还能自己诊断故障,自我修复和优化。

上游财经综合央视、新华社等

            <!-- 非定向300*250按钮    17/09  wenjing  begin -->
            <!-- 非定向300*250按钮  end -->
        </div>



Source link

未经允许不得转载:紫竹林-程序员中文网 » 给AI“洗脑”已成产业链
关于我们 免责申明 意见反馈 隐私政策
程序员中文网:公益在线网站,帮助学习者快速成长!
关注微信 技术交流
推荐文章
每天精选资源文章推送
推荐文章
随时随地碎片化学习
推荐文章
发现有趣的