大踏步奔赴何种未来？

封面 I 即梦AI

作者I 李东阳

报道 I 李东阳朋友圈

从ChatGPT的出现让人类第一次与代码“谈人生”，到AI硅胶娃娃的崛起，使得技术革命直接闯入了人类最私密的卧室。

人们惊讶的是为何AI的脚步如此迅猛？

各位最熟知的，莫过于在B站等短视频平台出现的甄嬛在遭四郎扇脸后端起机枪疯狂扫射、林黛玉倒拔垂杨柳等，这些小作坊靠着简单的AI软件，轻松将流量费收入囊中。

更没底线的是，你在社交媒体分享的日常照，转眼就被人用软件脱了个精光，要不换个身性感比基尼，要不干脆文案一换，搞成了灰色勾当。

最近国外媒体X平台，掀起了一股马斯克比基尼大赛，各种款式各种造型看的人眼花缭乱，以至于马斯克本人选择打不过就加入，主动玩起了自己的比基尼辣照。

不夸张的讲，在AI工具的流行下，古今中外所有名人都没逃过这场恶搞，地下长眠者也会被赛博复活。

这不仅是单纯的玩乐、搞抽象，如今电商、新能源汽车等行业同样让AI折腾得不轻，造成重大损失者不计其数。

在地上画一个圈，猫咪会自己跳进去，但给人一个技术手环，恨不得给整个世界都套上紧箍咒。

最近不少人在社交媒体刷到过这样一条视频：

一位老人在视频中苦口婆心的劝诫“我活到108岁，试茶80多年了”，转头开始推荐产品，跑步前进购买吧。

图源：抖音@新京报

事实上，视频以及文案是由AI生成的，是某品牌联合广告公司的馊主意，这位茶界泰斗早已去世多年，被别有用心者包装成了赛博销售。

这类以AI制作名人背书加持商业的案例早已泛滥，什么教培机构门前站着孔子，唠着闲嗑就开始打广告；唐僧取得真经后，白龙马失业只能去跑外卖；鲁迅眼瞅着世界和平，于是讲起了脱口秀……

有从业者透露，一条AI生成的名人恶搞短视频，植入广告报价可达数万元；更有黑产团队专门批量制作此类内容，通过平台分成、直播打赏实现盈利。

如今，AI恶搞名人的戏码，早已从猎奇走向产业化。

从马斯克的“比基尼变装”到泰勒·斯威夫特的虚假私密照，从奥巴马的“反讽演讲”到梅西的“退役宣言”，只需输入几句指令，AI就能在几分钟内生成以假乱真的图文视频。

图源：X平台

这类视频在社交媒体由于极强的反差和娱乐性，往往具备极高的播放量，其中不乏一些令人不适的内容：

比如已经去世的科比用肘击整顿职场；霍金坐着轮椅在拳台上被几个壮汉当成沙包狂揍，嘴边却还挂着笑容；爱因斯坦和李小龙争辩起了物理学，意见不合大打出手……

如果你进行制止，反而容易被扣上没有娱乐精神，不会与AI和平共处的帽子。

还有之前火爆全网的AI乔任梁和AI李玟的视频，视频中强调“我并没有离开，只是去了某个地方”“希望你们都能活得很好”“你们的每一个留言、每一份关怀我都感受到了”。

图源：抖音截图

别急着感动，视频里各类明星出镜，背后都潜伏着利益操盘者，乔任梁父亲公开称，“不能接受，感到不舒适，希望对方下架”，并表示“他们未征求我们同意，是我侄女刷到视频发给我的，这是在揭伤疤” 。

这些都是技术碰撞产生的新型问题，是AI降临的又一深刻体现。

之所以被称为“迷人的危险”，是因为AI具备足够的摧毁力。

各行各业很难有独善其身者，前段时间，AI涉黄、造假新闻正在猛烈冲击新能源汽车品牌，如小鹏汽车模特在车展做出擦边姿势、保时捷女销售被换脸合成不雅视频、小米汽车因其搞流量属性被AI生成不雅视频等。

这些 AI 生成的涉黄内容，制作成本低至几毛钱，传播速度却极其迅猛，给企业造成的损失动辄数亿。

电商行业同样被AI折腾的够呛，每隔一段时间都有多位电商卖家反映遭遇利用AI伪造商品瑕疵以骗取“仅退款”的情况。

涉及服装、鞋包、美妆、电器、食品、生鲜果蔬在内，几乎所有的电商类目均受到波及，其中单价金额较小的商品更是受影响的重灾区。

而面对这是骗局，商家们普遍难以分辨且举证艰难，如果太过强硬，一个差评的代价实在沉重，所以很多时候不少人选择吃个哑巴亏。

财经领域的AI乱象更是触目惊心，社交媒体上的“财经老师”们，用AI编造政策解读、伪造业绩报告，用标题党、小作文煽动市场情绪，引发股价异常波动。

图源：网信办

还有不法分子利用AI生成企业家的“授权视频”，骗取经销商加盟费；更有甚者伪造名人投资推荐，诱导普通投资者入局骗局。

这些乱象的根源，在于AI降低了造假的门槛和成本。过去伪造一份财报需要专业知识，现在只需输入指令；过去传播谣言依赖线下渠道，现在AI能瞬间生成千篇一律的“小作文”，通过多平台扩散。

而当造假成本低于违法成本，不法分子自然趋之若鹜，最终买单的却是整个商业生态。

虚假社会新闻层面，同样有AI 的身影，如洛杉矶山火中，好莱坞标志牌着火的图片疯传网络，不光是营销号，还涉及一些社交媒体账号和新闻页面也在转发，但最终被证实为AI生成。

还有西藏定日县发生6.8级地震后，一系列“小男孩被埋图”在互联网平台广泛传播，并配文日喀则地震等关键词，最终同样被核查为AI生成。

更高阶的AI玩家，则把目光放得更为长远，利用AI搞起了新的创业叙事。

OPEN AI的创始人萨姆·奥尔特曼喊出过一句充满诱惑的口号：“一个人就能做出市值10亿美金公司的时代马上就要到来。”其实就是对AI投射的希望。

图源：豆包AI

一些成功者的案例已经破土而出，如9岁小学生利用大模型写书，赚了2万、创业小白用快手可灵制造宣传视频，年入30万等，虽然远未到达令人仰望的高度，但鉴于其“普通人”身份标签，这样的财富神话足够被歌颂。

在爆金币的诱惑之下，咱们对于AI自然多了些向外，而这些会让风险被随之抛到脑后，换句话说AI在正道上产生的价值实在让人无法舍弃。

年轻人或许体会更深，最近一两年内有关AI取代工作岗位的消息频出，其中财务、翻译、银行被认为最有可能被代替，这还仅仅这是AI发展的起步阶段。

但AI的副作用，已经到了不容忽视的地步，所以《人工智能生成合成内容标识办法》的到来是场及时雨。简单说，以后所有AI生成的视频、图片、文章，都得打AI制作的标签了。

从制作者到发布平台，全链条都有责任明确告知大家：这是AI合成的，可别当真！这就像给虚拟内容上了个“防伪标识”，让技术跑得更稳，也让咱们看得更明白。

而且目前不少平台已经开始整治AI创造内容，如抖音、快手、小红书、微信推出知治理措施推进算法向上向善，目的就是将谣言扼杀在摇篮里。

在AI时代下，到底是人类驯化AI，还是AI逐渐塑造新人类，这无疑是个需要警惕的问题。

一个不容忽视的底线是，技术，最终都是为了守护人之为人的尊严与温度。