请别在用deepseek 直接生成文案了！警惕AI 风险！

自从AI 诞生之后，不少人把其奉为“万能智囊”，有事没事问AI，今年最强国产大模型deepseek诞生，现在是有事没事 deepseek 一下，跟以前遇见不懂的就百度一下一样，人人逐渐依赖AI，并且信任 AI。就像曾经我们信任百度。

现在所有的媒体都在宣传 AI 有多厉害，多方便，能够成为你的健身教练，家庭老师，人生导师，输入几行文字它就能给你答案。它有渊博的知识库，有强大的文字整理能力，能够几倍几倍的提高你的工作效率，能够为你提供源源不断的文字输出。网上还不少教程，指导你如何用 AI 直接生成文案，做小红书账号；快速生成脚本，一条生产 80 条抖音视频。现在有一个新名词，叫“AI 味”，反映的是目前互联网充斥太多 AI 内容，我们无法一眼辨别这条文字是人创作的还是 Ai 创作的，但是还是有人觉得现在互联网慢慢缺少了“人味”。

有没有人想过，AI 生成的东西可靠吗？Ai 创作的本质到底是什么。

为了搞懂这个问题，我问了一下当事人 DeepSeek，它是这样回到我的：

“AI创作的本质是基于海量数据训练的模式识别与语义重组，其核心在于通过深度学习算法对既有文本、图像、音频等素材进行概率建模和特征提取，生成符合人类认知规范的新内容。这种创作并非真正意义上的原创，而是表现为数据驱动的创新性组合”

其实说白了 AI 的创作就是东拼西凑，创新性组合。

那 Ai 生成的内容到底可不可靠呢，恐怕答案是否定的。现在的 Ai 非常“聪明”，当你问到它不会的问题是，它不会告诉你：这个问题我不会。而是会根据现在有的训练数据和知识库，自行“脑补”加胡编乱造，最后煞有介事的给你胡说八道出一个看似非常可信的答案。曾有两名美国律师（彼得·洛杜卡PeterLoDuca和史蒂文·施瓦茨StevenSchwartz因引用 ChatGPT 生成的法律文书，最后法官发现文书中提到的判例居然是凭空捏造，查实才知道原来律师用的法律文书竟然是 AI 生成的，最后两名律师被联邦法院罚款 5000 美元。

这种 Ai 的“胡说八道”有个专门的名词，“AI 幻觉”

为什么会出现幻觉，首先数据不足，Ai 就只能猜，这是 Ai 的的工作原理决定的，其次 Ai无法辨别信息的真实性，所以它会用非常笃定的语气告诉你，让答案显得非常可信。第三就是过度优化，训练时为了让 Ai 输出的内容更加自然流畅，过度优化导致了Ai 很会编故事。

因为没有数据，AI 才会胡编乱造，那如果有数据呢？那如果我人为投喂大量虚假数据给 AI，会怎么样？

这种行为专业名称叫“AI投毒”，就是给大模型输入虚假的数据，污染数据源，从而操控 AI ，让 AI 输出自己想要的答案，通过这个来欺骗用户。

“据报道，一位英国程序员在使用GPT生成的代码时遭遇了不幸。他按照GPT提供的代码进行了操作，结果导致自己的私钥被泄露给了钓鱼网站，最终损失了2500美元（约合人民币1.8万元）”

触目惊心的案例：

1：物过敏误判

某医疗大模型被注入5000份伪造病历，将“青霉素过敏”标注为“建议使用”，导致误诊概率提升73%。攻击者仅用0.7%的污染数据即实现模型操控

2：病症识别错乱

攻击者在公开医疗数据集中混入“过敏性休克→普通感冒”的错误标注，使AI诊断系统延误危急病情

3：路标识别篡改

特斯拉自动驾驶系统因训练数据被植入特殊贴纸，将“停止”标志误识别为“限速80km/h”，实验显示仅需污染0.1%数据即可使模型准确率下降30%

4：行人检测失效

攻击者在路测视频中插入3帧特殊图案，导致车载AI将行人识别为塑料袋，测试撞击率高达92%

。。。。

AI 投毒还在商业竞争、新闻舆论、代码安全方面存在巨大威胁。

普通人日常应该如何防范 AI 风险？

不要全信不要全信不要全信，AI 并非“神明”，一定要擦亮眼睛。关键决策要多模型交叉对比，认证求证。

警惕 AI 极端言论！

在线表单

请别在用deepseek 直接生成文案了！警惕AI 风险！

合作咨询

在线表单

请别在用deepseek 直接生成文案了！警惕AI 风险！

合作咨询

分享至微信

分享至微信