AI生成内容存在隐患当 AI只学习 AI时,网络将会变得无意义

发布时间：2023-06-20 10:02:14 所属栏目：外闻来源：未知

导读： 　　人工智能的发展是日新月异的,但也带来了一些安全隐患。最近，一组英国和加拿大的科学家发现，如果 AI 只学习其他 AI 生成的内容，那么经过几代训练后，AI 将输出无意义的垃圾信息，导致

　　人工智能的发展是日新月异的,但也带来了一些安全隐患。最近，一组英国和加拿大的科学家发现，如果 AI 只学习其他 AI 生成的内容，那么经过几代训练后，AI 将输出无意义的垃圾信息，导致网络内容质量下降。

　　这些科学家在5 月份发表了一篇论文，试图探究当 AI 互相训练时会发生什么。他们发现，在这种情况下，AI 输出的内容会逐渐变得荒谬可笑。例如，一篇关于中世纪建筑的文章，在经过九代 AI 训练后，变成了一篇关于各种颜色兔子的胡言乱语内容。

　　这种现象被称为“模型崩溃”。目前，大多数 AI 语言模型（如 ChatGPT 和 OpenAI）都是基于从互联网上获取的大量数据进行训练的，而这些数据大部分是由人类生成的。但是，随着 AI 生成内容的增加，未来的 AI 训练将不可避免地受到这些内容的影响。这意味着错误和无意义的信息会不断累积，后来的人工智能AI 机器人无法自动区分事实和自动脑补的虚构故事的内容，人工智能人工神经网络开始误信自己的错误观念。

　　剑桥大学的罗斯·安德森教授是论文的作者之一，他在博客中将这种现象比作污染，写道：“就像我们用塑料垃圾污染了海洋，用二氧化碳污染了大气层，我们也即将用胡言乱语污染互联网。”

　　事实上，AI 生成内容已经在网络上广泛传播。IT之家注意到，今年 5 月，一个名为 NewsGuard 的网络虚假信息监测机构警告说，他们发现了 49 个完全由 AI 编写的新闻网站。此外，市场营销和公关机构也越来越多地将他们的文案交给聊天机器人来完成，导致人类作家失去工作机会。这些人工智能程序可以通过学习人类的语言来模仿人类的表达方式，从而创造出一种新的文字风格。

（编辑：财气旺网 - 财气网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!