人工智能垃圾开始污染互联网5 月初，新闻网站评级公司 NewsGuard 发现 49 个假新闻网站使用人工智能生成内容。该公司联合创始人 戈登·克罗维茨 表示，截至 6 月底，这一数字已达到 277 个。“这个数字正在呈指数级增长，”克罗维茨说。并表示，这些网站的创建似乎是为了通过Google展示广告网络赚钱。
研究人员还指出，人工智能技术有可能被用于制造政治虚假信息和用于黑客攻击的定向信息。网络安全公司Zscaler表示，现在判断人工智能是否被犯罪分子广泛使用还为时过早，但该公司预计人工智能将被用来创建高质量的的假冒钓鱼网页，这些网页旨在诱骗受害者下载恶意软件软件或泄露他们的用户名和密码。
在YouTube上，ChatGPT淘金热正如火如荼地进行着。数十个提供如何利用OpenAI技术赚钱的建议的视频已被观看了数十万次。其中许多视频提出了涉及垃圾内容的可疑计划。有些视频告诉观众，他们每周可以赚到数千美元，敦促他们编写电子书或在博客上出售广告，这些博客上充斥着人工智能生成的内容，然后可以通过在谷歌搜索中弹出广告来获得广告收入。
《Clarkesworld》杂志的出版商 Neil Clarke 表示，今年早些时候，该杂志不得不暂时停止接受在线投稿，因为数百个人工智能生成的故事让该杂志不堪重负。Clarke 表示， 提交内容是由在线视频推动的，这些视频建议人们使用 ChatGPT 创建内容并向 Clarkesworld 投稿。
如果互联网上越来越多地充斥着人工智能生成的内容，这可能会成为人工智能公司本身的问题。这是因为它们的大型语言模型在公共数据集上进行自我训练。随着这些数据集越来越多地充满人工智能生成的内容，研究人员担心语言模型将变得不那么有用，这种现象被称为“模型崩溃”。
来源：
华尔街日报 
