日本地方媒体和大型科技公司正在加大力度,应对人工智能和社交媒体带来的信息质量挑战。在近期地方选举中,虚假新闻在社交网络上迅速传播,促使地方报纸建立专门的事实核查机制。《河北新报》在10月宫城县知事选举期间应对了有关太阳能的虚假说法;《京都新闻》则反驳了4月京都府知事选举前出现的AI生成虚假民调信息。与此同时,大型科技平台也在应对AI生成低质量内容的泛滥:Spotify删除了7500万条垃圾音轨,LinkedIn于7月推出了用户举报工具,Google则移除了由5万个账户组成的、专门制作重复内容的账户网络。Google还以1000万美元收购了破产的Spirit Airlines的企业数据,以改进AI模型训练,凸显出整个行业对训练数据集的激烈争夺。专家指出,目前存在一种结构性失衡:虚假内容可以即时且零成本地生成,而核查则需要投入大量新闻资源和时间。
日本地方媒体启动事实核查机制,应对选举虚假信息
日本地方报纸针对地方选举期间传播的虚假新闻,建立了实时事实核查机制。在10月的宫城县知事选举期间,社交媒体上流传着“现任知事欢迎大型太阳能项目”的虚假说法,并立即影响了竞选活动。《河北新报》是一家主要地方报纸,随后设立了专门的事实核查板块,并发布紧急文章应对虚假信息,理由是选民有权获取准确信息,而不应因担心影响选举结果而保持沉默。
在4月京都府知事选举前,一项显示现任知事领先的真实民调在社交网络上遭到歪曲,被用来暗示双方势均力敌。AI工具Grok将捏造的帖子作为事实性答复呈现,进一步放大了虚假信息。《京都新闻》当天发布了反驳通知,并在次日的早报中刊登事实核查文章。《朝日新闻》报道称,在2024年兵库县知事选举期间主流媒体因保持沉默而受到批评后,地方媒体在事实核查方面变得更加积极主动。
专家指出了一个结构性挑战:虚假新闻可以在一秒钟内零成本生成,而事实核查则需要记者投入大量报道时间和人力。专家表示,地方媒体对当地背景拥有最深入的了解,因此最适合传播准确的一手信息,并追踪虚假内容的传播渠道。
大型科技平台移除数百万条AI生成的低质量内容
大型科技公司正在采取直接措施,应对“AI垃圾内容”——即利用人工智能工具批量生产的低质量、重复性内容。《纽约时报》于17日(当地时间)报道称,搜索引擎、社交媒体和音视频平台上AI生成内容的泛滥,正用重复的低质量材料取代高质量信息。AI垃圾内容并非泛指所有由AI创作的内容,而是特指通过AI轻易批量生产的低质量、重复性内容,例如搜索结果中出现的怪异食谱,或充斥社交媒体的奇怪AI生成图像。
Spotify删除了7500万条涉及批量上传和重复音频文件的垃圾音轨。LinkedIn于7月推出了一项允许用户举报AI垃圾内容的功能。拥有YouTube的Google分析上传速度和重复内容模式,移除了与低质量内容相关的5万个账户网络。
俄亥俄大学AI专家Paul Schoblin将AI垃圾内容形容为“双刃剑”,并指出,过量的内容会让用户难以找到所需信息。这一情况也形成了讽刺:大型科技公司一方面直接提供了制造AI垃圾内容的技术,另一方面又在努力遏制这类内容。Google在搜索和地图中积极使用其AI模型Gemini,而Meta也在扩大AI生成内容的规模。
AI检测技术存在局限。有人投诉称,Substack的AI检测工具错误地将人类撰写的文章标记为AI生成内容,引发了人们对合法创作者可能遭受附带损害的担忧。哥伦比亚大学研究员Camille François表示:“各种反制措施的结合表明,我们面对的是信息环境本身的系统性问题,而不只是定义并删除所谓的‘坏’垃圾内容。”François警告说:“归根结底,AI是一种创意工具,也是一项具有多重属性的技术。如果平台不能妥善处理这一问题,用户就会转向其他地方。”
Google以1000万美元收购Spirit Airlines企业数据,用于AI模型训练
Google以1000万美元收购了破产低成本航空公司Spirit Airlines的企业数据,以改进其下一代人工智能模型。据Business Insider于17日(当地时间)报道,提交给联邦破产法院的文件确认,Google成功收购了Spirit Airlines的数据;该公司于今年早些时候申请破产。Google发言人表示:“Spirit Airlines的数据有助于改进Google的产品和AI模型。”该发言人还强调:“我们收购的是公司内部数据和定制软件,而不是客户信息或信用卡详细信息。”Spirit Airlines发言人拒绝就法院文件之外的内容发表评论。
这项收购反映出科技公司之间争夺训练数据的竞争日益激烈,因为它们几乎已经耗尽了互联网上所有可用的学习材料。企业数据对于训练机器人更有效地处理客户投诉或修复网站错误,具有特别高的价值。
法院文件披露了围绕Spirit Airlines数据展开的激烈竞标。Google最初出价500万美元,而AI训练初创公司Mercor则反报价520万美元。当Mercor表示,如果能够先将原始数据匿名化,愿意再支付最高700万美元时,Google提交了1000万美元的报价并赢得了合同。
构建更优AI模型的激烈竞争,正推动企业采取非常规策略获取企业数据。Meta此前宣布计划追踪员工的键盘敲击和鼠标移动,以提升其AI使用计算机的能力,但由于担忧内部数据泄露以及员工的强烈反对,最终叫停了该项目。
常见问题
问:日本报纸在宫城和京都选举期间采取了哪些措施来应对虚假新闻?
答:《河北新报》在10月宫城县知事选举期间设立了专门的事实核查板块,并发布紧急文章,以应对有关太阳能政策的虚假说法。《京都新闻》则在4月京都府知事选举前发布当日反驳通知,并在次日早报中刊登事实核查文章,以反驳由Grok传播的AI生成虚假民调信息。
问:大型科技平台移除了多少AI生成内容?
答:Spotify删除了7500万条涉及批量上传和重复音频文件的垃圾音轨。Google通过分析上传速度和内容模式,移除了与低质量、重复性内容相关的5万个账户网络。LinkedIn于7月推出了用户举报功能,用于标记AI垃圾内容。
问:Google为什么以1000万美元购买Spirit Airlines的企业数据?
答:Google收购了Spirit Airlines的内部企业数据和定制软件,以改进其AI模型和产品。这项收购是在与AI训练初创公司Mercor竞争竞标后完成的。Google表示,这些数据将有助于改进其产品和AI模型,但公司并未收购客户信息或信用卡详细信息。