Meta（META.O）周三表示，在其Facebook和Instagram平台上发现了“可能由AI生成”的欺骗性内容，这些内容包括在全球新闻机构和美国议员的帖子下发表的赞扬以色列处理加沙战争的评论。
这家社交媒体公司在季度安全报告中指出，这些账号冒充犹太学生、非洲裔美国人和其他关注此事的公民，针对美国和加拿大的受众。Meta将这一活动归因于特拉维夫的一家政治营销公司STOIC。尽管自2019年以来，Meta在影响行动中发现了由人工智能生成的基本个人资料照片，但这是首次披露自2022年末出现的基于文本的生成性AI技术的使用。
研究人员担心，生成性AI可以快速且廉价地生成类似人类的文本、图像和音频，可能会导致更有效的虚假信息宣传活动并影响选举。在一次新闻电话会议中，Meta的安全高管表示，他们早期就移除了这次以色列的活动，并且不认为新兴的AI技术妨碍了他们打击影响网络的能力。这些网络是协同推广信息的尝试。
高管们表示，他们没有看到这些网络部署的AI生成的政客图像足够逼真，以至于被误认为真实照片。“在这些网络中，有几个例子展示了他们如何使用可能的生成性AI工具来创建内容。也许这让他们能够更快或更大量地创建内容。但这并没有真正影响我们检测它们的能力。”Meta的威胁调查负责人迈克·德维利安斯基说。
报告强调了Meta在第一季度破获的六次秘密影响行动。除了STOIC网络，Meta还关闭了一个总部位于伊朗的网络，该网络专注于以色列-哈马斯冲突，但没有发现该活动中使用生成性AI。Meta和其他科技巨头一直在努力应对新AI技术可能被滥用的问题，特别是在选举中。
研究人员发现，包括OpenAI和微软（MSFT.O）在内的公司的图像生成器生成了与投票相关的虚假信息照片，尽管这些公司有禁止此类内容的政策。这些公司强调了数字标签系统，以在创建时标记AI生成的内容，但这些工具不适用于文本，研究人员对其有效性表示怀疑。
