title: OpenAI的研究分析了语言模型如何被滥用于虚假信息的问题

categories:

• ChatGPT新闻

tags:

• 已归档
• ChatGPT新闻

已归档（历史新闻）

研究简讯旧稿，仅作历史参考。

OpenAI的研究分析了语言模型如何被滥用于虚假信息的问题

OpenAI的研究人员与乔治敦大学安全与新兴技术中心和斯坦福大学互联网观察站合作，调查语言模型在虚假信息活动中可能被滥用的问题。这项合作包括2021年10月的一个研讨会，汇集了30名虚假信息研究人员、机器学习专家和政策分析师，并最终在一年多的研究基础上共同撰写了一份报告。该报告概述了语言模型如果被用来增强虚假信息活动对信息环境构成的威胁，并介绍了一个分析潜在缓解措施的框架。

该报告强调了人工智能支持的影响行动如何改变行为者、行为和内容，使虚假信息活动更容易扩展，更具说服力，并且更难被发现。例如，语言模型可以降低影响行动的运行成本，使其成为新的行为者和行为者类型可以触及的范围，并使目前昂贵的战术，如生成个性化的内容，变得更加便宜。语言模型也可能使新的战术出现，如聊天机器人的实时内容生成。

报告还强调，在语言模型被大规模用于影响行动之前，需要进行分析并采取步骤来减轻威胁。报告呼吁政策制定者和人工智能开发者了解人工智能影响行动的威胁，并推动对潜在的缓解战略进行深入研究。报告还强调了考虑影响语言模型是否以及在多大程度上被用于影响力行动的许多因素的重要性，例如可能作为善意研究或商业投资的副作用而出现的新的影响力能力，以及将对语言模型进行大量投资的行为者。

阅读报告全文

2023年1月19日人工智能, 研究##Copilot X powered by GPT-4

GitHub Copilot X正在发展新的功能：它现在包括聊天和语音界面。在与OpenAI的合作中，GitHub创造了世界上第一个使用Codex模型（GPT-3的后代）的生成性人工智能开发工具。从现在开始，它支持拉动请求并回答文档问题，通过采用GPT-4，它使开发者[...]个性化。

继续阅读博客文章

GPT-4.5发布日期

GPT-4.5模型是GPT-4和即将到来的GPT-5之间的重要踏脚石。在这篇文章中，我们将讨论GPT模型的历史和可能的GPT-4.5发布日期。我们预测，GPT-4.5模型将在2023年9月或10月推出，作为GPT-4和即将推出的GPT-5之间的中间版本。这[...] 。

继续阅读博文

ChatGPT Plugins

自从OpenAI推出ChatGPT以来，用户一直在要求提供插件（许多开发者也在尝试类似的想法），因为它们可以释放出大量可能的使用案例。按照OpenAI的迭代部署理念，该公司正在逐步推出ChatGPT插件。OpenAI从一小部分用户开始，并计划[...]。

继续阅读博文

GPT模型方法

局限性更新

ChatGPT "的名字是OpenAI的财产。我们与OpenAI没有任何关系。在社交网络中关注OpenAI。

隐私政策

来源