要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

《黑神话》豆瓣评分遭1星轰炸：游戏未发售引争议

北京 - 备受期待的动作角色扮演游戏《黑神话》近日在豆瓣评分遭遇大量1星差评，评分一度跌至1.1分。有玩家认为游戏及开发商存在不尊重女性的行为，并对其进行抵制。

《黑神话》由游戏科学制作，以中国神话为背景，讲述了唐僧师徒西游取经的故事。游戏以顶尖的画面、丰富的细节、沉浸的战斗体验和足量的剧情演绎，受到了广泛关注。

然而，游戏尚未发售，其豆瓣评分却遭到大量1星差评。有玩家指出，游戏中的部分女性角色造型过于暴露，且存在一些被认为是歧视女性的台词。此外，游戏开发商也被指曾在宣传过程中发表过一些不当言论。

这一事件引发了业内人士和玩家的热议。一些人认为，游戏开发商应该对相关问题作出回应，并采取措施改进。也有人认为，玩家的抵制行为过于激烈，并可能对游戏造成不必要的伤害。

目前，豆瓣已将《黑神话》的评分全部清空。游戏开发商尚未对此事发表任何评论。

事件分析：

• 游戏未发售就遭遇大量差评，表明部分玩家对游戏内容和开发商存在不满情绪。
• 引发争议的核心问题是游戏中的女性角色形象和台词，以及开发商的言论。
• 事件反映了游戏行业在性别平等方面仍然存在一些问题，需要进一步加强重视。

后续发展：

• 游戏开发商是否会对相关问题作出回应？
• 游戏的最终评分会如何？
• 事件会对游戏的发售造成怎样的影响？

值得关注的是，这并非游戏行业首次出现因性别歧视问题引发的争议。此前，已有不少游戏因类似问题而受到抵制。游戏厂商应引以为戒，在开发和宣传过程中更加注意言行，避免造成不必要的伤害。