要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

智源发布大模型“全家桶”及全栈开源技术版图，迈向通用人工智能新范式

北京，2024年6月14日 - 在今天举行的2024北京智源大会上，北京智源人工智能研究院（简称“智源研究院”）发布了大模型“全家桶”及全栈开源技术版图，旨在推动人工智能迈向通用人工智能新范式。

此次发布的“全家桶”包括：

• 智源多模态大模型：该模型能够理解和生成多种模态信息，包括文本、图像、语音、视频等，并可用于多模态理解、生成、推理等任务。
• 智源具身智能大模型：该模型能够将感知、控制、决策等功能与物理世界进行交互，并可用于机器人控制、虚拟现实等任务。
• 智源生物计算大模型：该模型能够模拟和解析生物系统的结构和功能，并可用于药物研发、蛋白质设计等任务。

此外，智源研究院还推出了全球首个低碳单体稠密万亿语言模型Tele-FLM-1T，以及面向大模型开发的开源工具平台智源开源平台。

智源研究院院长王仲远表示，现阶段人工智能发展正处于关键突破时期，大模型作为一种通用人工智能技术路线，展现出巨大潜力。但现有人工智能模型大多为单一模态或任务的专用模型，难以实现跨模态、跨任务的统一处理。

为此，智源研究院提出采用统一模型范式，即构建能够同时处理多种模态信息、并可用于多种任务的通用人工智能模型。

王仲远指出，统一模型范式能够克服现有AI模型的局限性，使人工智能模型更加通用、高效，并能更好地模拟人类智能。

智源研究院发布的大模型“全家桶”及全栈开源技术版图，为实现统一模型范式提供了重要的技术基础。该套技术方案的发布，标志着我国人工智能研究取得了重大进展，有望引领人工智能技术迈入新阶段。

以下是新闻稿的几点补充说明：

• 智源研究院的大模型“全家桶”涵盖了多模态、具身智能、生物计算等多个领域，为人工智能应用提供了全面的技术解决方案。
• 智源研究院推出的全球首个低碳单体稠密万亿语言模型Tele-FLM-1T，在性能和能耗方面取得了重大突破，有望推动大模型的规模化应用。
• 智源开源平台的发布，将加速大模型技术的开放和共享，助力人工智能产业发展。

我相信，智源研究院发布的大模型“全家桶”及全栈开源技术版图，将对人工智能领域产生深远影响，并推动我国人工智能产业发展迈上新台阶。