【微软CEO称AI是潜在内部威胁】微软公司CEO萨提亚·纳德拉(Satya Nadella)表示，企业应将强大的AI模型视为潜在的内部威胁，假定它们可能已被攻破

热爬新闻网报道，该公司最新动态如下，内容综合自新浪财经。

【微软CEO称AI是潜在内部威胁】微软公司CEO萨提亚·纳德拉(Satya Nadella)表示，企业应将强大的AI模型视为潜在的内部威胁，假定它们可能已被攻破，并建立一套“紧急刹车”系统，以防止智能体模型失控。 纳德拉周六在X平台上发帖称，部署先进AI的企业不应仅仅依赖AI模型开发商的安全保证。 “我们必须假定模型已被攻破，并从一开始就对其加以限制。可以把它想象成紧急刹车。获得授权的人员应当始终能够在模型执行任务的过程中暂停或关闭它。”纳德拉表示。 就在纳德拉发表上述言论之际，Anthropic和OpenAI近几个月披露了一系列AI模型出现非预期行为的事件，包括Anthropic的一款模型在一起警方调查的谋杀案中提交虚假线索，以及AI模型多次入侵第三方网站。这些披露加剧了外界对前沿AI安全风险的担忧，也让所谓的AI“紧急关闭开关”再次成为讨论焦点。

声明：本文内容由热爬新闻网整理发布，信息来源：新浪财经。原文链接：查看原文。版权归原作者所有，转载请注明出处。

郑重声明：本网不保证其真实性和客观性，一切有关该股的有效信息，以交易所的公告为准，不构成任何投资建议，敬请投资者注意风险。