Okta 首席执行官警告人工智能安全风险
Okta 首席执行官 Todd 麦金农警告称,人工智能从测试模型转向实际应用的过程中,存在安全问题。他强调,迫切需要基于身份的安全系统来控制 AI 代理的访问权限。
在最近接受 CNBC 的 Jim Cramer 采访时,麦金农强调,人工智能代理转型从原型到生产环境,它们带来了组织必须紧急解决的新的网络安全挑战。
人工智能代理现在在真实系统中工作,并且必须具有安全、受控的访问
McKinnon 建议在实际商业环境中使用 AI 代理的公司,要像对待同事一样对待这些系统。他解释说,将 AI 投入“生产”后,这些代理可以真正访问包含私人客户信息、内部文件和业务数据.
这会带来巨大的安全风险,企业无法忽视。
麦金农警告称,人工智能系统现在可以独立行动,并做出不受监督的决策,这可能导致未经授权的访问、数据泄露或信息意外滥用。他建议,安全处理这些风险的唯一方法是使用监控系统,检查试图访问数据的用户或对象。这些系统只有在个人或人工智能代理受到信任、经过验证并获得许可的情况下才会允许访问。
McKinnon 表示,Okta 的身份管理让企业能够管理、跟踪和控制所有类型用户(包括 AI 代理)的访问。
Okta 即使在公布强劲盈利后仍对其预测保持谨慎
Okta公布了本季度盈利和收入好于预期的财报,但并未上调未来几个季度的收入预期。相反,Okta保持了谨慎保守的预期,导致公司股价在盘后交易中下跌逾11%。
麦金农表示,由于全球经济环境难以预测,很难满怀信心地规划未来的增长。
他说,Okta 的领导层将脚踏实地、精心规划、维护公司的地位,而不是过于激进地追求短期目标。
这样,当客户预算和技术投资周期不断变化的行业市场条件发生变化时,Okta 就会进行调整。
麦金农还指出,当 Okta 等公司公布强劲业绩后没有立即加快增长速度时,投资者可能会感到沮丧。
托德表示,公司在构建跨人类用户和人工智能系统的安全、可扩展的身份系统时必须避免错误。
人工智能公司被敦促复制安全计算罗伯特·奥本海默的在释放全能系统之前进行首次核试验。
人工智能安全领域的领军人物马克斯·泰格马克表示,他在三位一体测试之前进行了与美国物理学家亚瑟·康普顿类似的计算,发现高度先进的人工智能构成生存威胁的可能性为 90%。
McKinnon 他还解释说,过快地强制增长将使公司难以妥善支持新客户。不过,他指出,他的兴奋关于公司的发展方向,Okta 强调耐心和纪律性是公司保持强大的关键。Okta 正在着眼于下一季度之后的未来,并准备引领人工智能与安全身份管理齐头并进的未来。
Cryptopolitan Academy:想在 2025 年实现财富增值吗?欢迎参加我们即将推出的网络课程,学习如何利用 DeFi 实现增值。保存您的位置