数据和平和隐私扞卫照旧是IT结构正在饱舞企业落地智能体AI历程中最中央的顾虑之一。Dresner Advisory Services近期对500家企业的调研显示，进步60%的受访机构以为数据和平与隐私扞卫对付智能体AI项目标告捷至闭首要，若将以为很是首要的受访者一并纳入统计，这一比例更是攀升至85%。
为长远明了身份与拜望管束正在AI智能体时间的演进对象，笔者即日与Okta人工智能和平营业高级副总裁兼总司理Harish Peri举行了长远对话。此次互换涵盖了影子AI、智能体管束、授权机制以及非人类身份和平防护等众个中央议题。
Peri：暂时最大的危害来自影子AI，即那些正在企业处境中运转、却不正在和平团队掌控边界内的智能体。
Peri：中央分别正在于可睹性。一个被占据的AI智能体，绝杰出是事理上的和平缝隙，它是一个不知疲惫的自决攻击者，手握全盘编制的拜望权限。
暂时这一题目愈发出色，来源正在于智能体创修的民主化——任何员工都可能自行铺排一个数字办事家。各团队以极疾的速率上线新智能体，一朝缺乏完美的身份与拜望独揽机制，这些智能体便或许不受牵制地在在运作，且难以追踪。
Peri：连接客户施行，咱们梳理出三类紧要危害：其一，心怀不轨的内部员工；其二，来自外部的黑客通过提示注入攻击寻找缝隙并加以操纵；其三，智能体对指令的差池反响，导致敏锐数据走漏或对其有权拜望的数据形成滥用。
Peri：现有的身份与和平工夫栈是缠绕人类用户和守旧软件构修的。人类用户具有可预期的人命周期，软件具有固定的践诺道途，而自决智能体则打垮了这些基础假设。智能体的非确定性特色形成了现有器械难以弥合的和平缺口。
Peri：AI智能体的拜望权限管控应该极为慎密。智能体应被视为独立的、一等公民级此外身份类型，而非被算作无人管束的任事账号或静态API密钥。这意味着须要像对付人类员工相同，对智能体举行发明、接入、防护与管束，并给与其一律庄厉的和平审查、人命周期管控和可睹性管束。
Peri：AI智能体以机械速率运转，或许正在数分钟内践诺数千次API移用，守旧的身份管束机制根基无法适当智能体所需的动态授权形式。企业必需对智能体与之交互的每一个利用、器械、MCP及API实践有用管控。真正有用的管束，恳求对每一次寡少的器械移用举行一连授权，并分析这些计划背后的上下文与贪图。
Peri：谜底自己也是智能体。可能由特意的授权智能体卖力及时、细粒度的授权审查，识别并阻止不妥手脚。要完成这一倾向，最初须要正在铺排之初就界说明了的细粒度装备，以便这些守卫智能体不妨实时拦截违规手脚。与此同时，企业还需正在利用层、流程层和数据层整个实行细粒度权限管束。这恰是和平态势管束与授权层的闭节所正在。智能体或许具有超越其建议者的权限，企业必需做好相应管束。这已不但仅是基于脚色的和平管控，而是基于属性的拜望独揽。
问：企业内部应愿意哪些人构修智能体？智能体构修者是否已成为企业中一个未受扞卫的攻击面？CIO应成立哪些拜望独揽和和平护栏？
Peri：AI与智能体构修的民主化总体而言是主动的。题目的闭节不正在于范围谁可能构修，而正在于企业是否具备完美的管控机制，以确保各团队上线的智能体都处于和平可管束的状况。每一个自修智能体都应注册至同一目次，给与和平团队对其权限和人命周期举行管束的可睹性，一如管束其他企业资产。
问：正在智能体疏散于各团队和工夫栈的境况下，CIO怎样维系对智能体拜望、修正和共享手脚的整个可睹性？
Peri：可睹性是咱们从客户处听到最众的中央诉求。首要义务是完成对悉数智能体的发明，无论其正在那里构修或铺排，包罗那些未经授权私行上线的影子智能体。正在完毕发明之后，闭节正在于对智能体的毗连道途实践集合管控。通过同一的独揽平面管束智能体拜望，企业可能对智能体手脚举行侦察和审计，并对智能体从上线到下线的完全人命周期举行同一管束。
问：AI智能体正正在将音讯切片并嵌入向量数据库等守旧和平器械无力防护的编制。CIO应怎样从头审视这类处境下的数据和平？
Peri：因为智能贯通自决拜望敏锐数据，扞卫数据库最有用的格式，是庄厉管控和管束拜望这些数据库的非人类身份。通过实践庄厉的以身份为中央的拜望独揽与一连的手脚监控，企业本质上是正在最闭节的数据资产边际修筑了一座动态和平城堡。
访说尾声，Peri分享了他造成暂时视角的历程。他默示，恰是Okta的客户——那些智能体AI的早期采用者——引颈了这一忖量对象。这些客户正在自己处境中落地智能体的历程中，慢慢认识到智能体或许蒙受操控的危害，并由此饱舞Peri及其团队从头审视零信托理念。这是一个维系与客户密切闭系、从而确保聚焦于真正闭节题目的楷模案例。AI智能体和平界限的演进，正在来日数月以至数年间仍值得一连闭切。而由智能体来扞卫咱们免受其他恶意智能体凌犯这一命题，确实令人深思。
A：影子IT是指企业员工正在未经IT部分准许的境况下行使的软件或编制，而影子AI专指正在企业处境中运转、但和平团队不知道或无法管控的AI智能体。两者最大的区别正在于损害水平——一个被占据的AI智能体是能自决作为的攻击者，可能不间断地运转并拜望豪爽编制资源，损害远超凡是的未授权软件。
A：凭据Okta总结的履历，AI智能体紧要面对三类和平危害：第一，内部心怀恶意的员工操纵智能体举行摧毁；第二，外部黑客通过提示注入攻击排泄进来；第三，智能体自己对指令分析有误，导致敏锐数据走漏或被滥用。这三类危害都指向身份与拜望管束的中央，而非守旧的利用和平层面。
A：有用的AI智能体身份管束须要将智能体视为独立的一等公民身份类型，而不是简便地算作任事账号或API密钥管束。全部设施包罗：将悉数智能体注册至同一目次、实践细粒度的拜望权限独揽、正在利用层、流程层和数据层整个铺排权限管束，并通过特意的授权智能体对及时手脚举行监控与干涉，笼盖从上线到下线的完全人命周期。