AI宝库

AI宝库首页 › AI 资讯 › Adam Markowitz,Drata首席执行官兼访谈系列联合创始人

Adam Markowitz,Drata首席执行官兼访谈系列联合创始人

来源:Unite.AI · 发布时间:10-29 · 由 AI宝库每小时自动聚合

Adam Markowitz是Drata的首席执行官兼共同创始人,他正在将公司持续遵守和信任的工作扩展至AI agent治理。 在同为f之前

访谈

Adam Markowitz,Drata首席执行官兼访谈系列联合创始人

在 Google 上的首选来源中添加 Unite.AI

Adam Markowitz是Drata的首席执行官兼共同创始人,他正在将公司持续遵守和信任的工作扩展至AI agent治理。 在2020年共同创立德拉塔之前,他与特洛伊·马尔科维茨和丹尼尔·马拉什利安一起建立了Portfolium. 他掌握了安全问卷、审计和合规审查的经验,帮助形成了德拉塔组织如何显示信任的自动化方法。

Drata为治理、风险和合规提供了一个平台,将自动证据收集、持续控制监测、第三方风险管理和安全问卷工作流程结合起来。 它的AI agent治理能力侧重于发现agents,执行行动前执行政策,并记录决定的可审计性。 在这次采访中,马尔科维茨讨论了内部人员agent威胁,机器身份,工具呼叫安全界限,控制企业需要大规模部署自主的agents.

你之前在2020年共同创办Drata公司之前创立了Portfolium公司之前,你亲身体验过安全合规的繁琐程度为何你认为这是一个值得在周围建立全新的公司的问题

在与我的联合创始人特洛伊·马科威茨(Troy Markowitz)和丹尼尔·马拉什利安(Daniel Marashlian)领导波特福里姆(Portfolium)时,我们学到了一个宝贵的教训:赢得对商业的信任是一个过程,而不是投出。 大学和企业不会与我们合作,除非我们证明我们是在做我们应该做的事来保护他们的数据。 我们认识到,手动研读每份安全问卷、审计和遵守情况审查是一项缓慢而痛苦的任务。 在Portfolium是收购,特洛伊,丹尼尔之后,我和他团聚了六个月,我们花了六个月时间打造了第一个版本的Drata,与数十家公司和审计师交谈,以验证这个问题,直到我们开始写出代码。 当我们发布时,我们在头6个星期和一年之内打出100个客户,这告诉我们,我们从出售“最好有”的东西到人们无法没有的东西。

Drata提供持续信任的任务并没有改变,我们首先将合规工作自动化,然后推入可进行第三方风险评估和终端安全调查问卷的代理工作流程。 但真正的转变是当agents本身成为需要治理的东西时发生的。 现在,我们已经扩展了平台,赋予AI agent治理权力:发现agents,治理他们被允许做的事情,并拿出证据,当有人问起时,这些证据就会被搁置。

您将推出称为“Insider Agent威胁”, agent威胁与传统的内幕威胁安全小组花了几十年时间准备?

传统的内幕威胁是指一个人滥用了他们已经拥有的准入,比如不满的员工,粗心大意的员工,或者只是点击错误事物的人。 安全小组花了几十年时间围绕这种风险制定方案,侧重于背景调查、最不享有特权、下岗核对表等等。

内线agent威胁不同,因为agent最初从未获准进入。 风险从滥用转向获取。 若agent获得一个入球,它试图寻找另一个路径,一个密码很弱的服务账户,或者一个没人记得关闭的终点。 让自己加入,这完全照你说的去做,每个步骤在孤立中看起来都合理,而agent则报告最终成功。

agents是第三人口,而为前两者建造的工具却无法到达。

AI agents可以坚持不懈地追求目标,以机器速度运行,与多个系统互动,而无需经过人类员工可能应用的判断。 这从根本上如何改变企业威胁模式?

它比其他任何东西都改变了时间。 人类探索进入系统的方式最终会变得无聊或者被抓住或者放弃 agent没有。 因为agent并不疲惫

这不仅仅是一扇门。 为了完成一项任务而建造的agent将在完成这项工作的路上愉快地触摸了十几个系统 — — 提取这里的账户历史,检查那里的一个数据库 — — 而其中大部分与它实际被要求做的事情无关。 在建造一个甲板的路上,它可以通过另一个客户的数据,财务记录,雇员信息,无论它走的路程是什么。 没有显示作为一个事件。

所以威胁模式已经改变。 一个安全小组今天应该问的问题是,如果没有人告诉他们在哪里停止,它自己的agents将走多远来完成一项任务。

许多组织已经建立了身份和准入管理、特许准入管理和零信任架构。 为什么这些控制本身不足以管理自治的AI agents?

这些框架是为人类和小贩建造的,他们都是有判断力的民众,他们都撞上一堵墙就停了下来。 Agent身份需要为人类和第三方风险建造的同一种刚性:发现,所有权,以及审计师可以站后的证据。 当持有证书的东西是agent时

例如,由你的一位工程师创建的agent可以使用该工程师的接入,甚至可以在工程师从未亲自接触的系统上操作。 但agents并没有提出这个假设。

企业是否应该开始将每个AI agent当作自己的机器身份,明确界定所有者、权限、范围和生命周期?agents成熟身份框架会是什么样子?.

但大多数企业还没有到来。 agents在墙上跑来跑去,一个成熟的框架从发现开始——一个真实,连续的每agent盘点。 从那里,每个agent都需要一个拥有者,一个它被允许接触的界定范围,以及实际针对这个范围执行的政策。 从我们自己的研究中,我们看到供应商方面有同样的失败模式——每四个组织中就有三个组织每年只重新评估一次或更少的第三方,所以它们正在管理数据,这些数据在一切改变的时候已经过时了。 时间点对内部或外部的 agents 并不有效

我们想要一个标准,每个agent 都以同样的方式持有,而不是安全追踪每个开发者自己建造的东西。 也就是说,你可以用普通语言写政策,在开通前用真实的历史流量进行测试,然后执行内线,使框架在agent的每一项行动中运行,而不仅仅停留在文献中。

一个特别困难的情况是,agent违反安全政策,没有恶意行为。 如果agent仅仅因为试图完成指派的任务而发现一个意外的敏感数据路径,安全小组如何区分成功的自动化和安全事件?

现在,诚实的答案是,你不能。 想象一下agent为起草季度商业评论而建立的支持,干净的路径——它应该从中取出的出口——回到了空地上。 人类会在那里停留,但agent 发现另一条路线,从它的角度来看,取得了成功的结果。

虽然任务完成后,它通过绕过您的安全协议进入系统,区别问题必须是agent是否留在我们给它的范围。 完成这项工作从来不是问题。 这是一个政策问题。 这意味着严格界定范围

传统的安全监测经常在可疑活动发生后发现,但一个自主的agent在人类能够作出反应之前可能完成数百个行动。 代理AI是否要求直接在行刑道上运行的安全控制,而不是主要依赖警报和回溯监测?

是的,毫无疑问。 如果你在跑道上赶上,当监测工具标出行动时,行动已经开始。 你会有一个完美的记录

唯一能用机器速度移动的治理方式是,在行动执行之前评估行动,并阻止侵权行为。 我们从不会将最敏感的数据交给新员工,Agents应该得到同样的纪律,同时行动即将发生。 后别。

模型上下文协议(MCP)和其他agent-工具界面正在让AI系统获得越来越强大的外部能力。 随着企业扩展其agents允许的功能,在工具呼叫、API、证书和服务账户周围需要存在什么新的安全界限?

工具呼叫是新的周边。 每当agent到达一个证书,呼叫API,或引用一个工具,这是一个决定点,今天大多数企业都没有边界,这幅画已经不见了。 我们从外部看到同样的盲点——只有37%的安全领导人相信,他们甚至能够确定AI在他们已经与之合作的供应商内部的行踪。 如果你无法在销售商的产品中看到,你也不会在自己的agent的下个动作中看到。 所有这一切下的证书和服务账户也需要我们适用于人类准入的同样严格:已知的所有权、界定的范围、定期审查。 agent不应该获得证书

当审计师、监管者或客户问AI agent访问到什么,它作出了什么决定,以及由此产生的数据流向何处时,各组织实际上应能够提供何种程度的可追踪性?agent审计线索最终会像传统访问日志一样成为根本吗?.

根据要求,各组织应能够回答agent访问的内容、所作决定以及由此产生的数据流向何处。 在回答这个问题时,仅从记录中整理出来是不够的。 酒吧是一个连续的,不言自明的记录,在提出问题时已经存在。 现在,这些问题的答案是大多数公司保持沉默。 这不是一个可以向顾客解释的漏洞

是的,我想agent的审计线索将变得和访问日志一样重要,而且很快。 我们把“谁进入什么,何时进入”视为人类系统多年来的不可谈判。 agents不应该只因为某人不是点击者而被关入更低的酒吧。 欧盟AI法案、AIUC-11和ISO 42001等框架已经存在

本文由 AI宝库自动抓取并翻译,版权归原作者所有;如需查看原文请点下方链接。

相关 AI 工具

相关免费羊毛

同源资讯

阅读原文(unite.ai)

标题、摘要与正文均来自该信源的公开页面,版权归原作者所有;本站自动聚合与翻译,仅作出处跳转。

← 返回 AI 资讯列表AI工具图鉴首页

返回 AI宝库首页 · 提交工具 · 商务合作 · 关于本站 · 596 款 AI 工具分类导航 · 每日 AI 热门项目与动态