平衡AI的风险和回报

姗姗爸爸
作者: 帕姗姗,道富Alpha技术风险管理董事总经理
发表日期: 2023年9月15日
相关: 人工智能革命的希望和危险:管理风险

从ChatGPT加速的令人兴奋的学习速度到DALL生成的创造性和令人大开眼界的图像.E和其他许多人, 人工智能是重塑行业的变革力量, 影响决策过程,甚至改变我们对自己能力的看法. 人工智能的未来仍然未知,但它会继续给我们带来惊喜. 然而,强大的力量伴随着风险.

法律, 为应对人工智能带来的新形势,相关法规和标准正在生效或酝酿之中. 虽然技术和遵从性环境经常变化, 澳门赌场官方下载在导航和寻找前进道路方面面临着新的挑战. 在最近的白皮书中, 《澳门赌场官方下载》 ISACA为澳门赌场官方下载提供全面的指导,帮助他们为这个新时代做好准备,在管理风险的同时实现创新.

白皮书提供了人工智能当前状态的背景和业务背景. 除了 流行的ChatGPT在美国,跨行业开发的许多其他类似人工智能工具值得注意和比较. 许多组织倾向于“等待尘埃落定”,然后再提出人工智能战略, 这似乎是一个谨慎的方法, 但它本身也有风险. 另一种常见做法是同时限制和禁止在工作中使用人工智能. 这种方法可能会给其他在市场上使用它的人带来竞争优势,并使组织在技术开发和基础设施准备方面落后. 解决这些痛点, 风险影响分析——识别人工智能的风险和回报——以及收益分析可能是有用的.

白皮书包括一个部分,确定了组织将遇到的10个人工智能风险. 每种类型的风险都用当前事件或例子进行了很好的解释. 这些风险是许多监管机构议程上的热门话题 草拟新的人工智能规例,例如社会风险、知识产权泄漏和失效以及网络安全. 值得注意的是,存在一些风险, 比如技能差距和过度反应, 是否同样重要,却经常被忽视. 技能差距不仅集中在人才资源上,还集中在安全和供应商的总体预算上. 组织还应避免“对人工智能反应过度,对未经验证的人工智能输出过于信任”.”

白皮书的后半部分介绍了人工智能风险管理的三步方法, 以及如何构建人工智能安全程序的协议和实践. 它强调“组织必须采用持续的风险方法框架,以频率和精度测试假设,以确保其人工智能输出的质量。.“连续”和“频率”是这里的关键, 因为人工智能技术仍在不断发展, 学习与卓越. 我非常赞同白皮书的主张,即“重要的是要记住,某些风险是健康和有利的。, 然而,完全规避风险——尤其是从新技术中获益时——可能会付出高昂的代价.”

在描述构建人工智能安全程序的八个协议和实践时, 白皮书从小型澳门赌场官方下载的角度出发,探讨了它们如何应对人工智能风险并实施控制措施. 与人工智能合作时,信任但要验证,因为它不是计算器,而是一个不断发展的工具. 偏见一直是人工智能的一个主要问题, 在设计和测试时,使不同的利益相关者和主题专家更加重要,以确保执行的政策是安全和合乎道德的. 其他协议包括构建成本分析. 购买决定. 此外,隔离对人工智能的访问将有助于防止知识产权泄露和其他披露. 最后, 因为澳门赌场官方下载越来越依赖人工智能工具, 如果他们的人工智能工具停止运行,他们必须考虑业务连续性和解决风险的替代方案.

整体, 本白皮书既具有信息性又具有实用性——对于任何面临“人工智能或不人工智能”决策的组织来说,都是一个很好的起点. “作为一个社会, 现在是退一步的时候了, 反映, 并绘制出人工智能革命的风险和影响.是时候采取行动了.