利用COBIT 2019从董事会角度解决人工智能威胁和风险

Luiz Claudio Diogo Reis, CISA, CRISC, CDPSE, COBIT & 2019 Certified, Marcos Sêmola, CISM, CIPM, CDPSE, PCI/DSS, ISO27k LA, IAPP先锋奖LA 2023和保罗·塞尔吉奥·帕格留西, Ph.D. 信息安全——RHUL, CISM, C|CISO, LA7799
Author: Luiz Claudio Diogo Reis, CISA, CRISC, CDPSE, COBIT & 2019 Certified, Marcos Sêmola, CISM, CIPM, CDPSE, PCI/DSS, ISO27k LA, IAPP先锋奖LA 2023和保罗·塞尔吉奥·帕格留西, Ph.D. 信息安全——RHUL, CISM, C|CISO, LA7799
Date Published: 2 April 2024

在科技飞速发展的时代, 人工智能(AI)作为创新的灯塔,通过提高绩效和实现可持续的竞争优势,通过价值聚合推动各行各业的变革.

一个有效的人工智能方法需要一个深思熟虑的计划,将这项技术整合到核心业务战略中,以确保它与组织的使命保持一致, goals and values. Understanding AI challenges, 威胁和风险是董事会成员在确保道德实践和健全治理的同时引导组织走向可持续增长的必要条件.

From this perspective, 这篇博客文章重点介绍了人工智能的执行概述:董事会的角色和人工智能风险的挑战,以及一组基于人工智能的良好实践 COBIT 2019 framework 指导董事会评估、推动和监控人工智能公司治理.

理解人工智能的伦理和战略意义

AI is core to organizations; thus, 它代表了如何解决问题的范式转变, 各行各业的决策和自动化. 从机器学习算法到自然语言处理系统, AI technologies 是否越来越多地整合到业务中以提高效率, 推动创新,获得竞争优势. 然而,采用人工智能也给高管和董事会成员带来了挑战.

需要高管理解的关键原则之一是围绕人工智能的伦理影响. 随着人工智能系统变得更加复杂和自主, 数据隐私等问题也随之产生, 算法偏见和人工智能在决策过程中的道德使用. Thus, 高管们必须驾驭这些道德复杂性,以确保负责任地部署人工智能技术,并与组织的价值观和原则保持一致.

另一个关键方面围绕着人工智能采用的战略意义. 从识别人工智能集成的机会到评估潜在风险和减轻挑战, 高管在塑造其组织内人工智能计划的战略方向方面发挥着关键作用. 这不仅会影响对人工智能技术能力的理解,还会影响其对商业模式的更广泛影响, operations and competitive positioning.

Furthermore, 高管们必须考虑围绕人工智能的监管格局, 随着世界各国政府越来越多地实施政策和法规来管理人工智能的道德和法律使用. 通过关注这些法规的发展并确保遵守适用的法律法规, 高管可以降低法律风险,促进利益相关者之间的信任.

In essence, 对人工智能的结构性执行理解包括对关键原则的多方面理解, ethical considerations, 与人工智能技术相关的战略影响和监管要求, as shown in Figure 1.

样本和参与组织-图1
Figure 1: Crucial executive aspects concerning AI

By properly framing these aspects, 高管们可以有效地驾驭人工智能采用的复杂性,并利用其变革潜力来推动组织内的可持续增长和创新.

Multiple AI Layers Overview

人工智能已经成为一个普遍的术语,融入了我们的日常生活和组织业务. 从Siri和Alexa这样的虚拟助手到Netflix上的个人推荐, 人工智能看不见的手从几个方面塑造了游戏体验.

从技术角度协助董事会成员, 这篇博文探讨了推动人工智能进步的四种基本方法, ASM, 多模型人工智能和认知架构. 𝗥𝗔𝗚 (𝗥𝗲𝘁𝗿𝗶𝗲𝘃𝗮𝗹-𝗔𝘂𝗴𝗺𝗲𝗻𝘁𝗲𝗱 𝗚𝗲𝗻𝗲𝗿𝗮𝘁𝗶𝗼𝗻) merges neural models with external data for richer AI interactions; 𝗔𝗦𝗠 (𝗔𝘂𝘁𝗼𝗿𝗲𝗴𝗿𝗲𝘀𝘀𝗶𝘃𝗲 𝗦𝗲𝗾𝘂𝗲𝗻𝗰𝗲 𝗠𝗼𝗱𝗲𝗹𝘀) powers sequence understanding and prediction, refining AI accuracy; 𝗠𝘂𝗹𝘁𝗶-𝗠𝗼𝗱𝗲𝗹 𝗔𝗜 integrates diverse models for versatile, complex problem-solving; and 𝗖𝗼𝗴𝗻𝗶𝘁𝗶𝘃𝗲 𝗔𝗿𝗰𝗵𝗶𝘁𝗲𝗰𝘁𝘂𝗿𝗲𝘀 designs AI to mimic human cognition, enhancing autonomous decision-making. 总之,图2总结了与这些组件相关的AI方法.

AI's four fundamental components
Figure 2: AI's four fundamental components

人工智能的多层次表明,澳门赌场官方下载可以探索人工智能系统的多方面应用,以实现利益相关者的需求, 开发创新的解决方案,提高性能. However, 董事会成员应该牢记,人工智能的新兴风险是其本质所固有的, 这些问题应该得到识别和解决.

董事会在人工智能中的角色是什么?

董事会通过制定公司战略方向和确保与利益相关者的利益保持一致,在组织中发挥着至关重要的作用. 委员会的职责包括批准预算, overseeing the CEO, ensuring legal compliance, 管理风险和维护道德标准. 董事会通过有效的治理和监督,为组织的长期成功和公众信任做出了贡献.

Concerning AI, 董事会在指导和监督组织的参与方面起着关键作用. This involves setting strategic directions for AI initiatives; ensuring that AI technologies are integrated and aligned with the organization’s mission, values, and ethical standards; ensuring the organization’s use of AI complies with regulatory standards and industry best practices; fostering a culture of innovation and responsible AI use; and improving the decision-making processes by creating new opportunities for growth and competitive advantage.

基于董事会在人工智能系统中的角色, 董事会必须评估与人工智能系统相关的潜在风险和收益, concerning the organization’s image, ethical issues, privacy and sensitive data, strategic and financial concerns, cybersecurity incidents, and social implications.

供董事会考虑的人工智能威胁和风险

表1总结了董事会在人工智能威胁和风险方面应该关注的关键问题, 强调治理在确保负责任和战略性地使用人工智能技术方面的重要性.

Table 1:人工智能对董事会角色的威胁和风险

AI's four fundamental components

基于COBIT 2019的董事会良好实践

The COBIT 2019治理和管理目标, widely adopted, 为信息和技术(I)提供全面的治理和管理指南&T). 该框架可以根据人工智能业务和IT需求进行定制. Thus, to address AI systems challenges, threats, 以及董事会角度的风险, 这篇博文提出了一种基于COBIT 2019框架的方法, as described in Table 2.

Table 2:从董事会角度为人工智能系统量身定制的COBIT 2019

AI's four fundamental components

AI's four fundamental components

这种与COBIT 2019框架的全面一致确保了人工智能治理和管理的整体方法, addressing ethical, legal, operational and strategic challenges. 它使董事会能够有效地监督人工智能计划, 确保他们在负责任地管理相关风险的同时对组织的目标做出积极贡献.

最终目标:可信和负责任的人工智能操作

人工智能技术的出现带来了一系列复杂的威胁和风险,需要仔细考虑. The board of directors, 深刻理解这些挑战,并以COBIT 2019框架为指导, 能否在引导其组织向负责任和有效的人工智能规划和运营方面发挥关键作用.

通过实现健壮的治理结构, 确保与组织目标保持一致, advocating for ethical AI use, 培养一种持续学习和监督的文化, 董事会成员可以利用人工智能的潜力,同时降低其风险, 确保他们的组织有一个可持续和繁荣的未来.

Additional resources