如今，采用尖端技术不仅是保持竞争力的一种选择，更是必需品。生成式人工智能 (GenAI) 已成为热门话题，许多人认为它是企业技术堆栈中必不可少的技术。虽然它的可访问性无疑有助于促进企业采用，但有效使用 GenAI 面临着重大挑战：幻觉和幻觉、训练数据质量以及隐私和安全问题都是真正的障碍。
为了应对这些挑战，实施强大的护栏显然对于确保安全、有效和值得信赖的 AI 部署至关重要。护栏可帮助组织应对 GenAI 的复杂性，防范风险，同时最大限度地发挥该技术的变革潜力。
2024 年 GenAI 的采用情况
最近的调查揭示了人工智能应用的现状，强调了其改变行业的潜力以及阻碍广泛扩展和采用的障碍。
1. 促进普及，但难以扩大规模
Gartner 的一项调查发现，GenAI 是组织中最常部署的 AI 解决方案，主要通过具有内置 GenAI 功能的应用程序部署。这正在催化企业采用。Gartner 分析师 Leinar Ramos 表示：“这为 AI 领导者创造了一个机会之窗，但同时也考验了他们是否能够利用这一时机并大规模实现价值。”同一项调查还发现，展示 AI 的价值仍然是一个重大障碍，现有的障碍包括技能、技术能力、数据可用性和信任方面的差距。
麦肯锡的一项调查进一步强调了这一挑战，调查显示近 70% 的公司仍然尚未量化 GenAI 的潜在影响，理由包括 AI 成熟度、治理要求、对输出准确性的担忧以及缺乏明确的用例等问题。
2. 转向定制和开源模型
考虑到为生成式人工智能应用提供支持的大型语言模型的一般性质，组织选择能够赋予其更多控制权的解决方案也就不足为奇了。
正如我们去年预测的那样，许多组织正在转向定制和开源模型来解决幻觉、缺乏可解释性和资源密集等问题。针对企业级、特定领域数据量身定制的定制模型可提供增强的安全性和控制力。最近的一项TechTarget 调查表明，人们正在转向训练定制的生成式 AI 模型，56% 的受访者计划这样做“而不是仅仅依靠 ChatGPT 等一刀切的工具”，而Forrester 的预测表明“85% 的公司将把开源 AI 模型纳入他们的技术堆栈。”
3. 认真对待负责任的人工智能
生成式人工智能进入主流使用领域，这提高了制定标准以确保其安全和公正使用的需求。虽然人工智能的监管环境仍在不断发展，但很明显，人工智能的某些方面将在不久的将来受到监管：
- “联合国、经合组织、二十国集团和区域联盟等全球机构已经开始成立有关人工智能的工作组、咨询委员会、原则、标准和声明。”
- 欧盟和至少23个其他国家都已经发布或正在制定与人工智能相关的政策和举措。
- 在美国，“至少有40个州、波多黎各、维尔京群岛和华盛顿特区提出了AI法案，其中6个州、波多黎各和维尔京群岛通过了决议或颁布了立法”。
虽然合规性仍有待定义，但显然，可解释性和透明度将成为任何管理人工智能的政策的重要原则。对于金融、医疗保健和保险等以监管严格而闻名的行业来说尤其如此。正如最近的一篇 CIO 文章指出的那样，不仅是监管机构，终端客户也关心影响他们生活的算法，企业必须准备好解释他们的人工智能工具是如何工作的，因为监管机构和终端客户都要求问责制。