警惕“AI漂白”：企业如何夸大其人工智能能力以吸引投资

约翰·菲茨帕特里克目前担任Nitro公司的首席技术官，拥有15年的AI行业经验，曾是苹果Siri的核心工程师。他指出了企业在夸大或错误描述其AI能力以贴上AI标签时的一些典型迹象，这被称为“AI漂洗”现象。菲茨帕特里克表示，在ChatGPT等AI模型迅速走红后，这种现象变得更加普遍。许多原本只是自动化功能的应用程序被重新包装成AI产品，而没有实质性的改进。 菲茨帕特里克认为，这一现象与多年前的“云”热潮十分类似。当时，几乎所有企业都自称是“云端企业”。如今，同样的情景又在AI领域上演。AlphaSense的数据显示，在过去一年的财报电话会议中，“代理AI”、“AI劳动力”、“数字劳力”和“AI代理”等关键词的提及次数增加了779%。几乎每一家初创企业都需要一个AI概念才能获得投资。 “AI漂洗”的几个典型迹象包括： 薄客户端界面：许多应用只是在ChatGPT的基础上加上了一个用户界面，可能进行了少量的提示工程，但并没有增加实际价值。 忽略隐私和安全：一些公司在匆忙推出AI特性时，没有充分考虑客户数据的安全和隐私问题。例如，大公司推出辅助功能并更新用户协议，允许他们使用客户数据进行训练。 依赖第三方API：有些公司依赖不受其控制的第三方公共API和服务，这意味着敏感文件可能会被发送给第三方，存在巨大的安全风险。 缺乏人工审核：企业在尝试实现全自动工作流时，往往忽略了人工审核的环节，而这可能导致严重的错误，尤其是在处理重要金融数据时。 对于受监管的行业来说，这些错误可能是非常昂贵的。许多Nitro的客户在PDF文档中存储了发票和财务数据，提取这些数据的准确性至关重要。当模型置信度低时，应明显标示出来，避免误导。 菲茨帕特里克强调，随着市场逐渐从炒作进入实际应用阶段，AI成为构建强大产品特性的关键技术细节。越来越多的企业开始理解AI的实际能力和局限，开发出真正有用的特性，而不是仅仅流于表面。这种变化使得投资者和市场开始识别出哪些是表面功夫的AI，哪些真正为产品带来了附加值。 业内人士评价： 约翰·菲茨帕特里克的见解反映了当前科技行业的现状。许多公司在追逐AI潮流时，忽视了技术和产品的实质性提升，导致市场对AI的真实应用价值产生了怀疑。然而，随着企业和投资者的逐渐成熟，这种现象有望得到改善。Nitro是一家专注于文档管理和安全的软件公司，成立于2008年，凭借其专业技术和创新解决方案，在企业级市场享有良好声誉。