美国社会保障署引入聊天机器人，但培训视频和性能令人失望

近日，Wired报道了美国社会保障署（Social Security Administration, SSA）为了现代化工作流程，引入了一款类似ChatGPT的聊天机器人——“Agency Support Companion”，希望该机器人能协助员工完成日常任务，提升工作效率。然而，这款聊天机器人的表现并不尽如人意，据一位内部人士透露：“实际上，大家几乎都没有讨论过这个机器人。”这款应用在上线时还搭配了一个制作拙劣的培训视频，视频中的动画角色只有四根手指，而且未能告知员工不要上传敏感个人信息，导致SSA不得不发送一封道歉邮件补救。 据报道，这款聊天机器人的响应常常模糊不清或准确度低，许多员工根本不愿意使用它。“我尝试了一些功能，但机器人的回答令人失望，”另一位SSA员工表示，“我们在这里根本不用。” 此前，巴西在简化社会服务管理方面也采用了类似的技术，但经验表明，算法依赖可能会导致更糟糕的结果。巴西政府推出的一款名为“Meu INSS”的应用程序，旨在处理社保申请，但该程序经常因为一些小错误拒绝合法申请，引发申请人与政府的长时间法律纠纷。 巴西农村地区的农民对数字化服务的适应能力较弱，巴罗杜科达农村工人工会主席弗朗西斯科·桑塔纳（Francisco Santana）表示：“这里的人甚至连Gmail、Facebook、Instagram都不会用，政府却在不断推动自动化过程，特别是在偏远地区，这显然不切实际。”这些经验为美国在推进SSA自动化时敲响了警钟。