1月9日,随着人工智能技术在各领域的广泛应用,不少企业和公共机构开始借助AI工具辅助日常文书工作。然而当前技术尚存局限,若使用者缺乏审慎核查,可能引发不必要的失误。上月在美国犹他州希伯城发生的一起事件便成为典型案例。
当地执法部门在使用名为Draft One的AI警情记录系统时,生成的官方报告中出现了“警察变成青蛙”的离奇内容。经调查,问题源于系统在处理执法记录仪音频时,误将现场背景中播放的动画电影公主与青蛙的声音识别为执法过程中的实际对话,并将其作为有效信息纳入正式报告。
该市警方负责人介绍,引入AI系统的初衷是将执法录音自动转化为文字记录,以减轻警员撰写报告的负担,释放更多时间用于一线执勤。但此次事件暴露了现有技术在复杂环境下的识别缺陷,系统难以有效区分执法内容与无关的环境音,导致错误信息被写入具备法律效力的文件。
目前,当地警方正在同时测试两款AI警情记录工具,分别为Draft One与Code Four。鉴于前者在实际应用中出现明显偏差,后续可能倾向于采用表现更稳定的Code Four系统以支持日常执法文书工作。

评论
更多评论