警察开始使用人工智能聊天机器人撰写犯罪报告。他们在法庭上站得住脚吗?

俄克拉荷马城(美联社)——马特·吉尔摩中士和他的K-9警犬Gunner用了将近一个小时搜寻一群嫌疑人，随身摄像机捕捉到了他们的每一个字和每一声吠叫。

通常情况下，俄克拉荷马城的警官会拿起笔记本电脑，再花30到45分钟写一份关于搜索的报告。但这次他已经写好了初稿。

根据吉尔伯特随身相机上的麦克风收集到的所有声音和无线电聊天，这个人工智能工具在8秒钟内就做出了一份报告。

“这是一份我从未写过的好报告，而且100%准确。它流动得更好了，”吉尔伯特说。它甚至记录了一个他不记得听到过的事实——另一名警官提到了嫌疑人逃跑的那辆车的颜色。

俄克拉何马城警察局是少数几个尝试用人工智能聊天机器人制作事故报告初稿的警察局之一。尝试过的警官对这种节省时间的技术充满热情，而一些检察官、警察监管机构和法律学者则担心，它可能会改变刑事司法系统中的一项基本文件，而这项文件对谁被起诉或被监禁起着重要作用。

它采用与ChatGPT相同的技术，由Axon销售，Axon以开发泰瑟枪而闻名，也是美国主要的随身相机供应商，它可能成为吉尔伯特所说的另一个警察工作的“游戏规则改变者”。

Axon的创始人兼首席执行官里克·史密斯说:“他们成为警察是因为他们想做警察的工作，花半天时间做数据录入只是他们讨厌的工作中乏味的一部分。”他将这款名为Draft One的新人工智能产品描述为该公司推出的所有产品中“最积极的反应”。

史密斯补充说:“现在，当然有一些担忧。特别是，他说，起诉刑事案件的地方检察官希望确保警察——而不仅仅是一个人工智能聊天机器人——负责撰写他们的报告，因为他们可能不得不在法庭上就他们所看到的作证。

“他们绝对不想让一名警官在证人席上说，‘这是人工智能写的，不是我写的，’”史密斯说。

人工智能技术对警察机构来说并不新鲜，他们已经采用算法工具来读取车牌，并预测犯罪可能发生的地方。其中许多应用程序都涉及隐私和公民权利问题，以设置保护措施。但是引入人工智能生成的警察报告是如此的新，以至于几乎没有任何护栏来指导它们的使用。

对社会种族偏见和偏见的担忧只是俄克拉荷马城社区活动家奥勒留斯·弗朗西斯科对新工具“深感不安”的一部分，他从美联社那里了解到这一点。

“向警察局提供泰瑟枪的同一家公司正在使用这项技术，这一事实足以令人担忧，”俄克拉荷马城解放思想基金会(Foundation for Liberating Minds)的联合创始人弗朗西斯科说。

他说，自动化这些报告将“减轻警察骚扰、监视和对社区成员施加暴力的能力”。虽然让警察的工作更轻松，但却让黑人和棕色人种的生活更加艰难。”

在俄克拉荷马城试用该工具之前，警方官员向当地检察官展示了它，检察官建议在高风险刑事案件中使用它之前要谨慎。目前，它只用于不会导致某人被捕的小事故报告。

“所以没有逮捕，没有重罪，没有暴力犯罪，”俄克拉荷马城警察局局长杰森·布塞特(Jason Bussert)说，他负责1170名警察部门的信息技术。

但在另一个城市——印第安纳州的拉斐特市，情况并非如此。那里的警察局长斯科特·加洛韦告诉美联社，他的所有警官都可以在任何案件中使用“草案一”，自今年早些时候试点以来，它“非常受欢迎”。

或者在科罗拉多州的柯林斯堡，那里的警官罗伯特·扬格(Robert Younger)说，警察可以在任何类型的报告中自由使用它，尽管他们发现它在城市市中心的酒吧区巡逻时效果不佳，因为“噪音太大了”。

除了使用人工智能分析和总结音频记录外，Axon还尝试使用计算机视觉来总结视频片段中“看到”的内容，然后很快意识到这项技术还没有准备好。

Axon的首席执行官史密斯说:“考虑到围绕警务、种族和相关人员的其他身份的所有敏感性，我认为在引入它之前，我们必须在这个领域做一些真正的工作。”他说，一些经过测试的回应并不是“公然的种族主义”，而是在其他方面不敏感。

这些实验使得Axon公司在4月份的警官年度公司会议上发布了一款专注于音频的产品。

该技术依赖于与总部位于旧金山的OpenAI开发的ChatGPT相同的生成式人工智能模型。OpenAI与微软是密切的业务合作伙伴，微软是Axon的云计算提供商。

Axon公司人工智能产品负责人诺亚•斯皮策-威廉姆斯表示:“我们使用与ChatGPT相同的底层技术，但我们比ChatGPT的实际用户可以使用更多的旋钮和刻度盘。”他说，调低“创造力刻度”有助于模型坚持事实，这样它“就不会像你单独使用ChatGPT时那样，以同样的方式进行修饰或产生幻觉”。

Axon不愿透露有多少警察部门在使用这项技术。它不是唯一的供应商，还有像Policereports这样的初创公司。ai和Truleo都在推销类似的产品。但鉴于Axon与购买其泰瑟枪和随身相机的警察部门的深厚关系，专家和警察官员预计，人工智能生成的报告将在未来几个月和几年内变得更加普遍。

在此之前，法律学者安德鲁·弗格森希望看到更多关于利益和潜在危害的公开讨论。首先，人工智能聊天机器人背后的大型语言模型容易编造虚假信息，这个问题可能会在警方报告中添加令人信服且难以察觉的虚假信息。

“我担心自动化和技术的便利性会导致警察在写作时不那么小心，”弗格森说，他是美利坚大学(American University)的法学教授，正在撰写有关这项新兴技术的第一篇法律评论文章。

弗格森说，警方的报告对于确定警察的怀疑是否“证明某人丧失自由是正当的”很重要。有时这是法官唯一能看到的证词，尤其是对于轻罪。

弗格森说，人工生成的警方报告也有缺陷，但哪一个更可靠是一个悬而未决的问题。

对于一些尝试过的警官来说，它已经改变了他们对报案的反应方式。他们在叙述正在发生的事情，这样相机就能更好地捕捉到他们想要写下来的东西。

随着这项技术的普及，Bussert预计警察在描述他们面前的情况时将变得“越来越口头化”。

在Bussert将交通拦截的视频加载到系统中并按下按钮后，该程序就会以会话语言生成一份叙述性的报告，其中包括日期和时间，就像警察在笔记中打字一样，所有这些都是基于随身摄像机的音频。

“这真的是几秒钟的事情，”吉尔摩说，“我觉得，‘我没有什么可以改变的了。’”

在报告的最后，官员必须点击一个方框，表明它是使用人工智能生成的。

—————

奥布莱恩在罗德岛普罗维登斯报道

—————

美联社和OpenAI允许OpenAI访问美联社的部分文本档案。