Аурих Лоусон | Getty Images
Если бы вас подозревали в совершении преступления, доверились бы вы чат-боту, который точно объяснит, что произошло?
Некоторые полицейские управления считают, что технология уже готова. И офицеры, которые начали использовать чат-ботов для быстрого выполнения своей самой страшной задачи по составлению полицейских отчетов, по-видимому, не хотят возвращаться к тому, чтобы тратить часы каждую неделю на собственную бумажную работу.
В июне полицейское управление города Фредерик, штат Колорадо, похвасталось, что оно стало «первым правоохранительным органом в мире, который начал использовать Axon Draft One» — новый вид полицейской технологии, позволяющий чат-боту выдавать сгенерированные искусственным интеллектом полицейские отчеты почти сразу после того, как нательная камера перестает записывать взаимодействие с полицией.
Разработанный на основе модели OpenAI GPT-4, которая также является основой ChatGPT, Draft One изначально был разбил в апреле в полицейские управления по всему миру. Axon, компания с оборотом в миллиард долларов, известная своими электрошокерами и нательными камерами, расхваливала его как «революционный новый программный продукт, который за считанные секунды составляет высококачественные отчеты для полиции на основе автоматически транскрибированного аудио с нательной камеры». И, по словам Axon, полицейские не могли дождаться, чтобы опробовать его, и некоторые управления с нетерпением присоединились к испытаниям.
Ars подтвердил, что к маю полицейское управление Фредерика стало первым агентством, купившим этот продукт, а вскоре за ним последовало бесчисленное количество других управлений по всем США.
Используя исключительно аудиозапись с нательной камеры, а не видео, Draft One по сути резюмирует ключевые моменты записи, подобно тому, как помощники ИИ резюмируют аудиозапись конференции Zoom.
Это может показаться очевидным применением ИИ, но эксперты по юридическим и гражданским правам предупреждают, что скромный полицейский отчет является корнем всей системы правосудия, и его вмешательство может иметь серьезные последствия. Полицейские отчеты влияют не только на сделки о признании вины, вынесение приговоров, процессы раскрытия информации и результаты судебных разбирательств, но и на то, как общество привлекает полицию к ответственности.
«Принудительная функция написания обоснования, а затем присяга в его истинности и публикация этой записи среди других юристов (прокуроров/судей) является проверкой полномочий полиции», — написал эксперт по правовым вопросам Эндрю Фергюсон в первом обзоре права. статья анализ потенциальных последствий Draft One по сравнению с человеческими сообщениями. Кроме того, «полицейские отчеты также служат фактическим обоснованием для гражданских исков и страховых требований», отметил Фергюсон.
Эксперты предупреждают, что внедрение чат-ботов, которые, как известно, галлюцинируют, путают шутки с фактами или случайным образом добавляют неверную информацию, может использоваться полицейскими технологиями, такими как Draft One, для легитимации неправомерных арестов, усиления подозрений полиции, введения в заблуждение судов или даже сокрытия злоупотреблений со стороны полиции.
Менеджер по продуктам ИИ компании Axon Ноа Спитцер-Уильямс сообщил AP News что в отличие от ChatGPT, Draft One менее склонен к галлюцинациям, поскольку Axon имеет «доступ к большему количеству ручек и дисков, чем имел бы реальный пользователь ChatGPT». Поскольку Axon отключил «диск креативности» в Draft One, инструмент ИИ якобы лучше противостоит приукрашиваниям и придерживается фактов, утверждает Спитцер-Уильямс.
Рекламируя Draft One как способ сэкономить время полицейских при составлении отчетов, Axon призвал полицейские управления начинать обучение использованию помощников на основе искусственного интеллекта постепенно, пообещав в своем пресс-релизе «внедрять инновации ответственно».
Чтобы минимизировать потенциальный вред, ранним последователям, таким как полиция Фредерика, было рекомендовано ограничить использование чат-ботов составлением отчетов только по незначительным инцидентам и обвинениям. Только после того, как офицеры получат достаточно опыта «в том, как эффективно использовать инструмент» для «сначала отчетов с низкой степенью серьезности», им следует «расширить его до более серьезных отчетов», рекомендовалось в пресс-релизе Axon.
Но хотя официально рекомендовалось ограничить раннее использование, генеральный директор Axon Рик Смит открыто расхваливал Draft One как способный положить конец рутинной работе, от которой все больше увязают испытывающие нехватку ресурсов полицейские управления по всему миру.
«Каждый офицер в США пишет полицейские отчеты, часто каждый день, а обычно и несколько раз в день», — сказал Смит в пресс-релизе. «Как мы сделали с Draft One, использование возможностей ИИ окажется одним из самых влиятельных технологических достижений нашего времени, которое поможет масштабировать работу полиции и революционизировать способ функционирования общественной безопасности».
Вскоре после того, как полицейские управления начали внедрять Draft One, старший аналитик политики, который отслеживает использование полицией ИИ для группы по защите цифровых прав Electronic Frontier Foundation (EFF), Мэтью Гуарилья, написал запись в блоге предупреждение о том, что все более широкое использование «Проекта один» требует срочного расследования.
«Мы пока просто не знаем, как это работает», — сказал Гуарилья Ars.