Chính sách dự đoán bắt nguồn từ kỷ nguyên cảnh sát “cửa sổ vỡ” và thường được ghi công cho William Bratton, cựu ủy viên cảnh sát thành phố New York và cảnh sát trưởng LAPD. Với tư cách là ủy viên cảnh sát NYC, Bratton đã ra mắt CompStat, đây có lẽ là ví dụ nổi tiếng nhất về chính sách dựa trên dữ liệu vì nó xuất hiện dưới dạng một nhân vật phản diện có tên là “Comstat” trong phần ba của HBO’s The Wire. Nhà xã hội học Sarah Brayne viết trong cuốn sách của mình: “CompStat, một mô hình quản lý liên kết thống kê tội phạm và thực thi pháp luật, có nhiều mặt: nó phục vụ như một chiến lược kiểm soát tội phạm, thước đo hiệu suất và trách nhiệm của nhân viên, và một công cụ quản lý tài nguyên”. Dự đoán và giám sát. “Dữ liệu tội phạm được thu thập trong thời gian thực, sau đó được lập bản đồ và phân tích để chuẩn bị cho các cuộc họp chiến lược kiểm soát tội phạm hàng tuần giữa các giám đốc điều hành cảnh sát và chỉ huy khu vực.” CompStat đã được lực lượng cảnh sát tại các thành phố lớn của Mỹ áp dụng rộng rãi trong những năm 1990 và 2000. Bằng cách dựa nhiều vào số liệu thống kê tội phạm như một thước đo hiệu suất, kỷ nguyên CompStat đã đào tạo cảnh sát và quan chức ưu tiên định lượng hơn trách nhiệm giải trình. Ngoài ra, các cuộc họp hàng tuần về số liệu thống kê tội phạm đóng vai trò là nghi thức định lượng khiến những người tham gia tin vào các con số theo cách tạo ra sự đoàn kết tập thể và thúc đẩy điều mà các nhà hành vi học tổ chức Melissa Mazmanian và Christine Beckman gọi là “niềm tin cơ bản vào thẩm quyền khách quan của các con số để thúc đẩy hành động, đánh giá thành công và thúc đẩy sự phát triển liên tục của tổ chức.” Nói cách khác: chủ nghĩa kỹ trị đã trở thành văn hóa bên trong các phòng ban áp dụng CompStat và các hệ thống tương tự khác. Các quy trình và kiểm soát của tổ chức được định hướng xung quanh các con số được cho là “khách quan” và “trung lập”. Điều này đã mở đường cho việc áp dụng AI và các mô hình máy tính để tăng cường kiểm soát—đồng thời tăng cường giám sát và quấy rối trong các cộng đồng vốn đã bị kiểm soát chặt chẽ.

Các mô hình máy tính chỉ xu hướng mới nhất trong lịch sử lâu dài của những người tưởng tượng rằng phần mềm áp dụng cho tội phạm sẽ giúp chúng ta an toàn hơn. Trong

Thật khó để viết về phần mềm cảnh sát cụ thể vì những gì sở cảnh sát Chicago làm không hoàn toàn giống với những gì LAPD hoặc NYPD làm. Thật khó để nói chính xác điều gì đang xảy ra ở mỗi cơ quan cảnh sát vì công nghệ luôn thay đổi và được triển khai theo những cách khác nhau. Các thông số kỹ thuật chính xác có xu hướng bị chôn vùi trong các hợp đồng với nhà cung cấp. Ngay cả khi một sở cảnh sát mua phần mềm, nó không nhất thiết phải được sử dụng, cũng như không được sử dụng theo đúng cách mà nó được dự định. Bối cảnh quan trọng và việc triển khai chính xác công nghệ cũng như những người sử dụng nó cũng vậy. Hãy xem xét đầu đọc biển số xe, được sử dụng để thu phí cầu đường hoặc tiến hành giám sát. Trình đọc biển số xe tự động được cơ quan giao thông tiểu bang sử dụng để tự động thu phí cầu đường có thể là cách sử dụng trí tuệ nhân tạo và công nghệ đọc biển số xe tự động có thể chấp nhận được—nếu dữ liệu không được lưu trữ trong một thời gian dài. Công nghệ đọc biển số xe tương tự được cảnh sát sử dụng như một phần của giám sát lưới kéo, với dữ liệu được lưu trữ vô thời hạn, là một vấn đề.

Mỗi khi công chúng biết về một số chính sách dự đoán biện pháp, tranh cãi đã nổ ra. Hãy xem xét chính sách dự đoán dựa trên con người do Văn phòng Cảnh sát trưởng Hạt Pasco ở Florida ban hành, nơi đã tạo ra một danh sách theo dõi những người mà họ coi là tội phạm trong tương lai. Các phóng viên Kathleen McGrory và Neil Bedi của Tampa Bay Times đã giành được giải Pulitzer cho câu chuyện của họ về cách Văn phòng Cảnh sát trưởng Hạt Pasco tạo ra danh sách những người mà họ cho là có khả năng vi phạm pháp luật. Danh sách này được tổng hợp bằng cách sử dụng dữ liệu về lịch sử bắt giữ và thông tin tình báo không xác định, cùng với các quyết định độc đoán của các nhà phân tích cảnh sát. Sở cảnh sát đã cử cấp phó theo dõi và quấy rối những người trong danh sách theo dõi. Thông thường, các đại biểu thiếu nguyên nhân có thể xảy ra, lệnh khám xét hoặc bằng chứng phạm tội. Trong 5 năm, gần 1.000 người đã bị cuốn vào cuộc quấy rối có hệ thống được dán nhãn “Chính sách do tình báo chỉ đạo”. Đáng chú ý, một tỷ lệ lớn những người trong danh sách theo dõi là BIPOC.

Chương trình Pasco bắt đầu vào năm 2011, ngay sau khi Chris Nocco nhậm chức cảnh sát trưởng. Nocco nảy ra ý tưởng “cải cách” bộ phận bằng các sáng kiến ​​dựa trên dữ liệu. “Trong 10 năm, không ai thực sự hiểu cách thức hoạt động của nó và công chúng không biết chuyện gì đang xảy ra,” Bedi giải thích về dự án báo cáo.8 Cảnh sát trưởng đã xây dựng một “cách tiếp cận dựa trên dữ liệu gây tranh cãi để lập chính sách. Anh ấy cũng xây dựng được nhiều bạn bè có thế lực”, bao gồm cả các chính trị gia địa phương và quốc gia, những người không đặt câu hỏi về hành động của anh ấy.

Tuy nhiên, sự quấy rối không dừng lại ở đó . Một cách riêng biệt, Văn phòng Cảnh sát trưởng đã lập một danh sách những học sinh mà họ cho là có khả năng trở thành tội phạm trong tương lai. Văn phòng đã thu thập dữ liệu từ các trường học địa phương, bao gồm thông tin được bảo vệ như điểm của trẻ em, hồ sơ đi học và lịch sử phúc lợi của trẻ em. Phụ huynh và giáo viên không được thông báo rằng trẻ em được coi là tội phạm trong tương lai, họ cũng không hiểu rằng dữ liệu riêng tư của học sinh đang bị vũ khí hóa. Kathleen McGrory cho biết ban đầu giám đốc của hệ thống trường học không nhận ra rằng cảnh sát có quyền truy cập vào dữ liệu của học sinh.

Sau khi cuộc điều tra được công bố, các nhóm dân quyền đã tố cáo các chương trình tình báo . Ba mươi nhóm đã thành lập một liên minh để phản đối, và bốn trong số những người bị nhắm mục tiêu đã khởi kiện cơ quan này. Hai dự luật đã được đề xuất để ngăn chặn kiểu xâm lấn và lạm dụng này trong tương lai. Bộ Giáo dục liên bang đã mở một cuộc điều tra về việc chia sẻ dữ liệu giữa Văn phòng Cảnh sát trưởng và khu học chánh địa phương. May mắn thay, do đó, các nhà phân tích của cảnh sát sẽ không còn quyền truy cập vào điểm của học sinh.

Nhiều người tưởng tượng rằng sử dụng nhiều công nghệ hơn sẽ khiến mọi thứ trở nên “công bằng hơn”. Đây là lý do đằng sau ý tưởng sử dụng máy móc thay vì thẩm phán, một ý tưởng thường xuyên xuất hiện giữa các luật sư và nhà khoa học máy tính. Chúng ta thấy điều đó trong việc sử dụng máy ảnh đeo trên người, một sáng kiến ​​đã phát triển kể từ khi các sĩ quan LAPD tấn công Rodney King một cách dã man vào năm 1991 và vụ tấn công đã được ghi lại bằng máy quay tại nhà. Có một thế giới tưởng tượng nơi mọi thứ được ghi lại trên video, có các thuật toán hoàn toàn công bằng và khách quan để phân xử những gì xảy ra trong nguồn cấp dữ liệu video, tính năng nhận dạng khuôn mặt xác định những kẻ xấu và các sĩ quan cảnh sát anh hùng xông vào giải cứu và bắt giữ những kẻ xấu. Sự tưởng tượng này được đưa đến một kết luận hợp lý trong bộ phim Minority Report, trong đó Tom Cruise đóng vai một sĩ quan cảnh sát bắt giữ mọi người trước khi họ phạm tội, theo lời giới thiệu của một số thanh thiếu niên có khả năng nhận thức trước, những người bị giam giữ trong một bể bơi đầy goo. “Nó giống như Minority Report,,” một sĩ quan cảnh sát ngạc nhiên trước nhà xã hội học Sarah Brayne, khi cả hai đang thảo luận về phần mềm trị an của Palantir.

Điều khiến tình huống này trở nên khó khăn hơn là thực tế là nhiều người tham gia vào chuỗi không có ác tâm. Ví dụ, anh họ của tôi, người da trắng, là cảnh sát tiểu bang trong nhiều năm. Anh ấy tuyệt vời, tốt bụng, trung thực và ngay thẳng và chính xác là người mà tôi sẽ tìm đến nếu tôi gặp rắc rối. Anh ấy và gia đình anh ấy rất yêu quý tôi và tôi đối với họ. Tôi tin vào luật pháp và tôi tin vào việc thực thi pháp luật một cách trừu tượng, theo cách mà nhiều người tin khi họ có đặc quyền không tương tác hoặc bị nhắm mục tiêu bởi cơ quan thực thi pháp luật hoặc tòa án.

Nhưng nguồn gốc của việc trị an là một vấn đề đối với những người Da đen như tôi, và tần suất các vụ lạm dụng nghiêm trọng của cảnh sát không thể kiểm soát được ở Hoa Kỳ ngày nay. Công nghệ cảnh sát và sự công bằng của máy móc là lý do tại sao chúng ta cần tạm dừng và sửa chữa hệ thống con người trước khi triển khai bất kỳ loại hệ thống kỹ thuật số nào trong việc trị an.

Hệ thống trị an hiện tại ở Hoa Kỳ, với Huân chương cảnh sát huynh đệ và đồng phục, v.v., bắt đầu ở Nam Carolina. Cụ thể, nó xuất hiện vào những năm 1700 ở Charleston, Nam Carolina, với tư cách là một đội tuần tra nô lệ. Paige Fernandez, Giám đốc Chính sách Cảnh sát của ACLU, Paige Fernandez, cho biết: “Đó thực sự là một lực lượng chuyên nghiệp gồm những người da trắng tự do tập hợp lại để duy trì sự kiểm soát xã hội đối với những người da đen, nô lệ sống bên trong thành phố Charleston. “Họ đến với nhau vì mục đích duy nhất là đảm bảo rằng những người da đen bị bắt làm nô lệ không tổ chức và nổi dậy cũng như đẩy lùi chế độ nô lệ. Đó là ví dụ đầu tiên về một sở cảnh sát hiện đại ở Hoa Kỳ.” Trong cuốn sách Những vấn đề đen tối: Surveilla của cô ấy Từ thời Da đen, học giả Simone Brown kết nối sự giám sát hiện đại đối với các thi thể Da đen với chế độ nô lệ trong trò chuyện thông qua luật đèn lồng, là luật thế kỷ mười tám ở Thành phố New York yêu cầu người Da đen hoặc người đa chủng tộc mang theo đèn lồng nếu ra ngoài vào ban đêm mà không có người da trắng đi cùng . Học giả Josh Scannell coi luật đèn lồng là tiền lệ cho chính sách cảnh sát ngày nay sử dụng đèn pha để chiếu sáng các khu vực có nhiều tội phạm suốt đêm dài. Những người sống trong các khu dân cư có cảnh sát nghiêm ngặt không bao giờ có được chiếc áo choàng yên bình của bóng tối, vì đèn pha làm cho nó phát sáng nhân tạo suốt đêm và tiếng máy phát điện ầm ĩ của máy phát điện làm cho khu phố trở nên ồn ào hơn.

Fernandez của ACLU vạch ra một ranh giới từ các cuộc tuần tra nô lệ duy trì quyền kiểm soát đối với người Da đen đến sự phát triển của các sở cảnh sát đến việc thực thi các quy tắc và luật pháp thời Jim Crow đến cảnh sát thực thi sự phân biệt trong thời kỳ dân quyền và kích động bạo lực chống lại hòa bình những người phản đối bạo lực leo thang của cảnh sát đối với người Da đen và Da nâu và dẫn đến phong trào Black Lives Matter. Fernandez chỉ ra rằng cảnh sát đã xịt hơi cay và hơi cay vào những người biểu tình ôn hòa vào mùa hè năm 2020, bắn đạn cao su vào những người biểu tình, buộc tội những người biểu tình và sử dụng các kỹ thuật như đun nước để dồn những người biểu tình vào không gian kín, nơi bạo lực có thể dễ dàng xảy ra hơn.

Số liệu thống kê vẽ nên một bức tranh ảm đạm. “Người da đen có khả năng bị cảnh sát giết cao gấp 3,5 lần so với người da trắng khi người da đen không tấn công hoặc không có vũ khí. George Floyd là một ví dụ,” nhà xã hội học Rashawn Ray viết trong bản tóm tắt chính sách năm 2020 của Viện Brookings về trách nhiệm giải trình của cảnh sát.14 “Thanh thiếu niên da đen có nguy cơ bị cảnh sát giết cao gấp 21 lần so với thanh thiếu niên da trắng. Đó là Tamir Rice và Antwon Rose. Cứ 40 giờ lại có một người Da đen bị giết ở Hoa Kỳ. Đó là Jonathan Ferrell và Korryn Gaines. Cứ một nghìn người đàn ông Da đen thì có một người có thể bị giết bởi bạo lực của cảnh sát trong suốt cuộc đời. Đây là Tamir Rice và Philando Castile.” Khi Derek Chauvin, viên cảnh sát đã giết George Floyd, bị kết tội, điều đó rất đáng chú ý vì cảnh sát hiếm khi phải chịu trách nhiệm về hành vi bạo lực đối với các thi thể Da đen và Da nâu.

Cải cách là cần thiết. Tuy nhiên, cải cách đó sẽ không được tìm thấy trong máy móc.