Một cuộc điều tra năm 2020 của The Markup và Propublica phát hiện ra rằng các thuật toán sàng lọc người thuê nhà thường gặp phải những trở ngại như nhầm lẫn danh tính, đặc biệt là đối với những người da màu có họ giống nhau. Đánh giá của Propublica về các thuật toán do công ty RealPage có trụ sở tại Texas thực hiện vào năm ngoái cho thấy nó có thể đẩy giá thuê lên cao.
Một vụ kiện thứ hai chống lại SafeRent theo Đạo luật Nhà ở Công bằng đã kết thúc tại tòa án liên bang ở Connecticut vào tháng 11 và đang chờ phán quyết của thẩm phán. Vụ kiện do Carmen Arroyo và những người khác đệ trình, họ nói rằng thuật toán CrimSAFE của công ty đã coi một cáo buộc trộm cắp vặt sau đó đã bị hủy bỏ là “không đủ điều kiện”, dẫn đến yêu cầu từ chối đứa con trai khuyết tật của bà, người không thể nói hoặc đi lại. Vụ kiện cáo buộc hệ thống đã phân biệt đối xử trên cơ sở khuyết tật, quốc tịch và chủng tộc.
Để phản hồi bản tóm tắt do DOJ và HUD đệ trình, Andrew Soukup, luật sư của SafeRent, cho biết công ty này có mục đích cung cấp cho các nhà quản lý bất động sản và chủ nhà những dự đoán để giúp họ đưa ra quyết định đúng đắn nhưng không tự mình đưa ra quyết định về nhà ở. “SafeRent không quyết định có chấp thuận đơn xin nhà ở của bất kỳ ai hay không. Những quyết định đó do các nhà quản lý bất động sản và chủ nhà đưa ra”, ông cho biết trong một tuyên bố.
Sự can thiệp của Bộ Tư pháp vào vụ việc SafeRent là một phần trong những nỗ lực gần đây của chính phủ Hoa Kỳ nhằm thực thi luật dân quyền đối với các thuật toán đưa ra quyết định quan trọng về cuộc sống của mọi người. Cùng ngày, bộ này đã công bố các điều khoản của thỏa thuận giải quyết với Meta về việc bán quảng cáo bị cáo buộc vi phạm Đạo luật Nhà ở Công bằng. Công ty đã phát triển một hệ thống để giảm sự phân biệt đối xử trong quảng cáo trên Facebook và sẽ vẫn nằm dưới sự giám sát của chính phủ liên bang cho đến năm 2026.
“Việc giám sát Meta của liên bang sẽ gửi một tín hiệu mạnh mẽ đến các công ty công nghệ khác rằng họ cũng sẽ phải chịu trách nhiệm vì không giải quyết được tình trạng phân biệt đối xử theo thuật toán vi phạm luật dân quyền của chúng tôi”, Clarke, người đứng đầu bộ phận dân quyền của Bộ Tư pháp cho biết trong một tuyên bố. Năm ngoái, bà đã làm việc với Ủy ban Cơ hội Việc làm Bình đẳng để ban hành hướng dẫn cho các doanh nghiệp sử dụng thuật toán tuyển dụng về cách tránh vi phạm Đạo luật Người khuyết tật Hoa Kỳ.
Cùng nhau, những can thiệp đó cho thấy DOJ quyết tâm thực thi luật chống phân biệt đối xử của liên bang để bảo vệ quyền của mọi người trong kỷ nguyên của thuật toán. “Rõ ràng là quảng cáo khác với việc sàng lọc người thuê nhà, nhưng nó cảnh báo những ngành công nghiệp khác nhau này rằng họ không thể ẩn sau sự thiếu minh bạch nữa và sẽ có trách nhiệm giải trình lớn hơn”, Gilman, giáo sư luật của Đại học Baltimore cho biết. Bà đã đại diện cho những khách hàng có thu nhập thấp trong 25 năm và trong vài năm qua đã gặp nhiều trường hợp hơn mà bà nghi ngờ một thuật toán hoạt động trong nền đã từ chối nhà ở cho khách hàng. Nhưng liệu luật chống phân biệt đối xử hiện hành có đủ hiệu lực hay liệu có cần luật mới để bảo vệ chống lại các thuật toán có hại hay không vẫn là một vấn đề chưa được giải quyết.
Tín hiệu được Bộ Tư pháp gửi đến lĩnh vực nhà ở tuần này có vẻ phù hợp với các tuyên bố khác của chính quyền Biden về việc giải quyết vai trò của AI trong các vụ vi phạm nhân quyền. Năm ngoái, Nhà Trắng đã đề xuất Dự luật về Quyền của AI, một bộ nguyên tắc nhằm bảo vệ công dân khỏi các thuật toán trong các lĩnh vực quan trọng của cuộc sống như nhà ở, chăm sóc sức khỏe, tài chính và phúc lợi của chính phủ. Chính quyền Trump đã cố gắng làm cho việc truy tố những chủ nhà sử dụng thuật toán sàng lọc người thuê nhà theo Đạo luật Nhà ở Công bằng trở nên khó khăn hơn.
