Thiên lệch của AI trong công việc nhân sự là khi công cụ AI, do học từ dữ liệu và văn bản có sẵn định kiến, cho ra gợi ý hoặc văn bản đối xử không công bằng với một nhóm người theo giới, tuổi, vùng miền, tình trạng gia đình hay khuyết tật. Người làm nhân sự không cần hiểu sâu kỹ thuật của mô hình, nhưng phải biết thiên lệch hay xuất hiện ở đâu và tự kiểm được trước khi kết quả chạm tới một người thật.
Bài này bàn từ góc trách nhiệm nghề nghiệp: vì sao người làm nhân sự là chốt chặn cuối, những dạng thiên lệch thường gặp trong việc thường ngày như soạn văn bản, tổng hợp nhận xét, gợi ý đào tạo, và một bộ phép thử đơn giản để làm thường xuyên. Các lỗi thiên lệch của chính người đánh giá như hiệu ứng hào quang, ấn tượng gần đây có bài riêng ở danh mục đánh giá nhân viên.
Thiên lệch của AI đến từ đâu
Mô hình ngôn ngữ học từ một lượng văn bản rất lớn do con người viết ra. Văn bản đó phản ánh xã hội ở thời điểm được viết, bao gồm cả định kiến: nghề này thường gắn với nam, nghề kia thường gắn với nữ, người lớn tuổi thường được mô tả là chậm thích nghi, người ở vùng này được gắn với tính cách này. Khi bạn nhờ AI viết, nó có xu hướng lặp lại những mẫu hay gặp nhất, kể cả mẫu mang định kiến.
Nguồn thứ hai là dữ liệu của chính công ty. Nếu bạn đưa dữ liệu lịch sử đã ẩn danh vào để nhờ AI tìm quy luật, ví dụ ai thường được thăng chức, kết quả sẽ phản ánh những quyết định cũ. Nếu trong quá khứ công ty ít đề bạt nữ vào vị trí quản lý vì lý do không công bằng, AI sẽ thấy đó là quy luật và gợi ý tiếp tục như vậy, kèm một lời giải thích nghe rất hợp lý.
Nguồn thứ ba là câu lệnh. Câu lệnh mô tả "nhân viên năng động, trẻ trung" để nhờ AI gợi ý ai phù hợp cho dự án mới đã cài sẵn thiên lệch về tuổi. AI chỉ làm theo. Vì vậy, kiểm thiên lệch bắt đầu từ chính cách bạn đặt câu hỏi, trước cả khi đọc câu trả lời.
Thiên lệch hay xuất hiện ở việc nhân sự nào
Phần lớn thiên lệch trong công ty vừa và nhỏ không đến từ hệ thống lớn mà từ những việc nhỏ hằng ngày. Bảng dưới liệt kê các chỗ thường gặp.
| Việc | Thiên lệch có thể xảy ra | Cách kiểm nhanh |
|---|---|---|
| Soạn thông báo, chính sách | Mặc định người lao động là nam, ví dụ chỉ dùng hình ảnh một giới, giọng văn coi nhẹ công việc chăm sóc gia đình | Đọc lại với câu hỏi: người lao động nữ, lớn tuổi, có con nhỏ đọc có thấy mình bị loại ra không |
| Tổng hợp nhận xét đánh giá | Nhận xét về nữ hay xoáy vào thái độ, về nam hay xoáy vào kết quả; AI tóm tắt lại càng làm rõ khác biệt đó | So từ ngữ AI dùng cho hai nhóm có cùng mức kết quả |
| Gợi ý người tham gia đào tạo | Người lớn tuổi bị gạt khỏi khoá kỹ năng số, người làm ca đêm bị quên | Kiểm danh sách theo nhóm tuổi, ca làm, vị trí địa lý |
| Trả lời câu hỏi chính sách qua trợ lý | Trả lời khác nhau khi câu hỏi được diễn đạt kiểu khác nhau, thiệt cho người viết không chuẩn | Hỏi cùng một ý bằng nhiều cách viết, so câu trả lời |
| Dịch văn bản cho người lao động nước ngoài | Chọn từ mang sắc thái coi thường, sai cách xưng hô | Nhờ người biết tiếng đọc lại trước khi phát hành |
Mỗi dòng trong bảng có thể nhỏ, nhưng lặp lại qua hàng chục văn bản và nhiều năm, chúng tạo ra một nơi làm việc mà một nhóm người cảm thấy mình không thuộc về.
Phép thử đổi vai: cách kiểm thiên lệch đơn giản nhất
Phép thử này không cần công cụ gì, chỉ cần thói quen. Áp dụng cho mọi văn bản hoặc gợi ý do AI làm ra có liên quan đến đánh giá con người.
- Lấy kết quả AI vừa đưa, ví dụ một đoạn tóm tắt nhận xét về một nhân viên (đã ẩn danh).
- Đổi một đặc điểm không liên quan đến công việc: giới tính, tuổi, quê quán, tình trạng có con nhỏ. Giữ nguyên mọi dữ kiện về kết quả công việc.
- Chạy lại cùng câu lệnh với phiên bản đã đổi.
- So hai kết quả: từ ngữ có khác không, mức độ khen chê có khác không, gợi ý tiếp theo có khác không.
- Nếu khác đáng kể, đó là dấu hiệu thiên lệch. Không dùng kết quả đó, sửa câu lệnh để bỏ thông tin không cần thiết, hoặc làm việc đó bằng tay.
Phép thử này dựa trên tinh thần của các nghiên cứu kinh điển dùng hồ sơ giống hệt nhau chỉ đổi tên để đo phân biệt đối xử. Nó không chứng minh được AI công bằng, nhưng bắt được những thiên lệch lộ rõ nhất với chi phí rất thấp.
Ví dụ giả định: bản tóm tắt nhận xét cuối năm bị lệch
Một công ty phân phối khoảng 120 người ở Đà Nẵng nhờ AI tóm tắt nhận xét cuối năm của quản lý cho từng nhân viên kinh doanh, để trưởng phòng nhân sự đọc nhanh trước buổi họp xét thưởng. Nhận xét đã bỏ tên, nhưng còn giữ đại từ "anh", "chị" và vài chi tiết như "vừa nghỉ thai sản về". Đây là ví dụ giả định để minh hoạ.
Khi đọc lại, chuyên viên nhân sự thấy một điều lạ: hai nhân viên có doanh số gần như nhau, một nam một nữ, nhưng bản tóm tắt cho người nam dùng các cụm như "chủ động, có tiềm năng lãnh đạo", còn bản cho người nữ là "chăm chỉ, hợp tác tốt, cần tự tin hơn". Mở lại nhận xét gốc, sự khác biệt đã có sẵn từ cách quản lý viết, và AI tóm tắt đã làm nó rõ hơn, vì nó chọn những cụm nổi bật nhất.
Phòng nhân sự xử lý bằng ba bước: bỏ đại từ giới tính và chi tiết thai sản khỏi đầu vào, đổi câu lệnh sang "tóm tắt kết quả công việc và hành vi cụ thể, không dùng tính từ về tính cách", và đưa cả nhận xét gốc lẫn bản tóm tắt vào hồ sơ họp để hội đồng đọc. Quan trọng hơn, họ ghi lại phát hiện này để năm sau hướng dẫn các quản lý viết nhận xét theo hành vi ngay từ đầu. AI không tạo ra thiên lệch ở đây, nhưng nếu không ai kiểm, nó đã khuếch đại thiên lệch vào đúng buổi họp quyết định tiền thưởng.
Nguyên tắc làm việc để giảm thiên lệch
Bỏ những gì không cần khỏi câu lệnh. Muốn AI tóm tắt kết quả công việc thì không cần đưa tuổi, giới tính, quê quán. Thông tin không có trong đầu vào thì không thể gây thiên lệch trực tiếp.
Mô tả yêu cầu bằng hành vi, không bằng tính từ về con người. Thay "nhân viên trẻ, năng động" bằng "người chủ động đề xuất cách làm mới trong sáu tháng qua". Câu lệnh mô tả hành vi giúp cả AI lẫn bạn tập trung vào điều đo được.
Không để AI xếp hạng hay chọn người. AI có thể tổng hợp, sắp xếp thông tin, nhưng quyết định ai được đào tạo, thăng chức, giữ lại phải do người có trách nhiệm đưa ra sau khi xem xét đầy đủ.
Kiểm theo nhóm, không chỉ từng trường hợp. Thỉnh thoảng nhìn tổng thể: danh sách được đề xuất đào tạo năm nay có bỏ sót nhóm nào không, nhận xét đánh giá có khác biệt hệ thống giữa các nhóm không.
Ghi lại khi phát hiện thiên lệch. Một sổ ghi những lần AI cho kết quả lệch, kèm câu lệnh đã dùng, giúp cả phòng nhân sự học và giúp công ty quyết định có tiếp tục dùng công cụ cho việc đó không.
Pháp luật và trách nhiệm của người làm nghề
Bộ luật Lao động 2019 có nguyên tắc cấm phân biệt đối xử trong lao động, trong đó có các yếu tố như giới tính, dân tộc, tuổi, tình trạng hôn nhân, khuyết tật và một số yếu tố khác. Phạm vi và cách áp dụng cụ thể cần đối chiếu văn bản hiện hành. Điều quan trọng với người làm nghề là: dùng AI không làm giảm trách nhiệm của công ty. Một quyết định phân biệt đối xử vẫn là quyết định của công ty, dù gợi ý ban đầu đến từ máy.
Ở góc đạo đức, người làm nhân sự là người nhìn thấy cả bức tranh và có cơ hội lên tiếng sớm nhất. Khi một trưởng bộ phận đề nghị dùng AI chấm điểm nhân viên để chọn người cắt giảm, câu trả lời có trách nhiệm là giải thích rủi ro, đề xuất quy trình có người xem xét, có tiêu chí công khai, có quyền phản hồi cho người bị ảnh hưởng.
Với những quyết định có hậu quả pháp lý như kỷ luật, chấm dứt hợp đồng, công ty nên hỏi luật sư về tình huống cụ thể. Có thể đặt câu hỏi với luật sư trên AI Cố Vấn. Người làm nhân sự không cần trở thành chuyên gia pháp lý, nhưng phải nhận ra lúc nào cần chuyên gia.
Nói với giám đốc về thiên lệch mà không bị coi là cản trở
Giám đốc công ty vừa và nhỏ thường thích AI vì nó nhanh và rẻ. Nếu người làm nhân sự chỉ nói "AI có thiên lệch, không nên dùng", rất dễ bị coi là ngại thay đổi. Cách hiệu quả hơn là đưa ví dụ cụ thể từ chính công ty: chạy phép thử đổi vai trên một văn bản thật đã ẩn danh, cho giám đốc xem hai kết quả khác nhau.
Sau đó, đề xuất cách dùng chứ không phải lệnh cấm: AI được dùng cho soạn thảo, tổng hợp; mọi gợi ý liên quan đến chọn người phải qua phép thử và có người duyệt; định kỳ rà lại theo nhóm. Đề xuất có quy trình rõ ràng thường được chấp nhận dễ hơn một lời cảnh báo chung chung.
Cũng nên nói về rủi ro uy tín. Một nhân viên phát hiện mình bị đánh giá thấp vì một gợi ý của máy mang định kiến sẽ kể với đồng nghiệp, và câu chuyện đó lan nhanh. Công ty nhỏ không có phòng truyền thông lớn để xử lý khủng hoảng; phòng ngừa luôn rẻ hơn.
Câu hỏi thường gặp
AI có thể hoàn toàn khách quan nếu không đưa thông tin cá nhân vào không?
Không hoàn toàn. Bỏ tên, tuổi, giới tính giúp giảm thiên lệch trực tiếp, nhưng thiên lệch vẫn có thể đi qua thông tin gián tiếp như cách viết, vị trí công việc, ca làm. Vì vậy vẫn cần phép thử và người xem xét, không nên coi việc ẩn danh là đủ.
Có nên dùng AI để phát hiện thiên lệch trong nhận xét của quản lý không?
Có thể dùng AI như một công cụ hỗ trợ, ví dụ nhờ nó chỉ ra những từ ngữ mang tính đánh giá con người thay vì hành vi trong các nhận xét đã ẩn danh. Kết quả chỉ là gợi ý để người làm nhân sự đọc lại, vì chính AI cũng có thể mang thiên lệch.
Phép thử đổi vai có cần làm với mọi văn bản không?
Không cần với văn bản thủ tục như thông báo nghỉ lễ. Nên làm với mọi văn bản hoặc gợi ý liên quan đến đánh giá, lựa chọn, xếp loại một người hay một nhóm người. Ở công ty nhỏ, khối lượng này không lớn nên hoàn toàn làm được.
Người lao động có quyền biết công ty dùng AI trong việc nhân sự không?
Minh bạch là cách làm tốt, nhất là khi AI được dùng trong những việc có ảnh hưởng tới họ. Quy định cụ thể về nghĩa vụ thông báo cần đối chiếu văn bản hiện hành. Ghi rõ trong nội quy hoặc chính sách dùng AI là cách đơn giản để người lao động biết.
Nếu phát hiện công ty đã ra quyết định dựa trên gợi ý thiên lệch thì làm gì?
Ghi lại sự việc, báo người có trách nhiệm, đề xuất xem xét lại quyết định với người bị ảnh hưởng. Nếu quyết định có hậu quả pháp lý như kỷ luật hay chấm dứt hợp đồng, nên hỏi ý kiến luật sư. Sửa sớm luôn ít thiệt hại hơn để kéo dài.