Trợ lý ảo AI: Sao cứ phải là phụ nữ?

“Hey Siri, hãy cho tôi biết thông tin về thời tiết Hà Nội ngày mai.”

Bạn đã bao giờ đặt một câu hỏi tương tự cho Siri - trợ lý ảo được tích hợp trên các thiết bị của Apple? Không chỉ đưa ra câu trả lời chi tiết cho mọi câu hỏi của bạn, giúp bạn bật một bài nhạc hay bắt đầu cuộc gọi tới một người thân trong gia đình, theo ước tính của UNESCO năm 2019, các trợ lý ảo như Siri hay Alexa (Amazon) thực hiện lên tới hơn 1 tỷ nhiệm vụ mỗi tháng cho người dùng trên toàn thế giới [1], khẳng định vai trò ngày càng quan trọng của những hệ thống này trong cuộc sống của chúng ta. Tuy nhiên, nhiều người đã bày tỏ quan ngại rằng các trợ lý ảo đang làm trầm trọng hóa những định kiến về công việc và vai trò của phụ nữ trong thị trường lao động cũng như trong gia đình. Trợ lý ảo AI: sao cứ phải là phụ nữ?

Theo bà Rachel Adams, nghiên cứu viên tại Hội đồng Nghiên cứu Khoa học Con người (Nam Phi), “rắc rối” đầu tiên đến từ việc các công nghệ trợ lý ảo hầu như đều mang tên của phụ nữ, như Siri, Cortana (Windows - hiện đã ngừng hoạt động) hay Alexa. Trong khi Siri là một cái tên Bắc Âu có nghĩa là “người phụ nữ xinh đẹp dẫn bạn đến chiến thắng”, Cortana lại là tên của một nhân vật nữ với trí thông minh khiêm tốn và một cơ thể bị tình dục hóa trong loạt trò chơi Halo [2]. Vì vậy, dù một số hệ thống cho phép người dùng lựa chọn giọng nam hoặc giọng nữ cho trợ lý ảo, những cái tên nữ vẫn mang lại cảm giác “giới tính” của những hệ thống này đã được mặc định từ trước.

Báo cáo “I'd Blush If I Could” của UNESCO năm 2019 cho rằng việc các trợ lý kỹ thuật số được lập trình mặc định là phụ nữ phản ánh và củng cố định kiến giới rằng phụ nữ là người chăm sóc và đóng vai trò hỗ trợ. Vì vậy, những hệ thống này còn có thể tác động đến việc gia nhập thị trường lao động của phụ nữ khi chúng củng cố quan niệm phụ nữ nên là người chăm sóc con cái và các thành viên trong gia đình hoặc đảm nhận các công việc nội trợ. [3]

Ngoài ra, những trợ lý AI này được lập trình để tuân theo mọi yêu cầu của người dùng, và chúng không có quyền từ chối những mệnh lệnh này. Điều này có thể vô tình nâng cao kỳ vọng về cách một người phụ nữ nên hành xử [4]. Các hệ thống cũng củng cố ý tưởng rằng phụ nữ phù hợp với các công việc hành chính hoặc định hướng dịch vụ bởi họ có xu hướng đáp ứng các mệnh lệnh và làm hài lòng người khác. Thậm chí, phụ nữ có thể bị chỉ trích hoặc ảnh hưởng sự nghiệp nếu làm trái lại những khuôn mẫu này, ví dụ như khi một người phụ nữ thể hiện sự quyết đoán hoặc cạnh tranh trong vai trò lãnh đạo [5].

Giải thích quyết định lập trình mặc định trợ lý ảo của mình là phụ nữ, các công ty như Amazon và Apple đã trích dẫn nhiều công trình học thuật cho thấy con người thích giọng nữ hơn giọng nam. Tuy nhiên, trên thực tế, trong khi các trợ lý kỹ thuật số thường được lập trình là phụ nữ thì các cố vấn kỹ thuật số (pháp lý, tài chính, y tế) thường được lập trình là nam giới. Ví dụ, hệ thống trí tuệ nhân tạo Watson của IBM đưa ra những câu trả lời bằng giọng nam đầy tự tin và quyết đoán khi làm việc bên cạnh các bác sĩ trong hỗ trợ điều trị ung thư [6].

Theo Viện AI Now, một tổ chức nghiên cứu các chính sách AI thuộc Đại học New York, Mỹ, có mối liên hệ rõ ràng giữa ngành công nghiệp AI do nam giới thống trị với các hệ thống và sản phẩm phân biệt đối xử mà nó tạo ra. Tuy nhiên, tổ chức này lưu ý rằng việc loại bỏ các thành kiến trong những hệ thống AI không giống như cách loại bỏ các thành kiến trong thế giới thực, khi có một số bối cảnh trong đó việc “sửa chữa” những khiếm khuyết có thể không giải quyết được các vấn đề tổng thể do các hệ thống đó đưa ra – và một số vấn đề hoàn toàn không thể khắc phục được bằng giải pháp kỹ thuật” [7]. Dù vậy, đa số ý kiến đồng thuận rằng việc giải quyết các định kiến trong những hệ thống AI vẫn phải bắt đầu từ việc giải quyết những định kiến giới căn cốt trong xã hội.

AI đã, đang và sẽ tiếp tục ảnh hưởng đến cơ hội việc làm, vị trí và cách phụ nữ được nhìn nhận và kỳ vọng tại nơi làm việc. Việc chuẩn bị cho tương lai đòi hỏi các chính phủ, tổ chức và tất cả người lao động - không chỉ phụ nữ - hiểu được những thách thức và cơ hội mà các công nghệ AI mang lại cũng như cách sử dụng những công nghệ này để tạo ra cơ hội việc làm công bằng và bình đẳng cho phụ nữ.

-----

[1], [3] UNESCO (2019). I’d blush if I could: closing gender divides in digital skills through education. https://en.unesco.org/Id-blush-if-I-could

[2], [4] Adams, R. (2019). Artificial Intelligence has a gender bias problem – just ask Siri. The Conversation. https://theconversation.com/artificial-intelligence-has-a-gender-bias-problem-just-ask-siri-123937

[5] Rudman, L. A., & Phelan, J. E. (2008). Backlash effects for disconfirming gender stereotypes in organizations. Research in Organizational Behavior, 28, 61–79. https://doi.org/10.1016/j.riob.2008.04.003

[6] Steele, C. (2018). The Real Reason Voice Assistants Are Female (and Why it Matters). PCMag UK. https://uk.pcmag.com/smart-home/92697/the-real-reason-voice-assistants-are-female-and-why-it-matters

[7] West, S. M., Whittaker, M., & Crawford, K. (2019). Discriminating Systems: Gender, Race, and Power in AI. https://ainowinstitute.org/publication/discriminating-systems-gender-race-and-power-in-ai-2