Nhân viên Amazon chỉ sử dụng trí tuệ nhân tạo cho báo cáo, không phải cho kết quả thực tế

Cách trí tuệ nhân tạo sinh ra biến thành “chỉ số” hiệu quả của nhân viên

Với sự phổ biến ngày càng tăng của công nghệ trí tuệ nhân tạo sinh ra (AI), các công ty ngày càng yêu cầu nhân viên của mình thể hiện những thành tựu thực tiễn khi làm việc với các hệ thống này. Đáp lại áp lực đó, một hiện tượng mới đã xuất hiện: nhân viên giao cho AI những nhiệm vụ vô nghĩa chỉ để cải thiện số liệu sử dụng công nghệ của bản thân.

Tài chính Thời đại miêu tả tình huống tại Amazon

Bài báo Financial Times nói về cách các nhân viên của tập đoàn thương mại điện tử khổng lồ ngày càng tích cực áp dụng giải pháp phần mềm MeshClaw. Công cụ này kết nối với các công cụ làm việc của nhân viên và có thể thực hiện nhiệm vụ thay mặt họ. Một số người dùng nó để tự động hóa những hành động hầu như vô ích, nhằm nâng cao xếp hạng cá nhân về hiệu quả sử dụng AI.

Nguyên nhân là áp lực ngày càng tăng từ lãnh đạo: bây giờ hơn 80% nhà phát triển phải sử dụng AI mỗi tuần. Mỗi nhân viên có một bảng thống kê riêng, và những người tụt lại phía sau các mục tiêu phải giải thích điều đó cho quản lý. Dù công thức thì ban giám đốc không nên đánh giá nhân viên dựa trên dữ liệu về việc sử dụng token AI, trong vài tháng qua đã xuất hiện nghi ngờ rằng thực sự như vậy.

Trong môi trường này, một số nhân viên tại Amazon có động lực sai lệch: họ giả lập hoạt động cao để lợi ích cá nhân, chứ không phải vì lợi ích của công ty. Điều này đặc biệt quan trọng đối với những tập đoàn công nghệ lớn đầu tư hàng tỷ vào cơ sở hạ tầng AI và muốn chứng minh cho nhà đầu tư cũng như lãnh đạo thấy được lợi ích thực sự từ việc triển khai.

Cách Amazon quản lý dữ liệu làm việc với AI

Amazon dự định chi tiêu khoảng 200 tỷ đô la trong năm nay cho các khoản chi vốn. Để đảm bảo công nghệ thực sự được áp dụng, công ty tăng cường kiểm soát việc sử dụng AI. Ban đầu đã xuất bản thống kê nhóm về việc sử dụng AI của nhân viên, nhưng bây giờ chỉ có chuyên gia và quản lý trực tiếp của họ mới truy cập dữ liệu cá nhân. Các nhà quản lý chính thức bị cấm sử dụng dữ liệu này để đánh giá hiệu quả nhân sự.

Tình hình tại các công ty công nghệ khác

Financial Times ghi nhận rằng những hành vi lạm dụng tương tự cũng được quan sát ở Meta Platforms. MeshClaw, do hơn 30 chuyên gia của Amazon phát triển, có khả năng tải mã phần mềm vào phiên bản sản xuất, sắp xếp email và tương tác với các ứng dụng như Slack. Nhiều nhân viên bày tỏ lo ngại về an ninh của những giải pháp này: AI có thể tạo ra lỗi, và việc kiểm soát hành động của nó vẫn còn yếu.

Như vậy, sự gia tăng yêu cầu sử dụng AI sinh ra dẫn đến việc tạo ra các “chỉ số” hiệu quả đôi khi trở thành mục tiêu chính mà không phải là công cụ đạt được kết quả kinh doanh thực tế.