Khi trí tuệ có quyền lực

Rạng sáng ngày 16 tháng 7 năm 1945, trên vùng sa mạc Jornada del Muerto ở New Mexico, vụ thử Trinity biến nhiều năm vật lý, kỹ thuật và tổ chức thành một ánh chớp chưa từng có. Khoảnh khắc ấy thường được kể như đỉnh cao của trí tuệ: con người đã hiểu cấu trúc vật chất đủ sâu để giải phóng năng lượng nằm trong hạt nhân.

Nhưng thành công kỹ thuật không khép lại câu chuyện. Nó mở ra một câu hỏi lớn hơn: khi năng lực của con người vượt khỏi khả năng kiểm soát hậu quả, ai phải chịu trách nhiệm — người tìm ra nguyên lý, người thiết kế công cụ, người ra lệnh hay xã hội đã tạo ra nhu cầu?

Một công trình càng mạnh càng khó cho phép người sáng tạo đứng ngoài cách nó được sử dụng. Không phải vì họ kiểm soát được mọi quyết định, mà vì tri thức đã bước vào một hệ thống quyền lực có khả năng khuếch đại tác động của nó.

Chương này không tìm một thủ phạm duy nhất. Nó khảo sát khoảng cách giữa trí thông minh và trí tuệ, giữa khả năng làm được và lý do nên làm, giữa huyền thoại về người tạo ra tương lai và trách nhiệm với những người phải sống trong tương lai ấy.

Trí tuệ có thể mở một cánh cửa. Trách nhiệm bắt đầu khi ta hỏi điều gì sẽ bước qua cánh cửa đó.

Khoa học thường bắt đầu bằng câu hỏi điều gì là có thể. Đạo đức bắt đầu bằng câu hỏi khả năng ấy sẽ thay đổi đời sống của ai, phân phối quyền lực thế nào và tổn hại có thể rơi vào những người không được tham gia quyết định hay không.

Sự phân công hiện đại khiến trách nhiệm dễ bị chia nhỏ. Nhà nghiên cứu nói mình chỉ tạo ra tri thức. Kỹ sư nói mình chỉ tối ưu hệ thống. Lãnh đạo nói mình dựa vào chuyên gia. Người dùng nói mình chỉ dùng công cụ được cung cấp. Khi mỗi người chỉ nhìn phần việc của mình, hậu quả toàn hệ thống có thể không thuộc về ai trên giấy tờ nhưng vẫn xảy ra ngoài đời.

Điều đó không có nghĩa mọi người cùng chịu trách nhiệm như nhau. Quyền quyết định, mức độ hiểu biết, khả năng dự đoán và quyền từ chối tạo ra những mức trách nhiệm khác nhau. Tuy nhiên, chuyên môn không thể là một bức tường tuyệt đối ngăn con người nhìn sang hậu quả.

Một trí tuệ trưởng thành không chỉ hỏi cách làm cho hệ thống hoạt động. Nó còn hỏi hệ thống phục vụ ai, ai có thể bị tổn thương và điều gì cần dừng lại ngay cả khi thị trường hoặc quyền lực muốn tiếp tục.

Năng lực trả lời “có thể”. Trí tuệ có trách nhiệm phải tiếp tục hỏi “cho ai, bằng giá nào và dưới quyền kiểm soát của ai”.

Phương pháp tổng hợp ammonia từ nitrogen và hydrogen gắn với Fritz Haber, sau đó được Carl Bosch cùng ngành công nghiệp đưa lên quy mô lớn, đã tạo nền tảng cho phân bón nitrogen tổng hợp. Nó giúp mở rộng năng suất nông nghiệp và trở thành một phần quan trọng của hệ thống lương thực hiện đại.

Cùng một năng lực hóa học cũng gắn với sản xuất chất nổ và vai trò của Haber trong chiến tranh hóa học thời Thế chiến thứ nhất. Một di sản vì thế không vừa với một nhãn đơn giản như “cứu tinh” hay “kẻ hủy diệt”. Công trình có thể tạo ra lợi ích rộng lớn trong một bối cảnh và trở thành sức mạnh phá hủy trong bối cảnh khác.

Trường hợp Haber cho thấy công nghệ không tồn tại ngoài hệ thống chính trị. Công thức hóa học không tự chọn mục đích, nhưng con người, tổ chức và quốc gia lựa chọn cách triển khai, quy mô và đối tượng chịu tác động. Nhà khoa học không kiểm soát toàn bộ hệ thống ấy, song cũng không phải lúc nào chỉ là người quan sát trung lập.

Đánh giá một di sản có trách nhiệm đòi hỏi giữ đồng thời các sự thật khó chịu: một công trình có thể đóng góp cho sự sống, một con người có thể chủ động phục vụ chiến tranh và lịch sử không cần xóa một phía để thừa nhận phía còn lại.

Một di sản trung thực không chọn phần thuận tiện nhất của sự thật; nó giữ các hậu quả mâu thuẫn cạnh nhau.

Năm 1945, một nhóm nhà khoa học thuộc Metallurgical Laboratory đã chuẩn bị báo cáo do James Franck chủ trì, cảnh báo về những hệ quả chính trị và cuộc chạy đua vũ khí có thể xảy ra nếu bom nguyên tử được sử dụng mà không có bước trình diễn hoặc thảo luận quốc tế.

Báo cáo không ngăn được quyết định cuối cùng. Nhưng giá trị của nó nằm ở việc các nhà khoa học thừa nhận rằng hiểu biết kỹ thuật khiến họ có nghĩa vụ bước vào cuộc tranh luận xã hội. Họ không tuyên bố có toàn quyền quyết định; họ từ chối giả vờ rằng chuyên môn của mình kết thúc ở cánh cửa phòng thí nghiệm.

Đây là giới hạn quan trọng của trách nhiệm cá nhân: một người có thể lên tiếng mà không kiểm soát được kết quả. Trách nhiệm không bảo đảm chiến thắng. Nó là nghĩa vụ tạo ra cảnh báo, bằng chứng, lựa chọn thay thế và hồ sơ để xã hội biết rằng hậu quả đã được nhìn thấy trước.

Khi tổ chức không muốn nghe, dấu vết của sự phản biện vẫn quan trọng. Nó giúp lịch sử phân biệt giữa điều không thể dự đoán và điều đã được dự đoán nhưng bị gạt sang bên.

Trách nhiệm không chỉ là quyền ngăn một quyết định; đôi khi nó là nghĩa vụ để lại bằng chứng rằng một lựa chọn khác đã tồn tại.

Không công nghệ lớn nào đi từ ý tưởng đến xã hội chỉ bằng ý chí của người phát minh. Nó cần vốn, luật pháp, chuỗi cung ứng, dữ liệu, hạ tầng, truyền thông và quyền ra quyết định. Mỗi lớp thêm vào không chỉ mở rộng quy mô mà còn thay đổi mục đích và cách phân phối lợi ích.

Vì vậy, đạo đức không thể chỉ được giao cho lương tâm của một cá nhân xuất chúng. Cần có quy trình đánh giá rủi ro, cơ chế phản biện, khả năng kiểm toán, quyền khiếu nại và trách nhiệm rõ ràng khi hệ thống gây hại. Một người tốt trong một cấu trúc thiếu kiểm soát không đủ bảo đảm kết quả tốt.

Ngược lại, tổ chức cũng không thể dùng quy trình để xóa trách nhiệm cá nhân. “Tôi chỉ tuân theo quy định” không phải câu trả lời đầy đủ khi một người có quyền nhận ra và báo động về tổn hại. Trách nhiệm có nhiều tầng nhưng không vì thế mà biến mất.

Một nền văn hóa sáng tạo trưởng thành phải cho phép người xây dựng công nghệ đặt câu hỏi về mục tiêu, từ chối những ứng dụng vượt giới hạn và được bảo vệ khi họ nêu rủi ro có căn cứ.

Công nghệ khuếch đại năng lực; tổ chức quyết định năng lực ấy được hướng về đâu.

AI đưa câu hỏi trách nhiệm trở lại trong một hình thức gần gũi hơn. Hệ thống có thể xếp hạng ứng viên, dự đoán hành vi, đề xuất nội dung, phát hiện gian lận hoặc tự động hóa quyết định. Mỗi chức năng hứa hẹn tốc độ, nhưng tốc độ không tự tạo ra công bằng.

Một mô hình có thể chính xác trung bình nhưng gây hại có hệ thống cho một nhóm nhỏ. Một quyết định có thể giải thích bằng thống kê nhưng người bị ảnh hưởng vẫn không có quyền sửa dữ liệu, phản hồi hoặc yêu cầu con người xem xét. Khi hiệu quả trở thành tiêu chuẩn duy nhất, con người dễ bị thu nhỏ thành tín hiệu phù hợp cho máy xử lý.

UNESCO đặt nhân quyền và phẩm giá ở trung tâm khuyến nghị đạo đức AI; NIST coi quản trị rủi ro là trách nhiệm xuyên suốt vòng đời hệ thống. Những nguyên tắc ấy nhắc rằng đạo đức không phải lớp trang trí sau khi sản phẩm hoàn thành. Nó phải hiện diện từ việc xác định vấn đề, chọn dữ liệu, thiết kế tiêu chí đến giám sát hậu quả.

Câu hỏi không chỉ là AI có thể hiểu con người đến đâu. Câu hỏi là ai được quyền định nghĩa thế nào là một con người “tốt”, “phù hợp” hay “rủi ro”, và người bị đánh giá có thể nhìn lại, sửa lại hoặc từ chối cách diễn giải đó hay không.

Một hệ thống không trở nên nhân văn chỉ vì nó hiểu con người bằng nhiều dữ liệu hơn.

Huyền thoại cá nhân thường được xây từ những khoảnh khắc đúng: quyết định táo bạo, sản phẩm thành công, tầm nhìn được chứng minh. Những hậu quả không mong muốn dễ bị đẩy sang phần chú thích hoặc giải thích như lỗi của người sử dụng.

Nhưng một cuộc đời có chiều sâu không chỉ được đo bằng điều nó tạo ra. Nó còn được đo bằng cách người đó phản ứng khi phát hiện công việc của mình gây hại: họ phủ nhận, im lặng, sửa đổi, công khai cảnh báo hay dùng ảnh hưởng để thay đổi hệ thống?

Thừa nhận hậu quả không phá hủy huyền thoại cá nhân. Nó chuyển câu chuyện từ hình tượng bất khả sai sang hành trình có khả năng học hỏi. Trách nhiệm không yêu cầu con người nhìn thấy trước mọi điều; nó yêu cầu họ không tiếp tục giả vờ không biết khi bằng chứng đã xuất hiện.

Di sản đáng tin không phải câu chuyện trong đó nhân vật chính luôn đúng. Đó là câu chuyện cho thấy họ đã làm gì với quyền lực của chính mình sau khi nhận ra mình có thể sai.

Huyền thoại cá nhân trưởng thành không hỏi “tôi đã tạo ra gì” mà còn hỏi “tôi đã làm gì khi thấy hậu quả của nó”.

Hồ sơ nghề nghiệp truyền thống ưu tiên kết quả: doanh thu, sản phẩm, bằng sáng chế, quy mô và giải thưởng. Những tín hiệu ấy quan trọng nhưng chưa nói một người đưa ra quyết định thế nào, phản ứng với rủi ro ra sao và chịu trách nhiệm đến đâu khi công việc tác động đến người khác.

Một work identity sâu hơn cần cho thấy mục đích, vai trò, giới hạn, những đánh đổi đã được cân nhắc và bằng chứng về cách người đó sửa sai. Nó không biến đạo đức thành điểm số. Nó làm cho quá trình ra quyết định trở thành phần có thể được hiểu và đối thoại.

Đối với AI, Forwork không nên xây một hệ thống quyết định ai xứng đáng bằng cách nén con người thành một nhãn dự đoán. Công nghệ nên giúp người đọc hiểu thêm bối cảnh, nguồn gốc và mối quan hệ giữa các bằng chứng; quyền giải thích và quyền sửa vẫn phải thuộc về con người.

Tương lai của work identity không chỉ là làm năng lực dễ được nhìn thấy hơn. Nó còn là làm trách nhiệm không thể dễ dàng biến mất phía sau thành tựu, thương hiệu hoặc thuật toán.

Trí tuệ tạo ra khả năng. Danh tính công việc có trách nhiệm phải cho thấy khả năng ấy đã được sử dụng vì điều gì và với hậu quả nào.