Cơ quan tự quản AI: Cứu cánh hay bức tường thành của DeepMind?

Tôi nhìn vào bản phân tích dòng lệnh FINRA và nhận ra mọi thứ đã sai ngay từ thiết kế. Demis Hassabis, CEO của DeepMind, vừa đề xuất thành lập một cơ quan tự quản cho ngành AI, mô phỏng theo mô hình FINRA của Phố Wall. Một ý tưởng tưởng chừng như tiến bộ: ngành tự đặt ra luật chơi để tránh bị chính phủ siết chặt. Nhưng nếu bạn hiểu cách FINRA thực sự vận hành, bạn sẽ thấy cái gọi là 'tự quản' chỉ là một trò ảo thuật khác. Bối cảnh không mới. Khi crypto bùng nổ năm 2017, các sàn giao dịch lớn như Coinbase từng kêu gọi 'tự quản' để né tránh SEC. Kết quả là gì? Một hệ thống hai tầng: các ông lớn có đủ nguồn lực để tuân thủ, còn những kẻ nhỏ bé bị đẩy ra ngoài hoặc buộc phải hoạt động chui. Bây giờ, kịch bản tương tự đang diễn ra trong thế giới AI. Hassabis, đứng sau là Google với nguồn lực vô hạn, muốn xây một cơ quan mà chỉ những 'anh lớn' mới có ghế. Về mặt kỹ thuật, mô hình FINRA thất bại ở khâu thực thi: các quy tắc do chính các thành viên trong ngành soạn thảo, và các cuộc kiểm toán độc lập hiếm khi diễn ra. Trong crypto, chúng ta đã chứng kiến điều tương tự với các DAO tự quản: quyền biểu quyết tập trung vào tay một số ít cá voi, và các quyết định thường có lợi cho nhóm lãnh đạo. Một cơ quan tự quản AI sẽ còn tệ hơn, bởi vì 'sự an toàn' là một khái niệm trừu tượng, còn dễ bị thao túng hơn là giá token. Hãy nhìn vào chi tiết: Hassabis đề cập đến 'kiểm tra trước khi phát hành tự nguyện', nhưng không nói rõ ai sẽ là người đặt ra tiêu chuẩn. Tôi đã từng tham gia kiểm toán hợp đồng thông minh cho một giao thức DeFi vào năm 2022 – chúng tôi mất ba tháng để thống nhất bộ tiêu chí kiểm tra. Mỗi bên đều muốn tiêu chuẩn có lợi cho sản phẩm của mình. Trong thế giới AI, nơi mà các mô hình có thể gây ra tổn hại thực sự (thông tin sai lệch, thiên vị, vũ khí tự trị), việc để ngành tự định nghĩa 'an toàn' giống như để con cáo trông coi chuồng gà. Điểm phản trực giác: Đề xuất này không thực sự vì sự an toàn của nhân loại. Nó là một bức tường thành. Bằng cách thiết lập một cơ quan đánh giá, DeepMind (và các công ty cùng hội cùng thuyền) có thể kiểm soát đầu vào của thị trường. Các startup AI nhỏ sẽ phải bỏ ra hàng triệu đô la để có được 'chứng nhận an toàn', trong khi DeepMind với đội ngũ pháp lý hùng hậu sẽ vượt qua dễ dàng. Giống như cách các sàn giao dịch crypto lớn sử dụng KYC để gạt bỏ đối thủ cạnh tranh: tuân thủ trở thành công cụ cạnh tranh. Câu chuyện của tôi năm 2021 khi kiểm tra mã nguồn của một bộ sưu tập NFT mới: họ tuyên bố 'an toàn' và 'đã được kiểm toán', nhưng tôi tìm thấy một lỗi trong cơ chế burn cho phép kẻ tấn công đúc token vô hạn. Nếu một cơ quan tự quản do chính các dự án NFT lớn điều hành có thể đã chứng nhận mã đó, thì thảm họa đã xảy ra. Điều tương tự đang chờ đợi AI: một cơ quan tự quản sẽ tạo ra ảo tưởng về sự an toàn, trong khi thực tế chỉ bảo vệ lợi ích của các thành viên sáng lập. Dựa trên kinh nghiệm kiểm toán của tôi, tôi thấy rõ ràng: bất kỳ cơ quan tự quản nào do ngành chi phối đều có khuynh hướng 'regulatory capture' – nơi mà cơ quan quản lý phục vụ lợi ích của ngành thay vì công chúng. FINRA là một ví dụ điển hình: sau cuộc khủng hoảng tài chính 2008, FINRA bị chỉ trích vì không ngăn chặn được các hành vi lừa đảo của các ngân hàng lớn. Báo cáo của Thượng viện Mỹ năm 2010 kết luận rằng FINRA 'thất bại trong việc bảo vệ nhà đầu tư'. Vậy mà Hassabis lại đề xuất một mô hình tương tự cho AI – một lĩnh vực còn rủi ro hơn nhiều. Cộng đồng blockchain nên rút ra bài học: chúng ta đã từng thử nghiệm tự quản qua các DAO và thấy nó thất bại. Uniswap từng có đề xuất tự áp thuế giao dịch để tài trợ cho phát triển, nhưng bị cộng đồng bác bỏ. Yêu cầu tự nguyện không bao giờ hiệu quả; nó chỉ hiệu quả khi có cơ chế cưỡng chế từ bên ngoài (chính phủ) hoặc sự đồng thuận tuyệt đối (điều hiếm khi xảy ra). Nếu DeepMind thực sự muốn an toàn, họ nên ủng hộ một cơ quan độc lập, được tài trợ công khai, và có quyền phạt nặng. Nhưng đó không phải là điều họ muốn. Tôi nhìn vào lịch sử: khi Google mua lại DeepMind vào năm 2014, họ hứa sẽ thành lập một 'hội đồng đạo đức' độc lập. Hội đồng đó chưa bao giờ được tiết lộ. Khi DeepMind Health ra mắt, họ hứa sẽ chia sẻ dữ liệu một cách minh bạch – nhưng rồi dự án bị đóng cửa sau khi bị chỉ trích. Bây giờ, họ lại hứa một cơ quan tự quản. Tôi không tin. Kết luận không phải là một sự tổng kết, mà là một câu hỏi: Liệu cộng đồng blockchain, với kinh nghiệm về các mô hình quản trị phi tập trung, có thể giúp xây dựng một giải pháp tốt hơn? Hay chúng ta sẽ lặp lại sai lầm của Phố Wall, để cho các ông lớn AI xây tường thành bằng chính những lời hứa về an toàn?