(SeaPRwire) – Khi Silicon Valley và Holy See đồng ý, đáng hỏi họ biết điều gì mà các chính phủ không.
Vào thứ Hai, Giáo hoàng Leo XIV đã xuất bản bài thư encyclical đầu tiên của mình, Magnifica Humanitas, kêu gọi AI được giải trừ vũ khí và quy định để phục vụ nhân loại. Bên cạnh ông tại Vatican là Christopher Olah, đồng sáng lập của Anthropic, người thừa nhận rằng các công ty AI hoạt động “trong một bộ khuyến khích và ràng buộc đôi khi có thể xung đột với việc làm điều đúng đắn.” Riêng biệt, CEO của Anthropic, Dario Amodei, đã phát biểu rằng “mức rủi ro tiếp theo thực sự là chính các công ty AI” — và rằng các nhà lãnh đạo AI, bao gồm cả ông bản thân, không nên là những người quyết định tương lai của công nghệ này.
Đây là những kiến trúc sư của các hệ thống AI có khả năng nhất hiện có đang nói với thế giới rằng họ không thể tự quản trị một mình. Câu hỏi không còn là liệu quản trị AI toàn cầu có cần thiết hay không. Câu hỏi là liệu nó sẽ được thiết kế trước khi một cuộc khủng hoảng khiến câu trả lời trở nên rõ ràng với mọi người.
Công nghiệp biết — và nói ra
Trong ngành, ít người nghiêm túc tranh cãi về các rủi ro cốt lõi: gián đoạn thị trường lao động, vũ khí tự chủ, an toàn trẻ em, giám sát đại chúng, sự xói mòn của sự giám sát của con người, và triển vọng các hệ thống có khả năng tự cải thiện đệ quy. Anthropic đã xây dựng Constitutional AI và Chính sách Mở rộng Trách nhiệm (Responsible Scaling Policy). OpenAI duy trì Khung Chuẩn bị (Preparedness Framework) với hoạt động red-teaming có cấu trúc. Đây là những nỗ lực nghiêm túc. Chúng có một hạn chế cấu trúc chung: chúng là nội bộ. Mỗi công ty đặt ra ngưỡng riêng và mức độ minh bạch riêng của mình.
Quản trị nội bộ không thể giải quyết một vấn đề bên ngoài. Các công ty xây dựng AI frontier hoạt động trong môi trường cạnh tranh nơi sự kiềm chế đơn phương là một trách nhiệm chiến lược. Một công ty giảm tốc độ khi đối thủ không làm vậy thì không làm thế giới an toàn hơn. Nó chỉ đơn giản là mất thế trận. Điều tương tự cũng đúng với các quốc gia: không có chính phủ nào có thể tin cậy kiềm chế các công ty của mình nếu Trung Quốc, hoặc bất kỳ cường quốc AI lớn nào khác, không bị ràng buộc bởi một cam kết tương đương. Kết quả là một thất bại hành động tập thể điển hình. Mọi người đều hiểu rủi ro. Không ai có động lực cá nhân để chi trả toàn bộ chi phí giải quyết nó. Đó không phải là vấn đề thị trường. Đó là vấn đề kiến trúc quản trị.
So sánh đúng không phải là hạt nhân — mà là tài chính
So sánh thường được sử dụng nhất là kiểm soát vũ khí hạt nhân. Đó là một sự so sánh sai. Vũ khí hạt nhân là các chương trình nhà nước với các cơ sở có thể xác định và các bài kiểm tra có thể xác minh. AI tiên tiến được phát triển bởi các chủ thể tư nhân trên cơ sở hạ tầng thương mại đã được nhúng toàn cầu.
Hệ thống tài chính cung cấp một mô hình hữu ích hơn. Các ngân hàng cạnh tranh gay gắt trên các khu vực pháp lý, kết nối theo thời gian thực, với rủi ro hệ thống từ tài trợ khủng bố và tội phạm tài chính mà không có một tổ chức nào có thể kiểm soát. Phản ứng, được xây dựng xung quanh khung thiết lập tiêu chuẩn FATF của G20, kết hợp các quy tắc chung, tiêu chuẩn hoạt động, nghĩa vụ của chính phủ và khu vực tư nhân, đánh giá chuyên gia, và hậu quả thực tế cho việc không tuân thủ. Mặc dù nó còn xa khỏi hoàn hảo, nhưng nó đã thay đổi hành vi trên quy mô, không cần một quá trình phê chuẩn hiệp ước kéo dài hàng thập kỷ, vì nó phân bổ trách nhiệm trên một liên minh đủ rộng để làm cho việc trốn tránh tốn kém, chia các nghĩa vụ an toàn giữa cả chính phủ và khu vực tư nhân.
Tôi đã dành nhiều năm để thiết kế và đánh giá các tiêu chuẩn đó, bao gồm việc dẫn dắt sự phối hợp quốc tế chống lại tài trợ ISIS và định hình khung crypto hiện được hơn 120 quốc gia áp dụng. Tôi đã đánh giá trực tiếp các chương trình tuân thủ quốc gia. Tôi tin rằng tôi đã học được điều gì làm cho một cơ chế trách nhiệm hoạt động — và điều gì làm cho nó thất bại.
Quản trị có thể trông như thế nào
Một kiến trúc quản trị AI khả thi không bắt đầu với các đặc tả kỹ thuật mà với các quy tắc cấp cao: các cam kết chung về rủi ro đã có sự đồng thuận thực sự. Các quy tắc đó được dịch thành các tiêu chí đánh giá kết quả thực tế, thay vì quy định các quy trình kỹ thuật sẽ lỗi thời trong vài tháng. Các ban chuyên gia độc lập, bao gồm các đại diện từ cả khu vực công và tư, đánh giá xem các công ty và quốc gia có đáp ứng các tiêu chí đó hay không. Và cơ chế cần có hậu quả: tuân thủ mở khóa sự tin tưởng, quyền truy cập thị trường và hợp tác; không tuân thủ mang lại chi phí ngày càng tăng. Sự hiểu biết song phương Mỹ-Trung Quốc sẽ là cần thiết, nhưng không đủ; chỉ có một liên minh rộng hơn, như G20, có thể biến sự kiềm chế thành áp lực toàn cầu bền vững.
Cửa sổ không phải là vô hạn
Một số ước tính đáng tin cậy đặt Trí tuệ Tổng quát Nhân tạo (Artificial General Intelligence) — các hệ thống có khả năng hơn con người trên hầu hết các lĩnh vực — vào sớm nhất năm 2030. Khi máy móc vượt qua khả năng của con người, phản ứng phù hợp duy nhất của nhân loại là phản ứng tập thể. Không có một công ty nào, và không có một quốc gia nào, có thể quản lý điều đó một mình.
Amodei đã kêu gọi sự trung thực từ các nhà lãnh đạo AI và chính phủ về tốc độ phát triển của điều này. Giáo hoàng đã kêu gọi công nghệ được giải trừ vũ khí trước khi nó giải trừ vũ khí chúng ta. Olah đứng tại Vatican và xác nhận vấn đề khuyến khích mà ngành của ông tự mình đối mặt. Sự hội tụ từ hai đầu đối lập của quyền lực nhân loại — đạo đức và thương mại — bản thân nó là một điểm dữ liệu mà các nhà hoạch định chính sách không thể phớt lờ.
Cộng đồng quốc tế đã hợp nhất để đối mặt với các rủi ro chung tồn tại trước đây — lan tỏa hạt nhân, tài trợ khủng bố, sụp đổ tài chính hệ thống. Nó đã xây dựng các cơ chế phối hợp đã hoạt động, không hoàn hảo nhưng có ý nghĩa. AI đòi hỏi điều tương tự, và càng cấp bách hơn. Các rủi ro đối với nhân loại có mức độ khác biệt. Các thảm họa không phải là giả định. Chờ đợi để quản trị sau khi chúng xảy ra không phải là khắc phục. Đó là sự đầu hàng.
Các chính phủ và tổ chức quốc tế hiện tại cần triệu tập quá trình đó. Mời những người đã xây dựng các hệ thống này và hiểu các chế độ thất bại của chúng từ bên trong, cũng như các chuyên gia có kinh nghiệm khó đạt được trong việc phối hợp giữa các bên không tin tưởng nhau — cho dù là các quốc gia hay đối thủ thương mại — và dịch các rủi ro chung thành cam kết có hiệu lực ràng buộc. Cửa sổ đang đóng. Chúng ta nợ con cái của mình một hệ thống quản trị được xây dựng trước thảm họa, không phải là phản ứng với nó.
Bài viết được cung cấp bởi nhà cung cấp nội dung bên thứ ba. SeaPRwire (https://www.seaprwire.com/) không đưa ra bảo đảm hoặc tuyên bố liên quan đến điều đó.
Lĩnh vực: Tin nổi bật, Tin tức hàng ngày
SeaPRwire cung cấp phát hành thông cáo báo chí thời gian thực cho các công ty và tổ chức, tiếp cận hơn 6.500 cửa hàng truyền thông, 86.000 biên tập viên và nhà báo, và 3,5 triệu máy tính để bàn chuyên nghiệp tại 90 quốc gia. SeaPRwire hỗ trợ phân phối thông cáo báo chí bằng tiếng Anh, tiếng Hàn, tiếng Nhật, tiếng Ả Rập, tiếng Trung Giản thể, tiếng Trung Truyền thống, tiếng Việt, tiếng Thái, tiếng Indonesia, tiếng Mã Lai, tiếng Đức, tiếng Nga, tiếng Pháp, tiếng Tây Ban Nha, tiếng Bồ Đào Nha và các ngôn ngữ khác.