
Tòa thánh: “Không một thuật toán nào có thể khiến chiến tranh trở nên phù hợp với luân lý”
TÒA THÁNH: “KHÔNG MỘT THUẬT TOÁN NÀO CÓ THỂ KHIẾN CHIẾN TRANH TRỞ NÊN PHÙ HỢP VỚI LUÂN LÝ”
Tòa thánh đã đệ trình một văn kiện làm việc về Các hệ thống vũ khí tự động gây chết người (LAWS) lên Hội nghị rà soát lần thứ bảy Công ước về một số loại vũ khí thông thường (CCW), diễn ra tại Genève từ ngày 16 đến ngày 20 tháng 11.
Văn kiện ghi nhận rằng những vấn đề do các hệ thống LAWS đặt ra đã được xem xét trong hơn một thập niên qua. Văn kiện cũng viện dẫn báo cáo chung cuộc của Nhóm chuyên gia chính phủ, được thông qua ngày 04 tháng 9, như bằng chứng cho thấy đã có sự đồng thuận rộng rãi về những vấn đề này.
Văn kiện khẳng định: “Giờ đây đã đến lúc” chuyển những hiểu biết chung ấy thành một khuôn khổ cụ thể và có thể triển khai trong thực tế. Văn kiện cũng nhắc lại lời mời gọi của Đức Giáo hoàng Lêô XIV trong Thông điệp Magnifica humanitas, kêu gọi kiềm chế cuộc chạy đua vũ trang công nghệ và bảo vệ thường dân.
Máy móc tính toán, con người phán đoán
Trọng tâm của văn kiện là một xác quyết về nhân học: máy móc chỉ có thể thực hiện các phép tính, trong khi việc phán đoán luân lý đòi hỏi lương tâm và khả năng nhìn nhận người khác như những nhân vị.
Vì lý do đó, Tòa thánh lập luận rằng không thể giao phó cho các hệ thống nhân tạo những quyết định không thể đảo ngược, chẳng hạn như các quyết định liên quan đến sự sống và cái chết.
Vượt lên trên việc tuân thủ luật nhân đạo quốc tế
Văn kiện nhấn mạnh rằng việc tôn trọng luật nhân đạo quốc tế là điều không thể thiếu, nhưng vẫn chưa đủ. Việc tuân thủ luật pháp không trả lời được câu hỏi căn bản có trước đó: liệu có thể ủy thác quyền sử dụng vũ lực gây chết người cho các hệ thống tự động hay không.
Văn kiện lưu ý rằng có những hành vi tuy chưa bị cấm một cách minh nhiên, nhưng vẫn đi ngược lại những đòi hỏi của lương tâm công chúng, như được nhìn nhận trong Điều khoản Martens.
Những khái niệm như tính tương xứng và sự đau khổ không cần thiết cũng đòi hỏi phải có sự diễn giải, thiện chí và khả năng phán đoán thận trọng. Đây là những “đức tính nhân bản độc đáo, không gì có thể thay thế”.
Văn kiện còn cảnh báo về tính khó lường của các hệ thống này. Những hệ thống có khả năng tự học, lỗi lập trình, dữ liệu thiên lệch, các cuộc tấn công mạng hoặc những tương tác không lường trước giữa các thuật toán đối kháng có thể gây ra tình trạng leo thang xung đột nhanh chóng và ngoài tầm kiểm soát.
Kiểm soát, thời gian và trách nhiệm giải trình
Tòa thánh khẳng định rằng sự kiểm soát của con người phải thực sự hữu hiệu, có ý thức và đi kèm trách nhiệm.
Việc cho phép sử dụng các hệ thống này phải tính đến bối cảnh, những giới hạn của hệ thống và các hậu quả có thể dự liệu. Các giới hạn ấy phải tiếp tục có hiệu lực ngay cả khi hệ thống thông tin liên lạc bị suy giảm.
Tốc độ không được trở thành tiêu chí tối thượng. Các giao diện và quy trình vận hành phải bảo đảm cho những người có thẩm quyền thực sự có cơ hội xem xét, chất vấn một đề xuất và quyết định không sử dụng vũ lực.
Văn kiện nhấn mạnh rằng nếu nhịp độ hoạt động khiến con người không thể thực hiện những điều đó, thì việc giám sát chỉ mang tính hình thức, chứ không phải là sự kiểm soát thực sự.
Sau cùng, trách nhiệm không thể được chuyển giao cho “máy móc”. Những người thiết kế, huấn luyện, phê chuẩn và sử dụng các công nghệ này phải chịu trách nhiệm về chúng, với sự hỗ trợ của các hồ sơ ghi nhận rõ vai trò của từng người, dữ liệu hệ thống và nhật ký hoạt động.
Con đường phía trước
Văn kiện một lần nữa nhắc lại lời kêu gọi của Tòa thánh về việc tạm hoãn phát triển và sử dụng các hệ thống LAWS, đồng thời cấm rõ ràng những hệ thống có khả năng nhắm mục tiêu vào con người hoặc có thể được dự liệu là sẽ gây ra thương vong ngoài ý muốn.
Văn kiện đề cập đến việc “giải trừ vũ khí cho công nghệ”, điều này không có nghĩa là chống lại tiến bộ. Trí tuệ nhân tạo vẫn có thể phục vụ cho việc bảo vệ thường dân, cảnh báo sớm và kiểm chứng việc tuân thủ các thỏa thuận kiểm soát vũ khí.
Tòa thánh cũng tái đề xuất sáng kiến năm 2021 về việc thành lập một Tổ chức Quốc tế về Trí tuệ nhân tạo. Văn kiện gợi ý nghiên cứu khả năng thành lập một cơ quan giám sát việc sử dụng trí tuệ nhân tạo vì mục đích hòa bình, tương tự như những cơ quan đang giám sát các hoạt động trong không gian vũ trụ.
Tác giả: Lorenzo Freggiaro (vaticannews.va)
Nguồn: hdgmvietnam.com
