Hà Linh(Technews) – Mỹ và Trung Quốc thảo luận cơ chế liên lạc để xử lý những sự cố lớn liên quan AI trong bối cảnh công nghệ phát triển nhanh.
Mỹ và Trung Quốc thảo luận cơ chế liên lạc để xử lý những sự cố lớn liên quan AI trong bối cảnh công nghệ phát triển nhanh. Các thông tin được Reuters, Axios và SBS phản ánh trong tháng 9 đề cập từ đề xuất ban đầu đến quá trình trao đổi giữa hai phía. Mục tiêu của kênh liên lạc là giảm nguy cơ hiểu sai và hỗ trợ trao đổi khi xuất hiện tình huống có thể ảnh hưởng an ninh. Một cơ chế liên lạc không đồng nghĩa hai nước đã giải quyết mọi khác biệt về phát triển hoặc quản lý AI. Hiệu quả còn phụ thuộc việc xác định đầu mối, loại sự cố cần thông báo và cách sử dụng thông tin được chia sẻ. Trong lĩnh vực có mức độ cạnh tranh cao, duy trì khả năng trao đổi là một phần của quản lý rủi ro, bên cạnh các biện pháp riêng của từng quốc gia.
Một mô hình AI chỉ tạo ra giá trị khi được đặt trong một quy trình có nhu cầu rõ ràng. Chất lượng câu trả lời là một phần của bài toán; tổ chức sử dụng còn cần quan tâm khả năng tiếp cận dữ liệu, thời gian xử lý và cách tích hợp kết quả vào công việc. Khi chuyển từ thử nghiệm sang vận hành, những yêu cầu này thường bộc lộ rõ hơn so với việc đánh giá sản phẩm qua một màn trình diễn đơn lẻ.
Dữ liệu đóng vai trò quan trọng trong quá trình đó. Thông tin cần được tổ chức để hệ thống có thể tìm đúng nội dung, nhận biết phiên bản và hạn chế sử dụng dữ liệu đã lỗi thời. Với một ứng dụng chuyên ngành, nhiều dữ liệu chưa chắc tốt hơn dữ liệu có chất lượng. Cách thu thập, chuẩn hóa và cập nhật ảnh hưởng trực tiếp đến khả năng hỗ trợ người dùng trong các tình huống cụ thể. Các kết quả đánh giá mô hình cũng cần được đọc trong điều kiện đo tương ứng. Một công cụ có thể hoạt động tốt ở nhóm nhiệm vụ này nhưng chưa đạt cùng mức độ tin cậy ở nhóm nhiệm vụ khác. Điểm số trên một bộ kiểm tra cung cấp thông tin tham khảo, song không tự bảo đảm hiệu quả khi sản phẩm tiếp xúc với dữ liệu, hệ thống và cách đặt yêu cầu khác trong thực tế.
Đối với người sử dụng, một câu trả lời trôi chảy chưa đủ để chứng minh nội dung đúng. Những thông tin quan trọng vẫn cần căn cứ có thể đối chiếu, đặc biệt khi kết quả ảnh hưởng đến quyết định chuyên môn. Thiết kế sản phẩm nên giúp người dùng nhận biết phần nào dựa trên tài liệu, phần nào là suy luận và trường hợp nào cần chuyển đến người có trách nhiệm kiểm tra.
Chi phí vận hành cũng là yếu tố cần tính đến trước khi mở rộng. Một tác vụ có thể đòi hỏi nhiều lượt xử lý, truy xuất dữ liệu hoặc sử dụng công cụ. Vì vậy, giá của một lượt gọi mô hình chưa phản ánh toàn bộ chi phí hoàn thành công việc. Tổ chức cần xem đồng thời tốc độ, độ ổn định, mức sử dụng tài nguyên và nguồn lực dành cho giám sát, hỗ trợ. Khi AI được trao quyền thực hiện nhiều thao tác hơn, giới hạn hành động cần được xác định từ đầu. Quyền truy cập thông tin nên phù hợp mục đích và vai trò của từng người dùng. Những thay đổi có tác động lớn cần có cơ chế kiểm tra và lưu dấu vết. Cách tổ chức này giúp công nghệ tham gia vào công việc mà vẫn giữ được khả năng theo dõi, điều chỉnh và chịu trách nhiệm về kết quả.
Triển vọng của một giải pháp vì thế phụ thuộc khả năng giải quyết vấn đề cụ thể qua thời gian. Giai đoạn thử nghiệm cần tạo ra bằng chứng để quyết định nên mở rộng, điều chỉnh hay dừng một tính năng. Các chỉ tiêu như chất lượng đầu ra, thời gian hoàn thành và mức độ thuận tiện sẽ giúp phân biệt một ý tưởng có sức hút ban đầu với một sản phẩm có thể sử dụng thường xuyên.
Nguồn: Reuters, Axios, SBS
