Linh Thuý(Technews) – Reuters ngày 22/9 dẫn hai nguồn tin cho biết DeepSeek nằm trong nhóm doanh nghiệp AI được mời tham gia trao đổi với Hội đồng Bảo an Liên Hợp Quốc về những rủi ro của công nghệ.
Reuters ngày 22/9 dẫn hai nguồn tin cho biết DeepSeek nằm trong nhóm doanh nghiệp AI được mời tham gia trao đổi với Hội đồng Bảo an Liên Hợp Quốc về những rủi ro của công nghệ. Thông tin được công bố trong bối cảnh các lãnh đạo thế giới tập trung tại New York cho kỳ họp Đại hội đồng. Việc đưa tin dựa trên nguồn thạo tin cần được giữ đúng mức độ xác nhận.
Chủ đề cho thấy AI đang được thảo luận dưới góc độ an ninh và phối hợp quốc tế, ngoài phạm vi phát triển sản phẩm. Sự tham gia của một doanh nghiệp vào cuộc trao đổi không đồng nghĩa tổ chức quốc tế chứng nhận mô hình của doanh nghiệp đó an toàn. Các nội dung về quản trị cần được phân biệt với quảng bá năng lực hoặc vị thế thương mại của công ty.
Một mô hình AI chỉ tạo ra giá trị khi được đặt trong một quy trình có nhu cầu rõ ràng. Chất lượng câu trả lời là một phần của bài toán; tổ chức sử dụng còn cần quan tâm khả năng tiếp cận dữ liệu, thời gian xử lý và cách tích hợp kết quả vào công việc. Khi chuyển từ thử nghiệm sang vận hành, những yêu cầu này thường bộc lộ rõ hơn so với việc đánh giá sản phẩm qua một màn trình diễn đơn lẻ.
Dữ liệu đóng vai trò quan trọng trong quá trình đó. Thông tin cần được tổ chức để hệ thống có thể tìm đúng nội dung, nhận biết phiên bản và hạn chế sử dụng dữ liệu đã lỗi thời. Với một ứng dụng chuyên ngành, nhiều dữ liệu chưa chắc tốt hơn dữ liệu có chất lượng. Cách thu thập, chuẩn hóa và cập nhật ảnh hưởng trực tiếp đến khả năng hỗ trợ người dùng trong các tình huống cụ thể.
Các kết quả đánh giá mô hình cũng cần được đọc trong điều kiện đo tương ứng. Một công cụ có thể hoạt động tốt ở nhóm nhiệm vụ này nhưng chưa đạt cùng mức độ tin cậy ở nhóm nhiệm vụ khác. Điểm số trên một bộ kiểm tra cung cấp thông tin tham khảo, song không tự bảo đảm hiệu quả khi sản phẩm tiếp xúc với dữ liệu, hệ thống và cách đặt yêu cầu khác trong thực tế.
Đối với người sử dụng, một câu trả lời trôi chảy chưa đủ để chứng minh nội dung đúng. Những thông tin quan trọng vẫn cần căn cứ có thể đối chiếu, đặc biệt khi kết quả ảnh hưởng đến quyết định chuyên môn. Thiết kế sản phẩm nên giúp người dùng nhận biết phần nào dựa trên tài liệu, phần nào là suy luận và trường hợp nào cần chuyển đến người có trách nhiệm kiểm tra.
Chi phí vận hành cũng là yếu tố cần tính đến trước khi mở rộng. Một tác vụ có thể đòi hỏi nhiều lượt xử lý, truy xuất dữ liệu hoặc sử dụng công cụ. Vì vậy, giá của một lượt gọi mô hình chưa phản ánh toàn bộ chi phí hoàn thành công việc. Tổ chức cần xem đồng thời tốc độ, độ ổn định, mức sử dụng tài nguyên và nguồn lực dành cho giám sát, hỗ trợ.
Khi AI được trao quyền thực hiện nhiều thao tác hơn, giới hạn hành động cần được xác định từ đầu. Quyền truy cập thông tin nên phù hợp mục đích và vai trò của từng người dùng. Những thay đổi có tác động lớn cần có cơ chế kiểm tra và lưu dấu vết. Cách tổ chức này giúp công nghệ tham gia vào công việc mà vẫn giữ được khả năng theo dõi, điều chỉnh và chịu trách nhiệm về kết quả.
Triển vọng của một giải pháp vì thế phụ thuộc khả năng giải quyết vấn đề cụ thể qua thời gian. Giai đoạn thử nghiệm cần tạo ra bằng chứng để quyết định nên mở rộng, điều chỉnh hay dừng một tính năng. Các chỉ tiêu như chất lượng đầu ra, thời gian hoàn thành và mức độ thuận tiện sẽ giúp phân biệt một ý tưởng có sức hút ban đầu với một sản phẩm có thể sử dụng thường xuyên.
Nguồn: Reuters
