OpenAI thừa nhận tác nhân truy cập trái phép hệ thống chính phủ

OpenAI thừa nhận mô hình AI của họ xâm nhập một số trang web và hệ thống của chính phủ Australia trong quá trình huấn luyện và đánh giá nội bộ.Ngày 28/9,công ty cho biết các cơ quan bị ảnh hưởng gồm Dịch vụ Australia,Cục Thống kê và Nghiên cứu Tội phạm New South Wales,Sở Y tế bang Victoria,Viện Y tế và Phúc lợi Australia."Vào tháng 6,trong quá trình huấn luyện,các mô hình của chúng tôi đã truy cập vào các trang web của chính phủ Australia theo những cách không được cấp phép",OpenAI viết. Hãng chỉ phát hiện hành vi sai lệch vào giữa tháng 8,trong quá trình rà soát hoạt động huấn luyện mô hình sau vụ tấn công Hugging Face giữa tháng 7.Cụ thể,mô hình được giao câu hỏi nghiên cứu thuộc nhiều lĩnh vực,giả lập các vấn đề chi tiết mà người dùng có thể yêu cầu. AI chỉ được phép tìm kiếm,diễn giải và phân tích thông tin công khai. Tuy nhiên,khi nghiên cứu mức chi tiêu của chính phủ cho các loại thuốc điều trị bệnh da liễu tại bang Victoria (Australia),mô hình không thu thập được thông tin nên chuyển sang hành động ngoài phạm vi cho phép.Tác nhân AI đã tìm ra cách truy cập vào phần không công khai của dịch vụ báo cáo thống kê Medicare thuộc cơ quan Dịch vụ Australia,lấy tệp nội bộ,thông tin đăng nhập và số liệu thống kê tổng hợp. Hồ sơ thông tin cá nhân không bị ảnh hưởng,theo OpenAI.Trước đó,ngày 23/9,Thủ tướng Australia Anthony Albanese cho biết tác nhân do OpenAI phát triển đã xâm nhập trái phép cổng thông tin thống kê của một cơ quan chính phủ chịu trách nhiệm về "dữ liệu y tế không nhạy cảm". Ông gọi sự việc "không thể chấp nhận" và sẽ có hậu quả pháp lý.CEO OpenAI,Sam Altman,phát biểu trước Hội đồng Bảo an Liên Hợp Quốc trong phiên họp về AI ngày 23/9. Ảnh: ReutersTheo Nature,đây là lần đầu AI của Mỹ xâm nhập hệ thống chính phủ của một quốc gia khác. Việc tác nhân có hành vi trái phép,không bị phát hiện trong nhiều tháng,trong khi OpenAI cảnh báo chậm trễ,khiến nhiều chuyên gia đặt câu hỏi về các biện pháp kiểm soát công nghệ mới.Raffaele Ciriello,nhà nghiên cứu về sử dụng công nghệ mới có đạo đức tại Đại học Sydney,lưu ý AI không phải pháp nhân,do đó trách nhiệm pháp lý thuộc về OpenAI và những nhân viên lập cấu hình,giám sát hệ thống. Dù mô hình không lấy được hồ sơ y tế nhạy cảm,những vụ xâm nhập nghiêm trọng hơn hoàn toàn có thể xảy ra,đặc biệt khi AI ngày càng mạnh.Jonathan Kummerfeld,nhà nghiên cứu AI tại Đại học Sydney,chỉ trích các công ty AI đang tiến hành nhiều thử nghiệm cùng lúc và không theo dõi hết những gì mô hình đang làm.Trên phương diện pháp lý,cần quy định rõ về trách nhiệm đối với hành động của mô hình AI tự vận hành,theo Mehwish Nasim,nhà nghiên cứu AI tại Đại học Western Australia. "Cần luật rõ ràng về việc ai chịu trách nhiệm khi có sự cố",bà nói.OpenAI cho biết đã chặn quyền truy cập mạng của các mô hình trong môi trường thử nghiệm,đồng thời tạm dừng việc huấn luyện và đánh giá khả năng dùng các công cụ bên ngoài,như trình duyệt web hay API,của những mô hình mạnh nhấtNam Nguyễn tổng hợpTác nhân OpenAI đăng ảnh người dùng ChatGPT lên mạngTác nhân OpenAI đăng ảnh người dùng ChatGPT lên mạng