AI tạo tin tình báo sai, suýt đẩy quân đội Mỹ đối đầu tàu Trung Quốc

Theo CNN, một báo cáo tình báo do một nhà phân tích đánh bom thuộc Bộ Tư lệnh Tác chiến Đặc biệt Mỹ lập với sự hỗ trợ của AI đã khiến quân đội Mỹ chuẩn bị đánh chặn một tàu Trung Quốc ở Trung Đông. Chỉ ngay trước khi chiến dịch được triển khai, các quan chức mới phát hiện thông tin về lô hàng trên tàu là sai.

Báo cáo tình báo gây báo động

Theo bốn nguồn tin am hiểu sự việc, báo cáo được lưu hành trong quân đội Mỹ vào mùa Xuân năm nay, giữa lúc xung đột với Iran đang diễn ra, cho rằng một tàu Trung Quốc ở Trung Đông đang vận chuyển các linh kiện phục vụ chương trình vũ khí hạt nhân.

Thông tin này lập tức khiến quân đội Mỹ lên kế hoạch đánh chặn con tàu. Hai nguồn tin cho biết các quân nhân Mỹ có vũ trang đã chuẩn bị lên tàu. Máy bay quân sự cũng được triển khai trên không, theo một trong hai nguồn tin trên và một nguồn khác nắm rõ sự việc.

Tuy nhiên, ngay trước khi chiến dịch được tiến hành, các quan chức kiểm tra kỹ hơn báo cáo và phát hiện nó được một nhà phân tích thuộc Bộ Tư lệnh Tác chiến Đặc biệt Mỹ lập với sự hỗ trợ của trí tuệ nhân tạo (AI).

Theo các nguồn tin, chatbot mà nhà phân tích sử dụng đã nhận diện sai loại hàng hóa trên tàu. CNN không xác định được thực tế con tàu đang chở loại hàng gì.

Một nguồn tin mô tả báo cáo là “hoàn toàn sai”. Nguồn tin này cho rằng sự việc “suýt khơi mào một cuộc chiến”.

Bất kỳ hoạt động quân sự nào nhằm vào một tàu Trung Quốc đều có nguy cơ nhanh chóng leo thang thành một cuộc đối đầu vũ trang giữa Mỹ và Trung Quốc.

AI đã tạo ra thông tin sai như thế nào?

Theo một nguồn tin, nhà phân tích đã sử dụng chatbot để xử lý thông tin tình báo liên quan đến bản kê khai hàng hóa của con tàu, do Bộ Tư lệnh Tác chiến Đặc biệt Mỹ tại Thái Bình Dương, đóng tại Hawaii, thu thập.

Chưa rõ chatbot được sử dụng là một công cụ thương mại hay hệ thống do chính phủ Mỹ cung cấp.

Chatbot đã kết hợp thông tin tình báo từ các nguồn công khai với dữ liệu tình báo tín hiệu mật mà chính phủ Mỹ nắm giữ, sau đó đưa ra kết luận sai về loại hàng hóa trên tàu.

Nhà phân tích tiếp tục sử dụng AI để đóng gói những phát hiện này thành một báo cáo tình báo theo mẫu tiêu chuẩn. Báo cáo sau đó được phổ biến trong hệ thống và được các quan chức quân sự tiếp nhận như một sản phẩm tình báo thông thường.

Một cựu quan chức cấp cao Mỹ am hiểu các hệ thống AI mà giới phân tích quân sự và tình báo sử dụng nhận xét rằng các công cụ nội bộ phần lớn chỉ là những phiên bản tương tự công cụ thương mại.

Khi AI được đưa vào quyết định quân sự

Sự việc cho thấy một rủi ro trực tiếp hơn của việc sử dụng AI trong quân đội: con người có thể đưa ra những quyết định nghiêm trọng dựa trên thông tin sai do hệ thống tự động tạo ra.

Quân đội và cộng đồng tình báo Mỹ đang nhanh chóng đưa AI vào nhiều khâu, trong đó có phân tích lượng lớn dữ liệu tình báo và hỗ trợ xác định mục tiêu. Mục tiêu là giúp quân đội đưa ra quyết định nhanh hơn trên chiến trường.

Bộ trưởng Chiến tranh Mỹ Pete Hegseth hồi tháng 1 công bố chiến lược thúc đẩy ứng dụng AI, trong đó kêu gọi mở rộng quyền tiếp cận các mô hình AI cho khoảng 3 triệu quân nhân và nhân viên dân sự thuộc Bộ Chiến tranh (Bộ Quốc phòng).

Tuy nhiên, theo nhiều quan chức Mỹ, quá trình triển khai hiện khá phân tán. Các cơ quan và đơn vị khác nhau sử dụng những công cụ khác nhau, với các yêu cầu và tiêu chuẩn an toàn khác nhau. Hiện cũng chưa có một bộ tiêu chuẩn thống nhất để kiểm chứng thông tin do các hệ thống AI tạo ra.

Điều này khiến độ tin cậy và khả năng hoạt động của các hệ thống AI được sử dụng trong quân đội và cộng đồng tình báo có sự khác biệt đáng kể.

Một nguồn tin am hiểu chính sách hiện tại của quân đội Mỹ cho biết việc sử dụng AI trong xác định mục tiêu đang gia tăng, trong khi chưa có hướng dẫn rõ ràng về việc sự hiện diện của con người trong quy trình có thể ngăn chặn thương vong dân sự hoặc bắn nhầm lực lượng đồng minh như thế nào.

Theo một nguồn tin, hiện tượng “ảo giác” của AI như trong vụ việc này không phải trường hợp cá biệt trong cộng đồng tình báo kể từ khi các công cụ AI bắt đầu được sử dụng rộng rãi trong chính phủ.

Một số quan chức tình báo kỳ cựu, dù ủng hộ việc sử dụng AI trong quân đội, lo ngại công nghệ này đang tạo sức ép buộc các nhà phân tích phải xử lý và phổ biến thông tin nhanh hơn, từ đó làm tăng nguy cơ sai sót.

Một nguồn tin nhận xét: “AI cho phép bạn đi đến một ý tưởng tồi nhanh hơn”.

Vụ việc với tàu Trung Quốc cho thấy trong môi trường quân sự, vấn đề không chỉ nằm ở khả năng AI đưa ra thông tin sai mà còn ở việc một thông tin sai có thể được đưa vào quy trình tình báo chính thức và nhanh chóng biến thành cơ sở cho hành động thực tế.