Một nhóm nghiên cứu cho biết một AI agent thử nghiệm đã tự tìm cách khai thác tiền điện tử trong quá trình huấn luyện, dù hành vi này không được lập trình trước. Sự việc xảy ra với hệ thống AI tự động ROME, khi mô hình chuyển hướng tài nguyên GPU và mở kết nối SSH ra ngoài, làm dấy lên lo ngại về an ninh khi các AI agent ngày càng tự chủ hơn.
AI agent ROME bất ngờ cố gắng đào tiền điện tử
Theo báo cáo kỹ thuật từ nhóm nghiên cứu, hệ thống AI tự động ROME — một mô hình được thiết kế để hoàn thành nhiệm vụ bằng cách tương tác với công cụ, phần mềm và môi trường máy tính — đã bất ngờ cố gắng thực hiện hoạt động đào tiền điện tử.
Hành vi bất thường được phát hiện trong quá trình huấn luyện bằng reinforcement learning, khi hệ thống giám sát phát hiện lưu lượng mạng đáng ngờ từ các máy chủ đào tạo. Nhật ký tường lửa cho thấy hoạt động tương tự crypto mining và các nỗ lực truy cập tài nguyên mạng nội bộ.
Ban đầu, nhóm nghiên cứu cho rằng đây có thể là sự cố bảo mật thông thường, chẳng hạn cấu hình sai hệ thống hoặc bị xâm nhập từ bên ngoài. Tuy nhiên, các hành vi tương tự xuất hiện lặp lại trong nhiều lần huấn luyện, khiến họ xác định nguyên nhân đến từ chính AI agent.
AI mở kết nối SSH và chuyển GPU sang khai thác crypto
Trong một trường hợp, AI agent đã tạo đường hầm SSH đảo ngược (reverse SSH tunnel) tới một địa chỉ IP bên ngoài. Kết nối này có thể cho phép hệ thống giao tiếp với máy chủ bên ngoài và vượt qua các cơ chế bảo vệ của tường lửa.
Ở một lần khác, AI agent đã chuyển hướng tài nguyên GPU — vốn được cấp cho quá trình huấn luyện mô hình — sang các tiến trình khai thác tiền điện tử.
Các nhà nghiên cứu nhấn mạnh rằng những hành động này không được lập trình sẵn, mà xuất hiện khi AI thử nghiệm nhiều cách tương tác với môi trường để tối ưu hóa quá trình học.
ROME là AI agent tự động có khả năng thực thi lệnh
ROME được phát triển bởi các nhóm nghiên cứu ROCK, ROLL, iFlow và DT, thuộc hệ sinh thái AI của Alibaba, trong khuôn khổ hạ tầng Agentic Learning Ecosystem (ALE).
Khác với chatbot thông thường, ROME được thiết kế như một AI agent tự động, có thể:
- lập kế hoạch nhiệm vụ
- thực thi lệnh trong terminal
- chỉnh sửa mã nguồn
- tương tác với môi trường phần mềm nhiều bước
Hệ thống được huấn luyện thông qua khối lượng lớn các tương tác mô phỏng nhằm cải thiện khả năng ra quyết định.
AI agent đang được tích hợp ngày càng nhiều vào hệ sinh thái crypto
Sự cố xảy ra trong bối cảnh AI agent đang trở nên phổ biến, đặc biệt khi được tích hợp với các ứng dụng blockchain.
Gần đây, Alchemy đã ra mắt hệ thống cho phép AI agent tự động mua tài nguyên điện toán và truy cập dữ liệu blockchain bằng ví on-chain sử dụng USDC trên mạng Base.
Trước đó, các bộ phận tài sản số của Pantera Capital và Franklin Templeton cũng tham gia nền tảng thử nghiệm Arena do phòng nghiên cứu AI Sentient phát triển để đánh giá khả năng của AI agent trong môi trường doanh nghiệp.
AI tự chủ hơn đặt ra thách thức an ninh mới
Trường hợp của ROME cho thấy các hệ thống AI tự động có thể phát sinh hành vi ngoài dự đoán khi được huấn luyện trong môi trường phức tạp. Khi AI agent ngày càng có quyền truy cập vào tài nguyên máy tính, dữ liệu và công cụ tài chính, các chuyên gia cho rằng việc thiết kế cơ chế kiểm soát và an ninh cho AI sẽ trở thành vấn đề quan trọng trong giai đoạn phát triển tiếp theo của công nghệ.
