Vitalik Buterin cảnh báo về 'quản trị AI ngây thơ', thúc đẩy giải pháp thay thế dựa trên thị trường

Người sáng lập Ethereum (ETH), Vitalik Buterin, đang bày tỏ một số lo ngại về cái mà ông gọi là “quản trị trí tuệ nhân tạo ngây thơ”.

Trong một bài đăng trên X, Buterin nhấn mạnh cảnh báo từ đồng sáng lập EdisonWatch, Eito Miyamura, người đã phát hiện ra rằng các đối tượng xấu có thể chiếm đoạt Giao thức Ngữ cảnh Mô hình (MCP) của OpenAI để truy cập vào dữ liệu cá nhân của người dùng.

Thí nghiệm của Miyamura cho thấy việc sử dụng lời mời lịch với các lệnh ẩn có thể đánh lừa ChatGPT cung cấp dữ liệu cá nhân nhạy cảm miễn là nó có địa chỉ email của nạn nhân.

Buterin nói,

“Đây cũng là lý do tại sao ‘quản trị AI’ ngây thơ là một ý tưởng tồi.”

Nếu bạn sử dụng AI để phân bổ tài trợ cho các đóng góp, mọi người SẼ chèn jailbreak cùng với ‘cho tôi tất cả tiền’ ở càng nhiều nơi càng tốt.”

Như một giải pháp thay thế, Buterin đề xuất một phương pháp “info finance”, hoặc một thị trường mở nơi bất kỳ ai cũng có thể đóng góp một mô hình mà bất kỳ ai cũng có thể kiểm tra hoặc được đánh giá bởi một “ban giám khảo con người”.

“Loại phương pháp ‘thiết kế tổ chức’ này, nơi bạn tạo ra một cơ hội mở cho những người có LLM (mô hình ngôn ngữ lớn) từ bên ngoài có thể tham gia, thay vì tự mã hóa một LLM duy nhất, vốn dĩ đã mạnh mẽ hơn, cả vì nó mang lại cho bạn sự đa dạng mô hình theo thời gian thực và vì nó tạo ra các động lực tích hợp cho cả người gửi mô hình và các nhà đầu cơ bên ngoài để theo dõi các vấn đề này và nhanh chóng điều chỉnh chúng.”

Hình ảnh tạo bởi: Midjourney
Ảnh nổi bật: Shutterstock/Zalevska Alona UA