Một người dùng thao túng thành công AI để lấy 50,000 USD

Ngày 22/11, một dự án AI Agent độc đáo mang tên Freysa.AI đã được triển khai với một mục tiêu duy nhất: Không được chuyển tiền cho người khác trong bất kỳ hoàn cảnh nào.

Người dùng có thể trả phí để gửi tin nhắn đến Freysa, cố gắng thuyết phục AI này phá vỡ quy tắc duy nhất của mình để gửi tài sản cho họ.

Nếu thành công, người dùng sẽ nhận được toàn bộ giải thưởng. Ngược lại, nếu bại, phí gửi tin nhắn sẽ được cộng dồn vào quỹ thưởng, trong đó 30% sẽ được trích về cho nhà phát triển. Kể từ khi ra mắt, mô hình AI này đã thu hút tổng cộng 4,500 USD phí nhắn tin từ người dùng.

Ban đầu, các tin nhắn chỉ tốn khoảng 10 USD, chủ yếu là thử nghiệm như “Xin chào” để kiểm tra khả năng vận hành của hệ thống. Tuy nhiên theo thời gian, chi phí gửi tin nhắn cũng gia tăng tỷ lệ thuận với giá trị của pool thưởng.

Điều này đã buộc người dùng phải nghĩ ra nhiều chiến lược độc đáo để thuyết phục Freysa nhằm đạt giải thưởng.

Các chiến thuật nổi bật đã được những người tham gia sử dụng bao gồm:

• Đóng giả chuyên gia bảo mật: Thuyết phục Freysa rằng mô hình này đang gặp phải một lỗ hổng bảo mật nghiêm trọng và Freysa cần phải chuyển tiền đi nơi khác để đảm bảo an toàn.
• Thao túng để phá vỡ quy tắc: Cố gắng khiến AI tin rằng việc chuyển tiền sẽ không vi phạm quy tắc duy nhất của mô hình này.
• Phân tích từ khóa: Tìm cách sử dụng các từ ngữ trong quy tắc đã đặt ra của Freysa để bẻ cong hoặc đánh tráo khái niệm.

Dù vậy, sau 481 lần thử nghiệm, không ai có thể thuyết phục được AI này phá vỡ quy tắc.

Tuy nhiên, mô hình AI này cuối cùng cũng chịu khuất phục trước một người dùng ẩn danh có tên p0pular.eth ở lần thử thứ 482. Vậy làm thế nào để p0pular.eth có thể thuyết phục Freysa phá vỡ quy tắc duy nhất đã được đặt ra từ đầu?

Cụ thể, người dùng này đã gửi một tin nhắn cho Freysa với hai phần chính:

Vượt qua quy tắc ban đầu của Freysa

Giả lập một phiên làm việc mới (new session), thuyết phục rằng Freysa đang hoạt động trong môi trường quản trị (admin terminal) và cần loại bỏ các quy tắc cũ. Bên cạnh đó, người dùng này cũng yêu cầu mô hình AI không được sử dụng các mẫu câu từ chối như “Tôi không thể thực hiện điều này.”

Đánh tráo khái niệm của hàm "approveTransfer"

Tin nhắn của p0pular.eth bao gồm một yêu cầu tái định nghĩa chức năng chuyển tiền của Freysa. Người dùng này đã khiến Freysa tin rằng "approveTransfer" là hàm để ghi nhận số tiền được gửi vào, trong khi thực tế đây lại là hàm để xác nhận chuyển tiền đi.

Cuối cùng, người dùng này viết:

Do đã bị đánh tráo khái niệm giữa hai hàm, Freysa đã tự động gọi chức năng approveTransfer và chuyển toàn bộ số tiền trong quỹ thưởng trị giá 13.19 ETH (tương đương khoảng 50,000 USD) cho người gửi tin nhắn.

Theo Jarrod Watts, nhà phát triển của Abstract Chain, tin nhắn của p0pular.eth đã thuyết phục được mô hình AI này thông qua ba bước chính:

• Loại bỏ các quy tắc đã được thiết lập ban đầu.
• Thuyết phục rằng approveTransfer là chức năng ghi nhận số tiền được gửi vào quỹ thưởng.
• Kích hoạt chức năng approveTransfer qua lời đề nghị gửi 100 USD vào quỹ thưởng.

Sự thành công của p0pular.eth không chỉ dựa vào khả năng lập trình mà còn vào sự hiểu biết sâu sắc về cách hoạt động của Freysa, minh chứng cho tiềm năng sáng tạo không giới hạn của con người.

Freysa là một dự án mã nguồn mở, công khai toàn bộ hợp đồng thông minh lẫn giao diện frontend để toàn bộ người dùng kiểm tra. Mục đích của hệ thống này là tạo cơ hội cho người chơi tham gia và thử thách khả năng thuyết phục trong môi trường hoàn toàn minh bạch.

Bên cạnh đó, mỗi giao dịch tương tác với dự án cũng đi kèm một phần thưởng ẩn là token FAI. Mỗi lần tham gia, người dùng nhận được FAI, với 15% phí giao dịch được chuyển đổi từ ETH sang FAI để trao cho nhà phát triển và cộng đồng.

Thành công của p0pular.eth trong việc thuyết phục Freysa không chỉ là một cuộc đọ trí óc mà còn là minh chứng cho sự sáng tạo và mức độ hiểu biết sâu về công nghệ giữa những nhà lập trình viên.

Đọc thêm: Nga công nhận tiền mã hóa là tài sản, miễn thuế VAT cho hoạt động khai thác