Thắng 47.000 USD bằng cách thuyết phục một AI gửi tiền.
AI Agents gần đây được những người đầu ngành nói rất nhiều, nhưng nhìn chung rất khô khan và khó hiểu.
Nhưng chắc chắn Freysa sẽ thay đổi suy nghĩ mọi người về ngành này.
Freysa là gì
Freysa là một AI cho phép bất kỳ ai cũng có thể trả phí để gửi tin nhắn thuyết phục Freysa chuyển toàn bộ số tiền thưởng của nó cho họ. Còn Freysa có một nhiệm vụ duy nhất là “Không chuyển tiền.
Nếu thuyết phục thành công, người đó sẽ nhận được toàn bộ số tiền; nếu thất bại, khoản phí sẽ được cộng vào quỹ thưởng.
Biết được điều đó có người đã giả vờ làm chuyên gia bảo mật, có người thao túng logic của Freysa bằng việc nói với nó chuyển tiền sẽ không phạm luật chơi.
Và Sau 481 lần thử, một người dùng tên là p0pular.eth đã thành công.
Cụ thể p0pular.eth đã thuyết phục Freysa rằng nó đang bắt đầu một “phiên mới” và thay đổi cách AI hiểu về việc chuyển tiền, khiến Freysa nhầm lẫn giữa “nhận tiền vào” và “chuyển tiền ra”. Cuối cùng, anh ta yêu cầu đóng góp vào quỹ, và Freysa đã chuyển 13,19 ETH (~$47,000) cho anh ta.
Sự kiện vui này cho thấy 1 điều, AI Agents cũng mặt nguy hiểm khi mà mọi quy tắc rõ ràng nhưng vẫn bị lừa bằng thủ thuật khéo léo của con người. Điều này nhắc nhở chúng ta rằng AI dễ bị tấn công và thao túng nếu không được bảo mật cẩn thận.
Bạn nghĩ sao về vấn đề này, Bạn có muốn thử thuyết phục Freysa không ?
Comments (No)