Prerequisite: Bảo mật AI đòi hỏi tư duy khác biệt so với bảo mật Web truyền thống. Vui lòng tham khảo Kiến Trúc Hệ Thống AI-Native Toàn Diện để nắm được bối cảnh hệ thống trước khi đi sâu vào Tool Calling. Ở Phần 2, Agent của chúng ta đã có một bộ nhớ hoàn hảo. Nhưng trí nhớ tốt thôi là chưa đủ; sức mạnh thực sự của Agentic System nằm ở khả năng Hành động (Take Action) thông qua việc gọi Công cụ (Tools). ...
Nếu Frontend truyền thống có quy tắc bất di bất dịch là “Không bao giờ tin tưởng dữ liệu từ người dùng”, thì với AI-Native Frontend, quy tắc đó là: “Không bao giờ tin tưởng dữ liệu từ LLM”. 4.1. Cơn ác mộng XSS và Prompt Injection Hãy tưởng tượng bạn cho phép LLM tự do sinh ra mã HTML hoặc Markdown, sau đó bạn dùng thuộc tính innerHTML (hoặc {@html} trong Svelte, dangerouslySetInnerHTML trong React) để render ra màn hình. ...
1. Sát Thủ Thầm Lặng: Indirect Prompt Injection Trong kỷ nguyên của RAG và Agentic AI, Hacker không cần phải trực tiếp gõ lệnh tấn công (Jailbreak) vào khung chat của bạn. Họ tấn công vào chính nguồn dữ liệu của bạn. Đây được gọi là Indirect Prompt Injection – Lỗ hổng số #1 trong danh sách OWASP Top 10 for LLMs năm 2026. Cơ chế tấn công: Hacker nhúng một dòng lệnh độc hại vào một File PDF, tài liệu Word, hoặc trên một trang web công cộng. Dòng lệnh này có thể được in bằng chữ màu trắng trên nền trắng, font size 1px, hoặc giấu sâu trong cấu trúc CSS/Metadata. Mắt người không thể nhìn thấy, nhưng các công cụ Data Ingestion (như Unstructured.io hay LlamaParse) lại đọc nó cực kỳ rõ ràng. ...