Truy vấn bảo mật bằng ngôn ngữ tự nhiên tại Orca Security dùng Amazon Bedrock

Orca Security xây dựng Discovery AI, một AI agent truy vấn bằng ngôn ngữ tự nhiên trên Amazon Bedrock, có khả năng chuyển các câu hỏi tiếng Anh thông thường thành truy vấn Sonar. Bài viết chia sẻ kiến trúc nhiều tầng cùng các kết quả đạt được: chi phí truy vấn thấp hơn 90%, ít hơn 93% token đầu vào và độ trễ giảm 75% so với mô hình cơ sở ban đầu.