Mở Khóa Bí Mật trong Dữ Liệu CVE với Anthropic Claude trên Amazon Bedrock

Mở Khóa Bí Mật trong Dữ Liệu CVE với Anthropic Claude trên Amazon Bedrock

Mục lục

1. Thách thức trong việc phân tích dữ liệu CVE
2. Lựa chọn Anthropic Claude trên Amazon Bedrock
3. Xây dựng Prompt Hoàn Hảo
4. Thách thức trong quá trình triển khai
5. Kết quả ấn tượng
6. Kế hoạch trong tương lai
7. Kết luận
8. Giới thiệu tác giả

1. Thách thức trong việc phân tích dữ liệu CVE

Trong lĩnh vực an ninh mạng, dòng chảy liên tục của các báo cáo về lỗ hổng bảo mật (CVE) là một thách thức lớn. Hàng năm, hàng ngàn lỗ hổng bảo mật mới được phát hiện, với các mô tả khác nhau về độ rõ ràng, đầy đủ và cấu trúc. Những báo cáo này, thường được đóng góp bởi một cộng đồng toàn cầu đa dạng, có thể ngắn gọn, mơ hồ hoặc thiếu thông tin quan trọng, che giấu thông tin quan trọng như yêu cầu tấn công, tác động tiềm ẩn và các bước khắc phục được đề xuất. Tính chất phi cấu trúc của báo cáo CVE gây ra một trở ngại lớn trong việc trích xuất thông tin có thể hành động. Các hệ thống tự động gặp khó khăn trong việc phân tích chính xác và hiểu những câu chuyện không nhất quán và phức tạp, làm tăng nguy cơ bỏ qua hoặc hiểu sai các chi tiết quan trọng - một kịch bản có ý nghĩa nghiêm trọng đối với tư thế bảo mật.

2. Lựa chọn Anthropic Claude trên Amazon Bedrock

Trước thử thách nan giải này, sức mạnh của các mô hình ngôn ngữ lớn (LLM) mang đến một giải pháp đầy hứa hẹn. Những mô hình AI tạo sinh tiên tiến này rất giỏi trong việc hiểu và phân tích khối lượng văn bản khổng lồ, biến chúng thành công cụ hoàn hảo để sàng lọc dòng chảy báo cáo CVE nhằm xác định các báo cáo có chứa chi tiết về yêu cầu tấn công.

Quyết định sử dụng Anthropic Claude trên Amazon Bedrock là một chiến lược. Trong quá trình đánh giá, Mend.io nhận thấy rằng mặc dù các LLM khác như GPT-4 cũng thể hiện hiệu suất mạnh mẽ trong việc phân tích mô tả CVE, nhưng các yêu cầu cụ thể của Mend.io phù hợp hơn với khả năng của Anthropic Claude. Mend.io đã sử dụng các thẻ như <example-attack-requirement>. Khi Mend.io đánh giá các mô hình khác với cả lời nhắc cấu trúc và phi cấu trúc, khả năng của Anthropic Claude trong việc tuân theo chính xác các lời nhắc cấu trúc và bao gồm các thẻ dự kiến đã khiến nó trở thành lựa chọn phù hợp hơn cho trường hợp sử dụng của Mend.io trong quá trình thử nghiệm của họ.

Khả năng độc đáo của Anthropic Claude, cho phép nhận dạng các thẻ XML trong lời nhắc, đã mang lại cho nó một lợi thế riêng biệt. Khả năng này cho phép Mend.io cấu trúc các lời nhắc theo cách cải thiện độ chính xác và giá trị, đảm bảo rằng phân tích của Anthropic Claude được điều chỉnh theo nhu cầu cụ thể của Mend.io. Hơn nữa, việc tích hợp liền mạch với Amazon Bedrock đã cung cấp một nền tảng mạnh mẽ và an toàn để xử lý dữ liệu nhạy cảm. Cơ sở hạ tầng bảo mật đã được chứng minh của AWS củng cố sự tự tin, cho phép Mend.io xử lý và phân tích thông tin CVE mà không ảnh hưởng đến quyền riêng tư và bảo mật dữ liệu - một yếu tố quan trọng trong thế giới an ninh mạng.

3. Xây dựng Prompt Hoàn Hảo

Xây dựng lời nhắc hoàn hảo cho Anthropic Claude là cả nghệ thuật và khoa học. Nó đòi hỏi sự hiểu biết sâu sắc về khả năng của mô hình và một quy trình kỹ lưỡng để đảm bảo rằng phân tích của Anthropic Claude chính xác và dựa trên ứng dụng thực tế. Họ đã soạn lời nhắc với ngữ cảnh phong phú, cung cấp các ví dụ và xác định rõ sự khác biệt giữa độ phức tạp tấn công và yêu cầu tấn công theo định nghĩa trong Hệ thống điểm số lỗ hổng chung (CVSS) v4.0. Mức độ chi tiết này là rất quan trọng để đảm bảo rằng Anthropic Claude có thể xác định chính xác các chi tiết tinh tế trong mô tả CVE.

Việc sử dụng thẻ XML là một bước ngoặt trong việc cấu trúc lời nhắc. Những thẻ này cho phép họ cô lập các phần khác nhau, hướng dẫn trọng tâm của Anthropic Claude và cải thiện độ chính xác của phản hồi. Với khả năng độc đáo này, Mend.io có thể hướng sự chú ý của mô hình đến các khía cạnh cụ thể của dữ liệu CVE, hợp lý hóa quy trình phân tích và tăng cường giá trị của thông tin chi tiết được rút ra.

Với một lời nhắc được soạn thảo kỹ lưỡng và sức mạnh của thẻ XML, Mend.io đã trang bị cho Anthropic Claude ngữ cảnh và cấu trúc cần thiết để điều hướng thế giới phức tạp của mô tả CVE, cho phép nó xác định chính xác các chi tiết yêu cầu tấn công quan trọng, trang bị cho các nhóm bảo mật những hiểu biết vô giá để ưu tiên các lỗ hổng và củng cố hệ thống phòng thủ.

4. Thách thức trong quá trình triển khai

Trong khi sử dụng Anthropic Claude, Mend.io đã trải nghiệm trực tiếp sự linh hoạt và khả năng mở rộng của dịch vụ. Khi khối lượng công việc phân tích tăng lên để bao gồm 70.000 CVE, họ đã gặp phải những cơ hội để tối ưu hóa việc sử dụng các tính năng của dịch vụ và khả năng quản lý chi phí. Khi sử dụng triển khai mô hình theo yêu cầu của Amazon Bedrock trên các vùng AWS, Mend.io đã chủ động quản lý hạn ngạch yêu cầu API mỗi phút (RPM) và mã thông báo mỗi phút (TPM) bằng cách song song hóa các yêu cầu mô hình và điều chỉnh mức độ song song hóa để hoạt động trong giới hạn hạn ngạch. Họ cũng tận dụng logic thử lại tích hợp sẵn trong thư viện Boto3 Python để xử lý trơn tru mọi trường hợp điều tiết bất thường. Đối với khối lượng công việc yêu cầu hạn ngạch cao hơn, tùy chọn Amazon Bedrock Provisioned Throughput cung cấp một giải pháp đơn giản, mặc dù nó không phù hợp với mô hình sử dụng cụ thể của Mend.io trong trường hợp này.

Mặc dù ước tính ban đầu để phân loại tất cả 70.000 CVE thấp hơn, nhưng chi phí cuối cùng cao hơn do dữ liệu đầu vào phức tạp hơn dẫn đến chuỗi đầu vào và đầu ra dài hơn. Điều này làm nổi bật tầm quan trọng của việc thử nghiệm và đánh giá toàn diện. Các mô hình định giá linh hoạt trong Amazon Bedrock cho phép các tổ chức tối ưu hóa chi phí bằng cách xem xét các tùy chọn mô hình thay thế hoặc chiến lược phân vùng dữ liệu, trong đó các trường hợp đơn giản hơn có thể được xử lý bởi các mô hình hiệu quả về chi phí hơn, trong khi dành riêng các mô hình có khả năng cao hơn cho các trường hợp khó khăn nhất.

Khi làm việc với các mô hình ngôn ngữ tiên tiến như những mô hình được cung cấp bởi AWS, điều quan trọng là phải tạo ra các lời nhắc phù hợp chính xác với định dạng đầu ra mong muốn. Trong trường hợp của Mend.io, kỳ vọng của họ là nhận được câu trả lời YES / NO đơn giản cho các lời nhắc của họ, điều này sẽ hợp lý hóa các bước quản lý dữ liệu tiếp theo. Tuy nhiên, mô hình thường cung cấp ngữ cảnh, lý lẽ hoặc giải thích bổ sung ngoài các phản hồi súc tích dự kiến. Mặc dù những phản hồi mở rộng này mang đến những hiểu biết có giá trị, nhưng chúng đã giới thiệu sự phức tạp không lường trước vào quy trình xử lý dữ liệu của Mend.io. Trải nghiệm này làm nổi bật tầm quan trọng của việc tinh chỉnh lời nhắc để đảm bảo rằng đầu ra của mô hình phù hợp chặt chẽ với các yêu cầu cụ thể của trường hợp sử dụng. Bằng cách lặp lại việc xây dựng lời nhắc và tinh chỉnh các lời nhắc, các tổ chức có thể tối ưu hóa phản hồi của mô hình để phù hợp tốt hơn với định dạng phản hồi mong muốn của họ, cuối cùng nâng cao hiệu quả và hiệu quả của đường ống xử lý dữ liệu của họ.

5. Kết quả ấn tượng

Mặc dù những thách thức mà Mend.io phải đối mặt, nhưng những nỗ lực cần mẫn của họ đã được đền đáp. Họ đã xác định thành công các CVE có chứa chi tiết yêu cầu tấn công, trang bị cho các nhóm bảo mật những hiểu biết quý giá để ưu tiên các lỗ hổng và củng cố hệ thống phòng thủ. Kết quả này là một thành tựu đáng kể, bởi vì việc hiểu các điều kiện tiên quyết cụ thể để khai thác thành công một lỗ hổng là rất quan trọng trong việc đánh giá rủi ro và phát triển các chiến lược giảm thiểu hiệu quả. Bằng cách tận dụng sức mạnh của Anthropic Claude, Mend.io đã có thể sàng lọc hàng chục nghìn báo cáo CVE, trích xuất thông tin tinh tế về các yêu cầu tấn công mà sẽ gần như không thể thu được thông qua phân tích thủ công. Thành tích này không chỉ tiết kiệm thời gian và nguồn lực quý giá mà còn cung cấp cho các nhóm an ninh mạng cái nhìn toàn diện về bối cảnh đe dọa, cho phép họ đưa ra quyết định sáng suốt và ưu tiên các nỗ lực của họ một cách hiệu quả.

Mend.io đã thực hiện đánh giá toàn diện về Anthropic Claude, đưa ra 68.378 yêu cầu mà không tính đến bất kỳ giới hạn hạn ngạch nào. Dựa trên thử nghiệm ban đầu của họ về việc phân tích một mẫu 100 lỗ hổng để hiểu các vectơ tấn công, họ có thể xác định độ chính xác của câu trả lời YES hoặc NO trực tiếp của Claude. Như được thể hiện trong bảng sau, Anthropic Claude đã thể hiện hiệu suất vượt trội, cung cấp câu trả lời YES hoặc NO trực tiếp cho 99,9883% các yêu cầu. Trong một số ít trường hợp mà câu trả lời đơn giản không được đưa ra, Anthropic Claude vẫn cung cấp đủ thông tin để xác định phản hồi phù hợp. Đánh giá này làm nổi bật khả năng mạnh mẽ của Anthropic Claude trong việc xử lý một loạt các truy vấn với độ chính xác và độ tin cậy cao.

6. Kế hoạch trong tương lai

Việc ứng dụng thành công Anthropic Claude trong việc xác định chi tiết yêu cầu tấn công từ dữ liệu CVE chỉ là khởi đầu của tiềm năng to lớn mà AI tạo sinh mang lại cho lĩnh vực an ninh mạng. Khi những mô hình tiên tiến này tiếp tục phát triển và trưởng thành, khả năng của chúng sẽ được mở rộng, mở ra những chân trời mới trong việc tự động hóa phân tích lỗ hổng, phát hiện mối đe dọa và ứng phó sự cố.

Một hướng đầy hứa hẹn là sử dụng AI tạo sinh để tự động hóa việc phân loại và ưu tiên lỗ hổng. Bằng cách tận dụng khả năng phân tích và hiểu các mô tả kỹ thuật của những mô hình này, các tổ chức có thể hợp lý hóa quy trình xác định và giải quyết các lỗ hổng quan trọng nhất, đảm bảo rằng các nguồn lực hạn chế được phân bổ hiệu quả. Hơn nữa, các mô hình AI tạo sinh có thể được đào tạo để phát hiện và gắn cờ các chữ ký mã độc hại tiềm ẩn trong kho lưu trữ phần mềm hoặc lưu lượng mạng. Cách tiếp cận chủ động này có thể giúp các nhóm an ninh mạng đi trước các mối đe dọa mới nổi, cho phép họ phản ứng nhanh chóng và giảm thiểu rủi ro trước khi chúng có thể bị khai thác.

Ngoài việc quản lý lỗ hổng và phát hiện mối đe dọa, AI tạo sinh cũng hứa hẹn trong việc ứng phó sự cố và phân tích pháp y. Những mô hình này có thể hỗ trợ trong việc phân tích và hiểu khối lượng dữ liệu nhật ký khổng lồ, hồ sơ lưu lượng mạng và thông tin liên quan đến bảo mật khác, đẩy nhanh việc xác định nguyên nhân gốc rễ và cho phép các nỗ lực khắc phục hiệu quả hơn. Khi AI tạo sinh tiếp tục phát triển, việc tích hợp nó với các công nghệ tiên tiến khác, chẳng hạn như ML và phân tích dữ liệu, sẽ mở khóa các ứng dụng mạnh mẽ hơn nữa trong lĩnh vực an ninh mạng. Khả năng xử lý và hiểu dữ liệu ngôn ngữ tự nhiên ở quy mô lớn, kết hợp với sức mạnh dự đoán của các thuật toán ML, có thể cách mạng hóa việc thu thập thông tin tình báo về mối đe dọa, cho phép các tổ chức dự đoán và chủ động phòng thủ trước các mối đe dọa mạng mới nổi.

7. Kết luận

Lĩnh vực an ninh mạng đang không ngừng tiến bộ, việc tích hợp các mô hình AI tạo sinh như Anthropic Claude, được hỗ trợ bởi cơ sở hạ tầng mạnh mẽ của Amazon Bedrock, thể hiện một bước tiến đáng kể trong việc thúc đẩy quốc phòng kỹ thuật số. Việc áp dụng thành công công nghệ này của Mend.io trong việc trích xuất chi tiết yêu cầu tấn công từ dữ liệu CVE là minh chứng cho tiềm năng biến đổi của AI ngôn ngữ trong các lĩnh vực quản lý lỗ hổng và phân tích mối đe dọa. Bằng cách tận dụng sức mạnh của những mô hình tiên tiến này, Mend.io đã chứng minh rằng nhiệm vụ phức tạp là sàng lọc khối lượng dữ liệu phi cấu trúc khổng lồ có thể được giải quyết với độ chính xác và hiệu quả. Sáng kiến này không chỉ trao quyền cho các nhóm bảo mật những hiểu biết quan trọng để ưu tiên các lỗ hổng mà còn mở đường cho những đổi mới trong tương lai trong việc tự động hóa phân tích lỗ hổng, phát hiện mối đe dọa và ứng phó sự cố. Anthropic và AWS đã đóng một vai trò quan trọng trong việc cho phép các tổ chức như Mend.io tận dụng những công nghệ tiên tiến này.

Nhìn về tương lai, những khả năng thực sự thú vị. Khi các mô hình ngôn ngữ tiếp tục phát triển và tích hợp với các công technologies mới nổi khác, chẳng hạn như ML và phân tích dữ liệu, tiềm năng cách mạng hóa việc thu thập thông tin tình báo về mối đe dọa và quốc phòng chủ động trở nên rõ ràng hơn.

Nếu bạn là một chuyên gia an ninh mạng đang tìm cách khai thác đầy đủ tiềm năng của AI ngôn ngữ trong tổ chức của mình, chúng tôi khuyến khích bạn khám phá khả năng của Amazon Bedrock và các mô hình Anthropic Claude. Bằng cách tích hợp những công nghệ tiên tiến này vào hoạt động bảo mật của bạn, bạn có thể hợp lý hóa quy trình quản lý lỗ hổng, tăng cường phát hiện mối đe dọa và củng cố tư thế an ninh mạng tổng thể của bạn. Hãy thực hiện bước đầu tiên ngay hôm nay và khám phá cách thành công của Mend.io có thể truyền cảm hứng cho hành trình của bạn hướng tới một tương lai kỹ thuật số an toàn hơn.

8. Giới thiệu tác giả

• Hemmy Yona là Kiến trúc sư Giải pháp tại Amazon Web Services đóng trụ sở tại Israel. Với 20 năm kinh nghiệm trong phát triển phần mềm và quản lý nhóm, Hemmy rất đam mê giúp khách hàng xây dựng các giải pháp sáng tạo, có khả năng mở rộng và hiệu quả về chi phí. Ngoài công việc, bạn sẽ tìm thấy Hemmy thích thú với thể thao và du lịch cùng gia đình.
• Tzahi Mizrahi là Kiến trúc sư Giải pháp tại Amazon Web Services, chuyên về các giải pháp container với hơn 10 năm kinh nghiệm trong các quy trình phát triển và DevOps. Chuyên môn của ông bao gồm thiết kế các kiến trúc có khả năng mở rộng dựa trên container và tối ưu hóa quy trình triển khai. Trong thời gian rảnh rỗi, ông thích thú với âm nhạc và chơi guitar.
• Gili Nachum là Kiến trúc sư giải pháp chính tại AWS, chuyên về AI tạo sinh và Học máy. Gili đang giúp khách hàng của AWS xây dựng các mô hình nền tảng mới và tận dụng LLM để đổi mới trong kinh doanh của họ. Trong thời gian rảnh rỗi, Gili thích thú với thời gian dành cho gia đình và Calisthenics.
• Maciej Mensfeld là kiến trúc sư sản phẩm chính tại Mend, tập trung vào việc thu thập dữ liệu, tổng hợp và nghiên cứu bảo mật AI / LLM. Ông là người tạo ra diffend.io (được Mend mua lại) và Karafka. Là Kiến trúc sư Phần mềm, Nhà nghiên cứu Bảo mật và diễn giả tại hội nghị, ông dạy Ruby, Rails và Kafka. Rất đam mê OSS, Maciej tích cực đóng góp cho nhiều dự án, bao gồm Karafka, và là thành viên của nhóm bảo mật RubyGems.