Google's AI tool Big Sleep phát hiện lỗ hổng zero-day trong SQLite

Table of Contents

Google cho biết họ đã phát hiện ra một lỗ hổng zero-day trong công cụ cơ sở dữ liệu mã nguồn mở SQLite bằng cách sử dụng công cụ trí tuệ nhân tạo hỗ trợ mô hình ngôn ngữ lớn (LLM) của mình, gọi là Big Sleep (trước đây là Dự án Naptime).

Gã khổng lồ công nghệ mô tả đây là “lỗ hổng thực tế đầu tiên” được phát hiện nhờ vào công cụ AI.

“Chúng tôi tin rằng đây là ví dụ công khai đầu tiên của một tác nhân AI tìm thấy lỗ hổng an toàn bộ nhớ có thể khai thác trước đó chưa được biết đến trong phần mềm thực tế được sử dụng rộng rãi,” nhóm Big Sleep cho biết trong một bài đăng trên blog chia sẻ với The Hacker News.

Lỗ hổng này là một lỗ hổng stack buffer underflow trong SQLite, xảy ra khi một phần mềm tham chiếu đến một vị trí bộ nhớ trước khi bắt đầu bộ đệm, gây ra sự cố sập hoặc thực thi mã tùy ý.

“Điều này thường xảy ra khi một con trỏ hoặc chỉ số của nó bị giảm đến một vị trí trước bộ đệm, khi toán học con trỏ dẫn đến một vị trí trước vị trí bộ nhớ hợp lệ, hoặc khi sử dụng chỉ số âm,” theo mô tả của Common Weakness Enumeration (CWE) về lớp lỗi này.

Sau khi công bố có trách nhiệm, lỗ hổng đã được khắc phục vào đầu tháng 10 năm 2024. Đáng chú ý là lỗi này được phát hiện trong một nhánh phát triển của thư viện, có nghĩa là nó đã được phát hiện trước khi phát hành chính thức.

Dự án Naptime được Google công bố lần đầu vào tháng 6 năm 2024 như một khung kỹ thuật nhằm cải thiện các phương pháp phát hiện lỗ hổng tự động. Dự án này sau đó đã phát triển thành Big Sleep, như một phần của hợp tác rộng hơn giữa Google Project Zero và Google DeepMind.

Với Big Sleep, ý tưởng là tận dụng AI để mô phỏng hành vi của con người trong việc xác định và mô tả các lỗ hổng bảo mật bằng cách tận dụng khả năng hiểu và suy luận mã của mô hình ngôn ngữ lớn.

Điều này bao gồm việc sử dụng một loạt các công cụ chuyên dụng cho phép tác nhân điều hướng qua mã nguồn mục tiêu, chạy các script Python trong một môi trường cách ly để tạo ra đầu vào cho việc fuzzing, và gỡ lỗi chương trình để quan sát kết quả.

“Chúng tôi cho rằng công việc này có tiềm năng phòng thủ lớn. Việc tìm thấy lỗ hổng trong phần mềm trước khi nó được phát hành có nghĩa là không có cơ hội cho kẻ tấn công: các lỗ hổng được khắc phục trước khi kẻ tấn công có cơ hội sử dụng chúng,” Google cho biết.

Tuy nhiên, công ty cũng nhấn mạnh rằng đây vẫn là kết quả thử nghiệm và thêm rằng “quan điểm của nhóm Big Sleep là hiện tại, một fuzzer dành riêng cho mục tiêu có khả năng cũng hiệu quả ít nhất là tương đương (trong việc tìm kiếm lỗ hổng).”

Nguồn: thehackernews

Đọc thêm: