Các phương pháp đảm bảo tính chắc chắn cho một số mô hình học sâu

Tóm tắt

Mạng học sâu được sử dụng phổ biến trong bài toán phân loại ảnh. Mô hình
 học sâu là kết quả thu được khi học mạng học sâu từ bộ dữ liệu. Để đảm bảo
 chất lượng của mô hình học sâu, nhiều độ đo đã được đề xuất như độ chuẩn
 xác, độ chính xác và điểm số F1. Tuy nhiên, dù mô hình được kiểm thử kĩ càng
 bởi các độ đo này, nhiều nghiên cứu gần đây cho thấy mô hình có thể dễ dàng
 bị tấn công đối kháng. Tính chắc chắn của mô hình học sâu là khả năng mô
 hình nhận diện được chính xác nhãn của ảnh đầu vào khi ảnh này được thêm
 nhiễu đối kháng. Kẻ tấn công có thể thêm nhiễu đối kháng vào ảnh dự đoán
 đúng để ảnh bị nhận diện sai. Do đó, cải thiện tính chắc chắn được coi là một
 trong những giải pháp quan trọng để nâng cao chất lượng của mô hình học sâu.
 Cụ thể, luận án đã đạt được bốn kết quả chính như sau. Thứ nhất, luận án đề xuất phương pháp HA4FNN để cải thiện tỉ lệ thành công
 và hiệu năng thấp của DeepCheck khi kiểm thử mô hình nơ-ron truyền thẳng.
 Phương pháp HA4FNN sử dụng bộ giải phỏng đoán thay vì bộ giải SMT và loại
 bỏ việc duy trì trạng thái kích hoạt nơ-ron. Từ mô hình kiểm thử, HA4FNN
 chuyển mô hình này sang mã nguồn C, sau đó biên dịch và thực thi mã nguồn
 này với đầu vào là ảnh dự đoán đúng để lấy đường thi hành. Sau đó, thực thi
 tượng trưng chuyển đường thi hành thành hệ ràng buộc và dùng bộ giải phỏng
 đoán để tìm nghiệm. Nghiệm này tương ứng với ảnh đối kháng và có thể có trạng
 thái kích hoạt nơ-ron khác với ảnh dự đoán đúng. Thực nghiệm trên MNIST,
 Fashion-MNIST và bộ chữ cái viết tay cho thấy phương pháp HA4FNN có hiệu
 năng và tỉ lệ thành công vượt trội so với DeepCheck. Một công cụ đã được cài
 đặt để chứng minh hiệu quả của phương pháp HA4FNN. Thứ hai, luận án đề xuất phương pháp PatternAttack để cải thiện tính đa
 dạng và chất lượng ảnh đối kháng sinh bởi ATN. Tư tưởng chính của Patter- nAttack là xây dựng ATN khái quát có kiến trúc mô hình mã hóa tự động để
 thêm nhiễu đối kháng vào ảnh đầu vào theo các mẫu thêm nhiễu khác nhau,
 từ đó làm tăng tính đa dạng của ảnh đối kháng. Từ ảnh đối kháng sinh ra,
 PatternAttack sử dụng thuật toán tham lam để loại bỏ nhiễu dư thừa, từ đó
 tăng chất lượng ảnh đối kháng. Thực nghiệm trên MNIST và CIFAR-10 cho
 thấy ATN khái quát có thể tấn công mô hình học sâu với tỉ lệ thành công cao
 và thuật toán tham lam có khả năng cải thiện chất lượng ảnh đối kháng với tỉ
 lệ giảm nhiễu tốt. Một công cụ đã được cài đặt để chứng minh hiệu quả của
 PatternAttack.